贪心科技|让每个人享受个性化教育服务Contents•LagrangianDuality•KKT条件•ComplementarySlackness•Non-linearSVM贪心科技|让每个人享受个性化教育服务LagrangeDuality无约束最优化问题约束最优化问题贪心科技|让每个人享受个性化教育服务LagrangeDuality原始问题Primalproblem广义拉格朗日函数（generalizedLagrangefunction）贪心科技|让每个人享受个性化教育服务LagrangeDuality对原始问题的进一步观察原始问题的解就是原最优化问题的解Case1：当x满足约束条件时Case2：当x不满足约束条件时贪心科技|让每个人享受个性化教育服务LagrangeDualityCase1：当x满足约束条件时贪心科技|让每个人享受个性化教育服务LagrangeDualityCase2：当x不满足约束条件时或即有则如果则令如果则取贪心科技|让每个人享受个性化教育服务LagrangeDuality等价于贪心科技|让每个人享受个性化教育服务LagrangeDuality原始问题的对偶问题记对偶问题的最优值定理（弱对偶性WeakDuality）：如果原始问题和对偶问题都有最优值，则贪心科技|让每个人享受个性化教育服务LagrangeDuality定理：如果原始问题和对偶问题都有最优值，则贪心科技|让每个人享受个性化教育服务Slater条件贪心科技|让每个人享受个性化教育服务KKT条件(KKT对偶互补条件)贪心科技|让每个人享受个性化教育服务KKT条件：例子贪心科技|让每个人享受个性化教育服务KKT条件：例子KKT方程组贪心科技|让每个人享受个性化教育服务KKT条件：例子内部解边界解贪心科技|让每个人享受个性化教育服务线性规划中的对偶问题贪心科技|让每个人享受个性化教育服务SVM贪心科技|让每个人享受个性化教育服务贪心科技|让每个人享受个性化教育服务SVM贪心科技|让每个人享受个性化教育服务SVM贪心科技|让每个人享受个性化教育服务SVM贪心科技|让每个人享受个性化教育服务SVM分离超平面：分离超平面：贪心科技|让每个人享受个性化教育服务Non-linearSVM分离超平面：贪心科技|让每个人享受个性化教育服务Non-linearSVM内积范数K具有再生性：贪心科技|让每个人享受个性化教育服务Non-linearSVM多项式核函数(polynomialkernelfunction)：高斯核函数(Gaussiankernelfunction)：Sigmoid核函数(Sigmoidkernelfunction)：可以使用下面的策略选择核函数：1：如果特征的数量大到和样本数量差不多，则选用LR或者线性核的SVM；2：如果特征的数量小，样本的数量正常，则选用SVM+高斯核函数；3：如果特征的数量小，而样本的数量很大，则需要手工添加一些特征从而变成第一种情况。
