支持向量机：从最大间隔到核方法

起源与核心思想

支持向量机(SVM)由Vapnik在1995年提出，基于结构风险最小化原则，通过寻找最大间隔超平面实现二分类。

数学推导

原始优化问题为min (1/2)||w||², s.t. y_i(w·x_i+b)≥1。

软间隔与正则化

引入松弛变量ε和正则化参数C, 在模型复杂度与误分类间取得平衡。

核技巧

通过核函数K(x_i,x_j)将数据隐式映射到高维空间。常见核包括线性核、多项式核、高斯核RBF。

现代应用

在小样本高维数据如文本分类基因表达场景中仍具优势。