1 理论基础

1.1 支持向量机分类原理

        值得一提的是，若数据集中的绝大多数样本是线性可分的，仅有少数几个样本(可能是异常点)导致寻找不到最优分类超平面。针对此类情况，通用的做法是引入松弛变量，并对式(28-7)中的优化目标及约束项进行修正，即

        2.线性不可分SVM

        在实际应用中，绝大多数问题都是非线性的，这时对于线性可分SVM是无能为力的。对于此类线性不可分问题，常用的方法是通过非线性映射φ:R?→H,将原输入空间的样本映射到高维的特征空间H中，再在高维特征空间H中构造最优分类超平面，如图28-2所示。另外，与线性可分SVM相同，考虑到通过非线性映射到高维特征空间后仍有因少量样本造成的线性不可分情况，亦考虑引入松弛变量。  

        由线性可分SVM和线性不可分SVM的原理可知，支持向量机仅限于处理二分类问题，对于多分类问题，须做进一步的改进。目前，构造多分类SVM的方法主要有两个：直接法和间接法。直接法通过修改待求解的优化问题，直接计算出用于多分类的分类函数，该方法计算量较大、求解过程复杂、花费时间较长，实现起来比较困难。间接法主要是通过组合多个二分类SVM来实现多分类SVM的构建，常见的方法有一对一(one-against-one)和一对多(one-against-all)两种，

1.2 libsvm软件包简介

        libsvm工具箱是台湾大学林智仁(C.JLin)等人开发的一套简单的、易于使用的SVM模式识别与回归机软件包，该软件包利用收敛性证明的成果改进算法，取得了很好的结果。libsvm共实现了5种类型的SVM:C-SVC,u-SVC,One Class-SVC,e-SVR和v-SVR等。下面将详细介绍libsvm软件包中主要函数的调用格式及注意事项。

        1.SVM训练函数svmtrain

        函数svmtrain用于创建一个SVM模型，其调用格式为

model= svmtrain(train_label,train_matrix,'libsvm_options');

[predict _label,accuracy]= svmpredict(test_label,test _matrix,model);

2 案例背景

2.1 问题描述

2.2 解题思路及步骤

3 MATLAB程序实现

%% 清空环境变量
clear all
clc%% 导入数据
load BreastTissue_data.mat
% 随机产生训练集和测试集
n = randperm(size(matrix,1));
% 训练集——80个样本
train_matrix = matrix(n(1:80),:);
train_label = label(n(1:80),:);
% 测试集——26个样本
test_matrix = matrix(n(81:end),:);
test_label = label(n(81:end),:);%% 数据归一化
[Train_matrix,PS] = mapminmax(train_matrix');
Train_matrix = Train_matrix';
Test_matrix = mapminmax('apply',test_matrix',PS);
Test_matrix = Test_matrix';%% SVM创建/训练(RBF核函数)% 寻找最佳c/g参数——交叉验证方法
[c,g] = meshgrid(-10:0.2:10,-10:0.2:10);
[m,n] = size(c);
cg = zeros(m,n);
eps = 10^(-4);
v = 5;
bestc = 1;
bestg = 0.1;
bestacc = 0;
for i = 1:mfor j = 1:ncmd = ['-v ',num2str(v),' -t 2',' -c ',num2str(2^c(i,j)),' -g ',num2str(2^g(i,j))];cg(i,j) = svmtrain(train_label,Train_matrix,cmd);     if cg(i,j) > bestaccbestacc = cg(i,j);bestc = 2^c(i,j);bestg = 2^g(i,j);end        if abs( cg(i,j)-bestacc )<=eps && bestc > 2^c(i,j) bestacc = cg(i,j);bestc = 2^c(i,j);bestg = 2^g(i,j);end               end
end
cmd = [' -t 2',' -c ',num2str(bestc),' -g ',num2str(bestg)];
% 创建/训练SVM模型
model = svmtrain(train_label,Train_matrix,cmd);%% SVM仿真测试
[predict_label_1,accuracy_1] = svmpredict(train_label,Train_matrix,model);
[predict_label_2,accuracy_2] = svmpredict(test_label,Test_matrix,model);
result_1 = [train_label predict_label_1];
result_2 = [test_label predict_label_2];%% 绘图
figure
plot(1:length(test_label),test_label,'r-*')
hold on
plot(1:length(test_label),predict_label_2,'b:o')
grid on
legend('真实类别','预测类别')
xlabel('测试集样本编号')
ylabel('测试集样本类别')
string = {'测试集SVM预测结果对比(RBF核函数)';['accuracy = ' num2str(accuracy_2(1)) '%']};
title(string)

PS:如果提示：错误使用 svmtrain (line xxx) Y must be a vector or a character array.说明你的matlab中已经不包含libsvm工具箱以及svmtrain函数，改用fitcsvm即可。

4 延伸阅读

4.1 性能对比

4.2 案例延伸