主要内容

ClassificationKernel

基于随机特征展开的高斯核分类模型

描述

ClassificationKernel是使用随机特征展开的二元高斯核分类模型的训练模型对象。ClassificationKernel对于具有大型训练集的大数据应用程序更实用,但也可以应用于适合内存的较小数据集。

与其他分类模型不同,为了节省内存使用,ClassificationKernel模型对象不存储训练数据。然而,它们确实存储了诸如扩展空间的维数、核尺度参数、先验类概率和正则化强度等信息。

你可以使用训练有素的ClassificationKernel模型继续使用训练数据进行训练,并预测新数据的标签或分类分数。有关详细信息,请参见的简历预测

创建

创建一个ClassificationKernel对象使用fitckernel函数。此函数将低维空间中的数据映射到高维空间,然后通过最小化正则化目标函数在高维空间中拟合线性模型。高维空间中的线性模型等效于低维空间中具有高斯核的模型。可用的线性分类阳离子模型包括正则化支持向量机(SVM)和逻辑回归模型。金宝app

属性

全部展开

内核的分类属性

线性分类模型类型,指定为“物流”“支持向量机”

在下表中, f x T x β + b

  • x观察(行向量)来自哪里p预测变量。

  • T · 是用于特征展开的观测值(行向量)的变换。Tx地图x p 到高维空间( ).

  • β是一个向量系数。

  • b为标量偏差。

价值 算法 损失函数 FittedLoss价值
“物流” 逻辑回归 异常(物流): y f x 日志 1 + 经验值 y f x 分对数的
“支持向量机” 金宝app支持向量机 铰链: y f x 最大值 0 1 y f x “枢纽”

扩展空间的维数,指定为正整数。

数据类型:|双重的

核尺度参数,指定为一个正标量。

数据类型:烧焦||双重的

方框约束,指定为正标量。

数据类型:双重的|

正则项强度,指定为非负标量。

数据类型:|双重的

此属性是只读的。

用于拟合线性模型的损失函数,指定为“枢纽”分对数的

价值 算法 损失函数 学习者价值
“枢纽” 金宝app支持向量机 铰链: y f x 最大值 0 1 y f x “支持向量机”
分对数的 逻辑回归 异常(物流): y f x 日志 1 + 经验值 y f x “物流”

复杂度惩罚类型“岭(L2)”

该软件由平均损失函数的总和组成最小化目标函数(见FittedLoss)及正则化项脊(l2)处罚。

脊(l2)处罚

λ 2 j 1 p β j 2

在哪里λ指定正则化项强度(参见λ).软件不包括偏差项(β0)从正规化处罚。

其他分类属性

分类预测指标,指定为一个正整数向量。分类预测因子包含与包含分类预测器的预测器数据列对应的索引值。如果没有任何预测器是绝对的,则此属性为空([]).

数据类型:|双重的

训练中使用的唯一类标签,指定为类别或字符数组、逻辑或数字向量或字符向量的单元数组。一会具有与类标签相同的数据类型Y(该软件将字符串数组视为字符向量的单元格数组。)一会也决定了类的顺序。

数据类型:绝对的|烧焦|逻辑||双重的|细胞

此属性是只读的。

误分类代价,指定为方阵数值矩阵。成本K行和列,其中K为类数。

成本(j将一个点分类的成本是多少j如果它的真实类别是。的行和列的顺序成本中类的顺序一会

数据类型:双重的

用于训练的参数ClassificationKernel模型,指定为结构。

的访问字段ModelParameters使用点符号。例如,通过使用来访问线性系数和偏差项的相对公差Mdl.ModelParameters.BetaTolerance

数据类型:结构体

预测器名称,按其在预测器数据中的出现顺序排列,指定为字符向量的单元格数组预测器名称等于训练数据中用作预测变量的列数XTbl

数据类型:细胞

扩展的预测器名称,指定为字符向量的单元格数组。

如果模型对分类变量使用编码,那么扩展预测器名称包括描述扩展变量的名称。否则,扩展预测器名称是一样的预测器名称

数据类型:细胞

此属性是只读的。

先验类概率,指定为数值向量。之前具有与中的类一样多的元素一会,元素的顺序对应于一会

数据类型:双重的

响应变量名,指定为字符向量。

数据类型:烧焦

用于预测分数的分数转换函数,指定为函数名或函数句柄。

对于核分类模型和分数变换前,预测的分类分数为观测值x(行向量)是 f x T x β + b

  • T · 是一种对特征扩展的观察的变换。

  • β为估计的系数列向量。

  • b为估计的标量偏差。

将分数转换函数改为函数,例如,使用点符号。

  • 对于内置函数,输入此代码并替换函数使用表中的值。

    Mdl。ScoreTransform = '函数”;

    价值 描述
    “doublelogit” 1/(1 +e2x
    “因弗罗吉特” 日志(x/ (1 -x))
    “ismax” 将分数最大的班级的分数设置为1,并将所有其他班级的分数设置为0
    分对数的 1/(1 +e- - - - - -x
    “没有”“身份” x(无转换)
    “标志” 1x< 0
    为0x= 0
    1x> 0
    “对称” 2x– 1
    “symmetricismax” 将得分最高的类的分数设置为1,并将所有其他类的分数设置为-1
    “symmetriclogit” 2/(1 +e- - - - - -x) - 1

  • 对于MATLAB®函数或您定义的函数,输入其函数句柄。

    Mdl。ScoreTransform = @函数

    函数必须接受每个类的原始分数矩阵,然后返回一个大小相同的矩阵,表示每个类的转换分数。

数据类型:烧焦|function_handle

对象的功能

边缘 高斯核分类模型的分类边缘
石灰 局部可解释的模型不可知解释(LIME)
损失 高斯核分类模型的分类损失
保证金 高斯核分类模型的分类裕度
partialDependence 计算部分依赖
局部依赖 创建部分依赖图(PDP)和个人条件期望图(ICE)
预测 高斯核分类模型的预测标签
的简历 高斯核分类模型的恢复训练
沙普利 沙普利值

例子

全部折叠

使用支持向量机训练二值核分类模型。

加载电离层数据集。该数据集有34个预测器和351个雷达返回的二进制响应,或坏(“b”)还是好(‘g’).

负载电离层[n,p]=尺寸(X)
n=351
p = 34
resp=唯一(Y)
响应=2 x1细胞{b} {' g '}

训练二值核分类模型,识别雷达回波是否坏(“b”)还是好(‘g’)。提取拟合摘要,以确定优化算法使模型与数据拟合的程度。

rng(“默认”%为了再现性[Mdl, FitInfo] = fitckernel (X, Y)
Mdl = ClassificationKernel ResponseName: 'Y' ClassNames: {'b' ' 'g'} Learner: 'svm' NumExpansionDimensions: 2048 KernelScale: 1 Lambda: 0.0028 BoxConstraint: 1 Properties, Methods .
FitInfo =结构体字段:Solver: 'LBFGS-fast' LossFunction: 'hinge' Lambda: 0.0028 betaterance: 1.0000e-04 GradientTolerance: 1.0000e-06 objectivvalue: 0.2604 GradientMagnitude: 0.0028 RelativeChangeInBeta: 8.2512e-05 FitTime: 0.1526 History: []

Mdl是一个ClassificationKernel模型。要检查样本内分类错误,可以通过Mdl并将训练数据或新数据发送到损失函数。或者,你可以不去Mdl和新的预测数据预测函数来预测新的观察结果的类标签。你也可以通过Mdl并将训练数据发送到的简历职能继续培训。

FitInfo是包含优化信息的结构数组。使用FitInfo确定优化终止测量是否令人满意。

为了获得更好的精度,可以增加优化迭代的最大次数(“IterationLimit”)并减小公差值(“Betatoreance”“梯度公差”)通过使用名称-值对参数。这样做可以改进措施,如ObjectiveValueRelativeChangeInBetaFitInfo.的方法也可以优化模型参数“OptimizeHyperparameters”名称-值对的论点。

加载电离层数据集。该数据集有34个预测器和351个雷达返回的二进制响应,或坏(“b”)还是好(‘g’).

负载电离层

将数据集划分为训练集和测试集。为测试集指定20%的抗扰度样本。

rng(“默认”%为了再现性分区= cvpartition (Y,“坚持”, 0.20);trainingInds =培训(分区);%训练集指标XTrain=X(trainingids,:);YTrain=Y(trainingids);testInds=test(分区);%测试集索引XTest = X (testInds:);欧美= Y (testInds);

训练二值核分类模型,识别雷达回波是否坏(“b”)还是好(‘g’).

Mdl = fitckernel (XTrain YTrain,“IterationLimit”5.“冗长”,1);
|=================================================================================================================| | 解算器| | | | |通过迭代目标一步梯度相对| |总和(β~ = 0 ) | | | | | | | 级|改变β| ||=================================================================================================================| | LBFGS | 1 | 0 | 1.000000 e + 00 e + 00 | 0.000000 | 2.811388 e-01 | | 0 | | LBFGS | 1 | 1 | 7.585395 e-01 | 4.000000 e + 00 e-01 | 3.594306 | 1.000000 e + 00 | 2048 | | LBFGS | 1 | 2 | 7.160994 e-01 | 1.000000 e + 00 e-01 | 2.028470 | 6.923988 e-01 |2048 | | LBFGS | 1 | 3 | 6.825272 e-01 e + 00 | 1.000000 | 2.846975 e-02 e-01 2.388909 | | 2048 | | LBFGS | 1 | 4 | 6.699435 e-01 e + 00 | 1.000000 | 1.779359 e-02 e-01 1.325304 | | 2048 | | LBFGS | 1 | 5 | 6.535619 e-01 e + 00 | 1.000000 | 2.669039 e-01 e-01 | 4.112952 | 2048 ||=================================================================================================================|

Mdl是一个ClassificationKernel模型。

预测测试集标签,为测试集构造混淆矩阵,并估计测试集的分类误差。

标签=预测(Mdl XTest);ConfusionTest = confusionchart(欧美、标签);

图中包含ConfusionMatrixChart类型的对象。

L=损失(Mdl、XTest、YTest)
L = 0.3594

Mdl将所有不良雷达回波误分类为良好回波。

通过使用的简历.该函数使用与培训相同的选项继续培训Mdl

UpdatedMdl =简历(Mdl XTrain YTrain);
|===========================================================================================================================解算器|通过|迭代|目标|步骤|梯度|和|第四方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方第第第第第第第第第第第第第第二方方方方方方方方方方方第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第7 7 7 7 7==============================================================================================================================第第第第第第第第第=============================================================================================第第第第第第第第第第第第第1.132547e-01 | 1 | 1 | 6.132547e-01 | 1.000000e+00 | 6.355537e-03 | 1.522092e-01 | 2048 | LBFGS | 1 | 2 | 5.938316e-01|4.0亿E+0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0| 1 | 5 | 3.332261e-01 | 1.000000e+00 | 1.423488e-02 | 9.558680e-02 | 2048 | LBFGS | 1 | 6 | 3.235335e-01 |1.0亿E+0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 7.117 7 7 7.117 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 4 4 4 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 S | 1 | 9 | 2.837450e-01 | 1.000000e+00 | 8.185053e-02 | 1.484733e-01 | 2048 | LBFGS | 1 | 10 | 2.797642e-01 |1.0亿E+0 0 0 0 0 0 0 0 0 4 4 4 4 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 FGS | 1 | 13 | 2.725701e-01 | 5.000000e-01 | 1.067616e-01 | 8.729821e-02 | 2048 | LBFGS | 1 | 14 | 2.667147e-01 |1.0亿E+0 0 0 0 0 0 0 4 4 4 4 4.3.91455 5 9 9 9 7.7 7 7 7.491723e-02《204812444 4 4 4 4 4 412444 4 412444 4 4 4 4 4 4 4 4 4 4 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 5 5 5 5 5 5 5 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 5 5 5 5 5 5 5 5 5 5 5 5 5 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 LBFGS | 1 | 17 | 2.589052e-01 | 1.000000e+00 | 3.202847e-02 | 3.655744e-02 | 2048 | LBFGS | 1 | 18 | 2.583185e-01 |1.0亿E+00 0 0 0 0 0 0 0 0 0 7.11 7.117 7 7.117 7 7 7.117 7 7 7.7 7 7 7.7 7 7.7 7 7 7.7 7 7.7 7 7 7.7 7 7 7 7.11 7 7 7 7 7 7.117 7 7 7 7 7 7 7.117 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 E-03 E-03 E-03 E-03 E-3 3==============================================================================================================================================================================================================================================================================================================================================================================================================================================================================================================================|通过|迭代|目标|步骤|梯度|相对|和(beta~=0)第四方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方第第第第第第第第第第第第第第第第第第第第第第第第二方方方方方方方方方第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第7 7 7 7 7 7 7 7======================================================================================================第第第第第第第第第第=============================================第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第第1.067616e-02 | 1.661720e-02 | 2048 | LBFGS | 1 | 22 | 2.529890e-01 | 1.000000e+00 | 2.135231e-02 | 1.231678e-02 1248 | LBFGS | 1 |3.202847个E-02 | 1.958 8个E-02 | 1.5 5 5 5 5个E-02 | 2.3 4 4 4 412444 4 4 4 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 2.2 2 2 2 2 2.2 2 2 2 2 2.2 3 3 3 3 3 3 3 3 3 3 3 3 3 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 2E-02 | 2048 | LBFGS | 1 | 26 | 2.488242e-01 | 1.000000e+00 | 3.558719e-03 | 1.531810e-02 1248 | LBFGS | 1 | 27 |2.4852525.485295e-0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 2 2.48525 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 2 2 2 2 2 2 2 2 2 2 2 2 2 2 124; 2048 | LBFGS | 1 | 30 | 2.477316e-01 | 1.000000e+00 | 3.202847e-02 | 3.268087e-03 | 2048 | LBFGS | 1 | 31 |3.202847 7 7 E-02“5.445890e-03”5.4 4 4 8 8 8 8 8 8 8 8 8 8 8 8 8 4 4 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 E-0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 8 E-3 3 3 3 3 3 3 3 3 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4| 2048 | LBFGS | 1 | 34 | 2.472935e-01 | 1.000000e+00 | 3.558719e-03 | 2.699880e-03 | 2048 | LBFGS | 1 | 35 |1.242523 E-02 12444 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 7 7 7 7 7.7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 7 3 E-3 3 E-3 3 3 3 3 3 3 3 3 3 3 3 3 E-2 2 2 2 2 2 2 4 4 4 4 4 4 4 4 4 4 4 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 5 E-2 2 2 2 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 5 5 5 5 5 5 5 5 5 5 5 5 5 124; 2048 | LBFGS | 1 | 38 | 2.466941e-01 | 1.000000e+00 | 3.558719e-02 | 4.654690e-03 1248 | LBFGS | 1 | 39 |7.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.7.7.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.6.3-03“3”3-3.4.5.5.5.5.5.5.5.5.5.5.5.5.5-5-5-5-5-5-3.5.5-5-5-5-5-3.5-5-3-3.5-3.5-3-3.5-3.5-3.5-3.5-3.5-3.5-3.5-3.5-3-3-3===================================================解算器|通过|迭代|目标|步长|梯度|相对|和(β=0)第四方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方方第第第第第第第第第第第四方方方方方方方方方方第第第第第第第第二方方方方方方方方第第第第第第第第第第第第第第第第第第==========================================================================================================================================================================================第第第第第第第第第第=======================================================================================第第第第第第第第第第第================================================1.423488e-02 | 5.652180e-03 | 2048 | LBFGS | 1 | 42 | 2.463528e-01 | 100000E+00 | 3.558719e-03 | 2.389759e-03 1248 | LBFGS | 1 | 43 | 2.463207e-01 | 1.000000e+00 | 1.511170e-03 | 3.738286e-03 1248 | LBFGS | 1 | 44 | 2.462585e-01 | 5.000000e-01 | 7.117438e-02 | 2.321693e-03 1248 1248 | LBFGS | 1 12445Ӡ2-01ӠE-03Ӡ97Ӡ25e-03 | 2048 | | LBFGS | 1 | 46 | 2.461434e-01 | 1.000000e+00 | 3.202847e-02 | 3.186923e-03 | 2048 | | LBFGS | 1 | 47 | 2.461115e-01 | 1.000000e+00 | 7.117438e-03 | 1.530711e-03 | 2048 | | LBFGS | 1 | 48 | 2.460814e-01 | 1.000000e+00 | 1.067616e-02 | 1.811714e-03 | 2048 | | LBFGS | 1 | 49 | 2.460533e-01 | 5.000000e-01 | 1.423488e-02 | 1.012252e-03 | 2048 | | LBFGS | 1 | 50 | 2.460111e-01 | 1.000000e+00 | 1.423488e-02 | 4.166762e-03 | 2048 | | LBFGS | 1 | 51 | 2.459414e-01 | 1.000000e+00 | 1.067616e-02 | 3.271946e-03 | 2048 | | LBFGS | 1 | 52 | 2.458809e-01 | 1.000000e+00 | 1.423488e-02 | 1.846440e-03 | 2048 | | LBFGS | 1 | 53 | 2.458479e-01 | 1.000000e+00 | 1.067616e-02 | 1.180871e-03 | 2048 | | LBFGS | 1 | 54 | 2.458146e-01 | 1.000000e+00 | 1.455008e-03 | 1.422954e-03 | 2048 | | LBFGS | 1 | 55 | 2.457878e-01 | 1.000000e+00 | 7.117438e-03 | 1.880892e-03 | 2048 | | LBFGS | 1 | 56 | 2.457519e-01 | 1.000000e+00 | 2.491103e-02 | 1.074764e-03 | 2048 | | LBFGS | 1 | 57 | 2.457420e-01 | 1.000000e+00 | 7.473310e-02 | 9.511878e-04 | 2048 | | LBFGS | 1 | 58 | 2.457212e-01 | 1.000000e+00 | 3.558719e-03 | 3.718564e-04 | 2048 | | LBFGS | 1 | 59 | 2.457089e-01 | 1.000000e+00 | 4.270463e-02 | 6.237270e-04 | 2048 | | LBFGS | 1 | 60 | 2.457047e-01 | 5.000000e-01 | 1.423488e-02 | 3.647573e-04 | 2048 | |=================================================================================================================| | Solver | Pass | Iteration | Objective | Step | Gradient | Relative | sum(beta~=0) | | | | | | | magnitude | change in Beta | | |=================================================================================================================| | LBFGS | 1 | 61 | 2.456991e-01 | 1.000000e+00 | 1.423488e-02 | 5.666884e-04 | 2048 | | LBFGS | 1 | 62 | 2.456898e-01 | 1.000000e+00 | 1.779359e-02 | 4.697056e-04 | 2048 | | LBFGS | 1 | 63 | 2.456792e-01 | 1.000000e+00 | 1.779359e-02 | 5.984927e-04 | 2048 | | LBFGS | 1 | 64 | 2.456603e-01 | 1.000000e+00 | 1.403782e-03 | 5.414985e-04 | 2048 | | LBFGS | 1 | 65 | 2.456482e-01 | 1.000000e+00 | 3.558719e-03 | 6.506293e-04 | 2048 | | LBFGS | 1 | 66 | 2.456358e-01 | 1.000000e+00 | 1.476262e-03 | 1.284139e-03 | 2048 | | LBFGS | 1 | 67 | 2.456124e-01 | 1.000000e+00 | 3.558719e-03 | 8.636596e-04 | 2048 | | LBFGS | 1 | 68 | 2.455980e-01 | 1.000000e+00 | 1.067616e-02 | 9.861527e-04 | 2048 | | LBFGS | 1 | 69 | 2.455780e-01 | 1.000000e+00 | 1.067616e-02 | 5.102487e-04 | 2048 | | LBFGS | 1 | 70 | 2.455633e-01 | 1.000000e+00 | 3.558719e-03 | 1.228077e-03 | 2048 | | LBFGS | 1 | 71 | 2.455449e-01 | 1.000000e+00 | 1.423488e-02 | 7.864590e-04 | 2048 | | LBFGS | 1 | 72 | 2.455261e-01 | 1.000000e+00 | 3.558719e-02 | 1.090815e-03 | 2048 | | LBFGS | 1 | 73 | 2.455142e-01 | 1.000000e+00 | 1.067616e-02 | 1.701506e-03 | 2048 | | LBFGS | 1 | 74 | 2.455075e-01 | 1.000000e+00 | 1.779359e-02 | 1.504577e-03 | 2048 | | LBFGS | 1 | 75 | 2.455008e-01 | 1.000000e+00 | 3.914591e-02 | 1.144021e-03 | 2048 | | LBFGS | 1 | 76 | 2.454943e-01 | 1.000000e+00 | 2.491103e-02 | 3.015254e-04 | 2048 | | LBFGS | 1 | 77 | 2.454918e-01 | 5.000000e-01 | 3.202847e-02 | 9.837523e-04 | 2048 | | LBFGS | 1 | 78 | 2.454870e-01 | 1.000000e+00 | 1.779359e-02 | 4.328953e-04 | 2048 | | LBFGS | 1 | 79 | 2.454865e-01 | 5.000000e-01 | 3.558719e-03 | 7.126815e-04 | 2048 | | LBFGS | 1 | 80 | 2.454775e-01 | 1.000000e+00 | 5.693950e-02 | 8.992562e-04 | 2048 | |=================================================================================================================| | Solver | Pass | Iteration | Objective | Step | Gradient | Relative | sum(beta~=0) | | | | | | | magnitude | change in Beta | | |=================================================================================================================| | LBFGS | 1 | 81 | 2.454686e-01 | 1.000000e+00 | 1.183730e-03 | 1.590246e-04 | 2048 | | LBFGS | 1 | 82 | 2.454612e-01 | 1.000000e+00 | 2.135231e-02 | 1.389570e-04 | 2048 | | LBFGS | 1 | 83 | 2.454506e-01 | 1.000000e+00 | 3.558719e-03 | 6.162089e-04 | 2048 | | LBFGS | 1 | 84 | 2.454436e-01 | 1.000000e+00 | 1.423488e-02 | 1.877414e-03 | 2048 | | LBFGS | 1 | 85 | 2.454378e-01 | 1.000000e+00 | 1.423488e-02 | 3.370852e-04 | 2048 | | LBFGS | 1 | 86 | 2.454249e-01 | 1.000000e+00 | 1.423488e-02 | 8.133615e-04 | 2048 | | LBFGS | 1 | 87 | 2.454101e-01 | 1.000000e+00 | 1.067616e-02 | 3.872088e-04 | 2048 | | LBFGS | 1 | 88 | 2.453963e-01 | 1.000000e+00 | 1.779359e-02 | 5.670260e-04 | 2048 | | LBFGS | 1 | 89 | 2.453866e-01 | 1.000000e+00 | 1.067616e-02 | 1.444984e-03 | 2048 | | LBFGS | 1 | 90 | 2.453821e-01 | 1.000000e+00 | 7.117438e-03 | 2.457270e-03 | 2048 | | LBFGS | 1 | 91 | 2.453790e-01 | 5.000000e-01 | 6.761566e-02 | 8.228766e-04 | 2048 | | LBFGS | 1 | 92 | 2.453603e-01 | 1.000000e+00 | 2.135231e-02 | 1.084233e-03 | 2048 | | LBFGS | 1 | 93 | 2.453540e-01 | 1.000000e+00 | 2.135231e-02 | 2.060005e-04 | 2048 | | LBFGS | 1 | 94 | 2.453482e-01 | 1.000000e+00 | 1.779359e-02 | 1.560883e-04 | 2048 | | LBFGS | 1 | 95 | 2.453461e-01 | 1.000000e+00 | 1.779359e-02 | 1.614693e-03 | 2048 | | LBFGS | 1 | 96 | 2.453371e-01 | 1.000000e+00 | 3.558719e-02 | 2.145835e-04 | 2048 | | LBFGS | 1 | 97 | 2.453305e-01 | 1.000000e+00 | 4.270463e-02 | 7.602088e-04 | 2048 | | LBFGS | 1 | 98 | 2.453283e-01 | 2.500000e-01 | 2.135231e-02 | 3.422253e-04 | 2048 | | LBFGS | 1 | 99 | 2.453246e-01 | 1.000000e+00 | 3.558719e-03 | 3.872561e-04 | 2048 | | LBFGS | 1 | 100 | 2.453214e-01 | 1.000000e+00 | 3.202847e-02 | 1.732237e-04 | 2048 | |=================================================================================================================| | Solver | Pass | Iteration | Objective | Step | Gradient | Relative | sum(beta~=0) | | | | | | | magnitude | change in Beta | | |=================================================================================================================| | LBFGS | 1 | 101 | 2.453168e-01 | 1.000000e+00 | 1.067616e-02 | 3.065286e-04 | 2048 | | LBFGS | 1 | 102 | 2.453155e-01 | 5.000000e-01 | 4.626335e-02 | 3.402368e-04 | 2048 | | LBFGS | 1 | 103 | 2.453136e-01 | 1.000000e+00 | 1.779359e-02 | 2.215029e-04 | 2048 | | LBFGS | 1 | 104 | 2.453119e-01 | 1.000000e+00 | 3.202847e-02 | 4.142355e-04 | 2048 | | LBFGS | 1 | 105 | 2.453093e-01 | 1.000000e+00 | 1.423488e-02 | 2.186007e-04 | 2048 | | LBFGS | 1 | 106 | 2.453090e-01 | 1.000000e+00 | 2.846975e-02 | 1.338602e-03 | 2048 | | LBFGS | 1 | 107 | 2.453048e-01 | 1.000000e+00 | 1.423488e-02 | 3.208296e-04 | 2048 | | LBFGS | 1 | 108 | 2.453040e-01 | 1.000000e+00 | 3.558719e-02 | 1.294488e-03 | 2048 | | LBFGS | 1 | 109 | 2.452977e-01 | 1.000000e+00 | 1.423488e-02 | 8.328380e-04 | 2048 | | LBFGS | 1 | 110 | 2.452934e-01 | 1.000000e+00 | 2.135231e-02 | 5.149259e-04 | 2048 | | LBFGS | 1 | 111 | 2.452886e-01 | 1.000000e+00 | 1.779359e-02 | 3.650664e-04 | 2048 | | LBFGS | 1 | 112 | 2.452854e-01 | 1.000000e+00 | 1.067616e-02 | 2.633981e-04 | 2048 | | LBFGS | 1 | 113 | 2.452836e-01 | 1.000000e+00 | 1.067616e-02 | 1.804300e-04 | 2048 | | LBFGS | 1 | 114 | 2.452817e-01 | 1.000000e+00 | 7.117438e-03 | 4.251642e-04 | 2048 | | LBFGS | 1 | 115 | 2.452741e-01 | 1.000000e+00 | 1.779359e-02 | 9.018440e-04 | 2048 | | LBFGS | 1 | 116 | 2.452691e-01 | 1.000000e+00 | 2.135231e-02 | 9.941716e-05 | 2048 | |=================================================================================================================|

预测测试集标签,为测试集构造混淆矩阵,并估计测试集的分类误差。

UpdatedLabel=predict(UpdatedMdl,XTest);UpdatedConversionTest=ConversionChart(YTest,UpdatedLabel);

图中包含ConfusionMatrixChart类型的对象。

UpdatedL=丢失(UpdatedMdl、XTest、YTest)
UpdatedL = 0.1284

分类误差减小的简历使用更多迭代更新分类模型。

介绍了R2017b