主要内容

改装

类:FeatureSelectionNCARegression

改装社区成分分析(NCA)回归模型

扩展所有的页面

语法

mdlrefit =改装(mdl、名称、值)

描述

mdlrefit=改装(mdl,名称,值)不菲的模型mdl指定的一个或多个,修改参数名称,值对参数。

输入参数

全部展开

社区组件分析模型或分类,指定为一个FeatureSelectionNCARegression对象。

名称-值参数

指定可选的双参数作为Name1 = Value1,…,以=家,在那里的名字参数名称和吗价值相应的价值。名称-值参数必须出现在其他参数,但对的顺序无关紧要。

R2021a之前,用逗号来分隔每一个名称和值,并附上的名字在报价。

合适的选项

全部展开

方法拟合模型,指定为逗号分隔组成的“FitMethod”和一个以下。

  • “准确”——执行配件使用的所有数据。

  • “没有”——不合适。使用这个选项来评估NCA模型的泛化误差使用最初的功能权重提供调用fsrnca。

  • “平均”——函数将数据划分为分区(子集),符合每个分区使用确切的方法,并返回特征权重的平均值。您可以指定分区使用的数量NumPartitions名称-值对的论点。

例子:“FitMethod”、“没有”

正则化参数,指定为逗号分隔组成的“λ”和非负的标量值。

为n观察,最好的λ值最小化NCA模型的泛化误差预计是1 /的倍数n

例子:“λ”,0.01

数据类型:双|单

解算器类型权重估计特性,指定为逗号分隔组成的“规划求解”和一个以下。

  • “lbfgs”-内存有限bfg (Broyden-Fletcher-Goldfarb-Shanno)算法(LBFGS算法)

  • “sgd”——随机梯度下降法

  • “minibatch-lbfgs”-与LBFGS随机梯度下降算法应用于mini-batches

例子:“规划求解”、“minibatch-lbfgs”

初始特征权重,指定为逗号分隔组成的“InitialFeatureWeights”和一个p1真正积极的标量值的向量。

数据类型:双|单

指标冗长水平收敛摘要显示,指定为逗号分隔组成的“详细”和一个以下。

  • 0 -不收敛的总结

  • 1 -收敛总结包括迭代数,梯度的规范,和目标函数值。

  • > 1 -更融合的信息根据拟合的算法

    当使用解算器“minibatch-lbfgs”和冗长水平> 1,中间的收敛迭代日志信息包括mini-batch LBFGS适合。

例子:“详细”,2

数据类型:双|单

LBFGS或Mini-Batch LBFGS选项

全部展开

相对收敛公差的梯度准则求解器进行求解lbfgs,指定为逗号分隔两人组成的“GradientTolerance”和积极的真正的标量值。

例子:“GradientTolerance”, 0.00001

数据类型:双|单

SGD或Mini-Batch LBFGS选项

全部展开

最初的学习速度解算器sgd,指定为逗号分隔两人组成的“InitialLearningRate”和积极的标量值。

当使用解算器类型“sgd”,学习速率随迭代从指定的值“InitialLearningRate”。

例子:“InitialLearningRate”, 0.8

数据类型:双|单

最大数量的解决者“sgd”(随机梯度下降),指定为逗号分隔组成的“PassLimit”和一个正整数。每一个传递过程尺寸(mdl.X, 1)观察。

例子:“PassLimit”, 10

数据类型:双|单

SGD或LBFGS Mini-Batch LBFGS选项

全部展开

最大迭代次数,指定为逗号分隔组成的“IterationLimit”和一个正整数。

例子:“IterationLimit”, 250年

数据类型:双|单

输出参数

全部展开

社区组件分析模型或分类,作为一个返回FeatureSelectionNCARegression对象。你可以将结果保存为新模型或更新现有的模型mdl =改装(mdl、名称、值)。

例子

全部展开

打开生活的脚本

加载示例数据。

负载(“robotarm.mat”)

的robotarm(pumadyn32nm)创建数据集使用机器人手臂训练模拟器7168和1024测试观察32特性[1],[2]。这是一个原始数据的预处理版本集。数据预处理通过减去线性回归适合单元方差其次是所有功能正常化。

计算没有特征选择的泛化误差。

nca = fsrnca (Xtrain ytrain,“FitMethod”,“没有”,“标准化”1);L =损失(nca, Xtest欧美)
L = 0.9017

现在,改装与特征选择模型和计算预测损失, λ = 0(没有正则化项)和比较之前的损失值,来确定特征选择似乎这个问题的必要条件。你不改变的设置,改装使用初始模型的设置nca。例如,它使用中的特征权重nca作为初始特征权重。

nca2 =改装(nca,“FitMethod”,“准确”,“λ”,0);L2 =损失(nca2 Xtest、欧美)
L2 = 0.1088

减少损失表明,特征选择是必要的。

画出功能权重。

图()图(nca2.FeatureWeights,“罗”)

图包含一个坐标轴对象。坐标轴对象包含一个类型的对象。

调优正则化参数通常改善结果。假设,在调优 λ 用交叉验证的在NCA调整正则化参数回归,最好的 λ 价值发现是0.0035。改装的nca使用这个模型 λ 值和随机梯度下降法求解。计算预测损失。

nca3 =改装(nca2,“FitMethod”,“准确”,“λ”,0.0035,…“规划求解”,“sgd”);L3 =损失(nca3 Xtest、欧美)
L3 = 0.0573

画出功能权重。

图()图(nca3.FeatureWeights,“罗”)

图包含一个坐标轴对象。坐标轴对象包含一个类型的对象。

后调优正则化参数,减少更多的损失和软件识别的四个特性相关。

引用

[1]Rasmussen, c, E。,R. M. Neal, G. E. Hinton, D. van Camp, M. Revow, Z. Ghahramani, R. Kustra, and R. Tibshirani. The DELVE Manual, 1996,https://mlg.eng.cam.ac.uk/pub/pdf/RasNeaHinetal96.pdf

[2]https://www.cs.toronto.edu/深入/数据/ datasets.html

版本历史

介绍了R2016b

另请参阅

|||