主要内容

updateMetrics

在线性增量学习模型中根据新数据更新性能指标

描述

给定流数据,updateMetrics测量线性回归的已配置增量学习模型的性能(incrementalRegressionLinear对象)或线性二元分类(incrementalClassificationLinear对象)。updateMetrics将性能指标存储在输出模型中。

updateMetrics允许灵活的增量学习。在您调用函数来更新传入数据块上的模型性能指标之后,您可以在将模型训练为数据之前执行其他操作。例如,您可以根据模型在数据块上的表现来决定是否需要训练模型。方法,可以在一次调用中更新模型性能指标,并在数据到达时对模型进行训练updateMetricsAndFit函数。

要度量模型在指定批数据上的性能,请调用损失代替。

例子

Mdl= updateMetrics (MdlXY返回一个增量学习模型Mdl,即输入增量学习模型Mdl修改为包含传入预测器和响应数据的模型性能指标,X而且Y分别。

当输入模型为时温暖的Mdl。IsWarm真正的),updateMetrics对象中存储的计算指标指标属性中的新值。否则,updateMetrics商店指标代替。

输入和输出模型具有相同的数据类型。

例子

Mdl= updateMetrics (MdlXY名称,值使用由一个或多个名-值对参数指定的其他选项。例如,您可以指定预测器数据矩阵的列对应于观测值,并设置观测值权重。

例子

全部折叠

训练一个用于二元分类的线性模型fitclinear,将其转换为增量学习器,然后跟踪其表现为流数据。

加载和预处理数据

加载人类活动数据集。随机打乱数据。

负载humanactivityrng (1)%用于再现性N = numel(actid);Idx = randsample(n,n);X = feat(idx,:);Y = actid(idx);

关于数据集的详细信息,请输入描述在命令行。

回答可以分为五类:坐着、站着、走着、跑着或跳舞。通过识别被测者是否在移动(actid> 2)。

Y = Y > 2;

二元分类训练线性模型

用二分之一的随机样本拟合二元分类的线性模型。

Idxtt = randsample([true false],n,true);TTMdl = fitclinear(X(idxtt,:),Y(idxtt))
TTMdl = ClassificationLinear ResponseName: 'Y' ClassNames: [0 1] ScoreTransform: 'none' Beta: [60x1 double]偏差:-0.2999 Lambda: 8.2967e-05学习者:'svm'属性,方法

TTMdl是一个ClassificationLinear模型对象,表示用于二进制分类的传统训练线性模型。

转换训练模型

将传统训练的分类模型转换为增量学习的二元分类线性模型。

IncrementalMdl =增量学习者(TTMdl)
IncrementalMdl = incrementalClassificationLinear IsWarm: 1 Metrics: [1x2 table] ClassNames: [0 1] ScoreTransform: 'none' Beta: [60x1 double]偏差:-0.2999 Learner: 'svm'属性,方法
IncrementalMdl。IsWarm
ans =逻辑1

增量模式是温暖的。因此,updateMetrics可以跟踪给定数据的模型性能指标。

跟踪绩效指标

方法跟踪模型在其余数据上的性能updateMetrics函数。通过一次处理50个观测数据来模拟数据流。在每次迭代中:

  1. 调用updateMetrics在给定传入观测数据块的情况下,更新模型的累积和窗口分类误差。的增量模型中更新损失指标财产。注意,函数并没有将模型与数据块相匹配——数据块是模型的“新”数据。

  2. 存储分类误差和第一系数 β 1

%预先配置Idxil = ~idxtt;Nil = sum(idxil);numObsPerChunk = 50;nchunk = floor(nil/numObsPerChunk);Ce = array2table(0 (nchunk,2),“VariableNames”,[“累积”“窗口”]);beta1 = [incrementalmml . beta (1);0 (nchunk 1)];Xil = X(idxil,:);Yil = Y(idxil);%增量拟合j = 1:nchunk ibegin = min(nil,numObsPerChunk*(j-1) + 1);iend = min(nil,numObsPerChunk*j);Idx = ibegin:iend;IncrementalMdl = updateMetrics(增量mdl,Xil(idx,:),Yil(idx));ce{j,:} = IncrementalMdl。指标{“ClassificationError”,:};beta1(j + 1) = incrementalmml . beta (1);结束

IncrementalMdl是一个incrementalClassificationLinear模型对象,该对象跟踪了数据流中观察到的模型性能。

绘制性能指标和估计系数的轨迹图 β 1

T = tiledlayout(2,1);nexttile h = plot(ce.Variables);Xlim ([0 nchunk]) ylabel(分类错误的nexttile plot(beta1) ylabel(“\ beta_1”xlim([0 nchunk]) xlabel(t,“迭代”

图中包含2个轴对象。坐标轴对象1包含2个line类型的对象。这些对象代表累积、窗口。坐标轴对象2包含一个line类型的对象。

累积损失是稳定的,而窗口损失是跳跃的。

β 1 不会改变是因为updateMetrics不能将模型与数据拟合。

创建一个增量线性支持向量机模型用于二元分类。指定5000个观测值的估计周期和SGD求解器。

Mdl =增量分类线性(“EstimationPeriod”, 5000,“规划求解”“sgd”
Mdl = incrementalClassificationLinear IsWarm: 0 Metrics: [1x2 table] ClassNames: [1x0 double] ScoreTransform: 'none' Beta: [0x1 double]偏差:0学习者:'svm'属性,方法

Mdl是一个incrementalClassificationLinear模型。它的所有属性都是只读的。

通过查询模型属性确定模型是否温暖,以及度量暖化周期的大小。

isWarm = Mdl。IsWarm
isWarm =逻辑0
mwp = Mdl。指标WarmupPeriod
MWP = 1000

Mdl。IsWarm0;因此,Mdl就是不温暖。

确定观察数的增量拟合函数,如适合,必须在测量模型的性能之前进行处理。

numObsBeforeMetrics = Mdl。MetricsWarmupPeriod + Mdl。EstimationPeriod
numObsBeforeMetrics = 6000

加载人类活动数据集。随机打乱数据。

负载humanactivityN = numel(actid);rng (1)%用于再现性Idx = randsample(n,n);X = feat(idx,:);Y = actid(idx);

关于数据集的详细信息,请输入描述在命令行。

回答可以分为五类:坐着、站着、走着、跑着或跳舞。通过识别被测者是否在移动(actid> 2)。

Y = Y > 2;

执行增量学习。在每次迭代中:

  • 通过处理50个观测数据块来模拟数据流。

  • 使用传入块度量模型性能指标updateMetrics.覆盖输入模型。

  • 方法将模型拟合到传入的块适合函数。覆盖输入模型。

  • 商店 β 1 以及错误分类错误率来观察它们在增量学习中是如何进化的。

%预先配置numObsPerChunk = 50;nchunk = floor(n/numObsPerChunk);Ce = array2table(0 (nchunk,2),“VariableNames”,[“累积”“窗口”]);Beta1 = 0 (nchunk,1);%增量拟合j = 1:nchunk ibegin = min(n,numObsPerChunk*(j-1) + 1);iend = min(n,numObsPerChunk*j);Idx = ibegin:iend;Mdl = updateMetrics(Mdl,X(idx,:),Y(idx));ce{j,:} = Mdl。指标{“ClassificationError”,:};Mdl = fit(Mdl,X(idx,:),Y(idx));beta1(j) = Mdl.Beta(1);结束

Mdl是一个incrementalClassificationLinear在流中的所有数据上训练的模型对象。

要了解参数在增量学习过程中是如何演变的,请将它们绘制在单独的块上。

T = tiledlayout(2,1);Nexttile plot(beta1) ylabel(“\ beta_1”)参照线(Mdl。EstimationPeriod / numObsPerChunk,r -。)包含(“迭代”)轴nexttile plot(ce.Variables)“ClassificationError”)参照线(Mdl。EstimationPeriod / numObsPerChunk,r -。)参照线(numObsBeforeMetrics / numObsPerChunk,“g -”。xlim([0 nchunk]) legend(ce.Properties.VariableNames)“迭代”

图中包含2个轴对象。坐标轴对象1包含2个line、constantline类型的对象。坐标轴对象2包含4个line、constantline类型的对象。这些对象代表累积、窗口。

mdlIsWarm = numObsBeforeMetrics/numObsPerChunk
mdlIsWarm = 120

情节表明适合直到估计期结束后才使模型适合数据或更新参数。同时,updateMetrics直到估计和度量预热期(120块)之后才跟踪分类错误。

只有当线性回归模型的性能下降时,才对其进行增量训练。

加载和洗牌2015年纽约市住房数据集。有关数据的详细信息,请参见纽约市开放数据

负载NYCHousing2015rng (1)%用于再现性n = size(NYCHousing2015,1);Shuffidx = randsample(n,n);NYCHousing2015 = NYCHousing2015(shuffidx,:);

提取响应变量SALEPRICE从桌子上。为了数值的稳定性,刻度SALEPRICE通过1 e6

Y = nychousing2015 . salesprice /1e6;NYCHousing2015。售价= [];

从分类预测器创建虚拟变量矩阵。

Catvars = [“区”“BUILDINGCLASSCATEGORY”“社区”];dumvarstbl = varfun(@(x)dummyvar(categorical(x)),NYCHousing2015,...“数据源”, catvars);Dumvarmat = table2array(dumvarstbl);NYCHousing2015(:,catvars) = [];

将表中所有其他数值变量视为销售价格的线性预测因子。将虚拟变量矩阵连接到其余的预测器数据,并将数据转置以加快计算速度。

idxnum = varfun(@isnumeric,NYCHousing2015,“OutputFormat”“统一”);X = [dumvarmat NYCHousing2015{:,idxnum}]';

为增量学习配置线性回归模型,这样它就不会有估计或指标预热期。指定度量窗口大小为1000个观测值。将配置的模型与前100个观测值相匹配,并指定观测值沿数据列方向排列。

Mdl =增量回归线性(“EstimationPeriod”0,“MetricsWarmupPeriod”0,...“MetricsWindowSize”, 1000);numObsPerChunk = 100;Mdl = fit(Mdl,X(:,1:numObsPerChunk),Y(1:numObsPerChunk),“ObservationsIn”“列”);

Mdl是一个incrementalRegressionLinear模型对象。

使用条件拟合执行增量学习,每次迭代都遵循以下步骤:

  • 通过处理100个观测数据块来模拟数据流。

  • 在200个观测窗口内,通过计算ε不敏感损失来更新模型性能。指定观察值沿数据列方向排列。

  • 只有当损失是最小损失的两倍以上时,模型才适合数据块。指定观察值沿数据列方向排列。

  • 在跟踪性能和拟合时,覆盖之前的增量模型。

  • 存储不敏感损失和 β 313 看看损耗和系数在训练过程中是如何演变的。

  • 跟踪时适合训练模型。

%预先配置n = nummel (Y) - numObsPerChunk;nchunk = floor(n/numObsPerChunk);Beta313 = 0 (nchunk,1);Ei = array2table(nan(nchunk,2),“VariableNames”,[“累积”“窗口”]);训练= false(nchunk,1);%增量拟合j = 2:nchunk ibegin = min(n,numObsPerChunk*(j-1) + 1);iend = min(n,numObsPerChunk*j);Idx = ibegin:iend;Mdl = updateMetrics(Mdl,X(:,idx),Y(idx),“ObservationsIn”“列”);ei{j,:} = Mdl。指标{“EpsilonInsensitiveLoss”,:};Minei = min(ei{:,2});Pdiffloss = (ei{j,2} - minei)/minei*100;如果pdiffloss > 100 Mdl = fit(Mdl,X(:,idx),Y(idx),“ObservationsIn”“列”);训练(j) = true;结束beta313(j) = Mdl.Beta(end);结束

Mdl是一个incrementalRegressionLinear在流中的所有数据上训练的模型对象。

看看模型的性能如何 β 313 在训练过程中进化,将它们绘制在单独的瓷砖上。

T = tiledlayout(2,1);Nexttile plot(beta313) hold住情节(找到(训练),beta313(训练),“r”。xlim([0 nchunk]) ylabel(“\ beta_”{313})参照线(Mdl。EstimationPeriod / numObsPerChunk,r -。)传说(“\ beta_”{313}培训发生的“位置”“东南”)举行nexttile plot(ei.Variables) xlim([0 nchunk]) ylabel(“不敏感损失”)参照线(Mdl。EstimationPeriod / numObsPerChunk,r -。xlabel(t,“迭代”

图中包含2个轴对象。坐标轴对象1包含3个line、constantline类型的对象。这些对象表示\beta_{313},训练发生。坐标轴对象2包含3个line、constantline类型的对象。这些对象代表累积、窗口。

的轨迹图 β 313 显示恒定值的时期,在此期间损失没有从经历的最小值翻倍。

输入参数

全部折叠

增量学习模型,其性能被测量,指定为incrementalClassificationLinearincrementalRegressionLinear模型对象。你可以创建Mdl直接或通过转换支持的,传统训练的机器学习模型使用金宝appincrementalLearner函数。更多详细信息,请参见相应的参考页面。

如果Mdl。IsWarmupdateMetrics不跟踪模型的性能。你必须合身MdlMdl。估计周期+ Mdl。MetricsWarmupPeriod通过传递观察Mdl数据是适合之前updateMetrics能够跟踪性能指标。详情请参见性能指标

用于测量模型性能的预测器数据块,指定为的浮点矩阵n观察和Mdl。NumPredictors预测变量。的值ObservationsIn名称-值参数决定变量和观察值的方向。默认的ObservationsIn值是“行”,表示预测器数据中的观测值沿的行方向X

观察标签的长度Y观察的次数X必须平等;Y (j是观察的标签吗j(行或列)在X

请注意

  • 如果Mdl。NumPredictors= 0,updateMetrics从中推断预测器的数量X,并设置输出模型的相应属性。否则,如果流数据中的预测变量数量从Mdl。NumPredictorsupdateMetrics产生一个错误。

  • updateMetrics金宝app仅支持浮点输入预测器数据。如果输入数据包括分类数据,则必须准备分类数据的编码版本。使用dummyvar将每个分类变量转换为虚拟变量的数字矩阵。然后,连接所有虚拟变量矩阵和任何其他数值预测。详情请参见虚拟变量

数据类型:|

用于测量模型性能的响应块(标签),指定为类别、字符或字符串数组、逻辑或浮点向量,或用于分类问题的字符向量单元格数组;或者一个用于回归问题的浮点向量。

观察标签的长度Y观察的次数X必须平等;Y (j是观察的标签吗j(行或列)在X

对于分类问题:

  • updateMetrics金宝app只支持二进制分类。

  • 一会属性的输入模型Mdl非空,则应用以下条件:

    • 如果Y包含不是成员的标签Mdl。一会updateMetrics产生一个错误。

    • 的数据类型Y而且Mdl。一会一定是一样的。

数据类型:字符|字符串|细胞|分类|逻辑||

请注意

如果一个观察值(预测值或标签)或权重包含至少一个缺失()的值,updateMetrics忽略观察结果。因此,updateMetrics使用少于n计算模型性能的观测值,其中n观察的数量在吗X

名称-值参数

指定可选参数对为Name1 = Value1,…,以=家,在那里的名字参数名称和价值对应的值。名称-值参数必须出现在其他参数之后,但对的顺序无关紧要。

在R2021a之前,使用逗号分隔每个名称和值,并将其括起来的名字在报价。

例子:“ObservationsIn”、“列”、“重量”,W指定预测器矩阵的列对应于观测值,以及向量W包含在增量学习期间应用的观察权重。

预测器数据观测维数,由逗号分隔的对组成“ObservationsIn”而且“列”“行”

数据类型:字符|字符串

观察权重块,指定为逗号分隔的对,由“重量”和一个正的浮点向量。updateMetrics对观察结果进行权衡X中对应的值权重.的大小权重必须等于n的观测数X

默认情况下,权重(n, 1)

有关更多详细信息,包括标准化方案,请参见观察权重

数据类型:|

输出参数

全部折叠

更新的增量学习模型,作为与输入模型具有相同数据类型的增量学习模型对象返回Mdl,要么incrementalClassificationLinearincrementalRegressionLinear

如果模型温度不高,updateMetrics不计算性能指标。结果,指标的属性Mdl完全由值。如果模型是温暖的,updateMetrics计算新数据上的累积和窗口性能指标X而且Y的对应元素Mdl。指标.输入模型的所有其他属性Mdl转到输出模型Mdl.详情请参见性能指标

提示

  • 与传统的训练不同,增量学习可能没有单独的测试(坚持)集。因此,要将每个传入的数据块视为一个测试集,将增量模型和每个传入的数据块传递给updateMetrics在训练模型之前使用相同的数据适合

算法

全部折叠

性能指标

  • updateMetrics中表的行标签指定的仅跟踪模型性能指标Mdl。指标,从新数据时的增量模型为温暖的IsWarm属性是真正的).增量模型是暖后模型适合函数拟合增量模型Mdl。MetricsWarmupPeriod观察,也就是指标预热期

    如果Mdl。EstimationPeriod> 0,函数在模型拟合数据之前估计超参数。因此,函数必须处理附加项EstimationPeriod模型开始度量预热期之前的观察。

  • 指标属性将每个性能度量的两种形式存储为表的变量(列),累积而且窗口,将单个指标列成行。当增量模型为温模型时,updateMetrics以以下频率更新指标:

    • 累积-该函数计算自模型性能跟踪开始以来的累计指标。每次调用该函数时,该函数都会更新度量标准,并基于整个提供的数据集进行计算。

    • 窗口函数根据窗口内的所有观察结果计算指标Mdl。MetricsWindowSize财产。Mdl。MetricsWindowSize还决定软件更新的频率窗口指标。例如,如果Mdl。MetricsWindowSize为20时,该函数根据所提供数据中的最后20个观察结果计算度量(X((end - 20 + 1):end,:)而且Y((end - 20 + 1):end)).

      跟踪窗口内性能指标的增量函数使用以下过程:

      1. 存储一个长度的缓冲区Mdl。MetricsWindowSize对于每个指定的度量,并存储一个观察权重的缓冲区。

      2. 用基于批量传入观察的模型性能填充度量缓冲区的元素,并在权重缓冲区中存储相应的观察权重。

      3. 当缓冲区被填满时,覆盖Mdl.Metrics.Window在指标窗口中使用加权平均性能。如果函数在处理一批观测值时缓冲区过满,则最新的传入Mdl。MetricsWindowSize观测值进入缓冲区,最早的观测值从缓冲区中删除。例如,假设Mdl。MetricsWindowSize为20时,度量缓冲区中有10个来自先前处理的批处理的值,15个值是传入的。为了组成长度为20的窗口,该函数使用来自15个传入观测值的测量值和来自前一批的最新5个测量值。

  • 该软件省略了一个观察计算时的预测(分类评分和回归响应)累积而且窗口性能度量值。

观察权重

对于分类问题,如果先验类概率分布已知(换句话说,先验分布不是经验的),updateMetrics将观察权重归一化,使其与各自类中的先验类概率相加。这个动作意味着,默认情况下,观测权重是各自的先验类概率。

对于回归问题或先验类概率分布是经验的,软件将指定的观察权重归一化,每次调用时求和为1updateMetrics

扩展功能

版本历史

R2020b中介绍