石灰
局部可解释模型不可知解释(LIME)
描述
石灰通过寻找重要的预测器和拟合一个简单的可解释模型，解释机器学习模型(分类或回归)对查询点的预测。
您可以创建石灰对象用于具有指定查询点的机器学习模型(queryPoint)及指定数目的重要预测因素(numImportantPredictors)．该软件生成一个合成数据集，并拟合一个简单的可解释的重要预测器模型，有效地解释了查询点周围合成数据的预测。简单模型可以是线性模型(默认)或决策树模型。
使用拟合的简单模型在指定的查询点局部解释机器学习模型的预测。使用情节函数来可视化LIME结果。基于局部解释，您可以决定是否信任机器学习模型。
方法为另一个查询点拟合一个新的简单模型适合函数。
创建
语法
描述
结果=石灰(黑箱“CustomSyntheticData”,customSyntheticData）石灰对象使用预生成的自定义合成预测器数据集customSyntheticData．的石灰函数计算样本的预测customSyntheticData．
结果=石灰(___“QueryPoint”,queryPoint“NumImportantPredictors”,numImportantPredictors）queryPoint．你可以指定queryPoint而且numImportantPredictors除了前面语法中的任何输入参数组合之外。
输入参数
属性
例子
用决策树简单模型解释预测
训练一个分类模型并创建一个石灰对象，该对象使用决策树简单模型。当您创建石灰对象，指定一个查询点和重要预测器的数量，以便软件生成合成数据集的样本，并为查询点拟合一个具有重要预测器的简单模型。然后利用目标函数在简单模型中显示估计的预测因子重要性情节．
加载CreditRating_Historical数据集。数据集包含客户id及其财务比率、行业标签和信用评级。
TBL =可读的(“CreditRating_Historical.dat”）;
显示表的前三行。
头(资源描述,3)
ans =3×8表ID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业评级 _____ _____ _____ _______ ________ _____ ________ ______ 62394 0.013 0.104 0.036 0.447 0.142 3{“BB”}48608 0.232 0.335 0.062 1.969 0.281 8 {A} 42444 0.311 0.367 0.074 1.935 0.366 1 {A}
通过删除客户id和评级列，创建一个预测器变量表资源描述．
tblX = removevars(tbl，[“ID”，“评级”]);
训练一个信用评级的黑盒模型fitcecoc函数。
blackbox = fitcecoc(tblX,tbl。评级,“CategoricalPredictors”，“行业”）;
创建一个石灰对象，该对象使用决策树简单模型解释对最后一次观察结果的预测。指定“NumImportantPredictors”找出最多6个重要的预测因子。如果指定“QueryPoint”而且“NumImportantPredictors”类时的值石灰对象，然后软件生成合成数据集的样本，并为合成数据集拟合一个简单的可解释模型。
queryPoint = tblX(end，:)
queryPoint =1×6表WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业 _____ _____ _______ ________ ____ ________ 0.239 0.463 0.065 2.924 0.34 - 2
rng (“默认”）%用于重现性结果=石灰(黑盒子，“QueryPoint”queryPoint,“NumImportantPredictors”6.．.“SimpleModelType”，“树”）
results = lime with properties: BlackboxModel: [1x1 ClassificationECOC] DataLocality: 'global' CategoricalPredictors: 6 Type: 'classification' X: [3932x6 table] QueryPoint: [1x6 table] NumImportantPredictors: 6 NumSyntheticData: 5000 SyntheticData: [5000x1 cell} SimpleModel: [1x1 ClassificationTree] ImportantPredictors: [2x1 double] blackboxsuits: {'AA'} simplemodelsuits: {'AA'}
画出石灰对象结果通过使用object函数情节．若要在任何预测器名称中显示现有下划线，请更改TickLabelInterpreter坐标轴的值“没有”．
F =图(结果);f.CurrentAxes.TickLabelInterpreter =“没有”；
图中显示了查询点的两个预测，它们对应于BlackboxFitted财产和SimpleModelFitted的属性结果．
水平柱状图显示了排序后的预测器重要性值。石灰查找财务比率变量EBIT_TA而且WC_TA作为查询点的重要预测器。
您可以通过使用数据提示或栏属性．例如，你可以找到酒吧对象。findobj函数，并将标签添加到条的末端文本函数。
B = findobj(f，“类型”，“酒吧”）;文本(b.YEndPoints + 0.001, b.XEndPoints字符串(b.YData))
或者，您可以在带有预测器变量名的表中显示系数值。
imp = b.YData;flipud (array2table(小鬼”,.．.“RowNames”f.CurrentAxes.YTickLabel,“VariableNames”, {“预测的重要性”}))
ans =2×1表预测的重要性 ____________________ MVE_BVTD 0.088412 RE_TA 0.0018061
用线性简单模型解释预测
训练一个回归模型并创建一个石灰对象，该对象使用线性简单模型。当您创建石灰对象，如果不指定查询点和重要预测器的数量，则软件生成合成数据集的样本，但不适合简单的模型。使用object函数适合为查询点拟合一个简单模型。然后利用目标函数显示拟合线性简单模型的系数情节．
加载carbig数据集，包含70年代和80年代早期生产的汽车的测量数据。
负载carbig
创建一个包含预测变量的表加速度，气缸，等等，以及响应变量英里/加仑．
tbl =表(加速度，气缸，排量，马力，型号，年份，重量，MPG);
删除训练集中的缺失值可以帮助减少内存消耗并加速训练fitrkernel函数。中删除缺失的值资源描述．
TBL = rmmissing(TBL);
通过删除响应变量，创建一个预测变量表资源描述．
tblX = removevars(tbl，“英里”）;
训练一个黑箱模型英里/加仑通过使用fitrkernel函数。
rng (“默认”）%用于重现性mdl = fitrkernel(tblX,tbl。英里/加仑,“CategoricalPredictors”[2 - 5]);
创建一个石灰对象。指定一个预测数据集，因为mdl不包含预测器数据。
results = lime(mdl,tblX)
results = lime with properties: BlackboxModel: [1x1 RegressionKernel] DataLocality: 'global' CategoricalPredictors: [2 5] Type: 'regression' X: [392x6 table] QueryPoint: [] NumImportantPredictors: [] NumSyntheticData: 5000 synticdata: [5000x6 table] suitable: [5000x1 double] SimpleModel: [] ImportantPredictors: [] blackboxsuitable: [] simplemodelpredictors: []
结果包含生成的合成数据集。的SimpleModel物业为空(［］)．
中第一次观测拟合线性简单模型tblX．指定要查找的重要预测器的数量为3。
queryPoint = tblX(1，:)
queryPoint =1×6表加速气缸位移马力Model_Year重量 ____________ _________ ____________ __________ __________ ______ 12 8 307 130 70 3504
results = fit(results,queryPoint,3);
画出石灰对象结果通过使用object函数情节．若要在任何预测器名称中显示现有下划线，请更改TickLabelInterpreter坐标轴的值“没有”．
F =图(结果);f.CurrentAxes.TickLabelInterpreter =“没有”；
图中显示了查询点的两个预测，它们对应于BlackboxFitted财产和SimpleModelFitted的属性结果．
水平柱状图显示了简单模型的系数值，按它们的绝对值排序。石灰发现马力，Model_Year,气缸作为查询点的重要预测器。
Model_Year而且气缸是具有多个类别的类别预测器。对于线性简单模型，软件为每个类别预测器创建的虚拟变量比类别数量少一个。柱状图只显示最重要的虚拟变量。方法可以检查其他虚拟变量的系数SimpleModel的属性结果．显示已排序的系数值，包括所有类别虚拟变量。
[~，I] = sort(abs(results. simplmodel . beta)，“下”）;表(results.SimpleModel.ExpandedPredictorNames (I)”,results.SimpleModel.Beta(我),.．.“VariableNames”, {“扩展预测名称”，“系数”})
ans =17×2表Exteded预测名字系数 __________________________ ___________ {' -3.4485马力的}e-05 {Model_Year(74和70)的}-6.1279 e-07{“Model_Year(80和70)的}-4.015 e-07{“Model_Year(81和70)的}3.4176 e-07{“Model_Year(82和70)的}-2.2483 e-07{的圆柱体(6和8)}-1.9024 e-07{“Model_Year(76和70)的}1.8136 e-07{的圆柱体(5和8)}1.7461 e-07{“Model_Year(71和70)的}1.558 e-07{“Model_Year(75和70)的}1.5456 e-07{“Model_Year(77和70)的}1.521 e-07 {Model_Year (78 vs。70)'} 1.4272e-07 {'Model_Year (72 vs. 70)'} 6.7001e-08 {'Model_Year (73 vs. 70)'} 4.7214e-08{'气缸(4 vs. 8)'} 4.5118e-08 {'Model_Year (79 vs. 70)'} -2.2598e-08
指定黑箱模型为函数句柄
训练一个回归模型并创建一个石灰对象的函数句柄预测模型的功能。使用object函数适合为指定的查询点拟合一个简单模型。然后利用目标函数显示拟合线性简单模型的系数情节．
加载carbig数据集，包含70年代和80年代早期生产的汽车的测量数据。
负载carbig
创建一个包含预测变量的表加速度，气缸，等等。
tbl =表(加速度，气缸，排量，马力，型号，年份，重量);
训练一个黑箱模型英里/加仑通过使用TreeBagger函数。
rng (“默认”）%用于重现性Mdl = TreeBagger(100,tbl,MPG，“方法”，“回归”，“CategoricalPredictors”[2 - 5]);
石灰不支持金宝appTreeBagger的第一个输入参数(黑箱模型)石灰作为一个TreeBagger对象。方法的函数句柄预测函数。的选项预测使用函数的名称-值参数的函数。
类的函数句柄预测的功能TreeBagger对象Mdl．指定要用作的树索引数组1:50．
myPredict = @(tbl) predict(Mdl,tbl，“树”、1:50);
创建一个石灰对象使用函数句柄myPredict．当将黑箱模型指定为函数句柄时，必须提供预测器数据并指定“类型”名称-值参数。资源描述包括直言预测符(油缸而且Model_Year)与双数据类型。默认情况下,石灰不使用双数据类型作为类别预测器。指定第二个(油缸)和第五(Model_Year)变量作为范畴预测器。
结果= lime(myPredict,tbl，“类型”，“回归”，“CategoricalPredictors”[2 - 5]);
中第一次观测拟合线性简单模型资源描述．若要在任何预测器名称中显示现有下划线，请更改TickLabelInterpreter坐标轴的值“没有”．
Results = fit(Results,tbl(1，:)，4);F =图(结果);f.CurrentAxes.TickLabelInterpreter =“没有”；
石灰发现马力，位移，气缸,Model_Year作为重要的预测指标。
更多关于
算法
参考文献
您也可以从以下列表中选择网站:
