沙普利
描述
的沙普利查询点的一个特性值解释查询的预测点的偏差的平均预测,由于功能。对于每个查询点,沙普利值之和所有功能对应的总偏差预测的平均水平。
您可以创建一个沙普利对机器学习模型对象与指定查询点(queryPoint)。该软件创建一个对象的所有特性和计算夏普利值查询点。
利用夏普利值解释个人特性预测的贡献在指定查询点。使用情节函数创建一个条形图的夏普利值。你可以计算出另一个查询点利用夏普利值适合函数。
创建
描述
讲解员=沙普利(___“QueryPoint”,queryPoint)queryPoint和商店的夏普利值计算ShapleyValues的属性讲解员。您可以指定queryPoint除了任何输入参数组合在前面的语法。
输入参数
属性
例子
当创建计算夏普利值沙普利对象
训练一个分类模型,并创建一个沙普利对象。当您创建一个沙普利对象,指定查询点,以便查询的软件计算夏普利值点。然后创建一个条形图的夏普利值通过使用对象的功能情节。
加载CreditRating_Historical数据集,数据集包含客户id和他们的财务比率,行业标签,信用评级。
台= readtable (“CreditRating_Historical.dat”);
显示表的前三行。
头(资源描述,3)
ID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业评级_____ _____ _____和______ _____ ________ ________ 62394 0.013 0.104 0.036 0.447 0.142 3 {“BB”} 48608 0.232 0.335 0.062 1.969 0.281 8 {A} 42444 0.311 0.367 0.074 1.935 0.366 1 {A}
火车的黑箱模型使用的信用评级fitcecoc函数。使用变量通过第七列第二资源描述作为预测变量。推荐的做法是指定类名设置订单的类。
黑箱= fitcecoc(资源描述,“评级”,…“PredictorNames”tbl.Properties.VariableNames (7),…“CategoricalPredictors”,“行业”,…“类名”,{“AAA”“AA”“一个”“BBB”“BB”“B”“CCC”});
创建一个沙普利对象,阐述了预测最后的观察。指定一个查询点,这样软件计算夏普利值并将它们存储在ShapleyValues财产。
queryPoint =(资源(最终,:)
queryPoint =表1×8ID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业评级_____ _____ _____ _________ __ ________ ________ ________ 73104 0.239 0.463 0.065 2.924 0.34 - 2 {“AA”}
讲解员=沙普利(黑盒,“QueryPoint”queryPoint)
警告:计算可能会很慢,因为预测数据有超过1000的观察。使用一个更小的样本训练集或指定“UseParallel”作为适用于更快的计算。
讲解员=沙普利与属性:BlackboxModel: [1 x1 ClassificationECOC] QueryPoint:[1×8表]BlackboxFitted: {“AA”} ShapleyValues:[6×8表]NumSubsets: 64 X: [3932 x6表]CategoricalPredictors: 6方法:“interventional-kernel”拦截:[-1.7642 -1.3677 -1.0980 -1.0645 -1.4758 -2.1268 - -2.3909)
警告消息表明,计算可能会很慢,因为预测数据有超过1000的观察。更快的计算,使用一个更小的样本训练集或指定的“UseParallel”作为真正的。
对于一个分类模型,沙普利计算夏普利值使用预测类分数为每个类。显示的值ShapleyValues财产。
explainer.ShapleyValues
ans =6×8表预测AAA AA BBB BB B CCC __________ _____ __________ ___________ __________ ___________ __________ __________“WC_TA”0.051507 0.022531 0.0093463 0.0017109 -0.027655 -0.041443 -0.039882“RE_TA”0.16772 0.094211 0.051629 -0.011019 -0.087919 -0.20974 -0.29463“EBIT_TA”0.0011995 0.00052588 0.00041919 0.00011866 -0.00066237 -0.0013347 -0.0011824“MVE_BVTD”1.3417 1.3082 0.61472 -0.11247 -0.6555 -0.86908 -0.68547“S_TA”-0.013059 -0.0091049 -0.00031099 -0.0028624 -0.00019227 0.0016759 -0.0024149“行业”-0.10142 -0.048668 0.0036522 0.081542 0.092657 0.10464 0.15888
的ShapleyValues属性包含所有功能的夏普利值为每个类。
情节的夏普利值预测类使用情节函数。
情节(讲解员)
水平条形图显示了所有变量的夏普利值,按他们的绝对值。每个夏普利值解释查询的得分点的偏差的平均分数预测类,由于相应的变量。
创建沙普利使用对象和计算夏普利值适合
训练一个回归模型,并创建一个沙普利对象。当您创建一个沙普利查询对象,如果你不指定一个点,然后软件不计算夏普利值。使用目标函数适合指定的查询计算夏普利值点。然后创建一个条形图的夏普利值通过使用对象的功能情节。
加载carbig的数据集,其中包含测量汽车在1970年代末和1980年代初。
负载carbig
创建一个表包含预测变量加速度,气缸等等,以及响应变量英里/加仑。
台=表(加速度、汽缸、排量、马力、Model_Year重量,MPG);
删除缺失值在一个训练集可以帮助减少内存消耗,加速训练fitrkernel函数。删除缺失值资源描述。
台= rmmissing(台);
火车的黑箱模型英里/加仑通过使用fitrkernel函数
rng (“默认”)%的再现性mdl = fitrkernel(资源描述,“英里”,“CategoricalPredictors”[2 - 5]);
创建一个沙普利对象。指定的数据集资源描述,因为mdl不包含训练数据。
讲解员=沙普利(mdl(资源)
讲解员=沙普利与属性:BlackboxModel: [1 x1 RegressionKernel] QueryPoint: [] BlackboxFitted: [] ShapleyValues: [] NumSubsets: 64 X: [392 x7表]CategoricalPredictors:[2 5]方法:“interventional-kernel”拦截:22.6202
讲解员存储训练数据资源描述在X财产。
计算所有预测变量的夏普利值第一观察资源描述。
:queryPoint =(资源(1)
queryPoint =表1×7加速汽缸位移马力Model_Year重量MPG _______ _____ _______ __________ __________ ______ ___ 12 8 307 130 70 3504
讲解员=适合(讲解员,queryPoint);
回归模型,沙普利使用预测响应计算夏普利值,并将它们存储在ShapleyValues财产。显示的值ShapleyValues财产。
explainer.ShapleyValues
ans =6×2表预测_______ ShapleyValue * * *“加速度”-0.1561“气缸”-0.18306“位移”-0.34203“马力”-0.27291“Model_Year”-0.2926“重量”-0.32402
情节的夏普利值查询使用情节函数。
情节(讲解员)
水平条形图显示了所有变量的夏普利值,按他们的绝对值。每个夏普利值解释查询的预测点的偏差从平均,由于相应的变量。
指定使用函数黑箱模型处理
训练一个回归模型,并创建一个沙普利使用一个函数处理的对象预测的函数模型。使用目标函数适合指定的查询计算夏普利值点。然后情节夏普利值通过使用对象的功能情节。
加载carbig的数据集,其中包含测量汽车在1970年代末和1980年代初。
负载carbig
创建一个表包含预测变量加速度,气缸,等等。
台=表(加速度、汽缸、排量、马力、Model_Year重量);
火车的黑箱模型英里/加仑通过使用TreeBagger函数。
rng (“默认”)%的再现性Mdl = TreeBagger(100台,英里/加仑,“方法”,“回归”,“CategoricalPredictors”[2 - 5]);
沙普利不支持金宝appTreeBagger直接对象,所以你不能指定第一个输入参数(黑箱模型)沙普利作为一个TreeBagger对象。相反,您可以使用一个函数句柄预测函数。您还可以指定选项的预测函数使用名称-值参数的函数。
创建函数句柄预测的函数TreeBagger对象Mdl。指定要使用的树索引数组1:50。
f = @(台)预测(Mdl、台、“树”、1:50);
创建一个沙普利对象使用函数处理f。当你指定一个黑箱模型作为处理函数,您必须提供预测数据。资源描述包括分类预测(油缸和Model_Year)双数据类型。默认情况下,沙普利没有对变量双数据类型分类预测。指定第二个(油缸)、五(Model_Year)作为分类预测变量。
讲解员=沙普利(f(资源“CategoricalPredictors”[2 - 5]);讲解员=适合(讲解员,台(1:));
情节夏普利值。
情节(讲解员)
