filloutliers
检测并替换数据中的异常值
语法
描述
中发现异常值B
= filloutliers (一个
,fillmethod
)一个
并替换它们fillmethod
.例如,filloutliers (A,“之前”)
用之前的非离群值元素替换离群值。
如果
一个
是矩阵吗filloutliers
的每一列一个
分开。如果
一个
那么是多维数组吗filloutliers
的第一个维度一个
它的大小不等于1。如果
一个
那是桌子还是时间表呢filloutliers
的每个变量一个
分开。
默认情况下,离群值是一个超过三倍的值绝对偏差中位数从中位数开始。
指定用于检测异常值的方法。例如,B
= filloutliers (一个
,fillmethod
,findmethod
)filloutliers (A,“之前”,“的意思是”)
的元素定义异常值一个
超过3个标准差。
中将异常值定义为中指定的百分位数之外的点B
= filloutliers (一个
,fillmethod
、“百分位数”、阈值
)阈值
.的阈值
参数是包含较低和较高百分位阈值的两元素行向量,例如[90]
.
使用移动窗口平均值或具有窗口长度的中值检测局部异常值B
= filloutliers (一个
,fillmethod
,movmethod
,窗口
)窗口
.例如,filloutliers (A,“以前”、“movmean”,5)
将异常值标识为五个元素窗口内超出局部平均值三个局部标准偏差的元素。
例子
插值向量中的异常值
方法填充数据向量中的异常值“线性”
方法,并可视化填充的数据。
创建包含两个异常值的数据向量。
A = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];
使用线性插值替换异常值。
B = filloutliers(A,“线性”);
绘制原始数据和填满异常值的数据。
情节(A)在情节(B,“啊——”)传说(“原始数据”,“填充数据”)
使用均值检测和最近填充方法
在数据表中识别潜在的异常值,使用“最近的”
填充方法,并可视化清理的数据。
创建一个数据时间表,并可视化数据以检测潜在的异常值。
T =小时(1:15);V = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];A =时间表(T',V');情节(A.Time A.Var1)
在数据中填充异常值,其中异常值被定义为距离平均值超过三个标准差的点。用最近的非离群值元素替换离群值。
B = filloutliers(A,“最近的”,“的意思是”)
B =15×1的时间表时间Var1 _____ ____ 1小时57 2小时59 3小时60 4小时100 5小时59 6小时58 7小时57 8小时58 9小时61 10小时61 11小时62 12小时60 13小时62 14小时58 15小时57
在同一图表中,绘制原始数据和填充了异常值的数据。
持有在情节(B.Time B.Var1,“啊——”)传说(“原始数据”,“填充数据”)
使用移动检测方法
使用移动中值来检测和填充与时间向量对应的正弦波中的局部异常值。
创建一个包含本地离群值的数据向量。
X = -2*pi:0.1:2*pi;A = sin(x);A(47) = 0;
中数据对应的时间向量一个
.
t = datetime(2017 1 1 0, 0, 0) +小时(0:长度(x) 1);
将异常值定义为滑动窗口内局部中值到局部缩放MAD超过三个的点。找到异常值的位置一个
相对于里面的点t
窗口大小为5小时。使用该方法将计算出的阈值填充为离群值“剪辑”
.
[B,TF,L,U,C] = filloutliers(A,“剪辑”,“movmedian”小时(5),“SamplePoints”t);
绘制原始数据和填满异常值的数据。
情节(t)在情节(t, B,“啊——”)传说(“原始数据”,“填充数据”)
在矩阵行中填充异常值
在对角线上创建一个包含异常值的数据矩阵。
A = randn(1,5) + diag(1000*ones(1,5))
一个=5×5103.× 1.0005 -0.0013 -0.0013 -0.0002 0.0007 0.0018 0.9996 0.0030 -0.0001 -0.0012 -0.0023 0.0003 1.0007 0.0015 0.0007 0.0009 0.0036 -0.0001 1.0014 0.0016 0.0003 0.0028 0.0007 0.0014 1.0005
根据每行中的数据用零填充离群值,并显示新值。
[B,TF] = filloutliers(A,0,2);B
B =5×50 -1.3077 -1.3499 -0.2050 0.6715 1.8339 0 3.0349 -0.1241 -1.2075 -2.2588 0.3426 0 1.4897 0.7172 0.8622 3.5784 -0.0631 0 1.6302 0.3188 2.7694 0.7147 1.4172 0
您可以使用。来访问检测到的异常值及其填充值特遣部队
作为一个下标向量。
((TF) B (TF))
ans =5×2103.× 1.0005 0 0.9996 0 1.0007 0 1.0014 0 1.0005 0
指定离群点位置
创建一个包含两个异常值的向量并检测它们的位置。
A = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];detect = isoutlier(A)
检测=1x15逻辑阵列0 0 0 1 0 0 0 1 0 0 0 0 0 0 0
属性填充离群值“最近的”
方法。不使用检测方法,而是提供由检测到的异常值位置isoutlier
.
B = filloutliers(A,“最近的”,“OutlierLocations”、检测)
B =1×1557 59 60 59 59 58 57 58 61 61 62 60 62 58 57
返回异常值阈值
属性替换数据向量中的离群值“剪辑”
填充方法。
创建一个具有异常值的数据向量。
A = [60 59 49 49 58 100 61 57 48 58];
使用默认方法检测异常值“中值”
方法将异常值替换为上阈值“剪辑”
填充方法。
[B,TF,L,U,C] = filloutliers(A,“剪辑”);
绘制原始数据,填充了异常值的数据,以及异常值检测方法确定的阈值和中心值。中心值为数据的中位数,上下限阈值为中位数上下三个比例MAD。
情节(A)在情节(B,“啊——”) yline([L U C],”:“, (“低门槛”,“上阈值”,“中心价值”])传说(“原始数据”,“填充数据”)
输入参数
一个
- - - - - -输入数据
向量|矩阵|多维数组|表格|时间表
输入数据,指定为矢量、矩阵、多维数组、表格或时间表。
如果
一个
是一个表,那么它的变量必须是类型双
或单
,或者使用DataVariables
参数的列表双
或单
显式变量。当您使用包含非数据类型变量的表时,指定变量非常有用双
或单
.如果
一个
那么,有时间表吗filloutliers
仅对表元素进行操作。如果使用行时间作为样本点,那么它们必须是唯一的,并按升序列出。
数据类型:双
|单
|表格
|时间表
fillmethod
- - - - - -填补方法
数字标量|“中心”
|“剪辑”
|“以前”
|“下一个”
|“最近的”
|“线性”
|“样条”
|“pchip”
|“makima”
替换异常值的填充方法,指定为这些值之一。
填补方法 | 描述 |
---|---|
数字标量 | 指定的标量值 |
“中心” |
中心值由findmethod |
“剪辑” |
所确定的元素小于下阈值的下阈值findmethod ;元素的上阈值大于由findmethod |
“以前” |
之前的非异常值 |
“下一个” |
下一个非异常值 |
“最近的” |
最近的非离群值 |
“线性” |
相邻非离群值的线性插值 |
“样条” |
分段三次样条插值 |
“pchip” |
保形分段三次样条插值 |
“makima” |
修正Akima立方Hermite插值(数字,持续时间 ,datetime 仅限数据类型) |
数据类型:双
|单
|字符
|字符串
findmethod
- - - - - -检测异常值的方法
“中值”
(默认)|“的意思是”
|“四分位数”
|“拉布”
|“gesd”
检测异常值的方法,指定为这些值之一。
方法 | 描述 |
---|---|
“中值” |
离群值定义为距离中值超过三个比例MAD的元素。缩放后的MAD定义为c *值(abs(中位数(A))) ,在那里c = 1 /(√(2)* erfcinv (3/2)) . |
“的意思是” |
离群值被定义为超出平均值三个标准偏差的元素。这种方法更快,但健壮性较差“中值” . |
“四分位数” |
异常值被定义为高于上四分位数(75%)或低于下四分位数(25%)的1.5个四分位数区间的元素。此方法在数据丢失时非常有用一个 不是正态分布的。 |
“拉布” |
使用Grubbs测试检测异常值,该测试基于假设测试,每次迭代删除一个异常值。该方法假定数据在一个 正态分布。 |
“gesd” |
异常值检测使用广义极端学生化偏差检验异常值。这种迭代方法类似于“拉布” 但当多个异常值相互掩盖时,性能会更好。 |
阈值
- - - - - -百分位阈值
二元行向量
百分比阈值,指定为两个元素的行向量,其元素位于区间[0,100]中。第一个元素表示较低的百分比阈值,第二个元素表示较高的百分比阈值。的第一个元素阈值
必须小于第二个元素。
例如,阈值为[90]
将异常值定义为低于第10百分位和高于第90百分位的点。
movmethod
- - - - - -移动的方法
“movmedian”
|“movmean”
检测异常值的移动方法,指定为这些值之一。
方法 | 描述 |
---|---|
“movmedian” |
离群值定义为在指定的窗口长度上,从局部中值开始超过三个局部缩放MAD的元素窗口 .这种方法也被称为aHampel过滤器. |
“movmean” |
异常值定义为在指定的窗口长度内,与局部平均值相比超过三个局部标准偏差的元素窗口 . |
窗口
- - - - - -窗口长度
正整数标量|正整数的两元向量|正持续时间标量|正持续时间的两元向量
窗口长度,指定为正整数标量、正整数的两个元素向量、正持续时间标量或正持续时间的两个元素向量。
当窗口
是正整数标量,窗口围绕当前元素居中并包含窗口1
相邻的元素。如果窗口
为偶数时,则窗口以当前元素和以前的元素为中心。
当窗口
两元向量是正整数吗f [b]
,该窗口包含当前元素,b
元素向后,和f
元素。
当一个
是时间表还是SamplePoints
指定为datetime
或持续时间
向量,窗口
必须有类型持续时间
,窗口是相对于样本点计算的。
昏暗的
- - - - - -操作维度
正整数标量
操作维度,指定为正整数标量。如果未指定值,则默认为第一个大小不等于1的数组维数。
考虑一个米
——- - - - - -n
输入矩阵,一个
:
filloutliers (fillmethod, 1)
的每一列数据填充异常值一个
并返回米
——- - - - - -n
矩阵。filloutliers (fillmethod, 2)
的每一行数据填充异常值一个
并返回米
——- - - - - -n
矩阵。
对于表格或时间表输入数据,昏暗的
不支持,操作将金宝app分别沿着每个表或时间表变量进行。
名称-值参数
指定可选参数对为Name1 = Value1,…,以=家
,在那里的名字
参数名称和价值
对应的值。名称-值参数必须出现在其他参数之后,但对的顺序无关紧要。
例子:filloutliers (A,“中心”、“意思”,ThresholdFactor = 4)
在R2021a之前,使用逗号分隔每个名称和值,并将其括起来的名字
在报价。
例子:filloutliers (A,“中心”、“意思”,“ThresholdFactor”,4)
SamplePoints
- - - - - -采样点
向量|表变量名|标量|函数处理|表格vartype
下标
样本点,指定为样本点值的向量,如果输入数据是表格,则指定为下表中的选项之一。样本点代表x数据的-轴位置,并且必须排序并包含唯一的元素。采样点不需要均匀采样。向量[1 2 3…]
是默认值。
当输入数据是一个表时,您可以使用这些选项之一将样本点指定为表变量。
表格输入选项 | 描述 | 例子 |
---|---|---|
变量名 | 指定单个表变量名的字符向量或标量字符串 |
|
标量变量索引 | 标量表变量索引 |
|
逻辑向量 | 一种逻辑向量,其每个元素对应于一个表变量,其中 |
|
函数处理 | 接受表变量作为输入并返回逻辑标量(必须为)的函数句柄 |
|
vartype 下标 |
类生成的表下标 |
|
请注意
输入数据为时,不支持此名称-值参数金宝app时间表
.时间表使用行时间向量作为样本点。若要使用不同的抽样点,必须编辑时间表,使行时间包含所需的抽样点。
移动窗口是相对于样本点定义的。例如,如果t
那么,乘以向量是否对应于输入数据filloutliers(兰德(1 10)“之前”,“movmean”、3、“SamplePoints”,t)
是否有一个表示时间间隔的窗口-1.5 t(我)
而且t(我)+ 1.5
.
当样本点向量有数据类型时datetime
或持续时间
时,移动窗口长度必须有类型持续时间
.
例子:filloutliers([1 100 3 4],"nearest","SamplePoints",[1 2.5 3 4])
例子:filloutliers (T,“最近”、“SamplePoints”,“Var1”)
数据类型:单
|双
|datetime
|持续时间
DataVariables
- - - - - -要操作的表变量
表变量名|标量|向量|单元阵列|函数处理|表格vartype
下标
要操作的表变量,指定为此表中的选项之一。的DataVariables
Value指示要填充输入表中的哪些变量。与指定变量关联的数据类型必须为双
或单
.
表中未指定的其他变量DataVariables
传递到输出而不被填充。
选项 | 描述 | 例子 |
---|---|---|
变量名 | 指定单个表变量名的字符向量或字符串标量 |
|
变量名向量 | 字符向量或字符串数组的单元格数组,其中每个元素都是一个表变量名 |
|
变量指标的标量或向量 | 表变量索引的标量或向量 |
|
逻辑向量 | 一种逻辑向量,其每个元素对应于一个表变量,其中 |
|
函数处理 | 接受表变量作为输入并返回逻辑标量的函数句柄 |
|
vartype 下标 |
类生成的表下标 |
|
例子:filloutliers(A,"previous","DataVariables",["Var1" "Var2" "Var4"])
ReplaceValues
- - - - - -替换值指示器
真正的
或1
(默认)|假
或0
替换值指示符,指定为这些逻辑值或数值之一时一个
表或时间表:
真正的
或1
-将包含异常值的输入表变量替换为已填充的表变量。假
或0
-在输入表中添加所有检查过异常值的表变量。附加变量中的异常值将被填充。
对于向量、矩阵或多维数组输入数据,ReplaceValues
不支持。金宝app
例子:filloutliers (T,“以前”、“ReplaceValues”,假)
ThresholdFactor
- - - - - -检测阈值因子
负的标量
检测阈值因子,指定为非负标量。
为方法“中值”
而且“movmedian”
,检测阈值因子替换缩放后的MAD个数,默认为3。
为方法“的意思是”
而且“movmean”
,检测阈值因子替换均值的标准差数,默认为3。
为方法“拉布”
而且“gesd”
,检测阈值因子为0 ~ 1之间的标量。接近0的值会导致离群值的数量减少,接近1的值会导致离群值的数量增加。默认检测阈值因子为0.05。
为“四分位数”
方法,检测阈值因子替换四分位范围的数量,默认为1.5。
当指定方法为时,不支持此名称-值参数金宝app“百分位数”
.
MaxNumOutliers
- - - - - -由GESD填充的最大异常值
正整数标量
由GESD填充的最大异常值,指定为正整数标量。的MaxNumOutliers
属性填充的离群值的最大数目“gesd”
方法。例如,filloutliers (A,“线性”,“gesd”,“MaxNumOutliers”,5)
填充不超过5个异常值。
的默认值MaxNumOutliers
这个整数是否最接近其中元素数量的10%一个
.为最大离群值设置较大的值会使检测到所有离群值的可能性更大,但代价是降低计算效率。
的“gesd”
方法假定非离群值输入数据是从近似正态分布采样的。当数据没有以这种方式采样时,填充的异常值的数量可能超过MaxNumOutliers
价值。
OutlierLocations
- - - - - -已知异常值指标
向量|矩阵|多维数组
已知的异常值指示器,指定为逻辑向量、矩阵或大小相同的多维数组一个
.已知的异常值指示器元素可以是真正的
在…的相应位置标明一个异常值一个
或假
否则。当你指定OutlierLocations
,rmoutliers
不使用异常值检测方法。相反,它使用已知离群值指示器的元素来定义离群值。输出射频
包含相同的逻辑向量、矩阵或多维数组。
您不能指定OutlierLocations
名称-值参数findmethod
.
数据类型:逻辑
输出参数
B
-填充数据
向量|矩阵|多维数组|表|时间表
填满的数据,以矢量、矩阵、多维数组、表格或时间表的形式返回。
B
尺寸和一个
除非ReplaceValues
是假
.如果的值ReplaceValues
是假
的宽度B
输入数据宽度与指定的数据变量数量的和。
特遣部队
-填充数据指示灯
向量|矩阵|多维数组
已填充的数据指示器,以向量、矩阵或多维数组的形式返回。值为1 (真正的
)对应于的填充元素B
这是以前的异常值。值为0 (假
)对应于不变的元素。
特遣部队
尺寸和B
.
数据类型:逻辑
l
-低阈值
标量|向量|矩阵|多维数组|表|时间表
离群值检测方法使用的较低阈值,以标量、向量、矩阵、多维数组、表或时间表的形式返回。例如,默认异常值检测方法的下限阈值为输入数据中位数以下3个MAD。
如果findmethod
用于异常值检测,那么l
尺寸和一个
在所有维度中,除了长度为1的操作维度。如果movmethod
则使用l
尺寸和一个
.
U
—上限阈值
标量|向量|矩阵|多维数组|表|时间表
异常值检测方法使用的上限阈值,以标量、向量、矩阵、多维数组、表或时间表的形式返回。例如,默认的异常值检测方法的上限阈值是输入数据的中位数上三个MAD。
如果findmethod
用于异常值检测,那么U
尺寸和一个
在所有维度中,除了长度为1的操作维度。如果movmethod
则使用U
尺寸和一个
.
C
-中心值
标量|向量|矩阵|多维数组|表|时间表
离群值检测方法使用的中心值,以标量、向量、矩阵、多维数组、表或时间表的形式返回。例如,默认异常值检测方法的中心值为输入数据的中位数。
如果findmethod
用于异常值检测,那么C
尺寸和一个
在所有维度中,除了长度为1的操作维度。如果movmethod
则使用C
尺寸和一个
.
更多关于
绝对偏差中位数
对于一个有限长度的向量一个由N标量观测时,中位数绝对偏差(MAD)定义为
为i = 1,2,…,N.
缩放后的MAD定义为c *值(abs(中位数(A)))
,在那里c = 1 /(√(2)* erfcinv (3/2))
.
参考文献
[1]NIST/SEMATECH统计方法电子手册, https://www.itl.nist.gov/div898/handbook/, 2013。
扩展功能
高大的数组
使用行数超过内存容量的数组进行计算。
使用注意事项和限制:
的
“百分位数”
,“拉布”
,“gesd”
方法不受支持。金宝app的
“movmedian”
而且“movmean”
方法不支持高时间表。金宝app的
SamplePoints
而且MaxNumOutliers
不支持名称-值参数。金宝app的价值
DataVariables
不能是函数句柄。计算
fillmethod filloutliers(一个)
,filloutliers (fillmethod,“中位数”,…)
或filloutliers (fillmethod,“四分位数”,…)
沿第一个维度仅当金宝app一个
是一个高列向量。的语法
filloutliers(“样条”,…)
而且filloutliers(“makima”,…)
不支持。金宝app
有关更多信息,请参见高大的数组.
C/ c++代码生成
使用MATLAB®Coder™生成C和c++代码。
使用注意事项和限制:
的
ReplaceValues
不支持名称-值参数。金宝app的
“movmean”
而且“movmedian”
检测异常值的方法不支持时间表输入数据datetime金宝appSamplePoints
值,或持续时间SamplePoints
值。只有
“中心”
,“剪辑”
时,支持填充异常值的数值标量方法金宝appSamplePoints
值具有类型datetime
或持续时间
.使用
“样条”
而且“pchip”
填充方法,必须启用对可变大小数组的支持。金宝app字符串和字符数组输入必须是常量。
的
“makima”
选项不支持。金宝app
线程环境
使用MATLAB®在后台运行代码backgroundPool
或使用并行计算工具箱™加速代码ThreadPool
.
这个函数完全支持基于线程的环境。金宝app有关更多信息,请参见在线程环境中运行MATLAB函数.
版本历史
在R2017a中引入R2022a:追加填充值
对于表或时间表输入数据,将检查过异常值的所有表变量附加到输入表中。附加变量中的异常值将被填充。属性附加而不是替换表变量ReplaceValues
参数的名称-值假
.
R2021b:指定样本点作为表变量
属性将样本点指定为表变量SamplePoints
名称-值参数。
另请参阅
功能
实时编辑任务
应用程序
MATLAB命令
你点击了一个对应于这个MATLAB命令的链接:
在MATLAB命令窗口中输入该命令来运行该命令。Web浏览器不支持MATLAB命令。金宝app
您也可以从以下列表中选择一个网站:
如何获得最佳的网站性能
选择中国站点(中文或英文)以获得最佳站点性能。其他MathWorks国家站点没有针对您所在位置的访问进行优化。