rmoutliers
检测并移除数据中的异常值
语法
描述
例子
从向量中移除异常值
创建一个包含两个异常值的向量并删除它们。
A = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];B = routliers (A)
B =1×1357 59 60 59 58 57 58 61 62 60 62 58 57
使用均值检测方法
使用均值检测方法识别数据时间表中的潜在异常值,删除任何异常值,并将清理后的数据可视化。
创建一个数据时间表,并可视化数据以检测潜在的异常值。
T =小时(1:15);V = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];A =时间表(T',V');情节(A.Time A.Var1)
去除数据中的异常值,其中异常值被定义为距离平均值超过三个标准差的点。
B = routliers (A,“的意思是”)
B =14×1的时间表时间Var1 _____ ____ 1小时57 2小时59 3小时60 4小时100 5小时59 6小时58 7小时57 8小时58 10小时61 11小时62 12小时60 13小时62 14小时58 15小时57
在同一图表中,绘制原始数据和去除异常值后的数据。
持有在情节(B.Time B.Var1,“啊——”)传说(“原始数据”,“清除数据”)
使用移动检测方法
使用移动中值来检测和去除与时间向量对应的正弦波中的局部异常值。
创建一个包含本地离群值的数据向量。
X = -2*pi:0.1:2*pi;A = sin(x);A(47) = 0;
中数据对应的时间向量一个
.
t = datetime(2017 1 1 0, 0, 0) +小时(0:长度(x) 1);
将异常值定义为滑动窗口内局部中值到局部缩放MAD超过三个的点。找到异常值的位置一个
相对于里面的点t
窗口大小为5小时,并删除它们。
[B,TFrm] = routliers (A,“movmedian”小时(5),“SamplePoints”t);
绘制原始数据和去除异常值后的数据。
情节(t)在情节(t (~ TFrm), B,“啊——”)传说(“原始数据”,“清除数据”)
删除包含异常值的列
从数据矩阵中删除异常值,并检查删除的列和异常值。
创建一个包含两个异常值的矩阵。
A =魔术(5);A(4,4) = 200;A(5,5) = 300;一个
一个=5×517 24 18 15 23 5 7 14 16 4 6 13 20 22 10 12 19 200 3 11 18 25 2 300
通过将删除的维度指定为2来删除包含异常值的列。返回一个逻辑输出向量TFrm
来识别哪些列一个
被删除,并返回一个逻辑输出数组TFoutlier
以确定异常值的位置一个
.
[B,TFrm, toutlier] = routlier (A,2)
B =5×317 24 1 23 5 7 4 6 13 10 12 19 11 18 25
TFrm =1x5逻辑阵列0 0 0 1 1
TFoutlier =5x5逻辑阵列0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1
的删除列中的值一个
.
rmCol = A(:,TFrm)
rmCol =5×28 15 14 16 20 22 200 3 2 300
中异常值的值一个
.
rmVal = A(toutlier)
rmVal =2×1200 300
指定离群点位置
创建一个包含两个异常值的向量并检测它们的位置。
A = [57 59 60 100 59 58 57 58 300 61 62 60 62 58 57];detect = isoutlier(A)
检测=1x15逻辑阵列0 0 0 1 0 0 0 1 0 0 0 0 0 0 0
移除异常值。不使用检测方法,而是提供由检测到的异常值位置isoutlier
.
B = routliers (A,“OutlierLocations”、检测)
B =1×1357 59 60 59 58 57 58 61 62 60 62 58 57
可视化离群阈值
从数据向量中删除一个异常值,并将清理后的数据可视化。
创建一个包含异常值的数据向量。
A = [60 59 49 49 58 100 61 57 48 58];
使用默认检测方法删除异常值“中值”
.
[B,TFrm, toutlier,L,U,C] = routlier (A);
绘制原始数据、剔除异常值后的数据、检测方法确定的阈值和中心值。中心值为数据的中位数,上下限阈值为中位数上下三个比例MAD。
情节(A)在情节(找到(~ TFrm), B,“啊——”) yline([L U C],”:“,[“低门槛”,“上阈值”,“中心价值”])传说(“原始数据”,“清除数据”)
输入参数
一个
- - - - - -输入数据
向量|矩阵|表格|时间表
输入数据,指定为矢量、矩阵、表格或时间表。
如果
一个
是一个表,那么它的变量必须是类型双
或单
,或者使用DataVariables
参数的列表双
或单
显式变量。当您使用包含非数据类型变量的表时,指定变量非常有用双
或单
.如果
一个
那么,有时间表吗rmoutliers
仅对表元素进行操作。如果使用行时间作为样本点,那么它们必须是唯一的,并按升序列出。
数据类型:双
|单
|表格
|时间表
方法
- - - - - -检测异常值的方法
“中值”
(默认)|“的意思是”
|“四分位数”
|“拉布”
|“gesd”
检测异常值的方法,指定为这些值之一。
方法 | 描述 |
---|---|
“中值” |
离群值定义为距离中值超过三个比例MAD的元素。缩放后的MAD定义为c *值(abs(中位数(A))) ,在那里c = 1 /(√(2)* erfcinv (3/2)) . |
“的意思是” |
离群值被定义为超出平均值三个标准偏差的元素。这种方法更快,但健壮性较差“中值” . |
“四分位数” |
异常值被定义为高于上四分位数(75%)或低于下四分位数(25%)的1.5个四分位数区间的元素。此方法在数据丢失时非常有用一个 不是正态分布的。 |
“拉布” |
使用Grubbs离群值检验检测离群值,基于假设检验每次迭代删除一个离群值。该方法假定数据在一个 正态分布。 |
“gesd” |
异常值检测使用广义极端学生化偏差检验异常值。这种迭代方法类似于“拉布” 但当有多个异常值相互掩盖时,性能会更好。 |
阈值
- - - - - -百分位阈值
二元行向量
百分比阈值,指定为两个元素的行向量,其元素位于区间[0,100]中。第一个元素表示较低的百分比阈值,第二个元素表示较高的百分比阈值。的第一个元素阈值
必须小于第二个元素。
例如,阈值为[90]
将异常值定义为低于第10百分位和高于第90百分位的点。
movmethod
- - - - - -移动的方法
“movmedian”
|“movmean”
检测异常值的移动方法,指定为这些值之一。
方法 | 描述 |
---|---|
“movmedian” |
离群值定义为在指定的窗口长度上,从局部中值开始超过三个局部缩放MAD的元素窗口 .这种方法也被称为aHampel过滤器. |
“movmean” |
异常值定义为在指定的窗口长度内,与局部平均值相比超过三个局部标准偏差的元素窗口 . |
窗口
- - - - - -窗口长度
正整数标量|正整数的两元向量|正持续时间标量|正持续时间的两元向量
窗口长度,指定为正整数标量、正整数的两个元素向量、正持续时间标量或正持续时间的两个元素向量。
当窗口
是正整数标量,窗口围绕当前元素居中并包含窗口1
相邻的元素。如果窗口
为偶数时,则窗口以当前元素和以前的元素为中心。
当窗口
两元向量是正整数吗f [b]
,该窗口包含当前元素,b
元素向后,和f
元素。
当一个
是时间表还是SamplePoints
指定为datetime
或持续时间
向量,窗口
必须有类型持续时间
,窗口是相对于样本点计算的。
昏暗的
- - - - - -拆卸尺寸
1(默认)|2
移除的尺寸,指定为1或2。默认情况下,rmoutliers
删除具有检测到的离群值的每一行。若要删除检测到异常值的每个矩阵列或表变量,请指定维数为2。
名称-值参数
指定可选参数对为Name1 = Value1,…,以=家
,在那里的名字
参数名称和价值
对应的值。名称-值参数必须出现在其他参数之后,但对的顺序无关紧要。
例子:rmoutliers (ThresholdFactor = 4)
在R2021a之前,使用逗号分隔每个名称和值,并将其括起来的名字
在报价。
例子:rmoutliers(“ThresholdFactor”,4)
SamplePoints
- - - - - -采样点
向量|表变量名|标量|函数处理|表格vartype
下标
样本点,指定为样本点值的向量,或者当输入数据为表格时,指定为下表中的选项之一。样本点代表x数据的-轴位置,并且必须排序并包含唯一的元素。采样点不需要均匀采样。向量[1 2 3…]
是默认值。
当输入数据是一个表时,您可以使用这些选项之一将样本点指定为表变量。
表格输入选项 | 描述 | 例子 |
---|---|---|
变量名 | 指定单个表变量名的字符向量或标量字符串 |
|
标量变量索引 | 标量表变量索引 |
|
逻辑向量 | 一种逻辑向量,其每个元素对应于一个表变量,其中 |
|
函数处理 | 接受表变量作为输入并返回逻辑标量(必须为)的函数句柄 |
|
vartype 下标 |
类生成的表下标 |
|
请注意
输入数据为时,不支持此名称-值参数金宝app时间表
.时间表使用行时间向量作为样本点。若要使用不同的抽样点,必须编辑时间表,使行时间包含所需的抽样点。
移动窗口是相对于样本点定义的。例如,如果t
那么,乘以向量是否对应于输入数据rmoutliers(兰德(1 10)“movmean”、3、“SamplePoints”,t)
是否有一个表示时间间隔的窗口-1.5 t(我)
而且t(我)+ 1.5
.
当样本点向量有数据类型时datetime
或持续时间
,则移动窗口长度必须有类型持续时间
.
例子:rmoutliers(“SamplePoints”,0:0.1:10)
例子:rmoutliers (T,“SamplePoints”,“Var1”)
数据类型:单
|双
|datetime
|持续时间
DataVariables
- - - - - -要操作的表变量
表变量名|标量|向量|单元阵列|函数处理|表格vartype
下标
要操作的表变量,指定为此表中的选项之一。的DataVariables
Value指示要检查输入表的哪些变量以寻找异常值。与指定变量关联的数据类型必须为双
或单
.
表中未指定的其他变量DataVariables
传递到输出,而不检查异常值。
的行进行操作时一个
,rmoutliers
删除与指定变量对应的列中具有异常值的任何行。的列上操作时一个
,rmoutliers
从表中移除指定的变量。
选项 | 描述 | 例子 |
---|---|---|
变量名 | 指定单个表变量名的字符向量或字符串标量 |
|
变量名向量 | 字符向量或字符串数组的单元格数组,其中每个元素都是一个表变量名 |
|
变量指标的标量或向量 | 表变量索引的标量或向量 |
|
逻辑向量 | 一种逻辑向量,其每个元素对应于一个表变量,其中 |
|
函数处理 | 接受表变量作为输入并返回逻辑标量的函数句柄 |
|
vartype 下标 |
类生成的表下标 |
|
例子:rmoutliers(T,"DataVariables",["Var1" "Var2" "Var4"])
ThresholdFactor
- - - - - -检测阈值因子
负的标量
检测阈值因子,指定为非负标量。
为方法“中值”
而且“movmedian”
,检测阈值因子替换缩放后的MAD个数,默认为3。
为方法“的意思是”
而且“movmean”
,检测阈值因子替换均值的标准差数,默认为3。
为方法“拉布”
而且“gesd”
,检测阈值因子为0 ~ 1之间的标量。接近0的值会导致离群值的数量减少,接近1的值会导致离群值的数量增加。默认检测阈值因子为0.05。
为“四分位数”
方法,检测阈值因子替换四分位范围的数量,默认为1.5。
当指定的方法为时,不支持此名值对金宝app“百分位数”
.
OutlierLocations
- - - - - -已知异常值指标
向量|矩阵
已知的离群指标,指定为与之大小相同的逻辑向量或矩阵一个
.已知的异常值指示器元素可以是数字或逻辑1 (真正的
),以表示对应位置的离群值一个
或0 (假
)表示非异常值。当你指定OutlierLocations
,rmoutliers
不使用异常值检测方法。相反,它使用已知离群值指示器的元素来定义离群值。输出TFoutlier
包含相同的逻辑向量或矩阵。
您不能指定OutlierLocations
名称-值参数方法
.
数据类型:逻辑
MaxNumOutliers
- - - - - -GESD检测到的最大异常值
正整数标量
由GESD检测到的最大异常值,指定为正整数标量。的MaxNumOutliers
属性检测到的异常值的最大数目“gesd”
方法。例如,rmoutliers (A,“gesd”、“MaxNumOutliers”,5)
检测不超过5个异常值。
的默认值MaxNumOutliers
这个整数是否最接近其中元素数量的10%一个
.为最大离群值设置较大的值会使检测到所有离群值的可能性更大,但代价是降低计算效率。
的“gesd”
方法假定非离群值输入数据是从近似正态分布采样的。当数据未以这种方式采样时,检测到的异常值的数量可能超过MaxNumOutliers
价值。
MinNumOutliers
- - - - - -移除所需的最小离群值
1(默认)|正整数标量
移除所需的最小离群值,指定为正整数标量。的MinNumOutliers
Value指定删除行或列所需的离群值的最小数目。例如,rmoutliers(“MinNumOutliers”,3)
删除矩阵的一行一个
当在该行中检测到3个或更多异常值时。
输出参数
B
—除去异常值的数据
向量|矩阵|表|时间表
移除了异常值的数据,以矢量、矩阵、表格或时间表的形式返回。的大小B
取决于已删除的行或列的数量。
TFrm
-删除数据指示器
向量
删除数据指示器,作为逻辑向量返回。值为1 (真正的
)对应的行或列一个
都被移除了。值为0 (假
)对应于不变的行或列。的方向和大小TFrm
取决于一个
以及操作的维度。
数据类型:逻辑
TFoutlier
-异常值指标
向量|矩阵
异常值指示器,作为逻辑向量或矩阵返回。值为1 (真正的
)对应异常值的位置一个
.值为0 (假
)对应于非异常值。
TFoutlier
尺寸和一个
.
数据类型:逻辑
l
-低阈值
标量|向量|矩阵|表|时间表
异常值检测方法使用的较低阈值,以标量、向量、矩阵、表或时间表的形式返回。例如,默认异常值检测方法的下限阈值为输入数据中位数以下3个MAD。
如果方法
用于异常值检测,那么l
尺寸和一个
在所有维度中,除了长度为1的操作维度。如果movmethod
则使用l
尺寸和一个
.
U
—上限阈值
标量|向量|矩阵|表|时间表
异常值检测方法使用的上限阈值,以标量、向量、矩阵、表格或时间表的形式返回。例如,默认的异常值检测方法的上限阈值是输入数据的中位数上三个MAD。
如果方法
用于异常值检测,那么U
尺寸和一个
在所有维度中,除了长度为1的操作维度。如果movmethod
则使用U
尺寸和一个
.
C
-中心值
标量|向量|矩阵|表|时间表
异常值检测方法使用的中心值,以标量、向量、矩阵、表或时间表的形式返回。例如,默认异常值检测方法的中心值为输入数据的中位数。
如果方法
用于异常值检测,那么C
尺寸和一个
在所有维度中,除了长度为1的操作维度。如果movmethod
则使用C
尺寸和一个
.
扩展功能
高大的数组
使用行数超过内存容量的数组进行计算。
使用注意事项和限制:
的
“百分位数”
,“拉布”
,“gesd”
方法不受支持。金宝app的
“movmedian”
而且“movmean”
方法不支持高时间表。金宝app的
SamplePoints
而且MaxNumOutliers
不支持名称-值参数。金宝app的价值
DataVariables
不能是函数句柄。计算
rmoutliers (A)
,rmoutliers(“中位数”,…)
,或rmoutliers(“四分位数”,…)
沿第一个维度仅当金宝app一个
是一个高列向量。rmoutliers (2)
不支持高桌子。金宝app
有关更多信息,请参见高大的数组.
C/ c++代码生成
使用MATLAB®Coder™生成C和c++代码。
使用注意事项和限制:
的
“movmean”
而且“movmedian”
检测异常值的方法不支持时间表输入数据datetime金宝appSamplePoints
值,或持续时间SamplePoints
值。对于表输入数据,
昏暗的
必须等于1
.
线程环境
使用MATLAB®在后台运行代码backgroundPool
或使用并行计算工具箱™加速代码ThreadPool
.
这个函数完全支持基于线程的环境。金宝app有关更多信息,请参见在线程环境中运行MATLAB函数.
GPU数组
通过使用并行计算工具箱™在图形处理单元(GPU)上运行来加速代码。
使用注意事项和限制:
的
“movmedian”
不支持移动方法。金宝app的
SamplePoints
而且DataVariables
不支持名称-值参数。金宝app
有关更多信息,请参见在图形处理器上运行MATLAB函数(并行计算工具箱).
版本历史
在R2018b中引入R2022b:返回离群指标、下限阈值、上限阈值和中心值
您可以选择返回与输入数据中的异常值位置相对应的逻辑异常值指示器。您还可以返回异常值检测方法使用的下限阈值、上限阈值和中心值。
R2022b:定义离群点位置
用已知的离群值指示器定义输入数据中离群值的位置。属性可以定义离群值位置,而不是使用离群值检测方法OutlierLocations
与输入数据大小相同的逻辑数组的名称-值参数。
您不能指定OutlierLocations
名称-值参数方法
.
R2021b:指定样本点作为表变量
属性将样本点指定为表变量SamplePoints
名称-值参数。
另请参阅
功能
实时编辑任务
应用程序
MATLAB命令
你点击了一个对应于这个MATLAB命令的链接:
在MATLAB命令窗口中输入该命令来运行该命令。Web浏览器不支持MATLAB命令。金宝app
您也可以从以下列表中选择一个网站:
如何获得最佳的网站性能
选择中国站点(中文或英文)以获得最佳站点性能。其他MathWorks国家站点没有针对您所在位置的访问进行优化。