卡索practicos

麻省理工学院CSAIL的研究人员开发了视频处理算法来放大细微的运动和颜色变化

挑战

分析视频,以检测和放大细微的运动和颜色变化

解决方案

使用MATLAB开发和细化空间分解和时间滤波算法,并行计算工具箱加速其执行,MATLAB编译器将其打包为独立软件

结果

  • 与其他研究人员的合作得到了改善
  • 多个实验并行运行
  • 支持与其他编程语言的集成

“对于我们的团队来说,MATLAB的主要优势包括能够快速原型化我们的算法,使用强大的可视化工具调试它们,然后轻松地与视觉研究社区的其他人共享代码。”

Michael Rubinstein,麻省理工学院计算机科学和人工智能实验室

麻省理工学院计算机科学和人工智能实验室(CSAIL)的研究人员已经开发出视频放大算法,这种算法可以使肉眼几乎察觉不到的变化,如运动和颜色变化。该团队最初开发的技术是通过检测每一次脉搏引起的皮肤颜色的细微变化,从视频流中测量心跳。随后,他们将其用于许多其他应用,包括研究一个振动物体的视频,以重建周围的声音或估计物体的材料属性。

CSAIL团队使用了MATLAB®开发、改进和部署它们视频放大算法

“像许多研究团队和大学一样,我们重视快速测试想法的能力,”CSAIL研究附属机构的迈克尔•鲁宾斯坦(Michael Rubinstein)表示。“使用MATLAB,我可以快速编写一个原型算法,看看它是否有效。然后我可以与学生和合作者分享,以进一步构建和完善原型。”

挑战

摄像机不是最好的传感器来检测细微的颜色变化或振动,其中许多出现在视频记录的强度极其微小的变化。为了检测这些微妙的信号,研究小组需要实现空间滤波算法,将单个像素测量值进行聚合。他们还需要时间过滤算法来分析这些聚集如何随时间变化。

在开发了初始算法之后,团队需要通过使用多个计算核心来并行处理多个帧或测试算法的多个配置来加速它们的执行。此外,研究人员希望与其他视觉研究人员共享他们的代码,并使任何人都能使用他们的方法处理视频。

解决方案

CSAIL的研究人员在MATLAB中开发了视频放大算法,使用并行计算工具箱™加速它们,并使用MATLAB编译器™部署它们。

该团队使用MATLAB和Image Processing Toolbox™进行图像处理,实现了一个初始空间分解算法,该算法在多个尺度上分析每个像素周围的区域,以生成帧中该点的颜色的精确测量。为了提高精度,他们后来更新了这个算法,利用应用于帧的局部小波计算的图像子带的(空间)相位变化,而不是直接使用颜色。

部分空间分解算法是基于另一所大学的研究人员编写的代码。该团队将这些包含MATLAB和MEX函数的代码合并到他们的MATLAB实现中。

对于时间滤波算法,团队使用MATLAB和DSP System Toolbox™对空间分解生成的信号应用傅里叶变换和巴特沃斯等通带滤波器。这种过滤使算法能够通过聚焦于研究人员想要放大或分析的运动或颜色变化的特定频率范围来降低噪声。

在算法开发过程中,该团队在MATLAB中生成图形来可视化信号。

使用并行计算工具箱,该团队通过在一台24核计算机上同时处理多个帧来加速算法的执行。他们还并行进行了多个实验,以快速测试和调整算法参数。

在与其他研究人员分享了他们的结果和MATLAB代码之后,CSAIL的研究人员使用MATLAB Compiler为Windows创建了独立版本的算法®, Linux®以及Mac OS X操作系统。任何人都可以使用这些版本,即使他们没有安装MATLAB。

结果

  • 与其他研究人员的合作得到了改善。“计算机视觉领域的许多研究人员都使用MATLAB,”鲁宾斯坦说。MATLAB代码通常比c++代码更容易阅读,因此受到该项目启发的学生或其他研究人员可以下载并理解代码。对我们来说,编译任何人都可以使用的可执行文件很简单。”
  • 多个实验并行运行。鲁宾斯坦指出:“我们研究的很大一部分是尝试和应用不同的想法和算法来测试哪一种效果更好。”“Parallel Computing Toolbox为我们提供了一种非常简单、可行的方法,可以并行运行多个实验或并行处理多个帧——通常只需将for循环更改为parforloop即可。”
  • 支持与其他编程语言的集成。“我们使用的许多MATLAB函数为我们的需求提供了足够的性能,”Rubinstein说。“如果我们确实需要加速某个算法的特定部分,MATLAB为我们提供了灵活性,可以用c++编写它,并将其作为一个MEX函数,这可以方便地从MATLAB代码中调用。”

麻省理工学院是全球1300所提供校园范围内的MATLAB和Simulink的大学之一。金宝app通过校园范围许可,研究人员、教师和学生可以访问最新版本级别的产品的公共配置,以便在任何地方使用——在教室、在家里、在实验室或在现场。下载188bet金宝搏