从系列:理解小波
小波散射网络帮助您从信号和图像中获得低方差特征,用于机器学习和深度学习应用。分散的网络可以帮助您自动获得最小化类内差异的特性,同时保持类之间的区别性。散射网络和深度学习框架之间的一个重要区别是,过滤器是先验定义的,而不是像深度卷积网络那样被学习。由于在学习滤波器时不需要进行散射变换,因此在缺乏训练数据的情况下,通常可以成功地使用散射。您还可以可视化和解释小波散射网络提取的特征。一旦特征被提取出来,你就可以训练和评估各种机器学习算法,比如支持向量机(support vector machine, SVM)和随机森林(random forest),或者深度学习算法,比如长短期记忆(lon金宝appg - short memory, LSTM)网络。
在这段视频中,我们将讨论小波散射变换,以及如何将它用作自动稳健的分类特征提取器。我们将涵盖小波散射技术的工作信号,但同样的技术也可以应用到图像。
小波散射在深度卷积网络中得到了最好的理解,你们中的一些人可能已经熟悉了。
在较高的层次上,深度卷积网络过滤数据,应用一些非线性,并对输出进行池化或平均。重复这些步骤来形成图层。
深度cnn面临一些挑战:
首先:这些模型通常需要大量的数据集和重要的计算资源来进行培训和评估。
其次:通常,您必须为您的网络选择许多设置,这些设置不会独立地影响性能。
最后:很难理解和解释所提取的特征。
现在您有了这些背景知识,让我们看看小波散射是如何解决这些挑战的。
使用小波散射网络的动机是从一组已知的滤波器开始的,因为完全训练过的网络中的滤波器通常类似于小波滤波器。
主要区别在于卷积神经网络的滤波器权值是学习的,而小波散射网络的滤波器权值是固定的。
现在,让我们深入了解网络的细节:
首先用小波低通滤波器对输入信号进行平均。这是0层散射特性。使用平均操作,你失去了信号中的高频细节。
通过对信号进行连续小波变换以生成一组尺度图系数,在随后的层中捕获在第一步中丢失的细节。对尺度图系数应用非线性算子(在这种情况下是模量),然后用小波低通滤波器对输出进行滤波,生成一组第一层散射系数。
重复同样的过程得到第2层散射系数。也就是说,前一层的尺度图系数的输出将成为下一层操作的输入。然后应用相同的模算子,用小波低通函数对输出进行滤波,得到第二层散射系数。
在散射网络中可以有超过三层,但在实践中,能量会随着每次迭代而耗散,因此对于大多数应用程序来说,三层就足够了。系数通常是下采样,以减少网络的计算复杂度。这些系数统称为散射特征。您还可以可视化并解释这些特性。
小波散射网络被称为深网络,因为它完成了形成深网络的三个主要任务:
卷积,非线性,和池化
在这种情况下,卷积由小波执行,模算子作为非线性,小波低通滤波器的滤波类似于池化。
通过这种方式,您可以使用从小波散射网络获得的特征,并构建可以对数据进行分类的模型。有关更多信息和示例,请参阅小波工具箱的文档部分。
您也可以从以下列表中选择一个网站:
选择中国网站(中文或英文)以获得最佳网站表现。其他MathWorks国家网站不适合从您的位置访问。