一个完全连接层增加输入权重矩阵,然后添加一个偏差向量。

卷积(和采样下来)层后面跟着一个或多个完全连接层。

顾名思义,所有神经元完全连接层连接到所有的神经元在前面的层。这一层结合的所有功能(本地信息)学习通过前面的层在图像识别更大的模式。对于分类问题,最后完全连接层结合了特征对图像进行分类。这是原因outputSize争论的最后完全连接层网络等于数据集的类的数量。对于回归问题,输出大小必须等于响应变量的数量。

您还可以调整学习速率和正则化参数这一层使用名称-值对相关参数在创建完全连接层。如果你选择不调整它们,然后trainNetwork使用全球训练参数定义的trainingOptions函数。在全球和层培训选项的详细信息,请参见设置参数和卷积神经网络训练。

完全连接层增加权重矩阵的输入W然后添加一个偏差向量b。

如果层是一个序列的输入(例如,在一个LSTM网络),然后完全连接层行为独立在每个时间步。例如,如果层之前完全连接层输出数组X的大小D——- - - - - -N——- - - - - -年代,然后完全连接层输出数组Z的大小outputSize——- - - - - -N——- - - - - -年代。在时间步t的,相应的条目Z是 $$W{X}_t+b$$,在那里 $$X_t$$表示时间步t的X。

完全连接层趋于平缓的输出。它会重塑整个数组的空间数据在信道编码的维度。

输入序列,层完全独立连接操作适用于每个时间步的输入。

层一层一层数组或图后续层传递数据格式化dlarray对象。的格式dlarray对象是一个字符串,其中每个字符描述相应的维度的数据。这些字符的格式由一个或多个:

例如,二维图像数据表示成一个四维数组,第一个二维对应于图像的空间维度,第三维对应于图像的通道,第四个维度对应批维度,可以被描述为有格式“SSCB”(空间、空间、通道、批)。

你可以与这些交互dlarray对象等自动分化工作流开发一个自定义图层,使用functionLayer对象,或使用向前和预测功能与dlnetwork对象。

此表显示了支持输入格式金宝appFullyConnectedLayer对象和相应的输出格式。如果输出层的传递给一个定制的层不继承nnet.layer.Formattable类,或FunctionLayer对象的Formattable属性设置为0(假),然后层接收未格式化dlarray对象的尺寸要求相应的这个表的格式。

在dlnetwork对象,FullyConnectedLayer对象也支持下面的输入和输出金宝app格式的组合。

使用这些输入格式trainNetwork工作流,首先将数据转换为“认知行为治疗”(通道、批量、时间)格式使用flattenLayer。

从R2019a开始,软件,默认情况下,初始化层使用Glorot初始化这一层的权重。这种行为可以帮助稳定培训和通常减少深层网络的训练时间。

在以前的版本中,软件,默认情况下,初始化层的抽样权重0.01零均值和方差的正态分布。复制这种行为,设置“WeightsInitializer”层的选项“narrow-normal”。