一层回归计算half-mean-squared-error损失回归任务。对于典型的回归问题,回归层必须遵循最终完全连接层。
一个观察,均方误差是由:
在哪里R是反应的数量,t我是目标输出,y我网络的预测反应吗我。
对于图像和sequence-to-one回归网络,损失函数的回归层是half-mean-squared-error预测反应,没有规范化R:
image-to-image回归网络,回归的损失函数层是half-mean-squared-error预测反应的每个像素,没有规范化R:
在哪里H,W,C表示高度、宽度和输出的通道数,分别p为每个元素(像素)的索引t和y线性。
sequence-to-sequence回归网络,回归层的损失函数的half-mean-squared-error预测为每个时间步反应,没有规范化R:
在哪里年代是序列长度。
训练时,软件计算的平均损失mini-batch观测。