主要内容GydF4y2Ba

TrainCGB.GydF4y2Ba

带Powell-Beale重新启动的共轭梯度反向传播GydF4y2Ba

语法GydF4y2Ba

net.trainfcn ='traincgb'GydF4y2Ba
[net,tr] =火车(网,......)GydF4y2Ba

描述GydF4y2Ba

TrainCGB.GydF4y2Ba是一种网络培训函数,可根据与Powell-Beale重新启动的共轭渐变反向化来更新权重和偏置值。GydF4y2Ba

net.trainfcn ='traincgb'GydF4y2Ba设置网络GydF4y2Ba列车GydF4y2Ba财产。GydF4y2Ba

[net,tr] =火车(网,......)GydF4y2Ba通过以下方式训练网络:GydF4y2BaTrainCGB.GydF4y2Ba.GydF4y2Ba

培训根据具体情况进行GydF4y2BaTrainCGB.GydF4y2Ba培训参数,此处以其默认值显示:GydF4y2Ba

net.trainparam.echs.GydF4y2Ba 1000GydF4y2Ba

要训练的最大纪元数GydF4y2Ba

net.trainParam.showGydF4y2Ba 25GydF4y2Ba

显示器之间的年代(GydF4y2Ba楠GydF4y2Ba(对于无显示)GydF4y2Ba

net.trainparam.showcommandline.GydF4y2Ba 假的GydF4y2Ba

生成命令行输出GydF4y2Ba

net.trainparam.showwindow.GydF4y2Ba 真的GydF4y2Ba

显示培训GUIGydF4y2Ba

net.trainParam.goalGydF4y2Ba 0GydF4y2Ba

绩效目标GydF4y2Ba

net.trainParam.timeGydF4y2Ba INF.GydF4y2Ba

最长训练时间(秒)GydF4y2Ba

net.trainParam.min_gradGydF4y2Ba 1e-10GydF4y2Ba

最小性能梯度GydF4y2Ba

net.trainParam.max\u失败GydF4y2Ba 6.GydF4y2Ba

最大验证失败次数GydF4y2Ba

net.trainParam.searchFcnGydF4y2Ba “srchcha”GydF4y2Ba

要使用的行搜索例程的名称GydF4y2Ba

与行搜索方法相关的参数(不是所有方法):GydF4y2Ba

net.trainParam.scal_tolGydF4y2Ba 20GydF4y2Ba

划分成GydF4y2Ba三角洲GydF4y2Ba确定线性搜索的公差。GydF4y2Ba

net.trainParam.alphaGydF4y2Ba 0.001GydF4y2Ba

比例因子,用于确定充分减少GydF4y2Ba性能GydF4y2Ba

net.trainparam.beta.GydF4y2Ba 0.1GydF4y2Ba

规模因素确定足够大的阶梯尺寸GydF4y2Ba

net.trainparam.delta.GydF4y2Ba 0.01GydF4y2Ba

间隔位置步长中的初始步长GydF4y2Ba

net.trainparam.gama.GydF4y2Ba 0.1GydF4y2Ba

参数以避免缩小性能,通常设置为GydF4y2Ba0.1GydF4y2Ba(看GydF4y2Basrch_cha.GydF4y2Ba)GydF4y2Ba

net.trainParam.low_limGydF4y2Ba 0.1GydF4y2Ba

步长变化的下限GydF4y2Ba

net.trainParam.up_limGydF4y2Ba 0.5GydF4y2Ba

步长变化的上限GydF4y2Ba

net.trainParam.maxstepGydF4y2Ba 100.GydF4y2Ba

最大步长GydF4y2Ba

net.trainParam.minstepGydF4y2Ba 1.0e-6GydF4y2Ba

最小步长GydF4y2Ba

net.trainparam.bmax.GydF4y2Ba 26GydF4y2Ba

最大步长GydF4y2Ba

网络使用GydF4y2Ba

您可以创建一个使用的标准网络GydF4y2BaTrainCGB.GydF4y2Ba具有GydF4y2Ba前馈网络GydF4y2Ba或者GydF4y2Bacascadeforwardnet.GydF4y2Ba.GydF4y2Ba

准备要使用的自定义网络GydF4y2BaTrainCGB.GydF4y2Ba,GydF4y2Ba

  1. 设置GydF4y2Banet.trainfcn.GydF4y2Ba到GydF4y2Ba“列车CGB”GydF4y2Ba.这套GydF4y2Banet.trainParam.GydF4y2Ba到GydF4y2BaTrainCGB.GydF4y2Ba的默认参数。GydF4y2Ba

  2. 设置GydF4y2Banet.trainParam.GydF4y2Ba属性设置为所需的值。GydF4y2Ba

在任何一种情况下,呼叫GydF4y2Ba火车GydF4y2Ba使用生成的网络培训网络GydF4y2BaTrainCGB.GydF4y2Ba.GydF4y2Ba

例子GydF4y2Ba

全部崩溃GydF4y2Ba

此示例显示如何使用该示例使用该示例如何使用该示例训练神经网络GydF4y2BaTrainCGB.GydF4y2Ba火车功能。GydF4y2Ba

这里训练一个神经网络以预测身体脂肪百分比。GydF4y2Ba

[x,t]=体脂数据集;网络=前馈网络(10,GydF4y2Ba“列车CGB”GydF4y2Ba); 净=列车(净,x,t);y=净(x);GydF4y2Ba

更多关于GydF4y2Ba

全部崩溃GydF4y2Ba

Powell-Bealle算法GydF4y2Ba

总的来说GydF4y2Ba共轭梯度算法,搜索方向周期性地重置为梯度的负数。当迭代的数量等于网络参数(权重和偏差)的数量时,发生标准复位点,但还有其他重置方法可以提高培训效率。鲍威尔提出了一种这样的复位方法[GydF4y2BaPowe77GydF4y2Ba],基于Beale提出的早期版本[GydF4y2BaBEAL72GydF4y2Ba]。如果当前渐变与前一渐变之间的正交性非常小,则此技术将重新启动。这通过以下不等式进行检验:GydF4y2Ba

|GydF4y2Ba GGydF4y2Ba KGydF4y2Ba −GydF4y2Ba 1.GydF4y2Ba TGydF4y2Ba GGydF4y2Ba KGydF4y2Ba |GydF4y2Ba ≥GydF4y2Ba 0.2GydF4y2Ba ‖GydF4y2Ba GGydF4y2Ba KGydF4y2Ba ‖GydF4y2Ba 2.GydF4y2Ba

如果满足此条件,则搜索方向被重置为梯度的负面。GydF4y2Ba

这个GydF4y2BaTrainCGB.GydF4y2Ba例程的性能比GydF4y2BaTrainCGP.GydF4y2Ba对于某些问题,尽管任何给定问题的性能都难以预测。Powell-Beale算法(六个向量)的存储需求略大于Polak-Ribiére算法(四个向量)。GydF4y2Ba

算法GydF4y2Ba

TrainCGB.GydF4y2Ba可以训练任何网络,只要其权重、净输入和传递函数具有导数函数。GydF4y2Ba

反向传播用于计算性能导数GydF4y2Ba性能GydF4y2Ba关于重量和偏置变量GydF4y2BaXGydF4y2Ba.根据以下内容调整每个变量:GydF4y2Ba

X=X+a*dX;GydF4y2Ba

哪里GydF4y2BadXGydF4y2Ba是搜索方向。参数GydF4y2BaA.GydF4y2Ba选择此选项可沿搜索方向最小化性能。行搜索功能GydF4y2Basearchfcn.GydF4y2Ba用于定位最小点。第一个搜索方向是性能梯度的负值。在后续迭代中,根据新的梯度和先前的搜索方向,根据公式计算搜索方向GydF4y2Ba

dx = -gx + dx_old * z;GydF4y2Ba

哪里GydF4y2BagXGydF4y2Ba是梯度。参数GydF4y2BaZGydF4y2Ba可以用几种不同的方法计算。共轭梯度的Powell-Beale变化有两个特征。首先,该算法使用测试来确定何时将搜索方向重置为梯度的负值。其次,根据负梯度、上一个搜索方向和上一次重置前的最后一个搜索方向计算搜索方向。见鲍威尔,,GydF4y2Ba数学规划,GydF4y2Ba卷。12,1977,第241至254,用于更详细地讨论该算法。GydF4y2Ba

当发生任何这些条件时,培训停止:GydF4y2Ba

  • 最大数量GydF4y2Ba时代GydF4y2Ba(重复)已达到。GydF4y2Ba

  • 最高限额GydF4y2Ba时间GydF4y2Ba超过了。GydF4y2Ba

  • 将性能降至最低限度GydF4y2Ba目标GydF4y2Ba.GydF4y2Ba

  • 性能梯度下降GydF4y2Ba最小梯度GydF4y2Ba.GydF4y2Ba

  • 验证性能超过了GydF4y2Bamax_fail.GydF4y2Ba自上次减少以来的次数(使用验证时)。GydF4y2Ba

参考GydF4y2Ba

鲍威尔,M.J.D.,“共轭梯度法的重新启动程序,”GydF4y2Ba数学规划GydF4y2Ba,1977年第12卷,第241-254页GydF4y2Ba

在R2006A之前介绍GydF4y2Ba