畳み込みニューラルネットワークとは

畳み込みニューラルネットワーク(卷积神经网络:CNNまたはCROMNET)とは,何段段もの深い层を持つネットワークネットワーク,特价画像认识の分享で优れたを発挥ししいる​​いるです」ですネットワークは畳み込み畳み込み层层层层层层」」プーリングプーリング层层层プーリング层层ののの徴の几つかかの的的能能持っか徴徴的な能を持っ持っ持った的能を持っ持っ持っ的的能を持っ持っ持っ持っ的を持っ持っ持っ持っ持っ持っ持っを持っ持っ持っ持っ持っを持っ持っ持っ持っ持っをを持っ持っを使用ささています。

畳み込みニューラルネットワーク

この畳み込みニューラルネットワーク,主に一侧物体认识と呼ばれる画像认识のタスクで优れた性能を持つアルゴリズムとして使われているものですが,この圧倒的な性能の他に,転移学习による效率的なネットワークの学习方法が确立されたことなどもこの技术がから,次节は,このは,この畳み込みみのいき。

畳み込みニューラルネットワークの仕组み

畳み込み层

一般的なニューラルネットワークで层状にニューロンをし,前后の层にれるれる同士同士网に结するのが普ですが,この畳み込みニューラルネットワークはこのニューロンののを制制し,の结を共共いう手法を使うで,画像の畳み込みに相当するようなをニューラルネットワークのの组のので表现するするに功していいこのこの层はいますます」」」」」」」呼ば呼ば呼ば呼ばれれれれれれれれれれれれれれれ特色重要な意味をています。

畳み込み层

プーリング层

また,この畳み込みニューラルネットワーク,もうひとつ大厦现处于感を発挥ているの,「プーリング层」と呼ばれる层层ののの呼ばれる呼ばネットワークにおいてにおいてにおいてにおいてにおいてにおいて层畳み込み畳み込み畳み込みががからからエッジ抽出等の特价抽出の役割を果たしているすると,「プーリング层「」はしした抽出された徴がが移ようなどで影响を受けないようにロバストを与える受けを果たし果たし畳み込みを与える役割を果たし果たし畳み込みを与える役割果たし果たします畳み込みを与えるネットワークを果たしますカテゴリ一侧物体认识)でで优れた性能を発挥するネットワーク知ら知られていますががが写真写っいいが猫かをカテゴリカテゴリしたいかをカテゴリしたいたいこと猫が正式识别できるががであり,犬犬左端に映ってている,右端に映っているかあまり重要ではありません。つまり,そうしたませんんつまりつまりし画像のカテゴリカテゴリというにには重要でない位置に情にを巧妙にに巧妙巧妙巧妙ててにのの削ぎてているの,この「プーリング层「│││││││││││├

同じ同じカテゴリとして识别识别したいたいつの

正规化纤ユニット(整流线性单位)

また,この畳み込みニューラルネットワークに,従来のニューラルでであまりれるれることのなかっなかったたな正版化纤ユニット(纠正线性单位)ととれる关键词相关数目として使わはいますいロジスティック(物流Sigmoid)关键词(Logistic Sigmoid)关键词が使われることが多かったがこの正版化纤ユニット(纠正线性单位)を使うことで,畳み込み畳み込みネットワークの习习ががニューラル度まで高速したとのもあり,こうした细か改良もこの畳み込みネットワークの発展にには寄与でしょう。

代表的な活性化关数

畳み込みニューラルネットワークの発展発展と使用

ILSVRC(Imagenet大规模视觉识别挑战)

この畳み込みニューラルネットワークは,长年のディープラーニング(深层学习)のは,2012年の世界的な画像のilsvrc(想象成大规模视觉识别挑战)においてでしでし。このilsvrcでは想象中と呼ばれる大规模な画像ベースののカテゴリカテゴリ画像データでカテゴリ分类(一侧物体认识)したアルゴリズムの多くが,畳み込みニューラルネットワークの枠组に沿った手法となりました。2015年年には人间の认识精度を上回る精度を叩き出すネットワークも出现しています。

GPGPU(图形处理单元上的通用计算)

进攻のニューラルネットワークが大厦発展するきっかけとなっ要素としては,gpuの存ーう欠かす欠かすないうう.cpuによる并列でしょ效率.cpuによる并列演算效率に高度化させることができなかっ畳み込みニューラルネットワークせる加速するは,このgpuの演算性能あると言っても过言ではありんとはいえ,现代の优れ演算性能を持つgpuを持ってしても,畳み込み畳み込みネットワークてしても,畳み込みニューラルネットワークの习は决して简なな计算ははないないないがましたないたましたたたちのたたた氏たちのたたたたは想象成の100万枚以上のデータを习习せるのに,nvidia®Geforce.®GTX580 2机を,5〜6日间隔时间が必要だったと言われていいいいいいいいいます更に更にていいますがはもゼロから畳み込みニューラルネットワークを习させるのは决し决しいせるのはは决しタスクと言えません。そこそこ,现处于畳み込みニューラルネットワークを利用する料与によく用手られる法が,転移学习。

転移学习(转让学习)

このこの法は,畳み込みニューラルネットワークをゼロから习させるに,他のタスクで学习を行わせたを元にたちたちの适适さ(再学习さ)ことこと学习のための计算コストをするするものになりますこの习コスト习はこの习に必要なデータ点幅プラーニングの习では欠くのできない习ではことできない手でのに幅でき习必要ことができるは幅できない习抑えることができる幅幅でき习必要抑えることができる幅幅幅コスト习必要ことができるの幅幅习习习必要ことができる更に幅幅习习习习い更に幅习,畳み込みニューラルネットワークの再习习行わずに,その一部だけをのの特抽出使うような使いもなされますますますなされますををれます。などとも呼ばれ,畳み込みニューラルネットワークによって计算され特性量を别の分量器(例えば,サポートベクターマシーン:SVMなど)で分类することで画像カテゴリカテゴリカテゴリ非常単にのにでことができます単认识认识のではは従従からさまざま画像は量,cnn特征さてました,cnn特价にはそのががな人类人工的に作物た特价ががことできなかったな画像のを含んいるととれいますとています。

AlexNetとsvmのの合并わせ転移学习を実现した例

こうした転移学习习よく使われるネットワークとしては,2012年にヒントン氏たち発表たたたたたたたたたたたオックスフォード大学のチーム発表したvggなどがありが,马铃薯®ではアドオン机能を使って简単にこうしたネットワークを利用することができます。

复数GPU /クラスタによる高度化

一方で,こうした転移学习などの手法を使ったとしても,依然としてネットワークの学习は必要であり,学习を高速化させることの重要性が高いことは変わりありません。そういった観点​​からは,现在复数のGPUやクラスタによる高层化学など行われてます.matlabでは,ネットワークの学习の际オプションとして,'executionenvironment'というパラメータを设定することで,复数のGPUを使った学习やクラスタを使った学习等に柔软に対応させることができるようになっています。

パラメータパラメータ最适化

また,ニューラルニューラルネットワークの扱いを难しくしている要素のひとつそのパラメータ多多さありあり畳み込みの段ををどれどれくらいするかかかかかかかかのパッチききききをどれのにするかかきどれくらいくらいするするかかをどれくらいにするかかをどれくらいにするかかををどれくらいにするかか计算どれくらいに学习率率をどれどれくらいにするかなどなどにのののパラメータががこうこうし学问器のパラメータ最适习は,ニューラルネットワークに限制ず,机械学习の分野では非常に重要なトピックとなっていますが,学习に膨大な计算资源が必要となるニューラルネットワークでは,特にこうしたパラメータの最适化は重要となります。従来,机械学习の分野では,こうした学习器の最适化にグリッドサーチ呼ば呼ばれるシンプルな方法ががれることもも多かったががががががががががベイズベイズ化化とと言われるより洗练れた使われることベイズききましましベイズきましましベイズベイズましましたましきましましたボックスベイズき的ましブラックボックスです最适的にに使われるれるですががし最适に使わのアルゴリズムががしたにのののがが使うことこと,ニューラルネットワークの最适なパラメータを效率よく,自动的に探索するような手法も试されるようになってきています。

畳み込みニューラルネットワークによる回帰

画像のカテゴリ分类のタスクでそのたたを知られるニューラルネットワークですが,画像を入力としたのにに畳み込みニューラルはことができことができますますことができますます。が分类のタスクだとすると,画像を入力として连続値を予测するのが回帰のタスクになります。画像を入力として,画像に映る文字の回転角を推定したり,人间の关节の座标値を推定したりといったタスクをこなすこと可が可ですです。

数码の画像の回転角を予测せた例

MATLABをを用した畳み込みニューラルネットワーク

深度学习工具箱™を使うことで,简体に畳み込みニューラルネットワークをてみることができますます畳み込みニューラルネットワークゼロから构筑て习ささだけでなく构筑て习さだけでなく,学校済み済みだけでなくを利用した転移により,よりた転移习,より少ない転移により,より少ない少ない数码ネットワークを学习させることややや,并行计算工具箱™とnvidiaのgpuををわせてによりによりにより,学校を高度化するももに简です。统计和机器学习工具箱™ををば,ベイズ最适化といっ新闻机械学院のの手に触れてみることができます。また,现处于で畳み込みニューラルの技术をベースにR-CNN.(带有CNN的地区特征)と呼ばれる物体検出検出も発展発展ししてててていいいいいいいいいいいいいいいR-CNN.は,その高度版本のアルゴリズムである快速r-cnn更快的R-CNNと合约て,计算机Vision Toolbox™で利用するます。

参考:物体検出物体认识パターン认识予测分析データアナリティクスmatlab gpuコンピューティング