第57回数理工学センター（MCME）セミナー

数理工学センター（MCME）セミナー

参加をご希望の方は，下記の「詳細 web」より 6/19までに参加登録をお願いいたします．
皆様のご参加をお待ちしております．

====== 第57回MCMEセミナー  ハイブリッド開催のご案内 ======

開催日時：2023年6月21日(水)17：00〜18：30

開催地 ：武蔵野大学有明キャンパス 4号館412教室

参加登録締切：6月19日
講演者：唐木田　亮 氏（産業技術総合研究所 人工知能研究センター)

タイトル：深層学習アルゴリズムを操る: Fisher情報行列と学習レジーム

アブストラクト：大規模な深層ニューラルネットは様々な課題で高い性能を発揮しているが, その学習手法には
発見的側面が強いものも多く, 未知の挙動も現れる.特に, アルゴリズムは無数にある解の中から陰的に解を選択
するため, こうした陰的バイアスをふまえた理解が重要となってくる. 本講演では,深層学習アルゴリズムのふる
まいをFisher情報行列と学習レジームの視点から紹介したい. まず, 基本的な考え方を概観しながら,具体例とし
てNeural Tangent Kernel (NTK) レジームにおける自然勾配法の解析を紹介する. ここでは,発見的に開発され
てきた近似自然勾配が最良の収束性を達成できる. また関連して, 勾配正則化とその線形ネットでの解析を紹介
する.解の選択を学習レジームの切り替わりから特徴づける中で, 望ましいアルゴリズムの設定を明らかにする.

=============================================================