東大数値解析セミナー (UTNAS) 第144回

東京大学大学院数理科学研究科と情報理工学系研究科では,本年度も数値解析セミナーを定期的(月に1,2回程度)に開催致します.
多くの皆様のご参加をお待ち申し上げます.

講演者
橋本 悠香（NTTネットワークサービスシステム研究所）

題目
Koopman作用素を用いたニューラルネットワークの汎化誤差解析

概要
汎化性能（未知のデータに対してモデルがフィットするかどうか）の解析は，ニューラルネットワークにおける重要なトピックのうちの1つである．既存研究では，重み行列の低ランク性が，モデルの汎化性能を向上させるという解析が多い．しかし，必ずしも低ランク性のみが汎化性能を向上させる要因となるわけではなく，高ランクの重み行列によっても汎化性能の向上が起こる場合があることが，経験的には知られている．本発表では，Koopman作用素と呼ばれる線形作用素を用いてニューラルネットワークにおける合成の構造を表現することで，汎化性能の解析を行う．特に，高ランクの重み行列に焦点を当て，高ランクの重み行列によってニューラルネットワークの汎化性能が向上する仕組みを明らかにする．