他組織イベント案内

2021-06-22 東大数値解析セミナー(UTNAS)

投稿者:  齊藤 宣一(東京大学大学院数理科学研究科)
会場: オンライン
概要: 鈴木 大慈(東京大学大学院情報理工学系研究科) 先生を迎え,「深層ニューラルネットワークの近似理論と適応能力」という題目で講演していただきます.

日程 2021年 6月22日(火) 17:00-18:30 (開始時間がいつもと異なります)
会場 オンライン
本文 東京大学大学院数理科学研究科と情報理工学系研究科では,本年度も数値解析セミナーを定期的(月に1,2回程度)に開催致します.
多くの皆様のご参加をお待ち申し上げます.
講演者 鈴木 大慈(東京大学大学院情報理工学系研究科)
題目 深層ニューラルネットワークの近似理論と適応能力
概要 ReLU活性化関数を用いた深層ニューラルネットワークの学習能力について,特にスパース推定との関係を通して理論解析結果を述べる. 深層学習の学習能力の高さは,その基底を対象の関数に合わせて生成するところにあり,それはモデルが非凸であることが本質的に重要である. これはスパース推定による基底選択と共通点が多く,縮小ランク回帰やL0-正則化学習といった,モデルが非凸であるスパース推定と結び付けてその優位性を調べることが可能である. 本研究では,そのような視点に基づき,深層学習のBesov空間における近似精度および推定精度を解析する. また,非等方的平滑性や変動平滑性を持つBesov空間といった種々のBesov空間の変種における近似理論およびそれを用いた推定理論を紹介し,深層学習がいかに対象の関数の情報を用いてその他の推定量を優越しうるかを説明する. 時間があれば,ランジュバン動力学を用いた勾配法の離散時間近似および収束理論も紹介し,それを用いた推定量の推定精度解析と深層学習の特徴量学習による優位性についても述べる.
備考 聴講をご希望される方は, 下記詳細 web の「備考」中に記載のある事前参加登録ページで参加登録をお願いいたします.
登録した方にのみ,講演の1時間前に,ZoomミーティングのURLを送付します. ただし,応用数学合同オンラインセミナーのコアメンバーの方は,すでに登録済ですので,再度の登録の必要はありません.
問い合わせ先 齊藤 宣一
e-mail: norikazuseparatorg.ecc.u-tokyo.ac.jp
詳細 web https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/