同変ニューラルネットワーク

AI・機械学習

同変ニューラルネットワークの解説:その2- 群の誘導表現による深層学, SteerableCNN

はじめに前回では、群上で行う畳み込みによる Group Convolution の定義をしました.それが、正則表現という線形群作用に対して同変になることを確認しました.それには、以下の2つの問題がありました入力のデータタイプや中間層での表現...
AI・機械学習

論文ノート:ニューラル・オートマトン

ここでは、トピックに絞って複数の関連性がある論文を同次に紹介しています.流れが少しでも把握できるように、一番新しいものから並べています.論文の概要やQ&A形式を用いて要点を記載しており、OpenReviewが既存であれば、意見をまとめたもの...
AI・機械学習

論文ノート:同変ニューラルネットワーク

これまで (~2023年) の同変性に関して代表的な論文から、幾つか選定してキーポイントをリスト化してみました.ここで、紹介する論文は以下の5本となります.E(n) Equivariant Graph Neural NetworksEqui...
AI・機械学習

同変ニューラルネットワークの解説:その1 – 群の正則表現による深層学習, Group Convolution (GCN)

ニューラルネットでの同変性 ( equivariance ) は、データ構造の対称性を活用することでデータに適切な構造を保持する写像のみに学習可能な関数空間を制約する帰納バイアスです.厳密には、深層学習の演算子を群の作用上の準同型写像または繋経絡作用素(intertwiner) という関数の集合に絞って学習が行われるようになります.