解説記事一覧

AI・機械学習

機械学習で重要な概念「帰納バイアス」とは?

機械学習/深層学習などの分野を勉強するさい、講座や教科書でもあまり言及されることがない用語、「帰納バイアス」.しかし、論文ではよく使われる用語で、近年の機械学習モデルの精度の発展を理解するのに欠かせない概念です.もはや、これなしに現在のAI...
AI・機械学習

同変ニューラルネットワークの解説:その2- 群の誘導表現による深層学, SteerableCNN

はじめに前回では、群上で行う畳み込みによる Group Convolution の定義をしました.それが、正則表現という線形群作用に対して同変になることを確認しました.それには、以下の2つの問題がありました入力のデータタイプや中間層での表現...
AI・機械学習

同変ニューラルネットワークの解説:その1 – 群の正則表現による深層学習, Group Convolution (GCN)

ニューラルネットでの同変性 ( equivariance ) は、データ構造の対称性を活用することでデータに適切な構造を保持する写像のみに学習可能な関数空間を制約する帰納バイアスです.厳密には、深層学習の演算子を群の作用上の準同型写像または繋経絡作用素(intertwiner) という関数の集合に絞って学習が行われるようになります.
AI・機械学習

Graph Neural Network によるモダンネットワークの一般化

はじめに近年、深層学習が画像認識や自然言語を含めた様々なドメインで活躍しています.代表的なネットワーク構造として、Convolutional Neural Network (CNN) や Transformerなどが挙げられますが、今回は、...