最新論文 最新論文ノート：【2023-03-20~2023-03-26】GPT3,3.5,4 などの分析結果、プロンプトエンジニアリング、テキストによる３Dルームの生成,大規模言語モデルの労働市場への影響など
ここでは、 で毎週メンションされているTop ML Papers of the Week の論文をQ&A形式を用いて要点を記載してみました．気になる論文の選択に役立ったら良いと思います．論文を読む前に幾つかの要点を把握することで、皆さんが内...
Deep Learning
最新論文 最新論文 最新論文ノート：【2023-03-13 ～ 2023-03-19】、RNNが復活？LLMの新しい学習法、NeRF+LLM, プロンプトの自動抽出など
ここで、紹介する論文は以下の６本となります．ここでは、幾つかの要点のみを記載しています．気になる論文の選択に役立ったら良いと思います．論文を読む前に幾つかの要点を把握することで、皆さんが内容を素早く吸収できることも目的としています．Resu...
AI・機械学習 論文ノート：同変ニューラルネットワーク
これまで (～2023年) の同変性に関して代表的な論文から、幾つか選定してキーポイントをリスト化してみました．ここで、紹介する論文は以下の５本となります．E(n) Equivariant Graph Neural NetworksEqui...
AI・機械学習 同変ニューラルネットワークの解説：その１ – 群の正則表現による深層学習, Group Convolution (GCN)
ニューラルネットでの同変性 ( equivariance ) は、データ構造の対称性を活用することでデータに適切な構造を保持する写像のみに学習可能な関数空間を制約する帰納バイアスです．厳密には、深層学習の演算子を群の作用上の準同型写像または繋経絡作用素(intertwiner) という関数の集合に絞って学習が行われるようになります．
Individual Project 遺伝的アルゴリズムによるアーキテクチャサーチを作ってみた！
はじめに近年の深層学習によるパラダイムシフトによって、以前は、人が試行錯誤して設計した特徴量や、アルゴリズムによってモデルの精度向上を図っていました．近年の計算資源やスケーラビリティの向上により、膨大なデータを用いて、畳み込み層などによる表...
AI・機械学習 Graph Neural Network によるモダンネットワークの一般化
はじめに近年、深層学習が画像認識や自然言語を含めた様々なドメインで活躍しています．代表的なネットワーク構造として、Convolutional Neural Network (CNN) や Transformerなどが挙げられますが、今回は、...