人間のような記憶制限をAIに与えることで言語学習が向上する可能性
マックス・プランク心理言語学研究所の研究によると、AIに人間のような「忘却」の仕組みを取り入れることで、言語学習の効率が向上する可能性がある。完全な記憶を保持するAIモデルよりも、限定的な記憶を持つモデルの方が、言語の規則性をより効果的に学習できることが示唆されている。
背景メモ
- マックス・プランク心理言語学研究所(MPI、オランダ・ナイメーヘン)の研究発表。人間の言語習得には「適度な忘却」が重要な役割を果たすという知見を、AI言語モデルに応用した実験。
- 通常の大規模言語モデル(LLM)は、学習時にすべての情報を記憶するよう設計されているが、これがかえって「人間らしい」言語ルールの一般化を妨げる可能性が指摘されてきた。
- 研究チームは、AIに短期間だけ情報を保持させ、その後「忘れる」仕組み(ヒトの作動記憶/長期記憶の遷移を模倣)を導入。3〜7語という人間の短期記憶容量と同程度の制約を与えたところ、新しい単語や文法ルールの学習効率が向上した。
- この「制約付き学習」が、AIの過学習(training dataの細部を丸暗記しすぎて応用が利かなくなる現象)を抑制し、より抽象的な言語パターンの抽出を促したことが主な発見。
- AIの「記憶」を人間の認知限界に合わせることで、データ効率が改善する可能性を示唆。大規模な計算資源やデータセットに依存しない、より生物学的に妥当な次世代AI開発への一歩として注目されている。