Skip to content
TopicTracker
出典 HackerNews原文を表示
翻訳言語翻訳言語

プログラム・アズ・ウェイツ:ファジィ関数のためのプログラミングパラダイム

「Program-as-Weights」は、ファジィ関数(あいまいな入出力関係を持つ関数)を扱うための新しいプログラミングパラダイムを提案する。従来の関数型プログラミングとは異なり、プログラムそのものを重みとして扱うことで、柔軟で近似計算を可能にする手法を提示している。

背景メモ

- 本論文は「Program-as-Weights」という新しいプログラミングパラダイムを提案している。従来のプログラムは厳密な真理値(true/false)と制御フローで動くが、現実世界のタスク(例:「リンゴを探せ」)は曖昧さを含む「ファジー関数」である。このパラダイムでは、Pythonなどで書かれた実行可能コード自体をニューラルネットワークの「重み」として扱い、注意機構(attention)を使ってコードスニペットを動的に選択・実行する。 - 基礎となる技術は「メモリ内のデータを重みで検索する」連想記憶(associative memory)と、LLM(大規模言語モデル)の内部機構でもあるTransformerの注意機構。本手法はこれらを統合し、従来のニューラルネットでは表現が難しかったIF文やループなどの制御構造を、学習可能な形でコード内に保持する。 - 著者らは実験で、動的制御フローを要する合成タスクとロボット誘導タスクでこのパラダイムが有効であることを示している。これは「シンボリックAI」と「ニューラルネット」の統合(ニューラルシンボリック統合)の新たな試みの一つと位置づけられる。

関連記事