人工ニューラルネットワークにおける創発的記号構造

人工ニューラルネットワークにおける創発的記号構造 著者: R. Thomas McCoy, Paul Soulos, Tal Linzen, Paul Smolensky 現代の人工知能（AI）システムは、一見すると不向きに見える領域で驚くべき成果を上げています。知能は伝統的に、論理式のような記号の構造化された組み合わせ上で機能するものとしてモデル化されてきました。しかし、現在の最も強力なAIシステムはニューラルネットワークに基づいており、これらは連続ベクトルで情報を表現します。ベクトルは言語、論理、その他の認知領域の構造を捉えるには不十分に見えますが、ニューラルネットワークはこれらの分野で印象的なパフォーマンスを達成しています。どのようにしてそれを実現しているのでしょうか？ この研究では、潜在的な答えを提案します。それは、見た目に反して、ニューラルネットワークの内部表現が暗黙的に記号構造を実現しているのではないかということです。この仮説を支持するために、様々なニューラルネットワークのベクトル表現が記号構造によって密接に近似できることを示します。具体的には、ネットワークの表現生成プロセス全体を、記号構造をインスタンス化する閉形式方程式に置き換えることができ、その場合でもネットワークの振る舞いはほとんど変わりません。 この発見は、リスト操作のために訓練された小規模なニューラルネットワークと、算術、論理、コンピュータコード、言語という記号的伝統の中心的な4つのドメインで動作する大規模言語モデル（LLM）の両方に当てはまります。さらに、我々の記号的近似により、特定された記号構造に対する正確な介入を通じてLLMの振る舞いをターゲットを絞って変更することが可能になり、LLMの振る舞いが我々が特定した記号構造に依存していることを示しています。この研究は、長年の記号的な知能の概念と、現代AIのベクトルベースの性質を調和させる潜在的な方法を提供します。