AIにおける「速い思考と遅い思考」：メタ認知の役割 (2021)

近年、AIシステムは目覚ましい進歩を遂げ、私たちの日常生活に浸透する多くのアプリケーションをもたらしています。しかし、私たちは依然として、ほとんどの場合、限定的なAI（narrow AI）の事例を目にしています。これらの最近の進歩の多くは、画像解釈、自然言語処理、分類、予測など、非常に限定された一連の能力と目標に焦点を当てています。さらに、これらの成功は、アルゴリズムと技術の向上によるものですが、巨大なデータセットと計算能力の利用可能性とも密接に関連しています。 最先端のAIは、人間の知能という概念に自然に含まれるであろう多くの能力を依然として欠いています。私たちは、人間がこれらの能力を持つことを可能にするメカニズムをより深く研究することが、AIシステムにこれらの能力をどのように与えるかを理解するのに役立つと主張します。特に、D.カーネマンの「速い思考と遅い思考」の理論に焦点を当て、マルチエージェントAIアーキテクチャを提案します。このアーキテクチャでは、入ってくる問題は、過去の経験のみを利用して反応するシステム1（または「速い」）エージェント、またはシステム1エージェントから期待されること以上の推論と最適な解の探索が必要な場合に意図的に起動されるシステム2（または「遅い」）エージェントのいずれかによって解決されます。両方の種類のAIは、環境に関するドメイン知識を含む世界モデルと、システムおよびソルバーのスキルに関する過去のアクション情報を含む自己モデルによってサポートされます。