「逆転の呪い」：「AはBである」と学習したLLMは「BはAである」を学習しない

自己回帰型大規模言語モデル（LLM）における驚くべき一般化の失敗を明らかにします。モデルが「AはBである」という形式の文で学習した場合、「BはAである」という逆方向の関係に自動的に一般化することはありません。これが「逆転の呪い」です。例えば、モデルが「ワレンチナ・テレシコワは宇宙に行った最初の女性である」と学習した場合、「宇宙に行った最初の女性は誰か？」という質問に自動的に答えられるわけではありません。さらに、正しい答え（「ワレンチナ・テレシコワ」）の尤度は、ランダムな名前の尤度よりも高くはなりません。このように、モデルは学習データセットにおける一般的なパターン、すなわち「AはBである」が出現すれば「BはAである」も出現しやすい、というパターンを一般化しません。ただし、「AはBである」がインコンテキストで出現すれば、モデルは逆の関係を推論できることに注意する価値があります。「アビサル・メロディーズ」の作曲家はユライア・ホーソーンである」といった架空の文でGPT-3とLlama-1をファインチューニングし、「アビサル・メロディーズ」を作曲したのは誰か？」という質問に正しく答えられないことを示すことで、「逆転の呪い」の証拠を提供します。「逆転の呪い」はモデルのサイズやファミリーを越えて頑健であり、データ拡張によっても軽減されません。また、ChatGPT（GPT-3.5およびGPT-4）を、「トム・クルーズの母親は誰ですか？ [A: メアリー・リー・ファイファー]」といった実世界の有名人に関する質問と、その逆の「メアリー・リー・ファイファーの息子は誰ですか？」という質問で評価しました。GPT-4は前者のような質問には79%の確率で正しく答えるのに対し、後者では33%でした。 コードはこちらから入手できます: this https URL. コメント: 21ページ、11図 主題: 計算と言語学 (cs.CL); 人工知能 (cs.AI); 機械学習 (cs.LG)