AI・機械学習
大規模言語モデルは適応的探索を通じて新たな社会的バイアスを発達させる
Large Language Models Develop Novel Social Biases Through Adaptive Exploration (openreview.net)
要約
本研究では、大規模言語モデル（LLM）が、人間のような探索行動を通じて、予期せぬ社会的バイアスを獲得するメカニズムを調査しています。LLMが学習データに存在しない状況に直面した際に、どのようにバイアスが形成されるかを明らかにすることを目的としています。
全文翻訳
大規模言語モデル（LLM）は、適応的探索を通じて新たな社会的バイアスを開発する。
この研究は、LLMがどのようにして学習プロセス中に予期せぬバイアスを獲得するかを調査しています。特に、モデルが新しい情報に適応し、探索する過程で、既存の社会的偏見を学習・増幅する可能性が指摘されています。これは、LLMの公平性、信頼性、および倫理的な使用に関する重要な懸念事項です。