OpenAIのAIトレーニング担当者がAIを使ってAIをトレーニングしたため解雇される

OpenAIは、ChatGPTの応答を改善するために、契約社員にユーザーのプロンプトやその他のデータを読ませるという、いわば「人間のタッチ」をモデルに与えるための仕組みを持っています。しかし、すべての契約社員がそのようにしているわけではありません。404 Mediaの調査によると、OpenAIのモデル改善のために雇用された複数の契約社員が、AIを使ってAIをトレーニングしていたために解雇されています。これはモデル自体にとって良いことではありませんが、AIトレーニング企業であるOpenAIが、AIの活用を推進しているにもかかわらず、AIを使用したために人々を解雇するという大きな皮肉も含まれています。 一部のAIモデルはすでに「モデル崩壊」の兆候を示しており、これはAI生成テキストでさらにトレーニングされたAIモデルが、徐々に悪化していく現象です。このケースでは、その発生を部分的に阻止するために雇用された人々自身が、OpenAIのモデルをトレーニングするためにAI生成の応答を使用していたのです。 ある契約社員は、AIを使用している人を「常に見ており、そのために常に解雇されている。これはほぼ即座にプロジェクトから外される唯一の理由だ」と述べています。その人物は、「数千人のグループの中には、見つかった人がたくさんいる」と付け加えました。 💡あなたはOpenAI、Anthropic、または他のAI企業のプロンプトレビュアーとして働いていますか？ぜひお話を聞かせてください。仕事用のデバイス以外で、Signalでjoseph.404に安全にメッセージを送るか、joseph@404media.coにメールを送ってください。 先週、404 MediaはProject Lilyについて報じました。このプロジェクトでは、OpenAIは何百人もの契約社員に、実際のChatGPTユーザーのプロンプトや会話（個人情報を含む可能性がある）を読ませています。これらの契約社員は、ChatGPTが生成した応答を評価・批評し、応答が過度にへつらったり、ChatGPTを擬人化しすぎたりしていないかを確認します。この報道は、内部文書と、プロンプト作業に関わる人物への聞き取りに基づいています。404 Mediaは今回、さらに別の内部文書を入手し、OpenAIのために様々なプロジェクトで働く3人の契約社員に話を聞きました。内部文書の1つによると、これらのプロジェクトには1万人以上の契約社員が関わっている可能性があります。 それらの文書の1つには、契約社員は自身の業務にAIを使用してはならないと明記されています。「AI検出ツールやAI自体を使用しないでください」と、他の契約社員の作業をレビューし、AI使用を検出する契約社員の業務を説明した文書には書かれています。「GPTZeroやその他のAI検出ツールを使用しないでください。それらは信頼性がありません。レビュー担当者も、GrammarlyやAI翻訳を含むAIを使用することはできません。レビュー、フィードバックの作成、コメントの作成にAIを使用することはできません。」 文書はさらに続きます。「AIの使用を疑う理由を評価者に伝えないでください。彼らは、あなたが何を探しているかを知っていれば、隠れるのが容易になります。個々の手がかりではなく、全体的なパターンを判断してください。」3人の契約社員全員が、レビュー担当者は自身の業務でAIを使用しないように指示されていると述べました。情報提供者のうち2人は、AIを使用したために解雇されたり、プロジェクトから外されたりしたと述べています。404 Mediaは、契約社員に匿名性を付与しました。彼らは報道機関に話す許可を得ていなかったためです。 他の契約社員の作業をレビューする契約社員は、AI使用の兆候に注意するように指示されています。これには、繰り返し使われる単語、AI風の句読点（過剰なダッシュの使用など）、そして契約社員が非常に速く作業を終えることが含まれます。 「関連するSlackチャンネルで、人々がアドバイスを求め合う中で、『これはAIですか？』という例を投稿する人がたくさんいます」と、ある契約社員は言いました。 「通常、答えは『はい』です」とその人物は言いました。 ある契約社員は、OpenAIのモデルのトレーニングを手伝っている間にAIを使用したと述べ、彼が提示した解雇通知書を共有しました。そこには、「あなたの仕事の『真正性』に問題が特定された」と書かれていました。その契約社員は404 Mediaに対し、「私は悪い人間でも悪い労働者でもありません。ただ少し助けが必要で、AIに頼ったのですが、それが最終的に私の破滅につながりました」と語りました。「仕事に喜びを感じず、社会に貢献しているとも思えませんでした。」 404 Mediaが話を聞いた契約社員のうち2人は、Mercorで働いていました。Mercorは、契約社員を雇用してChatGPT関連の資料をレビューさせているAIトレーニング企業です。Mercorの広報担当者は404 Mediaに対し、「当社の専門家は、AIの継続的な進歩に不可欠な専門知識と判断力のために採用されています。当社の契約では、LLM（大規模言語モデル）をプロジェクト完了に使用することを厳しく禁止しており、それを執行しています。当社は、誤用を検出するためのツールやシステムに多額の投資を行い、専門家がプロジェクトの規則および契約条件を遵守していることを保証しています。専門家がタスク完了にAIを使用したことを確認した場合、直ちにそのプロジェクトから除外します」と声明で述べました。 404 Mediaは、様々なAI企業のモデルトレーニングに携わったことのある4人目の契約社員にも話を聞きました。その人物は、モデルのトレーニングを意図的に悪化させたいと考え、意図的に最悪の応答を選択することがあったと述べました。「この種の仕事をしている当初は罪悪感を感じていました」とその人物は言いました。「結果には全く注意を払わないか、ランダムに選択するか、あるいは意図的に（最悪の）出力を選択していました。他の何百人もの人々もプロンプトの結果を評価しているので、どれだけの違いがあるかは分かりませんが、AIを悪くするために給料をもらっているような気分になります。」 OpenAIは、契約社員がAIを使用したために解雇されたことについてコメントを控えています。 著者について Josephは、影響力のある調査報道で知られる受賞歴のあるジャーナリストです。彼の仕事は、数億ドル規模の罰金、テクノロジー企業の閉鎖などを引き起こしてきました。Joseph Coxのその他の記事