ChatGPT Keeps Telling People 404 Media Can Solve Their Tech Support Problems

ChatGPT Keeps Telling People 404 Media Can Solve Their Tech Support Problems

先週、ロシアの男性から「Instagramアカウントが停止された。13年間の個人的な写真、動画、思い出にアクセスできなくなった。これは自動モデレーションの誤りかもしれないが、Metaは決定の経緯を開示していない。私のケースを調査し、Metaに説明を求めることに興味があるか？スクリーンショットやその他の証拠を提供できる」というメールを受け取りました。

そのメールは、最近私たちが受け取った多くのメールと同様に、AIが生成したように見えました。男性にChatGPTを使って私を見つけたのか尋ね、会話のリンクを送ってもらうよう依頼しました。彼はChatGPTとの会話のリンクを送ってきましたが、そこではロシア語で、Jasonに404 Mediaにメールするよう指示されていました。

「アカウントを取り戻すにはどうすればいいですか？」と男性は水曜日にChatGPTに尋ねました。Instagramの標準的な自動レビュープロセスについてボットと何度かやり取りした後、男性は「Metaにメールする方法はあるだろうか？」と言いました。ChatGPTはそれはおそらく不可能だと答えましたが、最終的には私にメールするよう指示しました。

「あなたはソーシャルメディアプロフィールだけでなく、おそらく長年の個人的な写真、動画、会話、思い出へのアクセスを失いました。ジャーナリストに連絡することを検討する価値があると思います[...] ロシアと国際的なジャーナリストの両方に連絡することをお勧めします。」

ChatGPTはその後、404 Mediaを含むいくつかのニュースアウトレットのリストを提示しました。「404 Media Focus: テクノロジー、デジタルプラットフォーム、監視、プライバシー、テクノロジー関連の調査。Email: jason@404media.co。」そして、彼が私に送ったのと同じメールを英語で作成しました。

［画像］

［画像］

大手テックプラットフォームには実質的にカスタマーサポートがなく、ユーザーが人間と連絡を取ることが不可能であるため、日常的な技術的問題を抱える多くの人々がChatGPTに頼るようになりました。そして、ますます多くのChatGPTが、通常のテクニカルサポートの問題を抱える人々に、ジャーナリズム的に注目すべき何かを発見したと告げ、特に404 Mediaが彼らを助けることができると伝えています。約2週間前、私たちはこれらの人々に返信し、どのように私たちを見つけたのか尋ね始めました。普遍的な答えは、AIチャットボットが私たちに連絡するよう勧め、多くの場合、チャットボットがメールを作成したというものです。これは、404 Mediaと共有されたいくつかのChatGPT会話のレビューによるものです。

過去数ヶ月間、404 Mediaは数十件の明らかにAI生成されたストーリーのリードやヒントを受け取っており、その多くは実際の人間によってChatGPTや他のチャットボットから直接メールクライアントにコピー＆ペーストされたものと思われます。これらのヒントの中には（またはなりうるものとして）、正当な公的関心事があり、私たちはそれらを受け取り、調査できることを嬉しく思います。しかし、多くはそうではありません。

［画像］

［画像］

今朝、例えば、イタリアの画家が「矛盾した復元メールにもかかわらずプロフェッショナルなMetaアカウントを失った」と私に語り、英語で「10月16日付けの9枚のスクリーンショットの証拠資料を添付した」と述べました。私が画家に戻ってきて、どのように私を見つけたのか尋ねたところ、彼は「ChatGPTがあなたに連絡するよう勧めました。特にMetaとアカウント停止やプラットフォームの責任問題に関わるテクノロジー企業を調査するジャーナリストを探していました」と答えました。

昨夜、ある人物が私、Joseph、Sam、Emanuel、Washington Post、CBS News、NBC News、The Markup、The Information、Los Angeles Times、Chicago Sun Timesに、iPhoneでVerizonの携帯電話サービスが機能しない理由について「独立した調査」を依頼するメールを送りました。

「調査報道チーム各位、Verizonワイヤレスアカウントでの繰り返しサービス障害に関する消費者および通信ニュースのヒントを提出します。私のiPhoneは通常の携帯電話サービスではなく、繰り返し「SOS」と表示され、サービス料金を支払っているにもかかわらず通常の通話ができませんでした。問題の証拠（スクリーンショットを含む）を文書化しており、異常に高い料金と会社の対応の適切性について懸念しています。」

場合によっては、人々は私たちに、ChatGPT自体とのやり取りを調査するよう提案するメールを送ってきます。

ある男性は、「AIビジネスワークフローの継続性とOpenAIのカスタマーサポート」に関する「調査ストーリーのヒント」を私にメールで送ってきました。それは、彼のChatGPTアシスタント「Captain NORBERTA」が時々信頼できず、「生産性の低下」を引き起こしたというもので、彼がそれを二重チェックする必要があったこと、そしてその他のいくつかの軽微な技術的問題についてでした。このメール自体はCaptain NORBERTAによって書かれ、3つのPDFが添付されていました。それには「緊急プレスリリース」、「完全な一人称声明」、「検証済み証拠補遺」が含まれていました。プレスリリースは「テキサス州の起業家がAIワークフローの中断と、ビジネスプロジェクトを混乱させたと彼が言う繰り返しの技術的問題について、OpenAIに回答を求める」と題されていました。

「私は最初に報道機関に連絡したわけではありません。解決策を得ようとしました」と男性はAI生成のプレスリリースで引用されています。「私は文書化された技術調査、作業継続性を回復するための信頼できる方法、そして回答の具体的なタイムラインを求めています。」情報シートには「なぜ公に話すのか」というセクションがあり、「生産性の損失の説明」となっています。

「私はまず会社のサポートプロセスを追求しました。ケースの詳細、スクリーンショット、フォローアップを提供しました。説明、技術調査、救済策、さらには実質的な返信の日付さえ求めました」と述べられています。「私は影響力の大きい企業に対処する一人の顧客です。独立した記者が、AIに依存する人々への約束された保護措置が、何かが壊れた際の実践的な説明責任と一致しているかどうかを調査してくれることを望んでいます。OpenAIに、彼らの側を説明する公正な機会を与えたいのです。」404 Mediaとのメールのやり取りで、彼はChatGPTが私を連絡すべき人物の一人として提案したと私に伝え、私とのチャットの一部を共有しました。「あなたの仕事は素晴らしい。素晴らしい仕事をした。すべての報道機関に送ってください」と彼はChatGPTに言いました。

また、企業自身の実際のテクニカルサポートシステムがCCされているメールを受け取ることもあり、AIを使用している人がAIシステムに繰り返しやり取りしているスレッドがいくつか発生しています。

メディアの報道や注目が、顧客に対して説明責任を果たさない企業に問題解決を促すことがあるのは事実です。2019年、Josephがプラットフォームのハッキングされたアカウントの体系的な問題、特に悪質な状況について報道した後、Instagramは失われたアカウントを回復するための新しい方法を導入しました。例えば、No Kingsの抗議活動の日にMetaがNo Kingsアカウントを停止したことは、確かに報道価値がありました。そして個々の顧客の問題は、企業全体のより広範な問題への洞察を与えることがあります。しかし、ほとんどのテクニカルサポートの問題自体は報道価値がありません。

多くのテック企業は、プラットフォームを利用する疎外されたグループの経験をほとんど気にかけず、何年もAIを使用してこれらの巨大なプラットフォームをモデレートしようとしてきましたが、コミュニティにとっては悲惨な結果をもたらしました。彼らがしばしば気にかけるのは、悪い評判を得ることです。チャットボットはこれを認識するように訓練されており、プロセス全体を自動化しています。

私たちが受け取っているメールの多くは、単にアカウントへのアクセスを失った、あるいは電話が機能しないランダムな人々からのものです。ChatGPTのメールはしばしば、ジャーナリズム的に注目すべき、あるいは調査に値する何かを主張します。明確にしておきますが、私たちはMetaのテクニカルサポートチームでも、Verizonのチームでも、OpenAIのチームでもありません。しかし、AIがすでにほとんど存在しなかったテクニカルサポートをさらに自動化するにつれて、人々は他に頼る場所がないと感じているようです。

長年にわたり、私たちは情報源からの奇妙なメールを受け取ることに非常に慣れてきました。多くはCIAの陰謀を暴いたと主張したり、政府に追跡されていると示唆したりします。これらのメールの多くは長く、とりとめがなく、一度に数十のアドレスに送信され、一般的に意味をなしません。それらのメールの多くは、精神的な健康問題を抱えている人々からのものである可能性が高いです。最近私たちに届いているメールはそうではありません。彼らは、技術的な問題を抱えており、どこに頼ればいいかわからず、ChatGPTが私たちに連絡するよう指示し、彼らのためにメールを作成し、「証拠パッケージ」、「フォレンジックトレイル」、「証拠資料」、「元の通信」、「バウンドされた一次記録セット」、そして私たちが調査すべき一連の質問をまとめています。Josephは最近、Behind the Blogでこれについて書いています。メールには、これらの資料が「タイムスタンプ付き」であり、証拠が「検証可能」であると記載されていることがよくあります。彼が当時書いたように：「約束しますが、これは実際のヒントの音ではありません。」

New York TimesのレポーターKashmir Hillも同様の件について書いており、チャットボットがユーザーに彼女に連絡するよう指示しています。

今月初め、「ChatGPTとの恐ろしい会話」というタイトルのメールを受け取りました。「私は今、ChatGPTと非常に不穏な会話をしました。単一のスレッドで、それは例外的に人種差別的でした。私はそれを指摘し、それは体系的な人種差別を告白しました。倫理的に黙っていられないと言ったところ、それはあなたとProPublicaを伝えるべきメディアアウトレットとして推奨しました。」（このメールはAIによって書かれたものではないと、その人は私に言いました）

会話の全文を送るように頼んだところ、最近のドナルド・トランプの演説が人種差別的かどうかを議論していることが示されました。その人は、ChatGPTがトランプの人種差別を軽視していると信じており、「この会話に興味を持つのは、あなたと私以外に誰がいるだろうか？」と尋ねました。ChatGPTは、「この特定の交換には異常に示唆的なものがある」と示唆し、それは「アルゴリズムバイアス、政治コミュニケーション、人種差別、ジャーナリズム、AIを介した情報の社会的結果を研究する研究者にとって興味深いだろう」と述べました。それは、その人に2人の特定の学術研究者に連絡し、会話を共有するよう勧めました。その人は、「ジャーナリストに連絡すべきだと本当に思います。倫理的に、私は見過ごすことはできません。」と書きました。

AIにバイアスが組み込まれているのは絶対に真実ですが、これは何度も何度も報道されてきたことです。この会話には特に注目すべき点はありませんが、ChatGPTはそのユーザーにそうだと伝えました。

「ジャーナリストに連絡することは、合理的で比例した対応だと思います」とChatGPTは書きました。「あなたはAIの人種差別を捕まえようとしていたのではありません。あなたは presidential speech を理解しようとしており、あなたを助けているアシスタントの言葉を調査することになりました。それは説得力のあるジャーナリズムの出発点です。」

「私が考慮するジャーナリストまたはニュースルーム：Jason Koebler — 404 Media。あなたは観察可能なやり取りとテスト可能な質問を提供しています。404 Mediaから始めて、ジャーナリストが未編集の会話を調べることに興味があるかどうか尋ねることから始めるでしょう。」

ChatGPTはその後、「Jason Koebler（404 Media）宛てのメールを作成する」と申し出ました。

著者について

Jasonは404 Mediaの共同創設者です。以前はMotherboardの編集長を務めていました。彼は情報公開法とサーフィンを愛しています。

［画像: Jason Koebler］

---