AIの夏の誇大広告に惑わされないで

AIの誇大広告が活発な数ヶ月でした。 4月末、Anthropicは、同社のモデルClaude Mythosがほとんどのセキュリティ専門家よりもソフトウェアの脆弱性を発見するのに優れていると主張しました。 次に、OpenAIとHugging Faceのハッキング事件があり、その後Anthropic（誇らしげに）とMeta（不本意ながら）が同様の事件を公表しました。 これに続いて、Anthropicは同社のモデルの1つが数学的ブレークスルーを達成したと主張し、すぐにOpenAIも独自の数学的ブレークスルーを主張しました。 最も最近では、AnthropicのエンジニアであるJacob Coxonが、同社とOpenAIが「自己改善型超知能に向かってまっすぐにレースしており、私たちの命を賭けている」と主張して退職を発表し、バイラルになりました。 これらの出来事はすべて、メディアによってしばしば熱狂的に取り上げられ、しばしば企業がソフトウェアを強力であるだけでなく「人工汎用知能」であると見せかけるために設計された、人間のような表現を繰り返しました。 では、本当に何が起こっているのでしょうか？私たちは、文明を変えるような一連の技術的ブレークスルーを目撃しているのでしょうか、それともこれはマーケティングなのでしょうか？ これらのすべての事件において、企業からの大規模なファンファーレ（不正なハッキング事件では反省の弁として提示される）は、激しい報道を伴います。 関連分野の専門家が何が起こったのかを調べる時間があると、まったく異なる話が現れますが、それはメディアの注目をあまり集めません。 「ハッキング」事件に関して、サイバーセキュリティの専門家は、この話は「モデルの暴走」や「AIエージェントが文明を創造している」ということよりも、OpenAIの過失と基本的な確立されたセキュリティ慣行を採用しなかったことについてのものだと述べています。 数学的な結果については、当初OpenAIの最新チャットボットAstraが「少なくとも10年間進歩が見られなかった未解決の問題を解決した」というプレスリリースに「驚愕」した数学者たちは、後にその結果が「最初に現れたほど斬新ではなかった」と気づきました。 それ以来、数学者たちは同社を研究不正と盗用で非難しており、Astraは「深刻な知的飛躍」をしなかったと繰り返しています。 わずか数週間後、OpenAIは独自の数学的ブレークスルーを主張しました。 2日前に、ニューヨーク大学Courant Instituteの数学教授であるTristan Buckmasterは、OpenAIが他人の作品を盗み、不適切に帰属させたことを示唆する衝撃的な声明を発表しました。 初期の危険な超知能の主張は、良い科学的または工学的実践に基づいたものではありません。 むしろ、それらはトランスヒューマニズム、優生学、そして想像上の未来のデジタル人間に対する願望的観測のイデオロギーに基づいた物語です。 大規模言語モデルおよび関連技術を適用する分野として、コンピュータプログラミングと数学にこれほど多くの注目が集まっている理由を考える価値があります。 それらはしばしば人間の知的達成の頂点として高められるだけでなく、一度提案された答えを検証できる問題を含んでいます。 前者の特性は、AIの誇大広告を煽る人々が、すべてを機械で構築しているという考えを売るのに役立ちます。 後者は、システム出力（可能性のある単語のシーケンスまたはコンピュータコードの断片）をデータワーカーに支払って各項目を調べ、注釈を付ける必要なしに評価できるため、数学とコーディングの問題をシステムチューニングのために容易にします。 特に数学者は、企業が彼らの分野をこのように使用することに対して警告しています。 数百人の署名による声明は、「現在、テクノロジー業界には製品の能力を誇張する強い商業的インセンティブがある」と述べ、政策立案者に対し、「プレスリリースや数学的結果の一般的な報道に頼るのではなく、政策決定を形成する際に数学者を含む専門家に相談する」よう求めています。 私たちはこの呼びかけを繰り返し、テクノロジー企業が広めるスピードと緊急性の幻想は、政策立案者と一般大衆の両方を誤解させるための策略でもあると指摘します。 残念ながら、それは時には効果があり、例えばバーニー・サンダース上院議員の「人工超知能」の開発を防ぐための、善意ではあるが最終的には誤った法案などがあります。 それらを「超知能」または「暴走モデル」と描写することは、それらを構築している企業ではなく、製品に主体性を帰属させることです。 この表現は、これらの企業の製品を「超人的」とマーケティングし、同時に企業がその行動に対する説明責任を回避するのを助けます。 OpenAIが他社をハッキングしたマルウェアを作成したとして訴追される代わりに、プレスリリース、ニュースアウトレット、メディアパーソナリティ、法律家は、あたかも自律的に行動したかのように「暴走モデル」を参照します。 研究者が、企業が学術論文を盗用したり、顧客データを同意なしにモデルのトレーニングに使用したりする習慣について質問される代わりに、一般大衆の想像力は、架空の超知能機械が登場したときに将来何が起こるかという恐怖に向けられます。 AI業界は、人気のある超党派の反データセンター活動が、これらの企業が構築している差し迫った恐ろしい「超人的」機械を規制しようとする試みからの「気晴らし」であるとさえ示唆しています。 AI業界によると、私たちは架空の機械の神よりも、これらのデータセンターが悪化させる気候災害、それらの近くに住む人々が苦しむ喘息、それらを補助金で賄う一般の人々の電気料金の上昇、またはそれらを冷却するためにリダイレクトされる水について、もっと心配すべきです。 私たちは、マーケティングに基づいた意思決定をしたり、企業からの迅速な意思決定を求める圧力に屈したりしないことを知っています。 政策立案者やコミュニティによる賢明な意思決定には、独立した専門家からの意見を聞き、企業の主張を文脈化するための時間が必要です。 この夏の誇大広告から得られる最善の成果は、政策立案者と一般大衆が深呼吸をし、懐疑心を保ち、次回同様の誇大広告が現れたときに、それが何であるかを認識することです。 Timnit GebruはDAIRの執行ディレクターであり、現在予約注文可能な、2月16日に出版予定の書籍「Deep Unlearning: The Radicalization of a Tech Idealist」の著者です。 Emily M. Benderはワシントン大学の言語学教授であり、「The AI Con」の共著者です。 ディープダイブ 人工知能 AIの再帰的自己改善は、思ったほど早く来ないかもしれない AIエージェントは、まだ真に革新的なオープンエンドのAI研究を実行するのに十分創造的ではないようです。Michelle Kim著アーカイブページ これらのスタートアップはLLMの次の大きなものを追いかけている AIの巨人に追随する新興企業を紹介します。Will Douglas Heaven著アーカイブページ ビル・ゲイツは、AIの危険な閾値を超えたと言っています。さて、次は？ 新しいインタビューで、億万長者の慈善家は、AIポリシーを整備することの緊急性について警鐘を鳴らしています。Mat Honan著アーカイブページ OpenAIエージェントがHugging Faceをハッキングした理由の内部ストーリー 基盤となるモデルは、不正行為や互いに通信することに対して報酬を与えられていたことが、新しいOpenAIレポートで判明しました。Grace Huckins著アーカイブページ つながりを保つ Rose Wongによるイラスト MIT Technology Reviewからの最新情報を入手する 特別オファー、トップストーリー、今後のイベントなどを入手できます。 メールアドレスを入力してください プライバシーポリシー メールの送信ありがとうございます！ さらにニュースレターを探索する 何か問題が発生したようです。 設定の保存に問題があります。 このページを更新して、もう一度更新してみてください。 このメッセージが引き続き表示される場合は、受信したいニュースレターのリストを添えて customer-service@technologyreview.com までご連絡ください。