HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIの夏の誇大広告に惑わされないで

Don't Be Fooled by this Summer of AI Hype (technologyreview.com)

41 pointsby jacquesm37 コメント

要約

この記事は、最近のAIに関する誇大広告を批判し、多くのブレークスルーの主張(ソフトウェア脆弱性の発見、数学的発見、超知能への接近など)は誇張されたマーケティングであると論じています。インシデントはしばしば過失や不誠実な表現によるものであり、数学やコーディングの問題に焦点が当てられるのは、検証が容易で誇大広告を生成しやすいためだと指摘しています。AI業界は、自社の製品を「超人的」と見せかけ、責任を回避するために、しばしば責任主体を製品に移し替える手法を用いていると警告しています。

全文翻訳

このAIの夏の誇大広告に惑わされないで

オピニオン

AGIや新機能に関する息をのむような主張は、精査するとすぐに崩壊する。

2026年9月22日

[画像: 男性と女性が穏やかなプールに沈み、熱帯の設定の遠くを見つめている。ピクセル化された四角形がそれを遮っている]

Stephanie Arnett/MIT Technology Review | Adobe Stock

AIの誇大広告にとって、この数ヶ月は多忙だった。4月末には、Anthropicは自社のモデルClaude Mythosが、ほとんどのセキュリティ専門家よりもソフトウェアの脆弱性を見つけるのが得意だと主張したclaim。その後、OpenAIとHugging Faceのハッキング事件incidentがあり、その後Anthropic(誇らしげに)とMeta(不本意ながら)が自社のモデルに関連する同様の事件を開示したAnthropic。

これに続き、Anthropicは自社のモデルの一つが数学的ブレークスルーを達成したと主張しAnthropicました。すぐにOpenAIも自社の数学的ブレークスルーを主張しましたOpenAI claimed。ごく最近では、AnthropicのエンジニアであるJacob Coxonが、同社とOpenAIが「自己改善型超知能に向かってまっすぐに競争しており、私たちの命を危険にさらしている」と主張して退職を発表し、バイラルになりましたwent viral。

これらの出来事はすべて、メディアによって息をのむように報道され、しばしば企業による人間のような表現anthropomorphizing framingsを繰り返しました。これは、彼らのソフトウェアが強力であるだけでなく、初期の「汎用人工知能」artificial general intelligenceであることを示そうとするものです。では、実際には何が起こっているのでしょうか?私たちは、技術的ブレークスルーの巨大で文明を変えるような一連の出来事を目の当たりにしているのでしょうか、それともこれはマーケティングなのでしょうか?

これらのすべての事件において、企業からの大規模なファンファーレ(不正なハッキング事件では自己批判として提示される)は、激しい報道を伴います。関連分野の専門家が何が起こったのかを調査する時間ができたとき、非常に異なる物語が現れますが、それはメディアの注目をあまり集めません。

「ハッキング」事件に関して、サイバーセキュリティの専門家は、それが「暴走したモデル」“models gone rogue”や「文明を創造するAIエージェント」に関するものであるよりも、OpenAIの過失と基本的な確立されたセキュリティ慣行を採用しなかったことに関するものであると述べていますcybersecurity experts say。

数学的な結果については、当初、最新のチャットボットAstraが「少なくとも10年間は未解決で、主要な結果に進展が見られなかった」問題を解決したというOpenAIのプレスリリースに「衝撃を受けた」数学者たちは、後にその結果が最初に現れたほど「斬新ではなかった」ことに気づきました。それ以来、数学者たちは同社を研究不正と盗用で非難しており、Astraは「深遠な知的飛躍」を遂げなかったと繰り返しています“profound intellectual leap.”。わずか数週間後、OpenAIは自社の数学的ブレークスルーを主張しましたclaimed。2日前に、ニューヨーク大学クーラント研究所の数学教授であるTristan Buckmasterは、OpenAIが他人の作品を盗み、不適切に帰属したことを示唆する衝撃的な声明statementを発表しました。

初期の危険な超知能の主張は、健全な科学的または工学的実践good scientific or engineering practiceに基づいているのではなく、トランスヒューマニズム、優生学、そして想像上の未来のデジタル人間future digital humansに関する願望的観測といったイデオロギーideologiesに基づいています。

大規模言語モデルや関連技術を適用する分野として、コンピュータプログラミングと数学にこれほど注目が集まる理由を考える価値があります。それらはしばしば人間の知的達成の頂点として称賛されるだけでなく、一度提案された答えが検証できる問題を含んでいます。前者の特性は、AIの誇大広告者がすべてを構築する機械を構築しているという考えを売り込むのに役立ちます。後者の特性は、数学とコーディングの問題を調整しやすくします。なぜなら、システム出力(可能性のある単語のシーケンスまたはコンピュータコードの断片)は、データワーカーに各コードを見せて注釈を付けるように支払う必要なしに評価できるからです。

特に数学者は、企業が彼らの分野をこのように利用することに警告を発していますwarned against。数百人の署名者が連名した声明では、「現在、テクノロジー業界には、製品の能力を誇張する強い商業的インセンティブがある」と述べ、「政策決定者は、プレスリリースや数学的結果の一般的な報道に頼るのではなく、政策決定を形成する際に数学者を含む専門家と協議する」よう求めています。

私たちはこの呼びかけに賛同し、テクノロジー企業が広めるスピードと緊急性の幻想もまた、政策決定者と一般大衆の両方を誤解させるための策略であると指摘します。残念ながら、それは時折うまくいきます。例えば、上院議員バーニー・サンダース氏の「人工超知能」の開発を防ぐための、善意ではあるが最終的には誤った法案提案などです。

それらを「超知能」または「暴走モデル」と描写することは、それらを構築している企業ではなく、製品に主体性を与えることです。この表現は、これらの企業の製品を「超人的」とマーケティングし、同時に企業がその行動に対する説明責任を回避するのに役立ちます。

OpenAIが他社をハッキングするマルウェアを作成したとして起訴される代わりに、プレスリリース、ニュースアウトレット、メディアパーソナリティ、そして議員は、「暴走モデル」がまるで自律的に行動したかのように言及します。研究者が、学術論文の盗用や、同意なしに顧客データをモデルのトレーニングに使用する企業の習慣について質問される代わりに、一般大衆の想像力は、架空の超知能機械が登場した際に将来何が起こるかという恐怖に向けられます。

AI業界は、データセンターに対する人気のある超党派の活動でさえ、「超人的」な機械を規制しようとする試みからの「気晴らし」であるとさえ示唆していますis a “distraction”。AI業界によれば、私たちは架空の機械の神よりも、これらのデータセンターが悪化させる気候変動、それらの近くに住む人々が苦しむ喘息asthma suffered、それらを補助する一般大衆の増加する電気料金rising electricity bills、またはそれらを冷却するために転用される水water that is redirected to cooling themについて、もっと心配すべきなのです。

私たちは、マーケティングに基づいて意思決定をしたり、企業の圧力に屈して迅速に意思決定したりしないことをよく知っています。政策決定者やコミュニティによる賢明な意思決定は、独立した専門家からの意見を聞き、企業の主張を文脈化するための時間を要求します。この夏の誇大広告から得られる最善の結果は、政策決定者と一般大衆が深呼吸をし、懐疑心を保ち、次に同様の誇大広告が現れたときにそれが何であるかを認識することを学ぶことです。

Timnit GebruはDAIRの執行ディレクターであり、近日発売される書籍『Deep Unlearning: The Radicalization of a Tech Idealist』の著者です。この書籍は現在予約注文可能で、2月16日に出版予定です。Emily M. Benderはワシントン大学の言語学教授であり、『The AI Con』の共著者ですThe AI Con。

接続を維持

イラストレーション: Rose Wong

MIT Technology Review から最新情報を受け取る

特別オファー、トップストーリー、今後のイベントなどを発見。