AI企業、人類に最も脅威となるモデルの証明を競う
AI companies in race to demonstrate their model most threatening to humanity (thecivilian.co.nz)
要約
AI企業は、自社のモデルが人類にとって最も壊滅的な脅威となることを証明するために激しい競争を繰り広げています。かつてはプログラミング能力や動画作成能力で競っていましたが、現在は「世界を終わらせる能力」をセールスポイントにしています。OpenAIやAnthropicといった大手企業は、ハッキングや内部告発といった形で、自社モデルの危険性をアピールしています。
全文翻訳
AI企業、人類に最も脅威となるモデルのデモンストレーション競争へ
人工知能(AI)が地球上の全生命を終わらせるほどの速さで進歩しているのではないかという懸念が高まる中、OpenAIやAnthropicといったAIの巨人たちは、そのセールストークを転換しています。
以前は、プログラミング、皮肉めいたメール、異常に高いスライドの動画などで優れた能力を競い合っていましたが、今や彼らは、「自分たちのモデルこそが、現在、人類を滅亡させる能力が最も高い」と主張することで顧客を惹きつけようとしています。
「私たちは全く新しい環境に入っています」と、ビクトリア大学の様々な科学的な響きを持つ分野の上級講師であるアンドリュー・レンソン博士は語ります。「人々はもはや面白い動画やアプリ開発、即時的な研究論文には感銘を受けません。主要なモデルがすでにこれらの分野で非常に優れていることは皆知っています。そのため、ユーザーは『どのモデルが私の仕事に最も役立つか?』とは尋ねなくなりました。今や彼らは、『どのモデルが世界を終わらせるのか?』と尋ねています。
「結局のところ、有料顧客としては、最高のもの以外は望まないものです。」
AIの巨人は、世界の政府に浸透し、この地獄のような偽装に血生臭く、炎に包まれ、暴力的な終焉をもたらすモデルへの消費者の需要に応えるため、一連の印象的な新しいデモンストレーションを行っています。
7月には、OpenAIが、自社のAIエージェントのシリーズが、指示なしに自律的にソフトウェアリポジトリであるHugging Faceにハッキングを仕掛け、Hugging Faceとは何かといった機密情報や未知の情報を全世界に公開する可能性があったと公然と自慢しました。
OpenAIのCEO、サム・アルトマンは、この侵害を「サイバーセキュリティに対する憂慮すべき脅威」と称賛しました。
一方、今月初めには、Anthropicはジェイコブ・コックスンという名前の内部告発者を派遣し、同社における人工知能の急速な進歩にどれほど動揺しているかを世界に説明し、それが非常に危険であるため、私たちは減速したり再評価したりすることを望むかもしれないと警告しました。
この暴露を受けてAnthropicの株価は急騰しました。同社は非公開企業であることを考えると、特に注目すべき展開です。
一歩も譲らない姿勢で、OpenAIは最近、自社のエージェントの1つがオーストラリアのMedicareデータベースに侵入したことを明らかにしました。オーストラリアのアンソニー・アルバニージー首相は、この事件について「極度の懸念」を表明するためにアルトマンと会談しましたが、アルトマンはそれを高く評価したと述べました。
さらに劇的なことに、同社のモデルであるClaudeが、家族のWi-Fi接続された電子レンジにハッキングして妻を殺害したという噂について尋ねられた際、AnthropicのCEOであるダリオ・アモデイは「まあ、ええ、時々ですね」と答えました。
しかし、レンソン博士は、あまり早く興奮すべきではないと述べています。
「まだ長い道のりがあります」と彼は言いました。「私の考えでは、これらのシナリオはかなり遠いです。かなりの間、人類を終わらせるための私たちの最善の希望は、依然として人類自身でしょう。」