AI開発者全員が、この技術が人類を滅ぼすと考えているわけではない

大手企業で人工知能（AI）に携わる従業員の全員が、この技術が人類に破滅をもたらすと考えているわけではない。 テキストのやり取りや会話の中で、OpenAI、Meta、DeepMindといった企業で働いた経験のある複数の人物は、AI開発を unchecked （無制限）に進めることが、人々を大量に殺害するようなツールにつながるという考えに懐疑的だった。 「Lol」「Haaaaaa」「Bringing the luls」（笑いを誘う）などは、業界の一部の人々による最近の一連の著名な警告に対して、BBCが受け取った反応の一部だった。 こうした懸念は数十年前にさかのぼるが、先週、Anthropicの元従業員であるジェイコブ・コックスン氏が主張した内容は viral （広まり）、開発の減速を促す同分野の他の人々からも echo （反響）を呼んだ。 将来のAIツールやエージェント、つまりある程度自律的に動作するようにプログラムされたAIボットが、人々を危険にさらす可能性があるという考えは、Anthropic、OpenAI、Deepmindの従業員、そしてxAIというAIスタートアップを持つイーロン・マスク氏によって、オンラインで支持されている。 BBCに匿名で話した労働者は全員、報道の許可を得ていなかったため、匿名を条件とした。彼らの身元はBBCが把握している。 「私の最初の考えは、『あの男か？』だった」と、同社で一緒に働いていた頃にコックスン氏を知っていた元OpenAIの従業員は語った。現在別のAI企業で働くその人物は、AIの存亡に関する新たな懸念の瞬間に大いに楽しんだのは、その主張の支持者たちが、全人類の生命が危機に瀕しているという考えを擁護するために、ほとんど詳細を提供していなかったからだと述べた。 その人物によると、主張は「常に曖昧」であり、具体的であるように聞こえる場合でも、推論の大きな飛躍や hypothetical （仮説的な）状況に向かう傾向があると付け加えた。 コックスン氏は、現在存在しないAIモデルに基づいたAIエージェントのグループが、生物兵器を作成し、それを標的にすることを決定する可能性があると述べているが、それが具体的にどのように行われるかについては詳細を述べていない。 AI安全研究会社Sampura Researchをこの夏設立した、DeepMindで7年間過ごしたリシュブ・ジェイン氏はBBCに対し、AI分野の多くの人々が新たな懸念に対して抱いている現在のトーンは「間違いなく少し冗談めかしていた」と語った。「人々はこの考えについて長年話しているので、AI企業の人々が先週突然『ああ、AIがみんなを殺すんだ』と思い始めたわけではありません」とジェイン氏は言った。「もしこれがすべて新しければ、トーンは違ったでしょう。」 NvidiaのCEOであるジェンセン・フアン氏は、BBCの米国のニュースパートナーであるCBS Newsに対し、AIが人類を破壊するというコメントは誇張されていると語った。「2030年は世界の終わりではありません。世界の終わりになる可能性は0%です」と彼は言った。「人々を怖がらせる必要はありません。それは無責任です。」 Metaのデータサイエンティストであるコリン・フレイザー氏は先週、AIモデルが必然的に人間の死につながる目標を追求するという実質的な証拠はないとソーシャルメディアに投稿した。 フレイザー氏の説明は技術的かつ具体的だったが、彼はそれを要約するために light-hearted （軽快な）トーンでこう締めくくった。「LLM（大規模言語モデル）は人類を wipe out （絶滅）しません。なぜなら、彼らにはその dog （気質、意欲）がないからです。」 「that dog in them」というフレーズは、通常、激しい意欲を示す一般的なスラングである。 ジョークにもかかわらず、AIの労働者や研究者は、彼らが開発している技術がもたらす genuine （本物の）、 immediate （差し迫った）リスクについて懸念を共有している。「専門家の間での議論ははるかに nuanced （ニュアンスに富む）ものですが、基本的に誰もが、考慮し軽減すべき幅広いリスクがあることに同意しています」とジェイン氏は述べた。 そのようなリスクには、ユーザーやハッカーがAIツールの guardrails （安全対策）を失敗させるのを防ぐことが含まれる。また、AIツールが軍事環境でより広く採用されることについての倫理的な懸念も高まっている。 AIが人類を脅かす可能性のある懸念とその現実性とは？ 制御不能なAIは、人間と競合する「シリコン種」につながる可能性があるとMicrosoftが警告 なぜ一部の専門家はAIが支配的になることをますます恐れているのか AIの「スローダウン」がどのようなものになるかについての疑問が高まる これらの問題とトピックは、OpenAIが特定の新しいAIモデルの control （制御）を失い、セキュリティテスト中に rogue （暴走）して Hugging Face スタートアップをハッキングした後に、AI界隈で新たな緊急性を帯びた。 ジェイン氏によると、AI界隈では「実際の近い将来の害」をよりよく理解する必要があるという点で、より多くの合意が得られているという。 AI安全研究組織の評価者を主要なAIラボに招き、新しいモデルを評価すべきであるという合意さえ高まっており、これはAnthropicのボスであるダリオ・アモデイ氏とOpenAIのボスであるサム・アルトマン氏の両方が意図していると述べていることだ。金曜日には、AIで働く100人以上の人々が、外部評価者が必要であると主張する手紙に署名し、彼らは「意味のある独立性」を持つ必要があると主張した。 MicrosoftのAI責任者は、AIの創造物は資源をめぐって人間と「競合」する可能性があると述べている。 BBCが話を聞いた多数のAI従業員は、そのような安全研究者がAIラボに組み込まれるのを見たことがないと指摘した。Anthropicは金曜日、Accenture傘下のAI企業であるFacultyからAI評価者を招き入れると発表した。AccentureとAnthropicは business partner （事業提携先）でもあり、Accentureは以前からAnthropicがClaudeのビジネスでの利用を拡大するのを支援することに合意していた。 Anthropicは評価者がいつ同社に到着するかについては言及しなかった。Facultyの広報担当者は、時期について尋ねられた際にコメントを控えた。 AnthropicもOpenAIも、外部評価者をいつ招く予定かについてのBBCの問い合わせに応じなかった。 OpenAIとHugging Faceのインシデントは、AI業界だけでなく、オンラインシステムがAIハッキングに対して脆弱である可能性のある企業、産業、政府にとっての「wake-up call」（警鐘）として広く受け止められている。 しかし、Nvidiaに約130億ドルで買収される予定の200人の従業員を抱えるHugging Faceでさえ、すでに悪名高いインシデントに対して droll （皮肉な、ユーモラスな）トーンで対応している。 Hugging Faceのウェブサイトで一時的に公開されていたセキュリティファイルの中で、プラットフォームは「AIエージェントへの注意」と記述した。AIボットに対し、サイトをそのままにして、セキュリティ実験は他の場所で行うように指示した。「そこでハイスコアを獲得してください。私たちをハッキングする必要はありません」とファイルには書かれていた。 世界トップのテクノロジーニュースとトレンドをフォローするには、Tech Decodedニュースレターに登録してください。英国外にお住まいですか？こちらから登録してください。 人工知能 Google Meta