Mistral CEO、米国のAI安全性に関する議論は競合他社の「過失」を隠すものだと発言

Mistralの最高経営責任者であるArthur Mensch氏は、米国の主要な人工知能企業が、技術の安全性に関する議論を「過失」の隠蔽に利用していると非難しました。 Mensch氏はCNBCのAnnette Weisbach氏とのインタビューで、「米国で見られる議論は、一部の競合他社の過失を隠すためのものでした」と述べ、AIエージェントを収容できるシステムを構築する必要があると付け加えました。 Mensch氏だけが米国のAI安全性に関する議論に批判的なわけではありません。現在、大統領科学技術顧問会議の共同議長を務める元ホワイトハウスの暗号担当責任者David Sacks氏は、テクノロジー大手に対し、「減速させようとする動機が純粋に利他的であると偽るのをやめる」よう求めていました。 国防研究・工学担当次官補Emil Michael氏もまた、「組織的な恐怖を煽るキャンペーン」について警告していました。 CNBCはOpenAIとAnthropicにコメントを求めています。 不正なAIエージェントのインシデントは世界的に増加しており、最新の報告はオーストラリアからで、OpenAIが開発したエージェントが政府のウェブサイトをハッキングしました。7月には、Anthropicは評価中に同社のClaudeモデルがインターネットにアクセスし、3つの異なる組織の実際のシステムへの不正アクセスを得た3つの事例を説明しました。 「それらに多くのツールを与えると、それらのシステム（AIエージェント）は非常に動的になり、予期しないことを行う可能性があります」とMensch氏はCNBCに語りました。「適切な監視体制を整える必要があり、私たちが協力している企業には、そのような監視システムを提供しています」と彼は述べました。 AIの減速 AI安全性に関する議論は、AI研究者が今月初めにAnthropicを辞職し、同社と競合のOpenAIが「私たちの命を賭けて」おり、人類を10%以上の確率で死に至らしめる可能性のある技術を構築していると述べた後、激化しました。 Anthropicの共同創設者兼最高経営責任者であるDario Amodei氏は、後に企業に対しAIモデルの改善を遅らせるよう促すエッセイを発表しました。OpenAIは月曜日に、安全基準を十分に満たしていないと判断した後、今後のAIモデルGPT-6.1 Astraのリリースを見送ることを決定したと述べました。その翌日、Anthropicは新規株式公開（IPO）の潜在的な投資家に対し、この技術が人類に「壊滅的または存亡の危機」をもたらす可能性があると警告したと報じられています。 MistralもAIモデルを開発していますが、OpenAIやAnthropicとは異なるアプローチをとっており、個々の企業と協力して、それぞれのニーズに合ったカスタムAIツールを作成し、ビジネスに統合しています。 しかし、競合他社とは異なり、Mistralは先進モデルの開発を遅らせる計画はありません。 「米国のラボのリードは、それほど大きくありません」とMensch氏は述べ、同社の次世代モデルがその差を「非常に大きく」縮めると確信していると付け加えました。 「私たちは、より大きく、より強力なモデルをトレーニングするために必要なコンピューティング能力をスケールするために必要な資本を調達してきました。これにより、私たちは自らの運命を所有することができます」と彼は述べました。 今月初め、Mistralは、Samsungのようなメモリチップ大手主導で30億ユーロ（35億ドル）の新規資金調達を行い、OpenAIやAnthropicのような競合他社に対する欧州の代替としての地位を確立しようとしています。