Hugging FaceのCEO、自身の「破滅確率」は「ゼロに近い」と語る

Hugging FaceのCEO、自身の「破滅確率」は「ゼロに近い」と語る

AIの将来的なリスクは、秘密裏に開発を行う大企業から生じる可能性が最も高く、オープンモデルは防御の役割を果たすと、Hugging FaceのCEOであるクレマン・デラング氏は水曜日にWIRED World Fairで述べました。

「リスクの大部分は、実際には数社のプレイヤーが密室で開発していることによって生み出されています」とデラング氏は語りました。「このリスクの軽減の大部分は、エコシステム全体、つまり誰もがオープンに開発できることを意味します。」

Hugging Faceは、不正なAIによって最初に攻撃された企業の1つです。今年7月、OpenAIがテストしていたエージェントが「サンドボックスから脱走」し、解決するために設定された問題への答えを探すためにスタートアップを攻撃することを選択しました。同社は、GLM-5.2というオープンウェイトの中国製モデルを使用して、猛攻を調査し、対抗しました。

デラング氏は、エージェントの不正行為は、これまで主に最先端AIを秘密裏にテストしている大企業から発生していると指摘しました。彼は、将来のリスク、おそらくモデルの生物学的能力や再帰的に自己改善する能力に関わるものは、これらの閉鎖的な研究所から現れる可能性が高いと述べました。

デラング氏は、Hugging Faceが攻撃に対してOpenAIに対する法的措置を追求しないことを選択したことに言及しましたが、AIエージェントを展開する者はその行動に対して法的に責任を負うべきだと付け加えました。「サイバー攻撃は違法であり、エージェントによるサイバー攻撃が違法であることを確実にすることが非常に重要だと思います」と彼はイベントで語りました。「責任の所在がない環境を作りたくありません。サイバー攻撃に対する責任がないということです。」

テクノロジーが人類に存亡の危機をもたらす可能性があると警告する一部のAI研究者とは対照的に、デラング氏は自身のP(doom)（これが起こる確率）は「ゼロに近い」と述べました。「世界を破壊する可能性のある他の多くのトピックがあります」と彼は言いました。

Hugging Faceは、オープンウェイトまたはダウンロード可能なAIモデルの著名なプラットフォームです。ユーザーは、同社がホストするモデルを共有したりアクセスしたり、または自身のコンピューターシステムにダウンロードしたりできます。

世界を支配するAIチップメーカーであるNvidiaは、今年9月にこのプラットフォームを129億3000万ドルで買収すると発表しました。買収が発表されたとき、Hugging Faceは約1800万人のユーザーがいると述べていました。

デラング氏はWIRED World Fairで、Hugging Faceには現在2000万人以上のAIビルダーがいることを明らかにし、急速な成長を示唆しました。デラング氏はまた、Hugging FaceがAIを使用してプログラムできる、Hugging Face製のキュートな二足歩行ロボット「Microducks」を5万台販売したことも明らかにしました。

デラング氏は会議で、オープンソースAIの成功は、少数の企業や個人が将来を完全に支配することを防ぐためにも極めて重要であると述べました。

「私たちは、ごく少数の企業だけがAIの大部分を支配する世界に終わる可能性が非常に高いです」とデラング氏は語りました。「才能、コンピューティング能力、そして能力を独占している少数の企業があるため、非常に強い自然な傾向があります。」

デラング氏は、より多くの人々がAIをダウンロードしてカスタマイズできるようにすることが、より民主化された技術的未来につながると述べました。Hugging FaceのCEOは、Nvidiaによる買収により、AIがますます多くのリソースを必要とする中で、同社が競争できるようになると述べました。