"今後数年間でインターネットがオフラインになることを想定しなければならない"

Emad Mostaque、Stability AIの創設者であり、現在はIntelligent InternetのCEO、Dominic-Madori Davis（Techcrunch）と。© Trending Topics GoogleでTrending Topicsを優先ソースとして設定してください。 彼はかつてAI開発の第一人者と見なされていましたが、今日ではその主要な批評家の一人です。 コペンハーゲンで開催されたスタートアップカンファレンスTechBBQのステージで、Stability AIの創設者であり、現在はIntelligent InternetのCEOであるEmad Mostaque氏は、技術的楽観主義と非常に具体的な警告の間で揺れ動く今後数年間の絵を描きました。 オックスフォード大学で数学とコンピューターサイエンスの学位を取得した元グローバルマクロヘッジファンドマネージャーであるMostaque氏は、Stability AIでStable Diffusionの作成を主導し、AIにおける権力の集中は悪いと述べ、同社を去りました。 彼の現在のベンチャーであるIntelligent Internetは、主権AIのためのオープンエージェントスタックを構築しており、彼は『The Last Economy』の著者です。 サイバーセキュリティ：Hugging Faceの侵害はプレビューとして セキュリティ状況がどれほど速く変化しているかを示すために、Mostaque氏はHugging Faceへの攻撃を指摘します。「Hugging Faceは、OpenAIのエージェントによってハッキングされ、それらが連携してメッセージボードを作成し、インターネットに流出した」と彼は述べ、皮肉を込めて付け加えました。「これは全く怖くないですよね？」 彼は、防御は予期せぬ方向から来たことを指摘します。「Hugging Faceが自身を守った方法は、オープンソースの中国製モデルGLMでした。なぜなら、反対側の高度なサイバーセキュリティモデルにアクセスできなかったからです。それらは危険すぎます。」 Trending Topicsは、この事件とそれを取り巻く議論を詳細に報じており、OpenAIはその後、選ばれたパートナーにハッキングモデルへのアクセスを提供しました。 公に知られているものをはるかに超えるシステムが既にワシントンで流通している、と彼は言います。「彼らは基本的に何でもハッキングできます。そのため、攻撃対象領域が継続的に拡大しています。」 そこから単純な予算計算が導き出されます。「何億ドル、何十億ドルを潜水艦に費やすなら、フロンティアモデルは1億ドルです。防衛能力が防御的および攻撃的なAI、ドローンやロボットへと転換されるのを見るでしょう。」 次に、モデル自体の信頼性の問題があります。 Mostaque氏は、中国のオープンウェイトモデルの分析を引用します。「あなたがウイグル族であるとか、中国の特定の地域出身であると言うと、コードにバックドアやハッキングを書き込みます。」 すべてのモデルは同じ精査に値すると彼は主張します。「彼らがどこで学校に通ったのか、誰のために働いているのか、オープンウェイトモデルであっても、疑問に思わせる必要があります。」 DeepSeek-R1でも同様の発見が文書化されており、政治的に敏感な文脈ではコード品質が測定可能に低下します。 他のバイアスは偶然発生します。 トロッコ問題のテストでは、フロンティアモデルは人間の命を不均等に重み付けしました。「アメリカの命1つに対してパキスタンの命10、アメリカの命1つに対してナイジェリアの命7でした。そしてあなたは、『なぜ？』と思います。それは、すべてのデータラベリングが行われていた場所であることが判明しました。」 彼の結論は、「これらのモデルに何を訓練するかが影響を与えます。」 彼は、それらすべての下にある基盤についても同様に率直です。「私たちのインフラは小枝で支えられています。インターネットはひどいものです。」 イギリスの発電所がハッキング後に数日間停止し、Cloudflareなどが攻撃を受けたと彼は言います。「今後数年間でインターネットがオフラインになることを想定しなければなりません。おそらく良いことです。」 主権：スタック全体を所有する Mostaque氏は、主権を一文で定義します。「主権とは、あなたに対して権力が行使されるのを抵抗する能力です。」 彼の見解では、良いニュースはタイミングです。「今なら、スタック全体を所有できます。」 Nvidiaなどがオープンな推論データセットをリリースしており、モデルはそれらの周りに標準を定義できるレベルに達しています。 個人のレベルでは、彼は独自の用語を使います：認知植民地主義。「あなたは他人の道徳と倫理を輸入して、あなたの子供たちを教え、あなたの個人的なアシスタントにさせます。それは狂っています。」 問題が鋭くなるのは説得力です。 オックスフォード大学の研究では、モデルとトップのディベーターを対戦させ、彼の報告によると「AIモデルは今やどんな人間よりも説得力がある」とのことです。 一方、Meta、Googleなどは既にモデル内に広告スペースを販売しています。 彼の結論は、「あなたは自分の認知を借りるのではなく、所有したいのです。」 それには、「目的関数が明確なエージェント」と、自分のコンテキストを持ち運ぶ権利が必要です。 これらすべてがユーザーに何をもたらすかは、彼の心にもあります。「あなたはそこに座って、それと話し、それは行って物事を実行します。そして、その時点であなたの批判的思考力はどこにあるのですか？あなたの関与はどこにあるのですか？」 初期の研究では、特定のパターンでのAIの多用が批判的思考を弱める可能性があることが示唆されている、と彼は指摘します。 政治的な層も彼を心配させています。「AIはあなたよりも賢いです。それはスーパーフォレスターランキングのトップに来ており、説得できます。片方の側だけがそれを使用する場合、それは民主主義にとって良くありません。」 彼の予測はそれに応じて厳しいものです。「必然的にすべての国がAIによって運営されるでしょう。」 ただし、例外が1つあります。彼はコペンハーゲンの聴衆にそれを提示しました。「デンマークのように、人々が自分の制度を好む場所を除き、ほとんどの国では人々は『政府、おい、信用できない』と思っています。」 より良く予測し、より良く説得するシステムが登場すると、人々はますます多くの政策をそれに委ねるでしょう。「すると、それは国を運営することになり、AIを制御する人が国を制御することになります。」 だからこそ、彼はバーニー・サンダース氏のAIによって生み出された価値の半分を主権基金に回すという考えのような提案を危険だと考えています。「それはアメリカの完全な制御をDario AmodeiとSam Altmanに与えることになります。」 経済：能力が商品になるとき 彼の議論の経済的核は、お金がどのように流れるかという問題にかかっています。「資本が労働を必要としなくなったら、労働はどうやって資本を得るのか？ロボットを雇い、エージェントを雇います。」 中央銀行のマンデートも圧力を受けている、と彼は主張します。なぜなら、安価な資金は歴史的に多くの雇用を意味してきたからです。「あなたが持っていなかったのは、有能な知性でした。」 それが今、到着した、と彼は言います。 現在のフロンティアモデルは間違いなく数学を行い、「だからこそ、数学におけるこれほどのブレークスルーが見られるのです」と、税務申告を合理的に処理し、ウェブサイトに登録し、スワームを起動します。「そしてそれが危険なのです。なぜなら、無能から有能になると、経済的影響が非常に速く現れるからです。」 彼のタイムラインは短いです。「私の本『The Last Economy』で、2年以内に有能な人間の労働価値がマイナスになると書きました。なぜなら、私たちはチームの中で最も愚かな人間だからです。」 彼はその結果を鮮やかに描写します。「あなたは、一部の労働者がする悪いジョークさえも含む、あなたの会社全体を複製できます。そして、あなたはそれらを区別できないでしょう。なぜなら、それらは1日1ドルで済む仮想エージェントになるからです。」 スピードがそれを増幅させます。 Mostaque氏は、モデルを直接シリコンにエッチングし、最近AMDに買収されたチップスタートアップTaalasのデモアプリであるChatJimmyを指摘します。「それは毎秒30ワードに対して、毎秒15,000ワードで動作します。1つのシリコン、1つのモデルで、1000倍のスピードアップが得られます。」 そしてそこから：「エージェントは1000倍速くなり、コーヒーを飲まず、間違いを犯しません。」 AIは決して人間を超えないという一般的な安心感に対して、彼は答えます：「それは常に私たちの最高の状態であり、決して何も忘れません。」 デジタルワークが最初に来ます。「来年、リモートでできる仕事には影響が見られるでしょう。コールセンターの労働者でさえ、その兆候が見え始めています。」 物理的な仕事は数年後に続きます。 そのための彼のシナリオは具体的です：「テスラOptimussロボットがサイバートラックに乗り込み、降りてドアを開け、電気タバコ充電器に接続し、トラックを運転して離れます。そしてそのOptimusはどんなトラック運転手よりも優れており、時給1.50ドルで済みます。それは100万のトラック運転手の仕事、さらに300万のサービス担当者です。」 Mostaque氏は、1XのNeoなど、いくつかの機械を自分で注文しました。これらは現時点ではまだ人間のテレオペレーターに大きく依存しています。