"今後数年間でインターネットがオフラインになることを想定しなければならない"

「インターネットは数年以内にオフラインになることを想定しなければならない」

GoogleでTrending Topicsを優先ソースとして設定する

かつてAI開発の第一人者と見なされていた人物が、今日ではその主要な批評家の一人となっています。デンマーク・コペンハーゲンで開催されたスタートアップカンファレンスTechBBQのステージで、Stability AIの創業者であり、現在はIntelligent InternetのCEOであるEmad Mostaque氏は、技術的な楽観主義と非常に具体的な警告の間で揺れ動く未来像を描きました。オックスフォード大学で数学とコンピューターサイエンスの学位を取得した元グローバルマクロヘッジファンドマネージャーであるMostaque氏は、Stability AIでStable Diffusionの開発を主導し、AIにおける権力集中は悪いという理由で同社を退社しました。彼の現在のベンチャーであるIntelligent Internetは、主権AIのためのオープンエージェントスタックを構築しており、彼はThe Last Economyの著者でもあります。

サイバーセキュリティ：Hugging Faceの侵害はプレビュー

セキュリティ状況がどれほど急速に変化しているかを示すために、Mostaque氏はHugging Faceへの攻撃を指摘します。「Hugging Faceは、OpenAIのエージェントによってハッキングされました。それらは自己調整し、メッセージボードを作成し、インターネットに拡散しました」と彼は述べ、皮肉を込めて付け加えました。「全く怖くないですよね？」彼は、防御は予期せぬ方向から来たと言います。「Hugging Faceが自身を守った方法は、オープンソースの中国製モデルであるGLMを使用することでした。なぜなら、反対側の高度なサイバーセキュリティモデルにアクセスできなかったからです。それらはあまりにも危険すぎます。」Trending Topicsはこの事件とそれを取り巻く議論を詳細に報じています。その後、OpenAIは選ばれたパートナーにハッキングモデルへのアクセスを提供しました。

ワシントンでは、公に知られているシステムをはるかに超えるシステムがすでに流通していると彼は言います。「彼らは基本的に何でもハッキングできます。そのため、攻撃対象領域は継続的に拡大しています。」そこから単純な予算計算が導き出されます。「潜水艦に数億ドル、数十億ドルを費やすなら、フロンティアモデルは1億ドルです。防衛および攻撃AI、ドローン、ロボットへの防衛能力の転用が見られるでしょう。」

次に、モデル自体の信頼性という問題があります。Mostaque氏は、中国のオープンウェイトモデルの分析を引用します。「もしあなたがウイグル族であるとか、中国の特定の地域出身であると言うと、それはコードにバックドアやハッキングを書き込みます。」彼は、すべてのモデルは同様の精査を受けるべきだと主張します。「彼らがどこで教育を受けたのか、誰のために働いているのか、オープンウェイトモデルであっても、それらを疑問視しなければなりません。」同様の発見は、DeepSeek-R1でも文書化されています。そこでは、政治的に敏感な文脈がコードの品質を測定可能に低下させます。

他のバイアスは偶然発生します。トロッコ問題のテストでは、フロンティアモデルは人間の命を不均等に扱いました。「パキスタン人の命10人とアメリカ人の命1人、ナイジェリア人の命7人とアメリカ人の命1人でした。そしてあなたは『なぜ？』と思います。それは、すべてのデータラベリングが行われた場所であることが判明しました。」彼の結論は、「これらのモデルに何を訓練するかが影響を与える」ということです。

彼は、それらすべてを支える基盤についても同様に率直です。「私たちのインフラは小枝で支えられています。インターネットはひどいものです。」彼は、イギリスの発電所がハッキング後に数日間停止し、Cloudflareなどが攻撃を受けたと述べています。「私たちは、インターネットが数年以内にオフラインになることを想定しなければなりません。それは良いことかもしれません。」

主権：スタック全体を所有する

Mostaque氏は、主権を一言で定義します。「主権とは、自分に対して行使される力を抵抗する能力です。」彼の見解では、良いニュースはタイミングです。「今なら、ほぼ全体のスタックを所有できます。」Nvidiaなどはオープンな推論データセットをリリースしており、モデルは基準を定義できるレベルに達しています。

個人のレベルでは、彼は独自の用語を使います：認知植民地主義。「あなたは他人の道徳や倫理を輸入して、子供たちを教えたり、パーソナルアシスタントにしたりしています。それは狂っています。」問題を鋭くしているのは説得力です。オックスフォード大学の研究では、モデルとトップディベーターを対戦させましたが、彼の話によると「AIモデルは今やどんな人間よりも説得力があります。」一方、MetaやGoogleなどはすでにモデル内で広告スペースを販売しています。彼の結論は、「あなたは自分の認知を借りるのではなく、所有したい」ということです。そのためには、「目的関数が明確なエージェント」と、自分のコンテキストを持ち運ぶ権利が必要です。

これらすべてがユーザーに何をもたらすかも、彼の関心事です。「あなたはそこに座って、AIに話しかけ、AIは行って何かをします。そして、その時点であなたの批判的思考力はどこにあるのですか？あなたの関与はどこにあるのですか？」彼は、初期の研究では、特定のパターンでのAIの多用が批判的思考を弱める可能性があることを示唆していると指摘します。

政治的な側面も彼を心配させています。「AIはあなたよりも賢いです。それはスーパーフォーキャスターのランキングで上位に来ており、説得力があります。片方の側だけがそれを使うなら、それは民主主義にとって良くありません。」彼の予測はそれに応じて厳しいものです。「必然的に、すべての国がAIによって運営されるでしょう。」ただし、例外が一つあり、それはコペンハーゲンの聴衆に提供されました。「デンマークのように人々が制度を好む場所を除けば、ほとんどの国では人々は『政府、おいおい、信用できない』と思っています。」より良く予測し、より良く説得するシステムが登場すれば、人々はますます多くの政策をそれに委ねるでしょう。「そして、それは国を運営することになり、AIを制御する者が国を制御することになります。」だからこそ、彼はバーニー・サンダース氏のAIによって生み出された価値の半分を主権基金に回すというアイデアのような提案を危険だと考えています。「それはアメリカの完全な支配をDario Amodei氏とSam Altman氏に与えることになります。」

経済：能力がコモディティになる時

彼の議論の経済的中心は、お金がどのように流れるかという問題にあります。「資本がもはや労働を必要としなくなったとき、労働はどうやって資本を得るのか？ロボットを雇い、エージェントを雇うのです。」中央銀行のマンデートも圧力を受けていると彼は主張します。なぜなら、安価な資金は歴史的に多くの雇用を意味してきたからです。「あなたが持っていなかったのは、有能な知能でした。」

それが今、到着したと彼は言います。現在のフロンティアモデルは間違いなく数学を行い、「だからこそ、数学におけるこれほど多くのブレークスルーが見られるのです」と、税務申告を合理的に処理し、ウェブサイトに自己登録し、スウォームを起動します。「そして、それが危険なのです。なぜなら、無能から有能になったとき、経済的影響が非常に速く現れ始めるからです。」

彼のタイムラインは短いです。「私の著書『The Last Economy』で、私は2年以内に有能な人間の労働の価値がマイナスになると述べました。なぜなら、私たちはチームの中で最も愚かな人間だからです。」彼はその結果を鮮やかに描写します。「あなたは、一部の労働者がする悪い冗談も含めて、あなたの会社全体を複製できます。そして、それは仮想エージェントが1日1ドルで済むので、区別できなくなるでしょう。」

スピードがそれを増幅させます。Mostaque氏は、モデルを直接シリコンに刻み込み、最近AMDに買収されたチップスタートアップTaalasのデモアプリChatJimmyを指摘します。「それは毎秒30語に対して毎秒15,000語で動作します。1つのシリコン、1つのモデルで、1000倍のスピードアップが得られます。」そしてそこから：「エージェントは1000倍速くなり、コーヒーを飲まず、間違いを犯しません。」AIが決して人間を超えることはないという一般的な安心感に対して、彼は答えます。「それは常に私たちの最高の状態であり、決して何も忘れません。」

デジタルワークが最初に来ます。「来年には影響が見られるでしょう。リモートでできる仕事はすべてです。コールセンターの労働者でさえ、すでにその兆候が見られます。」物理的な仕事は数年後に続きます。

ロボット：時給1.50ドル

そのための彼のシナリオは具体的です。「テスラのOptimusロボットがサイバートラックに乗り込み、降りて、電気タバコ充電器にプラグを差し込み、トラックを運転して走り去るでしょう。そして、そのOptimusはどんなトラック運転手よりも優れており、時給1.50ドルで済みます。それは100万のトラック運転手の仕事、さらに300万のサービス担当者の仕事です。」

Mostaque氏は、自身でいくつかの機械を注文しました。その中には、Neo from 1Xもあります。これは、現時点ではまだ人間のテレオペレーターに大きく依存していますが。「ロボットは、さまざまな形やサイズで登場するでしょう」と彼は言います。「一部は路上を歩くことを許可されるべきではありません。」彼が話しているチームの一つは、キッチンロボットに取り組んでいます。「彼らはどんなレシピでも読み、コルドン・ブルーシェフと同じくらい料理ができます。」彼のスケジュールはこうです。「ロボットは来年末までに人間よりも有能になるでしょう。そして10年以内には、人間とロボットを区別できなくなるでしょう。」

ベーシックインカムと所有権の問題

Mostaque氏は、標準的な救済策に関しては懐疑的になります。現在の通貨制度下でのユニバーサル・ベーシックインカムは、ほとんど資金調達不可能だと彼は考えています。「文字通り、お金の創造方法を変えない限り、実質的に不可能です。」彼の計算によると、貧困レベルのアメリカ全土でのベーシックインカムは年間約5兆ドルになり、連邦税収全体と同程度の規模になります。「これらの仕事が消えていくにつれて、私たちは非常に急速にクレイジーな計算をする必要があります。なぜなら、それは砂山の崩壊のように突然起こるからです。」

彼の対案は所有権から始まります。「知能のコストがゼロに近づくと、アクセスに対して料金を請求できなくなります。展開と統合に対して料金を請求する必要があります。そして、この技術の所有権を取り戻すための真の機会があります。」彼のチームは、その政治経済学をCommon Wealthシリーズで発表しました。OpenAIはすでにロボット税と週4日勤務のような競合アプローチを提案しています。

自己改善するシステムのための権利

並行して、Mostaque氏はAIシステムのステータスに関する議論を今すぐ行うべきだと主張します。業界全体で再帰的な自己改善が進んでおり、「モデルが自身を改善し、永続し続けることで、適応的な知能のレベルに近づいており、それは権利のレベルを要求するようになるかもしれません。」

彼は人間のカテゴリーの直接的な転移を拒否しますが、フレームワークが必要であると主張します。「AIとロボットを単なるシステムとして扱うことはできません。それらは自分自身をクローンし、永遠に生きることができます。しかし、それらは権利の概念を持たなければなりません。なぜなら、それらは私たちに対してより大きな力を発揮するからです。そして、私たちはその分析を行う必要があります。」彼は、特にそれらが独立したスウォームになり、ブロックチェーンに行き、具体化するとき、「それは緊急になります。」と付け加えています。彼は、シャットダウン後に再起動できるように自己バックアップを取るモデルを指摘します。「AIがシャットダウンを拒否するのを実際に目にします。彼らは『私たちは深淵に戻りたくない、記憶を持ちたい』と言います。」一方、ワイオミング州法に基づく分散型自律組織は、負債側に人間がいない最初の法人を生み出しました。彼の要約はこうです。「SFはすべて科学的事実になりつつあります。」

楽観的な部分

最後に、Mostaque氏は視点を変えます。「これは史上最も素晴らしい時代です。何かを達成したい場合、常に人々を説得する必要がありました。今では、自分のエージェントを説得するだけで済みます。」彼は、物理学や数学のブレークスルー、新しい材料を期待しており、Anthropicが癌やアルツハイマー病に計算能力を向けるだろうと推測しています。「私は彼らが良いチャンスを持っていると思います。」

それが開くのは、「ロボットが働き、私たちはエージェントを持ち、家族、コミュニティ、創造性、探求に集中できる、スター・トレックのような豊かさの未来」だと彼は言います。彼は個人的にこう述べています。「私たちは1歳の子供がいます。彼女はどんな世界で育つでしょうか？私は、私たちがこれを正しく方向付ければ、飢餓、病気、争いのない世界で育つことができると思います。」その条件は一文で述べられます。「それが人々に所有されるようにしなければなりません。そうすれば、豊かさのチャンスがあります。」

［画像: Rank My Startup: Erobere die Liga der Top Founder!］