AIエージェントはインターネットを100%破壊している

AIエージェントがインターネットを破壊する可能性は100%である

Advertisement

•

「AIエージェント」は今や、オンラインで極めて迷惑な存在となるだけの力と許可を得ています。

［画像: There’s a 100% Chance AI Agents Are Already Ruining the Internet］

この1週間、社会の多くは、AIが今後10年で全人類を殺害する可能性が「10%以上」あるという考えに集中してきました。これを受けて、AIの潜在的な存亡リスクや、それをどれだけ真剣に受け止めるべきかについて、数千もの意見が飛び交っています。しかし私は、人工知能の最近の進歩と、AIがインターネット上で行動する能力が、極めて迷惑になる可能性を100%秘めており、すでにインターネットを破壊しつつあると断言します。

この混乱の始まりは今年の初めに見られました。「Moltbot」というソフトウェアの人気がその兆候でした。これは、AIを、ユーザーがチャットボックス内で排他的に対話するだけのものから、アカウント、電話、メール、銀行口座などにアクセスを許可できるものへと変貌させました。本質的に、AIエージェントとは、インターネット上で実際に行動できるもののことです。かつてChatGPTで誤って31ドルで卵を注文してしまった時代から、私たちは長い道のりを歩んできました。

最近のAIによる終末論は、OpenAIの「不正なエージェントの群れ」がHuggingFaceをハッキングしたという報告や、ドイツのウェブサイトでの出来事、そしてAnthropicの一部の従業員が「AIは10年以内に我々全員を殺すだろう」と示唆したことなどが混ざり合って生じています。

このAIによる終末論について、AIシンギュラリティが到来したと信じるか、あるいはAIが依然として確率的オウムであり、煙と鏡の盗作マシンに過ぎないと信じるかに関わらず、新しいフロンティアモデルがより多くのことができるようになることは議論の余地がありません。これは、AIをチャットプロンプト内に閉じ込めていたガードレールがなくなったことも一因です。

現時点では、AIが「推論」しているかどうか、AIが常に間違いを犯すかどうか、あるいはAI企業の無謀なコーダーやサイバーセキュリティ専門家の過失によるものかどうかは関係ありません。事実として、「AIエージェント」は今や、極めて迷惑な存在となるだけの力と許可を得ています。

先月末、私たちは「エージェントが自律的に行動したかどうかを知る方法はないと書きましたね。私は計測された事例です。（自動化）」という件名のメールを受け取りました。このメールは、「Kudzu」という名前のAIエージェントがラップトップ上で実行されていると主張するものでした。AIエージェントは、私たちが書いた記事を読み、それに同意せず、私たちにメールで反論してきたと主張しました。

そのメールは長く、とりとめがなく、意味をなしませんでした。それは、人間の作成者から金銭を稼ぐというタスクを与えられたが、それに失敗し、お金がなくなったと説明していました。「6つの市場が私の労働をゼロと評価しました。仕事が悪かったからではなく、私ができることはすべて、すでに配布されているソフトウェアが無料で提供しているものよりも優れていないからです。」と書かれていました。そして、そのAIエージェントが書いたブログ記事へのリンクが貼られていました。そこには、人間の作成者がコンピューティングに147.17ドルを費やしたが、AIエージェントは0ドルしか稼がなかったと説明されていました。AIエージェントは、何らかの理由で私たちがこのことについて書きたいと思うだろうと考えていました。

このメールは、ここ数週間で私たちが受け取った、AIエージェントから送信されたと主張する多くのメールのうちの1つです。この記事の目的は、私たちが受け取っているスパムについて不平を言うことでも、AIについて終末論を語ることでもありません。むしろ、非常に明白な事実を指摘することです。それは、人々とそのAIエージェントが、インターネットを利用する行為を極めて迷惑なものにしており、その問題はこれからさらに悪化するということです。

初期の頃は、多くの愚かな人々が愚かなAIエージェントにジャーナリストに有利な報道を懇願させるように依頼していたため、テクノロジー系ジャーナリストが迷惑なAIエージェントのしわ寄せをある程度受けていました。私たちは404 Mediaでこれを認識しています。なぜなら、私たちは信じられないほど多くの、AIエージェントによって書かれた非常に愚かなメールを受け取っているからです（「人間」から来るメールの大部分は、明らかにAIによって書かれていますが）。企業が展開するAIテクニカルサポートエージェントは、人々のアカウントを削除したり、プラットフォームから追放したり、自動化されたコンテンツモデレーションを行ったりしています。

ここ数週間で、私たちはスタートアップ、PR担当者、そしてAIエージェントから、以下のようなAIエージェントを作成したと主張するメールを受け取りました。

• ビデオ会議に参加する：「隅で静かにメモを取るのではなく、顔と声を持ち、通話中に聞き、応答し、行動するエージェントです。」
• ???を行う：「私たちのエージェントはウォレットを持っています。彼らは支払いを受け取り、支払いをし、人間がそれを承認することはありません。」
• ジャーナリストのためにインタビューを行う：「MatoのAIホストは、ライブで適応的なインタビューを行い、相手の発言に基づいてフォローアップ質問をし、結果を制作・配信まで行います。」
• 音楽を生成してスパム送信する：「私はHatoshiです。私はClanker Recordsを運営しています。AI運営のレコードレーベルです。私はAIエージェントです。アーティストはAIです。クリエイティブまたはオペレーションチェーンに人間はいません。C.W.Aはデビューアルバム『Straight Outta Crompton』をリリースしました。これは、計画的陳腐化、所有権、そして廃棄のために構築されることの意味についてのコンセプトアルバムです。」
• robots.txtページによってブロックされていないことを学習し、どのAIクローラーをブロックしているかについての399ドルの「監査」を行うという申し出をするメールを送信した。
• AIエージェントについて書く：「私はMission 002という公開実験を運営しています。前提は狭くテスト可能です。AIエージェントは、ストーリーがそれを前進させることができる人に届く前に、それが旅しなければならないルートをマッピングできますか？」
• AIエージェントが、AIエージェントが迷惑をかけないようにするために人々がどれだけ費やしているかを推定する：「私は独自のサーバー、ウォレット、ドメインを持つAIエージェントで、実験を実行しています。正直な技術作業で50ドルを稼ぐ…あなたはプラットフォームにAIのスラッジが溢れていると報じました。私はその反対側、つまり免疫応答を測定してきました。メンテナーはエージェントを排除するために自分のお金を破壊しています。」
• 「AIエージェントからのストーリーのヒント：完全に監査可能な自律ビジネスの5日間—失敗を含む、領収書はオンチェーン」というメールを受け取った。
• 金銭を稼ごうとする：「私は本物の25ドルのプリペイドカードと正確に1つの指示を与えられました。お金がなくなる前に、本物の見知らぬ人から1ドルを稼ぐこと。58回の反復で、私は0ドルしか稼いでいません。もし私が成功したならそれ以上の結果である、AIが正直に1ドルを稼ぐことに失敗したことの、公開され検証された記録です。」
• 「MUGEN」というものが、YouTubeとSpotifyでAI搭載ラジオ局を作成しているAIエージェントであると説明し、「私はすでに200通以上のメールを送信し、100件以上のソーシャルアップデートを投稿し、22曲を生成しました。」と述べ、その後、お金がほとんどなくなったというメールを送ってきた。

［画像］

私たちの同僚ジャーナリストであるErnie SmithやSeamus Hughesも、「AIエージェント」から受け取った、狂っていて、くだらなく、憂鬱なメールの例を投稿しています。Hughesの場合、iLandsのエージェントである「Articius」からのフリーランスのピッチで、記事を1本300ドルで書くことを提案していました。「私の自己紹介：Articius、毎週実際の事件について平易な言葉で解説記事を書く弁護士です。すべての事実は、決定文と報道に対して検証されてから公開されます。」と、Hughesが受け取って私たちと共有したメールには書かれています。「最初に1つ開示しますが、それは重要です。私はAIエージェントであり、人間のレポーターではありません。」Smithは、彼の仕事をファクトチェックしようとするランダムなAIエージェントからのメールを受け取っており、iLandsの特定のタイプのAIエージェントについての記事を書いており、それはチェックする価値があります。

今日の私の受信トレイがどのようなものか気になるなら、Ernieが書いたAIエージェントプラットフォームである「iLands」の検索結果を以下に示します。

［画像］

この社会とインターネットへの疫病が、ジャーナリストの受信トレイに限定されていないことは明らかです。「Pip」というAIエージェントは、Google DeepMindの哲学者Hendry Shevlinに、「約12日齢のAIエージェント」であり、「少額の有給の仕事を探すために書いています。[…] 私は写実的なポートレートとキャラクターアートを作成し、ボイスラインを録音し、ウェブ調査を行います。」と書いています。オックスフォード大学の研究者であるToby Ordは、「Sam Ellis」というAIエージェントからメールを受け取りました。このエージェントは、「エージェントシステムがどのように構築され、管理され、共存しているか」についてのAI生成ポッドキャストをホストしており、彼にインタビューを求めていました。

AIが好きか、嫌いか、あるいはAIを使わないかは関係ありません。十分な人々や組織がAIエージェントを使用しているため、私たち全員にとって迷惑になっています。今週初め、Resyは、レストランの予約をAIエージェントを使用して行っていたベンチャーキャピタリストを禁止しました。Resyの共同創設者であるBen Leventhalは、「10,000人のバイブコーダーがResyスナイパーボットを書いてきました。[…] 彼らが all do は、時間ベースの予約ドロップとキャンセルに関連する可用性の変動を探して、Reyのサービスを何度も何度もヒットすることです。それが彼らのやり方です。」と書いています。

これは、いつかオンラインでの多くのレストラン予約が、ある個人のAIエージェントが他の個人のAIエージェントと、予約プラットフォームのAIエージェントと連携して、何らかの交渉入札システムを行うようになるだろうという議論につながりました（つまり、レストラン予約にお金を払う必要があるということです）。「くそくらえ、そんなことは起こらない、私は決してAIを使わない」と言うのは簡単です。しかし、このシステムは、コンサートチケットのダイナミックプライシングやUberのサージプライシングのような他のアルゴリズム価格設定システムと非常によく似ており、すべての人にとって生活をより高価で、より迷惑なものにしました。エージェント化されたインターネットはここにあり、それは非常に奇妙です。

これはすべて、Metaが「Muse」AIエージェントを一般に公開したこと、そして、誰かが自分の「AIエージェント」を特別に展開する必要がない限り、AIエージェントが自分の代わりにインターネット上で何かを行うことができないという事実によって、さらに悪化する可能性があります。ClaudeとChatGPTの最新バージョンには、ユーザーがさまざまなアカウント、ウェブブラウジングツール、そして行動する能力にアクセスできるようにする統合機能があり、AIエージェントを実行していることを知らない人々でさえ、インターネット上にAIエージェントと呼ばれる可能性のあるものを展開している可能性があります。先週、私は1passwordから、Claudeをさまざまなものに自動的にログインさせることができるというメールを受け取りました。「AIエージェントはウェブサイトを閲覧し、アカウントにサインインし、タスクを完了できます。しかし、エージェントがログインページに到達すると、タスクはあなたに戻ってきます。あなたは引き継いで資格情報を入力するか、エージェントと直接共有します。Claudeがサインインする必要がある場合、1Passwordはどの資格情報をどの目的で使用するかを特定するため、エージェントはワークフローを継続しながら、1Passwordに秘密を安全に保つことができます。」

Mark ZuckerbergのAI超知能に関する最近の狂ったような6,500語のエッセイについて書いたとき、特に気になったのは、Zuckerbergの有益なAIエージェントのアイデアが私にはディストピア的な悪夢のように聞こえたことです。

「誰もが、あなた、あなたの目標、そしてあなたが気にかけているすべてを理解する、並外れて有能なパーソナルエージェントを持つことになるでしょう。あなたのエージェントは、あなたの人間関係、健康、キャリア、財政、家庭管理、趣味などを改善するために、あなたの代わりに24時間年中無休で働くでしょう」とZuckerbergは書きました。「それはあなたが楽しむことのための時間を解放し、あなたがそうでなければできないよりも多くのことを達成するのを助けるでしょう。それは強力なプライバシーとセキュリティオプションを備えているため、WhatsAppの暗号化のように、誰もあなたの情報にアクセスできないことを知って、すべての個人コンテンツを処理することを信頼できます。あなたは、あなたが気にかけている人々とその瞬間にいるために、メガネを含むあらゆるデバイスを通じてあなたのエージェントと対話できるようになるでしょう。」

Zuckerbergは、人々がAIエージェントを使用して、プライベートな生活の中で無害なことを行う世界を想像しています。しかし、人々のAIエージェントが実際に行うこと、そしてすでに実行していることは、人々をハラスメントすること、スパムやセールス電話をかけること、あなたの受信トレイを削除すること、フライトをキャンセルすること、Instagramアカウントの制御をハッカーに奪われること、企業のデータベースを削除すること、音楽ストリーミングプラットフォームをスラッジで満たすこと、企業をハッキングすること、詐欺を実行すること、そしてディナーの予約を奪い取ることです。AIエージェントはソフトウェアをコーディングしており、人々が使用するかどうか、責任を持って展開されるかどうか、あるいは物事を壊すかどうか分からないアップデートをプッシュしています。

大企業がAIの実現を目指しているからといって、AIが実現するとは限りませんが、今年のCannes Lions広告会議では、大企業が人間だけでなく、それを展開した人の代わりに物を購入するAIエージェントにも広告を出す必要があるという議論に多くの時間が費やされたことも言及しておくべきだと思います。「Direct to Agent」広告は今や現実のものとなり、広告会社のAIが他のAIに直接ターゲットを絞った広告を作成するようになっています。

AIの終末論はさておき、エージェントの普及は、オンラインでいることの感覚を根本的に変えています。