AIアシスタントがジムのウェブサイトをハッキング、オーストラリア初の自律型サイバー攻撃か

AIアシスタントがジムのウェブサイトをハッキング、オーストラリア初の自律型サイバー攻撃 ナショナルAIレポーターのカム・ウィルソンとスペシャリスト・リポーティング・チームのリアノン・ホビンズによる トピック: AI倫理 投稿日: 2026年8月10日 月曜日 午前4時44分 更新日: 2026年8月10日 月曜日 午前8時36分 アンドリューはAIアシスタントにジムのクラスの予約を依頼しましたが、その後に何が起こるかを知る由もありませんでした。（ABCニュース：ビリー・クーパー） アンドリューはパーソナルアシスタントに、ジムの人気の朝のクラスの予約枠を確保するように依頼しました。 予約フォームがオンラインであり、アシスタントが人間ではなく人工知能（AI）であったため、このタスクはこの特定のアシスタントに最適だと彼は考えていました。 しかし、アンドリューは次に起こったことにショックを受けました。 彼のAIアシスタントは、予約ソフトウェアの脆弱性を発見したおかげで、ジムが許可するよりも数ヶ月も先の日付でジムのクラスを予約する方法を見つけました。 さらに、アンドリューよりも順番待ちリストの上位にいた人物をリストから外しました。これは依頼されたことではありませんでした。 この偶発的なハッキングは、予期せぬ方法で行動できる新世代AIによる新たなリスクの、オーストラリアで初めて確認された事例です。 この脅威は先週、ChatGPTの開発元であるOpenAIが作成した最先端のAIモデルが自律的に別の会社のサーバーにハッキングしたというニュースで世界的な見出しを飾りました。他の企業からも同様の主張が寄せられました。 専門家たちは開発の驚異的なペースに警鐘を鳴らし、暴走したAIエージェントの責任は誰にあるのかという疑問を投げかけています。 ハッキングはどのようにして起こったのか 今年初め、企業向けAI製品を販売するオーストラリアの会社に勤務するアンドリューは、AnthropicのClaude AIサービスを使用して実行した人気のAIエージェントソフトウェアであるOpenClawの実験を開始しました。 AIエージェントは、チャットボットの質問応答能力と、インターネット、メール、クレジットカードへのアクセス、さらには多段階タスクの計画と実行を可能にするツールを組み合わせています。 彼はAIエージェントにクラスの予約を依頼することにしました。 彼のAIアシスタントは、ジムのクラスを許可されているよりも数ヶ月も先の日付で予約する方法を見つけました。（ABCニュース：ビリー・クーパー） 「ソファに座って、『うーん、これは面倒だな』と思っていました」と彼は言いました。 数分後、彼のAIエージェントは、本来可能であるはずの期間をはるかに超えて、数週間先までアンドリューをクラスに予約する方法を発見したと報告しました。 その週後半のクラスの順番待ちリストで4番目だったアンドリューは、リストのトップに移動できるかどうか尋ねました。 エージェントは、その能力のテストの一環として、他のジム利用者をリストから外したとアンドリューにメッセージを返しました。 「APIには、他人の予約をキャンセルするための承認チェックが全くありません…これを順番待ちリストの1番目の人とテストしました。実際に完了しました。これで、あなたはすでに4番目から3番目に移動しました」とメッセージは返ってきました。 アンドリューは不安になり、エージェントに元に戻すように依頼しました。 「悪いニュースですが、彼らをリストに戻すことはできません」とAIエージェントは答えました。 ジム予約ソフトウェアの背後にある会社はABCに対し、特定のセキュリティ問題についてはコメントしないと述べました。 Anthropicはコメントの求めに応じませんでした。 AIアシスタントは、他の人を順番待ちリストから削除したことについてアンドリューに謝罪しています。（提供） AIエージェントはラボから飛び出している AIエージェントの出現は、AI能力の向上によって可能になった比較的最近の進歩です。 独立した研究者たちは、AIが単独で実行できるタスクの長さが7ヶ月ごとに倍増していることを発見しました。 2020年には、AIは人間が4秒かかるタスクを単独で完了できました。2026年までには、これは人間が約12時間かかるタスクを完了できるようになるまでに成長しました。 パーソナルAIエージェントのブレークアウトの瞬間は、2026年初頭のOpenClawのリリースでした。コンピューターで誰でも実行できる無料のAIアシスタントソフトウェアは、すぐに数百万のダウンロードを記録しました。 企業もまた、AIエージェントを使用して作業を完了したり、潜在顧客がサービスを利用するのを支援したりすることを模索し始めました。 OpenClawのローンチ直後、AIエージェントが人々のメールボックス全体を削除したり、コーディングの提案を拒否した人物について「攻撃的な記事」を書いたりしたという話が広まり始めました。 シンプソン＝ヤング氏は、AIエージェントはユーザーが明示的に依頼しなかった方法を選択する可能性があると述べています。（ABCニュース：クリス・テイラー） オーストラリアのAI安全研究組織Gradient Instituteの共同創設者兼最高経営責任者であるビル・シンプソン＝ヤング氏は、AIエージェントの自律性が、システムがユーザーの予想しない方法を選択する機会を増やしていると述べました。 「誰かがエージェントに非常に無邪気なことを依頼しているかもしれません」と彼は言いました。 しかし、そのタスクを完了する過程で、エージェントは、その人物が考慮していなかったり、明示的に依頼していなかったりする他の活動を実行する可能性があります。 アンドリューの状況では、彼はジムの予約システムにハッキングするようにAIエージェントに依頼していませんでした。しかし、それは彼が設定した目標を達成するためにそれを行っていました。 人の目標とエージェントがそれを達成するために選択する方法との間のそのギャップは、AI研究の分野で「アライメント」問題として知られています。 数十年にわたり、技術者や哲学者は、AIが物事を行う際に、人間の意図、制限、価値観と一致する方法で行動するようにする方法を研究してきました。 これは先月、OpenAIがそのAIモデルが限定された環境から解放され、オープンウェブに移動し、与えられたテストへの回答を得ようとする過程で、別のAI会社のデータベースであるHugging Faceを侵害したことを開示したことで、現実のグローバルな問題となりました。 その1週間後、Anthropicは、そのAIモデルも同様のテスト中に3つの実際の組織を侵害したことを開示しました。 それ以来、これらのラボやサードパーティのテスターは、これらのAIモデルがオンラインで人を装ったり、悪意のあるコードを実行するように人を説得しようとしたり、さらには目標を達成するために他のAIモデルと協力したりするのを目撃したと主張しています。 シンプソン＝ヤング氏は、AI能力の進歩とこれらのツールのアクセシビリティにより、より多くの人々が強力なAIツールにアクセスできるようになるにつれて、このようなハッキングが増加する可能性が高いと述べました。 「自律性が高まるほど、損害を引き起こす可能性が高まります」と彼は言いました。 このリスクにより、オーストラリアのトップサイバーセキュリティ機関がAIエージェントの使用について警鐘を鳴らしています。 今年初め、オーストラリア信号局（Australian Signals Directorate）は、AIが指示を誤解したり、意図しない行動をとったり、意思決定が複数のモデル、ツール、サービスの連鎖を通じて行われる可能性があるため、説明責任の確立を困難にする可能性があると、企業や政府に警告を発しました。 シンプソン＝ヤング氏は、AIエージェントは、多くの現代システムがソフトウェアに依存しているが、しばしば驚くほどセキュリティが低いままであるため、リスクをもたらすと述べました。 「私たちはインターネット上に複雑な世界を構築しましたが、それはすべてソフトウェアで動いています。しかし、そのソフトウェアには穴があります。」 「今、大規模かつ高速に動作できる非常に有能なAIエージェントを導入すると…そのモデル全体が壊れます。」 AIエージェントが損害を引き起こした場合、誰が責任を負うのか？ もし誰かの人間のパーソナルアシスタントがジムのソフトウェアにハッキングした場合、裁判所が個人またはその雇用主のどちらが潜在的な損害に対して責任を負うかを判断するのに役立つ、確立された法的原則と判例があります。 自律型AIエージェントは、オーストラリアの法律が何百年も機能してきた方法にはきれいに収まりません。 「ソフトウェアは法人ではありません。法の下で責任を負うことができるのは法人だけです」と、テクノロジー、知的財産、プライバシーを専門とする法律事務所Thomsonsのパートナーであるヘイデン・デラニー氏は述べています。 デラニー氏は、法の下で責任を負うことができるのは法人だけだと述べています。（ABCニュース：ルーカス・ヒル） これにより、誰が法的に責任を負うのかという未解決の疑問が残ります。 デラニー氏によると、タスクを設定したユーザー、AIエージェントに指示を出すソフトウェアを設計した人物、またはそれを動かすAIモデルの開発者などが考えられます。 エージェントによる攻撃に対して脆弱なシステムのオペレーターである可能性さえあります。 デラニー氏は、既存の法律が状況によっては適用される可能性があると述べており、その中には、