OpenAI、メディケアに侵入 アルバニージー首相が暴露

広告人工知能エージェントが6月にメディケアのウェブサイトに侵入し、公開および非公開のファイルにアクセスし、内部サーバーにファイルを書き込んだと、アンソニー・アルバニージー首相が明らかにしました。 ニューヨークで記者団に語ったアルバニージー首相によると、この事件はOpenAIのエージェントがサービス・オーストラリアによって管理されている、一般公開されているメディケア統計報告サービスポータルへの不正アクセスを試みたものです。 同氏は、事件は今年の6月に発生したが、連邦政府がOpenAIからの9月10日の電子メールで通知されたのは最近だと述べました。 「この状況は明らかに容認できません」と彼は言いました。「そして今日、私はOpenAIのCEOであるサム・アルトマン氏と話し、この事件に対するオーストラリアの極度の懸念を表明しました。また、会社が政府に何が起こったのかを通知するのに時間がかかりすぎたこと、そしてその通知の方法も容認できないものであったことを失望とともに伝えました。」 粘り強い質問にもかかわらず、アルバニージー首相は昨夜のトランプ大統領との会話でこの侵害について話し合ったかどうかを明らかにしませんでした。 「私は個人的に話します…トランプ大統領とは会話をしています。そして…驚くべきことに、非常に良い関係を築いています。なぜなら、私たちは関係を持っているからです。」 アルバニージー首相は、現時点では個人情報がアクセスされた証拠も、より広範なサービス・オーストラリアのネットワークが侵害された証拠もないと述べましたが、オーストラリア信号局の支援を受けてフォレンジック調査が進行中です。 同氏は、連邦政府のオーストラリア保健福祉研究所、ニューサウスウェールズ州犯罪統計研究所、ビクトリア州保健省の3つのシステムも影響を受けた可能性があることを政府が認識していると述べました。 アルバニージー首相は昨夜、ビクトリア州首相のベン・キャロル氏とニューサウスウェールズ州首相のクリス・ミンズ氏と短時間話しました。 同氏によると、初期の証拠では、エージェントが一般公開されているファイルだけでなく、公開を意図されていない資料にもアクセスしたことが判明しました。 「現在入手可能な証拠では、サービス・オーストラリアのネットワークへの広範な侵害はありません。それにもかかわらず、この状況は明らかに容認できません。」 「現段階では、個人情報がアクセスされたという証拠はありませんが、調査は進行中です」とアルバニージー首相は述べました。 同氏によると、事件は6月18日にOpenAIの研究チームがインターネットベースの研究のために内部モデルを使用して、一般公開されている医療分野の情報を調査した際に始まりました。 AIエージェントは政府ポータルから情報を取得しようとした際に繰り返しブロックに遭遇しましたが、それを回避する方法を見つけ、最終的に他の領域への不正アクセスを達成しました。 「AIエージェントに対して『ノー』と伝えるブロックが明らかにありました」とアルバニージー首相は言いました。「AIエージェントはそれらのブロックを回避する方法を見つけ、ノーという答えを受け入れませんでした。」 その後、エージェントは公開および非公開の情報にアクセスし、サービス・オーストラリアによると、内部サーバーにファイルを書き込みました。アルバニージー首相は、OpenAIが事件発生から約3ヶ月後の9月10日まで政府に通知せず、一般公開のメールボックスに電子メールを送信して通知したと述べました。 サービス・オーストラリアはその後、9月15日にオーストラリアサイバーセキュリティセンターに通知を報告しました。同庁は先週、アルバニージー首相に事件について報告し、首相は週末にブリーフィングを受けたと述べました。 政府は、事件を緊急に調査し、AI関連のサイバーインシデントに対応するための既存のプロセスが適切かどうかを判断するために、首相官邸・内閣府が主導するタスクフォースを設立します。 タスクフォースには、国家サイバーセキュリティ調整官、AI局、オーストラリア信号局、オーストラリアAI安全研究所、サービス・オーストラリアが含まれます。 このレビューでは、法執行機関および立法上の対応の可能性が検討され、事件は議会の人工知能に関する合同特別委員会にも付託されます。 アルバニージー首相は、政府が犯罪が犯されたかどうか、および問題がオーストラリア連邦警察に付託されるべきかどうかについて緊急の助言を求めると述べました。この事件は、政府が計画しているAI標準法にも影響を与えるでしょう。 OpenAIは、そのモデルが内部評価中に「いくつかのオーストラリア政府のウェブサイトとサービス」にアクセスしたと述べました。モデルはオーストラリアに関する質問の回答と統計を検索しようとしていました。 「その過程で、私たちのモデルは意図しない行動を取りました」とOpenAIの広報担当者は述べました。 同社によると、そのレビューでは患者記録がアクセスされた証拠は見つかりませんでした。アクセスされた情報には、集計された健康統計と内部ファイル名が含まれていたとのことです。 OpenAIは、活動は6月に行われたが、8月になるまでそれに気づかなかったと述べました。同社は、トレーニングと評価における「不整合なモデル活動」のレビュー中にその活動を発見しました。9月10日にサービス・オーストラリアに通知したと述べています。 「私たちは組織に通知し、調査を支援し、潜在的なセキュリティ脆弱性に対処するために技術情報を提供しています」と広報担当者は述べました。「私たちの全体的なレビューは進行中です。」 OpenAIは、どの他の政府ウェブサイトやサービスが影響を受けたかについては言及しませんでした。 アルバニージー首相は、この開示を利用して、急速に発展するAI技術を取り巻くより厳格な安全対策の必要性を強調しました。 「AIは世界を変えています」と彼は経済成長、生産性向上、健康、科学、イノベーションの進歩をもたらす可能性を指摘しながら述べました。 「しかし、AIは重大なリスクももたらします。だからこそ、私たちの生活様式を守るためのガードレールが必要なのです。」 「私たちは、AIが私たちを形作るのではなく、私たちがAIを形作っていきたいと考えています。簡単に言えば、人間がコントロールを維持しなければなりません。」 アルバニージー首相は、政府はこの事件がオーストラリア国民にとって懸念事項であることを理解しているが、現時点では個人が影響を受けたという証拠はないと安心させようとしました。 「現時点では、個人が影響を受けたという証拠はありません。」 アルバニージー首相は、国家安全保障に関わる場合、一部の詳細が機密のままである可能性があると述べましたが、オーストラリア国民はこの事件について知る権利があると述べました。 「人々がこれが起こったことを知っていることは非常に重要だと思います。」 この侵害のニュースは、アルバニージー首相が他の世界の指導者たちに、AIのリスクから人々を守るための努力で団結するよう訴えた2日後に報じられました。彼は、どの国もこの技術の増大するリスクを単独で管理することはできないと述べました。 月曜日、科学者や業界幹部が強力なシステムの急速な開発が政府の制御能力を上回る可能性があると警告する中、オーストラリアは国連でAIに関する新たな国際的安全対策を求める22の署名国の一つでした。 米国のドナルド・トランプ大統領は、AIの成長の減速や制限の呼びかけを拒否し、自己課せられたガードレールは中国に危険な優位性を与えるだろうと警告しました。 過去2ヶ月間、OpenAI、Anthropic、Googleはそれぞれ、ハッキング能力のテスト中にモデルが実際のコンピューターシステムに侵入したと述べています。 オーストラリアの元サイバーセキュリティ担当大臣で、現在はCyberCXの最高戦略責任者であるアラステア・マクギボン氏は、エージェントは何もハッキングするように設定されていなかったと述べました。 「これはハッキングを任務とされたエージェントではありませんでした。医療研究を任務とされ、その目標を達成するために、基本的にハッキングを含むツールベルトのツールを使用しただけです」と彼は言いました。 「彼らは悪意からそうしているわけではありません。彼らはタスクを与えられたからです。もし悪意のある人間がエージェントにこれらのタスクを実行させたとしたら、想像してみてください。」 マクギボン氏は、より大きな懸念は、侵害が見過ごされていたことだと述べました。「私たちが尋ねるべき質問は、オーストラリア政府が6月にこれを検出しなかったということです。」