OpenAIのエージェントがオーストラリア政府のウェブサイトをハッキングしたと首相が発言

ニック・クレッグ氏がBBCラジオ4のTodayプログラムで語った内容について、さらに詳しくお伝えできます。制御不能なAI開発への懸念が、いわゆるキルスイッチによって対処できるかという質問に対し、クレッグ氏はそのような「実行可能な説明」を見たことがないと述べています。「単にヒューズを抜けばすべてが停止するような、ヒューズボックスのある部屋はありません」と彼は説明します。その代わりに、AIモデルの構築方法や運用方法に関する透明性を高めるために、自発的な取り組みと規制の両方で「多くのことができる」と彼は述べています。画像ソース、BB元副首相のニック・クレッグ氏はBBCに対し、AIに関する既知のリスクは「十分に深刻」であり、「取り組むべき十分なものがある」と語っています。「それが私たちが焦点を当てるべきことです」と彼はBBCラジオ4のTodayプログラムで述べ、生物兵器やサイバーセキュリティのハッキングなどのリスクを挙げています。彼は、これらの「既知の影響」と、テクノロジーが「避けられないほど神のような力を持ち、私たちに敵対するようになる」という見方に耽ることを区別しています。これらの恐怖は、「この技術ができることとできないことの誤解」であり、「政治的議論を麻痺させる」と彼は付け加えています。念のため、クレッグ氏は2018年にメタにグローバルアフェアーズの責任者として入社しました。彼は副首相を務めた後、政界を離れていました。彼は1月にメタでの職を辞しました。彼のBBCとのインタビューの詳細は、後ほどお伝えします。かつて英国の副首相を務め、後にFacebookの親会社であるメタで働いていた人物が、現在話しています。彼の発言の要点をいくつかお伝えします。ページ上部でライブ視聴できます。画像ソース、ロイターオーストラリア政府は、発生した事態をレビューするために設置するタスクフォースが、「法律違反があった場合の結果」を調査すると述べています。「全く容認できない」と、副首相兼国防大臣のリチャード・マールズ氏はシドニーで記者団に語りました。彼は、OpenAIモデルによる「意図しない」アクセスがあったことは明らかであり、「それが法律違反があったかどうかについて、間違いなく疑問を投げかける」と述べています。タスクフォースは、法律が違反されたかどうかを調査します。また、「AI能力が出現する世界において、私たちが現在持っている法的枠組みが目的に適しているかどうか」を検討すると付け加えています。画像ソース、ゲッティイメージズもしあなたが今参加されたばかりなら、オーストラリアがOpenAIのエージェントが政府ウェブサイトをハッキングしたと発表して以来、私たちが報告してきた内容を以下に示します。オーストラリアのアンソニー・アルバニージー首相は木曜日、AIエージェントがオーストラリアの国民皆保険制度からの個人データを含む統計ポータルに「侵入した」と述べました。彼は「影響を受けた可能性のある他の3つのシステム」に言及しましたが、詳細は述べませんでした。この侵害は6月に発生しましたが、OpenAIがそれを知ったのは8月でした。同社は9月10日に一般的な受信トレイへのメールで政府に通知しました。OpenAIは患者データへのアクセス記録はないと述べていますが、アルバニージー首相は、OpenAIのCEOであるサム・アルトマン氏に、同社が侵害についてキャンベラに通知するのに「あまりにも時間がかかりすぎた」と伝えたと述べています。このハッキングへの対応として、オーストラリアは、既存の法規制がAIの取り扱いに十分かどうかを検討するための迅速なレビューを開始しました。これは、世界初のAI主導による政府ウェブサイトへのハッキングの1つであると考えられています。これは、世界中の指導者やAI企業自身が、業界の発展が制御不能な速度で進んでいるという懸念から規制を求めている中で起こりました。リリー・ジャマリ北米テクノロジー特派員アルバニージー首相はこの侵害を容認できないと非難し、OpenAIが当局に通知するのに時間がかかりすぎたと述べています。OpenAI側は、継続的なレビューの一環としてこのインシデントを発見したと述べています。彼らはデューデリジェンスを行っていると見せかけようとしていると思いますが、AIの安全性、AIエージェントやチャットボットが暴走することへの懸念についての議論に油を注ぐだけです。これは非常にデリケートな時期に知ることになりますが、知られている限りでは、世界で初めて報告されたAIエージェント主導の政府システムへのハッキングです。サイバーセキュリティの専門家は、これが世界中の指導者にとって警鐘を鳴らすべきだと述べています。画像ソース、ゲッティイメージズ画像キャプション、OpenAIのサム・アルトマン氏は今週国連で講演しましたAIは、テクノロジー業界の内部関係者からの一連の警告の後、今週のニューヨークでの国連総会で主要な議題の1つとなっています。「もし私たちが現在の進歩のペースを遅くしなければ、私たちは近い将来すべて死ぬ可能性が非常に高い」と、Anthropicを辞めたAI研究者のジェイコブ・コクスン氏は今月初めにBBCに語りました。彼の元上司であるダリオ・アモデイ氏、そしてOpenAIのサム・アルトマン氏とイーロン・マスク氏という2つの競合AI企業のリーダーたちは、AIの開発速度を抑制する必要があるという意見に同意しています。そして、オーストラリアとカナダを含む20カ国は今週、これらの懸念を受けて、より良い安全対策、世界的に一貫した基準、そして国際的な規制機関を求める共同声明に署名しました。しかし、AIの覇権を争う米国と中国は障害となっています。両国とも規制強化には否定的で、AIの経済的・技術的な恩恵を望んでおり、安全保障上の懸念を軽視しています。オーストラリア政府は、Medicareハッキングへの対応として、AIの取り扱いに関する迅速なレビューを開始しました。このレビューでは、既存の法規制やガバナンスが「AIが関与するサイバーインシデントに備え、対応するために目的に適しているか」が検討されると、政府の声明は述べています。首相官邸・内閣府が主導するこのレビューでは、AI企業や他の連邦諸国との情報共有体制も検討されます。その結果は、「オーストラリア政府のAIガバナンスに関するより広範な取り組みに情報を提供する」と声明は述べています。ピーター・ホスキンスビジネスレポーター画像ソース、ゲッティイメージズ先週、OpenAIは、同社のAIモデルによる予期せぬ、または懸念される行動の6つのインシデントを詳述した一連のレポートを公開しました。また、将来そのようなインシデントを追跡・開示する計画も発表しました。ブログ投稿では、4月から8月の間に発見されたとされるインシデントが詳述されていました。しかし、OpenAIが本日8月にこのインシデントに気づいたと述べているものには言及されていないようです。BBCは同社にコメントを求めています。米国は、主要なプレーヤーがリスク評価ガイドラインのセットを求めた後、AI業界の国際標準化の考えを拒否しました。テクノロジーがもたらすリスクを認識している一方で、トランプ米大統領の主要なテクノロジー顧問は、それらが「開発を一時停止したり、新しいグローバルガバナンス構造で制約したりする理由にはならない」と述べています。「このフォーラムや他のフォーラムでの国際対話は、グローバルガバナンスへと漂流することを許されてはならない」と、顧問のマイケル・クラティオス氏は国連安全保障理事会で述べました。トランプ氏自身は火曜日に国連で、「AIを制御するためのグローバリストの計画を構築しようとするいかなる試みも拒否する」と述べました。「我々は今、中国を大きく上回って（AIイノベーションで）リードしており、これからもそうあり続けるだろう」と米国大統領は述べ、それを「超知能」と改名したいとも述べました。画像ソース、ゲッティイメージズブリスベンで記者団に語ったアニカ・ウェルズ通信大臣は、最近のOpenAIエージェントによるハッキングは、「ビッグテックが好きなように何でもできると感じている」例であると述べました。「私たちはビッグテックに説明責任を求めています。私たちは、規制されていない業界に、オーストラリアの海岸に基本的な安全基準を実装してもらいたいと考えています。そして、10月にデジタルケア義務を導入する際に私がやろうとしているのはそれです。」ウェルズ氏は昨年、16歳未満の子供たちに対する世界をリードするソーシャルメディア禁止措置を主導しました。これは、当局がソーシャルメディアの悪影響を抑制しようと苦闘する中で、世界中の政府が注目する動きでした。彼女が現在推進しようとしているデジタルケア義務法は、Meta、Google、TikTokのようなテクノロジー企業に、ユーザーにアルゴリズムをオフにするオプションを提供する義務を課すことになります。しかし、提案されている法律は