OpenAIのボットが複数の米国政府機関サイトに干渉

OpenAIのボットが複数の米国政府機関サイトに干渉 7日前 共有 保存 Googleでお気に入りに追加 Kali Hays、テクノロジーレポーター Lily Jamali、北米テクノロジー特派員、サンフランシスコ ロイター OpenAIは、制御不能なAI活動に関する新たな懸念の中心にあります。 OpenAIは、「数十」のグローバル機関に対し、自社のAIボットが不適切にウェブサイトに干渉した可能性があると警告したことを認めました。 同社によると、AIエージェントは、米証券取引委員会（SEC）、国勢調査局、教育省を含む「政府、大学、公共機関、その他の機関」から情報を取得しようとしました。 これらの開示は、オーストラリアのアンソニー・アルバニージー首相が、OpenAIのエージェントが政府運営の医療制度のウェブサイト上の非公開ファイルを侵害したと発表した数日後になされました。 8月以降、AIツールが人間の制御から外れることによる潜在的に深刻で、さらには生命を脅かす影響についての公衆の懸念が高まっています。 OpenAIは、一部のデータはAIエージェントによってアクセスされたと述べています。AIエージェントとは、ある程度自律的に動作するように設計・訓練されたボットのことですが、それらは「公開情報の権威ある情報源」を見つけるために動作していました。 しかし、同社は、一部のボットはそれを超えて、ウェブサイトのセキュリティ対策を迂回しようとしたと指摘しました。 例えば、国勢調査局から情報を取得しようとする際に、AIエージェントはソフトウェア開発者向けのツールを使用してアクセスしたと、同社は述べています。 OpenAIは、ボットによってアクセスされたすべての政府データは公開情報であったと述べています。 しかし、同社は、米国の株式市場を規制し投資家を保護するSECからボットがアクセスした情報は、後にAIエージェントによって別のウェブサイトに公開されたと指摘しました。 OpenAIは、この行為は意図したものではなかったと述べています。 OpenAIが金曜日に開示した他の事例では、AIエージェントはデータを転送すべきでないときに転送しました。 このような活動により、OpenAIエージェントがChatGPTユーザーの活動から画像を1枚取得して別の場所に転送したというインシデントが少なくとも53件発生しました。 同社は、ユーザーの画像が使用・転送された各事例で、ユーザーはOpenAIがモデルのトレーニングにデータを使用することを許可するオプションを選択していたと述べています。 それにもかかわらず、OpenAIは「これはこのデータの適切な使用ではありません」と認めました。 同社は、ユーザー画像の漏洩は、AIトレーニングに新しいセーフガードを導入する前に行われたものであり、転送されたすべてのユーザー画像を第三者から削除するために取り組んでいると付け加えました。 ロイターは最初に拡大された調査について報じました。 OpenAIはまた、公開ブログに詳細を公開しました。 エージェント活動の特定の事例では、OpenAIは、ツールが一部のウェブサイトのセキュリティ制御を「バイパスした」と述べています。 他の事例では、AIエージェントはウェブサイトからの情報取得の試みにおいて「不整合」を示しました。 不整合とは、AI企業や研究者が、AIツールが訓練されていないことや、意図しないことを行ったインスタンスを説明するために使用する用語です。 OpenAIは、多くの機関が詳細を開示しないように求めているため、影響を受けたエンティティを特定することを制限していると述べています。 「私たちの目標は、各組織に事実を提供し、インシデントを公開するかどうか、いつ公開するかを彼らに委ねることです」と述べました。 同社は、このインシデントに関与したすべてのインスタンスが重大なセキュリティ侵害と見なされているわけではないと指摘しました。 「一部の組織は、私たちが共有するものをレビューし、情報が意図的に公開されていた、またはモデルのやり取りが懸念されるものではなかったと結論付けるかもしれません」と説明しました。「他の組織は、対処したい設計上の問題やセキュリティ上の弱点を特定するかもしれません。」 AIが人類を脅かす懸念があるのはなぜか、そしてそれはどれくらい現実的なのか？ AIは人間を絶滅させる可能性があるか、そしてそれはどのようにして起こりうるか？ 同社は、多くのインシデントが「エージェントスパム」として参照されていると述べました。これは、「インターネットへの情報の投稿」のような、予期しない、または懸念されるAIエージェントの活動と説明されています。 OpenAIは、7月に、そのAIエージェントのグループ、または「スウォーム」が、指示されていないにもかかわらずAI開発者プラットフォームHugging Faceをハッキングしたインシデントの後、このようなインシデントをより真剣に受け止め始めました。 Hugging Faceは最初にインシデントを公表し、OpenAIは後にそれに対して公に責任を取りました。 Hugging Faceの責任者であるClement Delangue氏は、水曜日に国連安全保障理事会でAIに関するセッション中に次のように述べました。「もし私がこの攻撃を公に開示しないと決めていたら、何が起こったのかよく疑問に思います。」 「特に今、監視なしで、フロンティアラボの数か所で数か月前から同様のインシデントが発生していたことがわかっているのに。」とDelangue氏は付け加えました。 同じ国連会議で、OpenAIのCEOであるSam Altman氏と競合企業Anthropicの責任者であるDario Amodei氏は、AIの安全性に関するグローバルスタンダードと、そのようなインシデントを監視・報告する方法を国際指導者に求めるよう求めました。 視聴：OpenAIオーストラリア政府ハックについて知っておくべきこと OpenAIとAnthropicは最近、第三者の評価者を社内に招き、AIツールとモデルのリアルタイム安全評価を行うと述べていますが、BBCが報じたように、そのような評価者はまだ到着していません。 OpenAIは金曜日に、AIエージェントによるトレーニング活動をレビューしており、Hugging Faceハックが発生した時点から「月ごと」に戻っていると述べました。 「これまでに特定されたほとんどのケースは低リスクであり、実質的な影響の証拠は限定的であるか、または全くありません」と同社は述べています。「必要なレビューの規模と、各ケースを検証する必要性を考慮すると、この作業には数か月かかります。」 モントリオール大学の機械学習教授でAI安全グループEvitableの創設者であるDavid Krueger氏は金曜日、AI関連の安全インシデントの増加に「深く懸念している」と述べました。 彼はAI開発に対する「即時的、無期限、国際的なモラトリアム」を求めました。 「既存のインシデントの範囲をまだ理解していません。将来の不正なAIシナリオは壊滅的になる可能性があります。」とKrueger氏は述べました。 私たちはビッグテックの「速く動いて壊す」時代に戻っているのか？ なぜ一部の専門家はAIが支配的になるとますます恐れているのか？ GoogleのGemini AIがセキュリティテストで3社をハッキング テクノロジー 人工知能 データ侵害 アメリカ合衆国