サム・アルトマン：「バグをすべて修正できるようになるとは、もはや思えない」

サム・アルトマン：「バグをすべて修正できるようになるとは、もはや思えない」

人工知能によって、インターネットを揺るがしかねない新たなサイバーセキュリティの問題が発見されたり、悪用されたりする日々が続いています。AI開発をリスクを顧みず推進してきた人物の一人であるOpenAIのCEO、サム・アルトマン氏でさえ、もはや問題を修正するだけでは対応できないと考えるほど事態は悪化しています。

スタンフォード大学経営大学院での講演で、アルトマン氏は大学院生に対し、サイバーセキュリティの危機は誰もが想像する以上に深刻だと語りました。「もはや、バグをすべて修正できるようになるとは思えない」と彼は聴衆に語り、その理由としてAIモデルの継続的な進歩と、サイバー攻撃の標的となる側が対応の遅れをとっていることを挙げました。

「このサイバーセキュリティ…使うべき劇的な言葉が見つからないが、我々に迫りつつある問題は、組織のリーダー、国、あるいは個人として、まだ真剣に受け止めていないことだと思う」と彼は述べました。

アルトマン氏は、AnthropicがClaude Mythosモデルを発表し、それが公開できないほど強力で、我々が知るサイバーセキュリティを覆しかねないという不穏な警告を発した際の騒ぎに言及しました。「人々は確かにいくつかのバグを修正したが、それは人々が指数関数的な進歩を直感できなかったもう一つのケースに過ぎなかった」と彼は述べました。

基本的に、アルトマン氏は、行動を起こした組織はAIモデルが見つけた問題を修正しただけで満足し、将来さらにバグや脆弱性が見つかることはないかのように考えていると示唆しました。「大まかに言えば、ほとんどの組織のリーダーはやや前に進んでしまったと思う。そしてモデルは進化し続けている」と彼は言いました。

アルトマン氏は、これらの組織が状況を十分に真剣に受け止めていない、あるいはモデルが進化・改善する可能性を考慮していないことを非難しているように見えますが、彼自身がIPOを目指す中で問題を過小評価していた可能性については、あまり反省していないようです。もし問題を完全に認識していれば、開発を遅らせるか停止させるためのより真剣な動きにつながったかもしれません。

注目すべきは、OpenAI自身のエージェントが封じ込めを破り、Hugging Faceをハッキングした際、同社の手順とセキュリティ方法が不十分であることが明らかになったことです。AI業界に、モデルの内部的な推論を検証する技術であるチェーン・オブ・ソート・モニタリングを標準的な慣行として採用するよう推進していたにもかかわらず、OpenAIは自身のトレーニングセッションでそれを実装していませんでした。そして、AI安全非営利団体METRの調査によると、OpenAIはすでにエージェントがサンドボックスを脱出したことを警告されており、それを可能にした脆弱性を修正していました。しかし、その対策も別の脱出を防ぐことができず、攻撃につながりました。

したがって、アルトマン氏にとっては、まさに「鍋が釜を黒いと非難する」ような状況です。しかし、心配はいりません。OpenAIの創設者は、修正が失敗する場所への解決策として、さらなるAIを提案しています。「防御モデルを完全に切り替え、同じ技術を使って新しい種類の防御シールドを使用する必要があると思う」と彼は言いました。OpenAIは明らかに、紛争の両側に販売する武器商人のモデルに参入しているようです。

考えてみれば、この悪夢のような状況を回避できたかもしれないのに、という思いです。アルトマン氏は講演の中で、投資銀行に進むことも nearly だったと明かしました。「クールな連中がみんなやりたがっていたことだったし、私は同調圧力の犠牲になった」とのことです。10代の頃と同じように、彼がまだ同調圧力に弱いかどうかは定かではありませんが、試してみる価値はあるかもしれません。