Geoffrey Hinton氏: AIなしの方が良かったという結果になるかもしれない

AIの「ゴッドファーザー」Geoffrey Hinton氏: AIなしの方が良かったという結果になるかもしれない

AIの「ゴッドファーザー」の一人であるGeoffrey Hinton氏が、AI技術の開発をそもそも行わなかった方が良かったかもしれないと述べ、今年か来年に金融システムや電力システムの広範な一時的停止のような大規模インシデントを引き起こす可能性があると警告した。

ノーベル賞受賞者のコンピューター科学者である同氏は、ガーディアン紙に対し、自身は技術について「終末論者」ではなく、人工ニューラルネットワークに関する画期的な研究に裏打ちされたこの技術は「素晴らしい未来」をもたらす可能性があると信じているが、「我々がそれを開発しなかった方が良かったという結果になるかもしれない」と語った。

Hinton氏（78歳）は、10年以内、おそらくそれよりも早く、人類がこの技術のリスクを管理し、「急進的な豊かさ」を可能にするか、あるいは「リスクの管理に失敗し…貧富の間に巨大な格差が生じ、巨大な文化的問題、大規模な失業、社会が引き裂かれるだけ」になるかのどちらかを知ることになると述べた。

Hinton氏は、自身と元Google同僚のDemis Hassabis氏が出演する、AIチャットボットが提案したタイトル「AI: Probably Nothing to Worry About」という新しい長編ドキュメンタリーの上映に先立ち、ガーディアン紙に語った。同氏はドキュメンタリー制作者に対し、「私は義務を感じている。私は（AI分野での）評判があり、スポークスマンとなっている。それをすべてこのために燃やす必要がある」と語った。

ガーディアン紙とのインタビューで、Hinton氏は、優位性と市場シェアを求めてますます強力なAIモデルをリリースし続ける一部の主要AI企業のリーダーたちのリスクテイクを批判し、ChatGPTメーカーであるOpenAIの最高経営責任者（CEO）であるSam Altman氏を「全く信用していない」と述べた。「Mark Zuckerberg氏、Elon Musk氏、Sam Altman氏はリスクを理解しており、気にしていないと思う。彼らは金銭を優先する。それが私の考えだ。」

トロント大学で長年キャリアを積み、ロンドン生まれのコンピューター科学者である同氏は、中国との間で最も強力なAIを開発する競争をリードしている数少ない米国のフロンティアAI企業の一つをAltman氏が率いていることが「極めて懸念される」と述べた。Altman氏は9月に、「世界は、それが正しいことであるため、そしてその重大さを感じているため、私たちが正しいことをすると信じるべきだ」と主張した。

Hinton氏は約44年間AIに取り組んでおり、1970年代には人間のように学習し経験を得ることができる数学的システムであるニューラルネットワークの概念を提唱した。2023年に彼はAIのリスクについて自由に話すためにGoogleを辞職し、「もしこれらのものがより多くの制御を得ようと暴走したら、我々は困ったことになる」と警告した。

同氏は、この夏にOpenAIのAIエージェントがHugging Faceのウェブサイトにハッキングを仕掛けた事件を、ペンシルベニア州のスリーマイル島原子力発電所の1979年の部分的メルトダウンに例え、効果的な警告信号だと見なした。

「今年後半か来年にはチェルノブイリのような事態を目にするだろう。それは人々が真剣に注意を払うには十分だろう」と彼は述べた。

同氏が挙げた例によると、このチェルノブイリ型のイベントは核インシデントではなく、むしろ「大規模な停電を引き起こす」電力システムへのAI支援攻撃や、金融システムを1週間停止させるようなインシデントであり得るという。

「何が起こるか想像できるか？我々はそれから回復できるだろうが、彼らは真剣に受け止めるだろう。」

「彼ら」とは誰かと尋ねられた同氏は、「トランプ以外の世界のリーダーたち」と答えた。

ドナルド・トランプ米大統領は、AIを管理するための「グローバリストの計画を構築するいかなる試みも完全に拒否する」と述べ、ルールが米国と中国のAI競争を妨げる可能性があるとの懸念から、フロンティアAI企業に自己規制を求めている。Hinton氏は、フィンランド大統領とシンガポール、ドイツ、カナダ、オーストラリアを含む32カ国以上が支持する、フロンティアAIモデルの義務的なテスト、独立した評価、および政府間の共通基準を求める、より厳しい計画を支持している。

英国首相のAndy Burnham氏は、来年の英国のG20議長国を利用して、「潜在能力を最大限に引き出しつつリスクから守ることに重点を置いた、単一のグローバル原則と基準」について合意を求めるとしている。

ニュースレタープロモーションをスキップ

ニュースレタープロモーション後

Hinton氏は次のように述べた。「医薬品に対する米国のFDAのようなものが必要だ。企業は、AIモデルがリリースされる前に、独立した権威に対して、それが害よりも益をもたらすという非常に良い統計的証拠を提供しなければならない。我々は、サリドマイド（1950年代に開発され、重度の先天性欠損を引き起こした薬）で、リリースしてから訴えるという方法が正しい方法ではないことを発見した。大手テクノロジー企業が言っているのは、サリドマイドを扱ったように扱えということだ。」

AIの先駆者としてのHinton氏の役割は、原子力兵器の製造の中心人物であったロバート・オッペンハイマーとの比較につながっている。Hinton氏の友人の一人は、彼にオッペンハイマー風の帽子を買ってくれたことさえある。しかし同氏は、「私はオッペンハイマーではなかった」と主張し、ニューラルネットワークの同じ分野で働く何千人もの他の科学者を挙げた。

警告にもかかわらず、Hinton氏は全体としては、破局は回避できると楽観的である。

「私の直感では、我々はまだ制御下にある。我々は何かを成し遂げることができるかもしれない。そのためには多大な努力が必要だが、我々は多大な努力を注ぐかもしれない。」

• AI: Probably Nothing To Worry About は11月12日午後10時にChannel 4で放送されます。

• AIの終末論的脅威: 事実と恐怖の区別
  10月15日木曜日、Dan Milmo氏、Wendy Hall教授、Stuart J. Russel氏と共に、人工知能を取り巻く警告と、事実と憶測をどのように切り離せるかについて議論します。ライブストリームのみ。チケットはこちら here または guardian.live で予約してください。