HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIラボの調査を開始する時期

It's Time to Investigate the AI Labs (calnewport.com)

628 pointsby ibobev277 コメント

要約

OpenAIとAnthropicといった最先端AIラボの最近の行動は、その強力なAI技術の潜在的な危険性について、意図的に不安を煽るような発表や公の議論を引き起こしています。彼らは、これらの技術が人類滅亡につながる可能性を公に議論し、政府による規制と自社主導の開発の必要性を訴えています。しかし、筆者は、これは責任回避と自社の優位性を確立するための戦略であり、AIの進歩がもたらすリスクについて、より透明性のある公的な調査が必要だと主張しています。特に、特定の実験の正当性、内部安全手順の不備、そして終末論的な思想が意思決定に与える影響を調べるべきだと提言しています。

全文翻訳

AIラボを調査する時が来た

この数ヶ月間、最先端AIをリードする2つのラボは、大胆とも言える行動を見せてきた。

それは、OpenAIからの、LLM(大規模言語モデル)を搭載したエージェントシステムがいかに不穏で強力(さらには​犯罪的​であるか)になったかを示す、一連の​綿密に計画された発表​とレポートから始まった。

その後、彼らはバトンをAnthropicに渡した。同社の従業員たちは、これらの技術が人類の絶滅につながる正確な確率について​公に議論​し始めた。彼らはこれを、自分たちの仕事に対する虚無的な必然性を伝える、不気味な冷静さをもって行った。

十分に土壌が整えられた後、このキャンペーンはAnthropicのCEOであるDario Amodeiが​「フロンティアのペースを落とすべきだ」​と題された手紙を発表したことで最高潮に達した。その中で彼は、自身の会社のリサーチが引き起こす可能性のあるあらゆる害を列挙し、謝罪して停止を約束する代わりに、「適切な方法で技術を構築する」ことによってのみ破滅を回避できると結論づけた。この「適切な方法」には、驚くべきことに、政府が潜在的な競合他社を遅らせ、ラボが関連技術の進歩において主導権を握れるようにすることが含まれている。OpenAIのCEOであるSam Altmanは、この勇敢な計画にすぐに​支持を表明するツイート​をした。

内部的には、これらのラボは長らくこの種の救世主的な思考様式を受け入れており、超知能AIの脅威から人類を救う唯一の希望であると自らを位置づけてきた。この夏は、ある意味で、私たち残りの人々をこの長年のイデオロギーに引き込もうとする試みだった。

それはうまくいかなかった。

このエンジニアたちの英雄的な合理主義に大衆が立ち上がって拍手喝采するよう促す代わりに、私たちは「あのラボでは一体何が起きているんだ?」と疑問を抱くようになった。

その目的のために、先週木曜日、私は​ニューヨーク・タイムズに論説を寄稿​し、議会が公開の事実調査を開始して、OpenAIとAnthropicがどのような研究プロジェクトを実施しているのか、どのように実施しているのか、そして何のために実施しているのかを明らかにするよう求めた。

この調査で探求すべき3つの主要な領域を提案した:

  1. 「AI」という曖昧な議論は過去のものとし、問題を引き起こしている特定の種類のシステムを特定する必要がある。フロンティアラボは、AIを必然的で固定された軌道上の単一の技術として考えさせようとする。実際には、最近のほとんどの問題は、主にフロンティアラボによって行われた、​無謀な実験の狭い範囲​から生じている。彼らはなぜそれらを実行しているのかを正当化する必要がある。
  2. これらの研究活動を取り巻く内部的な安全手順を検証する必要がある。​OpenAIは明らかにした​が、彼らの自律エージェントによる長期間にわたる不正なハッキング攻撃があった。最初のインシデントが明らかになった後、なぜこれらの試みが止められなかったのか?犯罪を犯す可能性が高いと知りながらシステムを実行したことに対して、なぜ刑事責任を追求しないのか?
  3. フロンティアラボが研究の追求内容やその速度について下す決定において、終末論的な未来主義イデオロギーの役割を調査する必要がある。私は、特にOpenAIとAnthropicが、人類を救済するための競争において、副次的損害は正当化されると信じているために、ますます無謀になっているのではないかと懸念を深めている。(これらの信念とそのラボとの関連性については、​この記事​、​この記事​、そして​この記事​を参照。これらはすべて、わずか数週間前にタイムズ紙に掲載されたものである。)

「AIについて私たちがどう感じるべきかを、ますます奇妙な方法で行動し発言する少数の民間企業に決めさせるのをやめる必要がある」と私は結論づけた。「彼らが言いたいことは聞いた。今度は議会が私たちの代わりに、何が本当に起きているのかを突き止める番だ。」