HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

許可証

The Permission Slip (cringely.com)

9 pointsby B1FF_PSUVM6 コメント

要約

この記事は、Dario Amodei氏の「スケールがAIのあらゆる問題を解決する」という主張、特に幻覚(ハルシネーション)問題に関する業界の姿勢を批判しています。著者は、自身の設立した2Brains Inc.が大規模な計算能力に頼らずに幻覚問題を解決したことを示し、業界が数百億ドルを投じている「スケールが解決する」という信仰が誤りである可能性を指摘しています。そして、もしAmodei氏の主張が間違っていた場合、その代償は莫大であると警鐘を鳴らしています。

全文翻訳

許可証

以前この場で、ダリオ・アモデイが間違っていたらどうなるか、と問いかけたことがある。その問いは、今や当時よりも重要になっていると思う。そしてその理由は、私がダリオや彼の会社を好きか嫌いかとは全く関係がない。ちなみに、私は彼らを好ましく思っている。それは論点ではない。

論点は、ある文書にある。アモデイは著書『Machines of Loving Grace』の中で、計算能力のスケールアップが最終的に人工知能におけるほぼ全ての困難な問題を解決するという主張を展開した。その楽観主義の中に埋もれていた――あるいは埋もれておらず、公然と示されていたのかもしれない――静かな免罪があった。幻覚、つまりこれらのシステムが自信満々に虚偽を述べるという恥ずかしい傾向は、自然に解決されるだろうというのだ。モデルを十分に大きくし、十分に長くトレーニングすれば、問題は解消する。あなたはそれを解決する必要はない。ただ待って、資金を投じればよい。そしてAI業界全体は安堵のため息をついた。

私はこの業界を40年間見てきたが、許可証はそれと見抜くことができる。

なぜなら、それがそのエッセイの本質になったからだ。ダリオ・アモデイが意図したかどうかは別として。それは、9桁や10桁のチェックを書く他の全ての人物に、最も懸念すべきであるはずの事柄を心配しない理由を与えた。幻覚問題は、巧妙なおもちゃと、病院や銀行、裁判所が実際に頼れるシステムとの違いである。それはエンタープライズAIにとって、ゲームの全てを決定づける要素だ。そして、トップから祝福された一般的な認識は、それに直接対処する必要はない、というものだ。スケールが解決してくれる、と。

資金がどこに向かっているかを見れば、許可証が換金されているのがわかる。スターゲートには5000億ドル。ハイパースケーラーにはそれぞれ年間数百億ドル。AnthropicとAkamaiの提携には、さらに20億ドル近く。世界で最も裕福な企業群の集合的な賭けは、知性――その誠実さを含めて――を、より多く購入することによって改善するというものだ。データセンター事業者は満足している。チップベンダーは歓喜している。あまりにも多くのゼロがついた評価額で資金を調達しているラボも満足している。その連鎖の誰もが同じインセンティブを持っている。それは、答えは「もっと」であると信じることだ。

最終的にその全てに対して支払いをする顧客こそが、このうちどれが真実かを問うべき人々である。

なぜ私がそう思わないのかを説明しよう。私が支援した小規模企業、2Brains Inc.は、ChatGPTが登場する前、スケーリングのコンセンサスが確立された真実となる前に、2022年に幻覚問題を解決することを目指した。当時は、その問題は単に克服不可能であるというのが礼儀正しい仮定だった。私たちは、より大きなモデルを待つことでそれを解決したのではない。私たちはアーキテクチャによってそれを解決した。つまり、言語を生成するシステムの部分と、事実を取得・検証する部分を分離し、ユーザーに何かを提供する前に両者を調和させたのだ。それは通常のプロセッサで動作する。安価だ。そして、この種の忠実性に関する業界独自のベンチマークでは、検証済みのケースでは全く偽の事実がなく、公開されているベースラインを2倍以上に上回る。

私はこれを何かを売るために話しているのではない。私がこれを話しているのは、それが1兆ドルの賭けに何を意味するかだからだ。

バージニア州とカンザス州の少数の人々が、あるアーキテクチャとCPUで幻覚問題を解決できたのであれば、スケーリングの話に関して、次の二つのうちどちらかが真実でなければならない。そしてどちらも、許可証を換金している人々にとっては心地よいものではない。

第一の可能性は、スケーリングが幻覚を全く治さないということだ。モデルはより大きく、より流暢になり、より有用になるが、信頼できることに、嘘をつき続ける。その場合、世界最大の企業は、やってこない治療法を追いかけるために莫大な費用を費やしていることになり、アモデイが提供した免罪は、この分野の歴史上最も高価な一文だったということになる。

第二の可能性は、スケーリングが最終的に幻覚を減らすだろうということだ――しかし、莫大な費用を費やして、遠回りをして、既に小規模企業が設計によって到達した場所と同じ場所に到達するだけだ。そして、巨人が取るルートが私たちが構築し保護したアーキテクチャを通過するのであれば、「スケールが解決する」とは、「スケールが、既に確保されている何かを最終的に再発明する」という意味になる。それは脅威ではない。それは、言葉を最後まで追ったときの意味に過ぎない。

私はこの全てを、実際には明確なものだと感じている。3年間、AIに関する会話は、信仰の一つの条項を中心に組織されてきた。それは、あらゆる問題への答えはより多くのコンピューティングである、というものだ。そしてその信仰から最も恩恵を受けるのは、それを広めるのに最も適した立場にある人々だ。それは驚くほど都合の良い神学だ。信者には支出を求め、懐疑論者には待つことを求め、そして中心的な約束が真実であるかどうかという問いには決して十分には踏み込まない。

かつてダリオが間違っていたらどうなるか、と尋ねた。私はますます、より興味深い問いは、他の皆が彼が間違っているかもしれないと気づいたときに何が起こるか――そして、それを知るための請求書が既に支払われる時期に来ていることだと確信している。

ロバート・X・クリンゲリーは2Brains, Inc.の共同創業者です。