ダリオ・アモデイ氏のオープンウェイトに関するスタンスは自己中心的で近視眼的である

リーダーはしばしば葛藤を抱える人物です。マルクス・アウレリウスは『自省録』の中で、侵略を指揮しながらも、すべての理性的存在の共通の人間性について書いています。エイブラハム・リンカーンは奴隷制度を道徳的に間違っていると考えていましたが、「合衆国維持」という彼の「最優先事項」は、当初は即時解放に抵抗させました。先週の『エコノミスト』誌のインタビューで、イーロン・マスクは、一日のうちにAIに対して「高揚感から恐怖まで」変化すると述べました。 ダリオ・アモデイ氏も葛藤を抱えているようです。オープンウェイトAIモデルに関する最近のメモの中で、彼は太字で、それらの禁止を決して支持したことはないと書きましたが、その直後の文でその声明にアスタリスクを付け始めました。先週のニューヨーク・タイムズ紙は、Anthropicが中国でトレーニングされたオープンウェイトAIモデルに対する規制強化を非公式に働きかけていたと報じました。 ダリオ・アモデイ氏は、「危険な能力を持たない」オープンウェイトAIモデルのみを公共財と見なしていると書いています。メモの後半では、十分に能力のあるすべてのモデルに対して、政府が組織する安全テストを義務付けることを支持し、オープンウェイトモデルはセーフガードを削除できるため、本質的に安全にするのが難しいと主張しています。彼の説明では、プロプライエタリモデルは、その使用が監視され、アクセスがいつでも取り消せるため、本質的に安全です。 この考え方は、オープンウェイトは政府が定義した能力閾値未満である限り許容されることを示唆しています。それらが能力が高すぎる場合、その使用は監視または制限されるべきであり、その使用は監視できないため、法律によって抑制されるべきです。Anthropicは、中央集権的にホストされたモデルへのアクセスを制御して販売しています。高価な事前リリース評価、継続的な使用監視、身元確認、および取り消し可能なアクセスを中心とした規制システムは、自然に大規模なプロプライエタリモデルプロバイダーを優遇します。Anthropicはすでに、そのような体制を満たすために必要なコンプライアンス、法務、および評価インフラストラクチャを所有しています。大学の研究室、スタートアップ、またはコミュニティは、たとえ十分に能力のあるモデルをトレーニングできたとしても、それを持っていません。 さらに、クローズドウェイトモデルとオープンウェイトモデルに名目上同じテストを適用することは、真に対称的ではありません。AnthropicはClaudeのセーフガードを制御できます。オープンモデルは、ユーザーが組み込みの制限を回避できるため、最悪の想定される変更の下で効果的に評価される必要があります。したがって、オープンモデルは本質的に厳しい基準に直面します。 これは規制の捕捉の定義に当てはまります。つまり、ルールが中立であると説明しながら、既存の事業者の運用モデルを中心に産業を規制することです。 ダリオ・アモデイ氏は、オープンウェイトモデルの主な利点のいくつかをほとんど考慮していません。企業や機関は、方針が不安定で請求やアクセスの条件が予測不可能な少数のベンダーに依存することなく、独自のAIを確実に実行できます。研究者は、それらを検査、研究（少なくとも試み）、およびファインチューニングできます。保護主義、特に輸入制限は、常に競争力を低下させ、それが「保護」しようとしている企業と、長期的に国に損害を与えます。 もし現在の米国政権がAnthropicのCEOのアドバイスを聞き入れれば、その結果は西側諸国のAIにおける国際競争力の低下と、この新興技術における我々の文明的優位性を譲り渡すもう一歩となるでしょう。中国は新しいオープンウェイトモデルをリリースし続け、開発者とツールは、制限的で競争力の低いアメリカの提供物ではなく、オープンな中国のスタックに適応するでしょう。 さらに、ダリオ・アモデイ氏が公然と提唱している輸出管理は、すでに中国に独自のチップを構築させています。中国は、もちろん西側諸国に遅れをとっていますが、あなたが思うほどではありません。西側のテクノロジースタックを採用し、AIモデルの構築に我々のテクノロジーに依存するのではなく、中国はますます独自のチップに依存するようになり、西側の影響力を低下させるでしょう。 ダリオ・アモデイ氏が提案する別の「取り締まり」は、「産業規模の蒸留」を標的としています。「蒸留は、CCPが米国と同等またはそれ以上のAI能力を取得することを可能にしない」と彼は認めていますが、「米国を最前線で追い越そうとしている権威主義国家によって支えられている」ことが重要だと主張しています。私は、中国の研究室がClaudeの安価な蒸留を提供することで彼の利益の一部を奪っているという彼の不満を理解しています。しかし、私は彼がその（深刻な）商業的懸念を、中国のAIが蒸留によって米国を追い越すというより大きな主張として装うべきではないと思います。 ダリオ・アモデイ氏は、AIからの潜在的な将来の危険を誠実に恐れていると思います。私は、Demis Hassabisが最近提案したような、リリース前にAIモデルを短時間評価する産業または政府の機関があるべきだと同意します。また、Anthropicが設立された信頼と安全の理想は、十分に考えられていないか、あるいは十分に価値を置かれていないため、権力欲の機会主義の圧力の下で崩壊していると思います。これは現在の立場と、強力なAIモデルのリリースに対する制限を提唱しておきながら、そのAIモデルのリリースが制限されたときに不平を言ったり、最近のコミットでHERMES.mdを隠すためにドキュメントなしでユーザーに請求したり、ユーザーが大幅な価格引き上げ（推定25倍）を隠すために「無料クレジット」を受け取ると主張したりするなど、過去の偽善的な事件にも明らかです。これは、一般の怒りの後で一時停止されたようです。 アモデイ氏は、オープンウェイトの明示的な禁止を提唱する必要はありません。中央集権的にホストされ、監視され、取り消し可能なモデルのみが安全と見なされる規制システムを確立するだけで十分です。そのシステムは、Anthropicのような企業のためにフロンティアAIを維持しつつ、他のすべての人がそれらの企業の条件でのみアクセスできるようにすることを保証するでしょう。