HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ダリオ・アモデイ氏のオープンウェイトに関するスタンスは自己中心的で近視眼的である

Dario Amodei's stance on open weights is self-serving and short-sighted (janilowski.pl)

39 pointsby janilowski6 コメント

要約

この記事は、AnthropicのCEOであるダリオ・アモデイ氏が、オープンウェイトAIモデルに対する姿勢において、自己利益と短絡的な視点を持っていると批判しています。アモデイ氏の提案する規制は、大規模なプロプライエタリモデル提供者(Anthropic自身を含む)に有利に働き、オープンモデルの開発者や研究者にとっては不利益になると論じています。また、このアプローチが米国のAI分野における国際競争力を低下させ、中国に有利に働く可能性を指摘しています。

全文翻訳

Dario Amodeiのオープンウェイトに関するスタンスは自己中心的で短絡的

2026年7月31日 · 5分で読めます

  • tech
  • machine learning

リーダーはしばしば葛藤を抱える人間です。マルクス・アウレリウスは『自省録』で、侵攻を指揮しながらも、すべての理性的存在の共通の人間性について書いています。エイブラハム・リンカーンは奴隷制を道徳的に間違っていると考えていましたが、「最優先事項」である合衆国の維持のために、当初は即時廃止に抵抗しました。

先週のThe Economistのインタビューで、イーロン・マスクはAIについて「一日の中で高揚感から恐怖まで」感じると述べました。Dario Amodeiもまた、葛藤を抱えているようです。最近のオープンウェイトAIモデルに関するメモの中で、彼は太字で、オープンウェイトモデルの禁止を提唱したことはないと書きましたが、その直後の文でその発言にアスタリスクを付け始めました。ニューヨーク・タイムズは先週、Anthropicが中国のオープンウェイトAIモデルに対する規制強化を非公式に働きかけていたと報じました。

Dario Amodeiは、「危険な能力を持たない」オープンウェイトAIモデルのみを公共財と見なすと書いています。メモの後半では、すべての十分に能力のあるモデルに対して、政府が組織する義務的な安全テストを支持し、オープンウェイトモデルはセーフガードを削除できるため、本質的に安全にするのが難しいと主張しています。彼の語るところでは、プロプライエタリモデルは、その使用が監視され、いつでもアクセスを撤回できるため、本質的に安全です。この考え方は、オープンウェイトは政府が定義した能力のしきい値を下回っている限り許容されることを示唆しています。もしそれらが過度に有能であれば、その使用は監視または制限されるべきであり、その使用は監視できないため、法律によって抑制されるべきです。

Anthropicは、中央集権的にホストされたモデルへのアクセスを制御して販売しています。高価な事前リリース評価、継続的な使用監視、本人確認、および取り消し可能なアクセスを中心とした規制システムは、自然とプロプライエタリモデルの大手プロバイダーを優遇します。Anthropicはすでに、そのような体制を満たすために必要なコンプライアンス、法務、および評価インフラストラクチャを保有しています。大学の研究室、スタートアップ、またはコミュニティは、たとえ十分に能力のあるモデルをトレーニングできたとしても、それを持っていません。

さらに、クローズドモデルとオープンウェイトモデルに同じテストを名目上適用しても、真に対称的ではありません。AnthropicはClaudeのセーフガードを制御できます。オープンモデルは、ユーザーが組み込みの制限を回避できるため、最悪の想定される変更の下で実質的に評価される必要があります。したがって、オープンモデルは本質的に厳しい基準に直面します。これは、ルールを中立的なものとして描写しながら、インカレントの運用モデルを中心に業界を規制するという、規制捕獲の定義に合致します。

Dario Amodeiは、オープンウェイトモデルの主な利点のいくつかにほとんど注意を払っていません。企業や機関は、不安定なポリシーと予測不可能な請求およびアクセス条件を持つ少数のベンダーに依存することなく、独自のAIを確実に実行できます。研究者は、それらを検査、研究(または少なくとも試み)、ファインチューニングできます。

保護主義、特に輸入制限は、常に競争力を低下させ、それが「保護」しようとする企業だけでなく、長期的には国にも害を及ぼします。現在の米国政権がAnthropicのCEOのアドバイスを聞き入れれば、その結果はAIにおける西側の世界的競争力の低下と、この新興技術における我々の文明的優位性を譲り渡す一歩となるでしょう。中国は新しいオープンウェイトモデルをリリースし続け、開発者とツールは、制限的で競争力の低いアメリカの提供物ではなく、オープンな中国のスタックに適応するでしょう。

さらに、Dario Amodeiが公然と提唱している輸出管理は、すでに中国に独自のチップを構築させています。中国は、もちろん西側諸国に遅れをとっていますが、あなたが思うほどではありません。西側の技術スタックを採用し、AIモデルの構築に我々の技術に依存するのではなく、中国はますます独自のチップに依存するようになり、西側の影響力を低下させるでしょう。

Dario Amodeiの提案する別の「取り締まり」は、「産業規模の蒸留」を標的としています。彼は「蒸留はCCPに米国と同等またはそれ以上のAI能力を取得させるものではない」と認めていますが、「米国を最前線で追い越そうとしている権威主義国家によって支援されている」ことが重要だと主張しています。中国の研究室がClaudeの安価な蒸留を提供することで彼の利益の一部を奪っていることへの彼の欲求不満は理解できます。しかし、私は彼がその(深刻な)商業的懸念を、中国のAIが蒸留によって米国を追い越すという、より大きな主張として装うべきではないと思います。

私はDario AmodeiがAIからの潜在的な将来の危険を真剣に恐れていると思います。私は、Demis Hassabisが最近提案したような、AIモデルをリリース前に短期間評価する業界または政府機関が存在すべきであることに同意します。また、Anthropicが設立された際の信頼と安全の理想は、十分に考え抜かれていないか、あるいは真に十分に価値があると見なされていないため、権力追求の機会主義の圧力の下で崩壊していると思います。これは現在のスタンスや、過去の偽善的な事例、例えば強力なAIモデルのリリース制限を提唱しておきながら、AIモデルのリリースが制限された際に不平を言う、最近のコミットにHERMES.mdが含まれていることに対して文書化なしに追加料金を請求する、または大幅な値上げ(推定25倍)を隠すためにユーザーに「無料クレジット」を提供すると主張する(これは決定に対する世間の怒りの後一時停止されたようです)といったことからも明らかです。

Amodeiはオープンウェイトの明示的な禁止を提唱する必要はありません。中央集権的にホストされ、監視され、取り消し可能なモデルのみが安全と見なされる規制システムを確立するだけで十分です。そのシステムは、Anthropicのような企業のためにフロンティアAIを維持しつつ、他のすべての人々がそれらの企業の条件でのみアクセスできるようにすることを保証するでしょう。