オープンソースAIに対する批判は的外れである

Kimi K3のリリースは、新たな懸念と混乱した議論の波を引き起こしました。ジャーナリスト、ビジネスリーダー、政治家の一部が、オープンソースAIは危険な脅威だと主張しています。OpenAIのDean Ball氏は、オープンウェイトモデルが支配的な世界では、AIは「公共財」となり、市場製品ではなくなるという可能性のある結果を述べています。誰でも自由に利用できるAI？それは恐ろしいことです！フロンティアラボのオープンソースAIに対する主張は、本質的に「オープンソースモデルは危険である（そして非アメリカ的である）」。我々はAIのパンドラの箱を開けるべきだが、責任あるゲートキーパー（できれば我々のような徴収人）と共にのみ行うべきだ。信頼できるユーザー（我々の最も収益性の高い顧客）のみがそれを使用できるようにすべきだ。私はオープンソースAIに対するいくつかの的外れな主張に対処したいと思いますが、議論の枠組みに関するいくつかの修正が必要です。オープンソースソフトウェアは、商業ソフトウェアの基盤である。Ball氏の枠組みは、オープンソースソフトウェアがあらゆるプロプライエタリソフトウェアの基盤であるという事実を無視しています。これには、結局のところソフトウェア製品であるフロンティアモデルも含まれます。オープンソースソフトウェアは、ソフトウェア業界の外の人々にとっては直感に反します。なぜ製品に懸命に取り組み、それを無料で提供するのか？ソフトウェアプログラムはプログラムのスタックであり、各レイヤーは別のレイヤーの上に構築されています。Uberを構築するには、プログラミング言語フレームワーク、Webトラフィックを送受信するソフトウェア、データ分析ツール、その他数え切れないほどのコンポーネントが必要です。これらのほとんどは、商業企業にとって差別化要因ではないため、商業アクターはスタックの下位コンポーネントで協力し、実際に製品を差別化する上位の要素で競争することが有益です。フロンティアラボは、AIモデルが「あまりにも一般的で競争する意味がない」というカテゴリに分類されないことを強く望んでいます。それが起こるかどうかはまだわかりません。オープンソースソフトウェアは抑制が非常に困難である。現実は、オープンソースモデルを抑制するという議論は、ほとんど的外れです。歴史は、オープンソースソフトウェアの抑制が非常に困難であることを教えており、それを試みることは国際的な競合他社に対して企業を弱体化させるだけです。暗号化の簡単な歴史は示唆に富みます。今日、PGPは誰でも使用できる一般的なツールであり、ほとんどの開発者は少なくともそれに慣れています。しかし、Phil Zimmermannが1991年にそれを発明したとき、米国政府は暗号化を軍事技術と見なしていました。Zimmermannに対して刑事捜査が開かれました。NetscapeがSSLを作成したとき、米国政府は国際的には弱められたバージョンのみをリリースすることを許可しました。これらの管理は逆効果でした。国際版の弱められたバージョンを入手する方がはるかに簡単だったため、多くのアメリカ人でさえそれを使用しました。輸出管理は、政府が望んだように暗号化を制限することに成功しませんでした。SSL、PGP、および同様のツールは世界中で容易に入手可能になり、管理はアメリカ人に不利になりました。最終的に、裁判所は暗号化ソースコードのリリースは表現の自由によって保護されると判決を下し、米国政府は暗号化輸出管理を緩和しました。「中国製」モデルに抑制を限定しても、事態は容易にはなりません。AIモデルを中国製と見なす正確な基準は何でしょうか？アメリカのモデルから抽出された場合、それは中国製なのでしょうか？アメリカ人が中国製モデルをファインチューニングした場合はどうなるのでしょうか？最良の場合でも、AIをこのように規制することは、アメリカ人に（一時的に）官僚主義と、世界の他の地域と比較してAIへのアクセスを低下させるだけでしょう。オープンソースAIは、中国だけの現象ではありません。オープンソースモデルは中国政府だけが開発するインセンティブを持っているという前提が、オープンソースAIの議論には組み込まれています。実際には、オープンソースAIを開発する十分なインセンティブを持つ多くの商業アクターが存在します。チップメーカー：NvidiaのCEOであるJensen Huang氏は、Nvidiaが構築しているものを「トークン工場」と表現しています。Nvidiaは、そのチップがフロンティアモデルを実行するために使用されるか、安価なオープンソースモデルを実行するために使用されるかは気にしません。ただ、できるだけ多くのトークンを生成し、需要を生み出したいだけです。そして実際にNvidia自身も一連のオープンソースモデルをリリースしています。アメリカのスタートアップ：Thinking Machines Labは最近、強力なオープンソースモデルをリリースしました。彼らや他の人々は、モデルはコモディティ化され、モデルを補完またはカスタマイズする補助サービスを中心に防御可能な堀を築くことができると賭けています。エンタープライズAIユーザー：フロンティアモデルの顧客は、現在オープンソースAI開発にそれほど積極的ではありませんが、そうなるでしょう。彼らは低複雑性のタスクのために低コストのモデルを求め、顧客向け機能に対してよりきめ細かな制御を望むでしょう。大手企業：GoogleとMetaがOpenAIの新しい広告製品を注意深く見守っていることは間違いありません。フロンティアモデルの広告製品が勢いを増した場合、これらの巨大企業が広告競争を打ち砕くために、広告なしのオープンソースモデルをコモディティ化することは十分に価値があるでしょう。「AIレース」とは、一体何なのでしょうか？中国のモデルに関する多くの懸念は、「AIレースに負ける」ことに集中しています。しかし、このレースの目標は何でしょうか？最高のモデルを開発することでしょうか？最も多くのトークンを販売することでしょうか？最初に人類を破壊することでしょうか？「AIレース」について話すことは、「インターネットレース」について話すことよりも意味がありません。我々は月へのロケットを最初に送るために競争しているわけではありません。我々は新しい、変革的な技術に対応しているのです。国家間のレースがある程度存在するならば、それはこの移行を吸収し、経済を成長させることです。この枠組みでは、無料のAIモデルは脅威ではなく、恩恵です。中国製AIモデルを恐れるべき的外れな主張。中国は「AIダンピング」をしている！Scott Galloway氏は、無料の中国製AIは長期的には競合他社を排除しようとする試みであると主張しています。これは中国が太陽光パネル、鋼鉄、EV、バッテリーに対して行ったことです。まず、彼らは西洋の品質に匹ordするか、それに達しないかです。89%。近い。実際、車ではそれに達しましたが、進んでください。次に、彼らは価格を3分の2に引き下げ、市場を所有します。しかし、チップを除けば、AIは物理的な商品ではありません。太陽光パネルと鋼鉄は物理的なサプライチェーンを必要とし、その各リンクは単独では容易に存在できません。あなたの国で太陽光パネルが製造されていない場合、太陽光グレードのシリコンウェハーを販売するビジネスを構築するのは困難です。ソフトウェアはそうではありません。中国から来たオープンソースモデルは、米国でのファインチューニングビジネスの成功を妨げるものではありません。むしろその逆です！彼らはプロパガンダを広めるでしょう！中国製モデルに中国寄りの視点が組み込まれていると仮定することは不合理ではありません。しかし、これはそれらを抑制する理由にはなりません。モデルはオープンソースです！もしアメリカ人が中国製AIモデルの政治的偏向に問題があるなら、彼らはそれを変更して「アメリカ化」されたモデルをリリースする自由があります。少なくとも米国国内では、著しく歪んだ親米的な視点を持つモデルが、著しく歪んだ親中的な視点を持つモデルを凌駕することは考えにくいです。彼らはバックドアを追加するでしょう！AIは脆弱性の基本的な市場を変えるものではありません。責任あるアクターはそれを修正し、攻撃者はそれを悪用します。責任あるアクターのためのツールを制限することは、攻撃者にのみ利益をもたらします。悪意のあるアクターが悪意のある振る舞いをモデルに隠して埋め込むことは理論的には可能です。しかし、もしこれが起こるなら、責任あるアクターがこれらのエクスプロイトをできるだけ早く見つけることが利益になるでしょう。そして、それを行う最善の方法は、誰でも検査できるようにすることです。オープンソースAIはやってくる。政策立案者やビジネスリーダーが何を望むかはあまり関係ありません。オープンソースAIはあまりにも強力で、制御が難しすぎます。それはやってきており、それを潰そうとする試みは、道中のノイズ以上のものにはならないでしょう。脚注。私は「オープンウェイトモデル」という意味で、「オープンソースモデル」という用語を使用します。↩Derek Thompson氏の最近の中国AIに関する記事からの引用。ところで、その記事はいくつか間違っています。フロンティアにいる者は、非フロンティア市場でも支配するのに最も適した立場にあります。それは、フロンティアモデルメーカーがサービス提供コストを最適化してきた数ヶ月を除いた、フロンティアの単なるnヶ月です。u