HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

オープンソースAIに対する批判は的外れである

The arguments against open source AI are bad (tombedor.dev)

265 pointsby jjfoooo4186 コメント

要約

この記事は、オープンソースAIが危険であるという主張は誤解に基づいていると論じています。オープンソースソフトウェアが商業ソフトウェアの基盤となっていること、そして歴史的にオープンソース技術の抑制は困難であったことを指摘しています。さらに、中国だけでなく、チップメーカーや米国のスタートアップなど、多くの商業アクターがオープンソースAI開発にインセンティブを持っていることを強調しています。

全文翻訳

オープンソースAIに反対する議論は非常に悪い

Kimi K3のリリースは、新たなラウンドの不安と混乱した議論を引き起こしました。ジャーナリスト、ビジネスリーダー、政治家からなる大きな集団が、オープンソースAIは危険な脅威であると主張しています。OpenAIのDean Ball氏は次のように述べています。

オープンウェイトモデルが支配的な世界の一つの可能性のある結果は、完全なAI共産主義です…市場製品ではなく、AIは「公共財」となります。

誰でも自由に利用できるAI?なんて恐ろしい!

Frontier LabsのオープンソースAIに対する主張は、本質的にはこうです:オープンソースモデル[1]は危険である(そして非アメリカ的だ!)。我々はAIのパンドラの箱を開けるべきだが、責任あるゲートキーパー(できれば我々のような徴収人!)と共にのみだ。信頼できるユーザー(我々の最も収益性の高い顧客)だけがそれを使用できるようにすべきだ。

私はオープンソースAIに対するいくつかの悪い議論に対処したいと思いますが、議論の枠組みに関するいくつかの修正が必要です。

オープンソースソフトウェアは商用ソフトウェアの基盤である

Ball氏の枠組みは、オープンソースソフトウェアがすべてのプロプライエタリソフトウェアの基盤であるという事実を無視しています。これには、結局のところソフトウェア製品であるフロンティアモデルも含まれます。

オープンソースソフトウェアは、ソフトウェア業界の外の人々にとっては直感に反します。なぜ一生懸命製品を作り、それを無料で提供するのか?

ソフトウェアプログラムはプログラムのスタックであり、各レイヤーは別のレイヤーの上に構築されています。Uberを構築するには、プログラミング言語フレームワーク、Webトラフィックを送受信するためのソフトウェア、データ分析ツール、そして数え切れないほどの他のコンポーネントが必要です。これらのほとんどは、商業企業にとって差別化要因ではないため、商業アクターはスタックの下位コンポーネントで協力し、実際に製品を差別化する上位のコンポーネントで競合することが合理的です。

[画像: いくつかの共有されたオープンソースレイヤーの上に構築されたプロプライエタリソフトウェア]

Frontier Labsは、AIモデルが「あまりにも一般的で競争する意味がない」というカテゴリに分類されることを強く望んでいます。それが起こるかどうかはまだわかりません。

オープンソースソフトウェアは抑圧が非常に難しい

現実には、オープンソースモデルを抑圧するという議論はほとんど的外れです。歴史が教えてくれるのは、オープンソースソフトウェアの抑圧は極めて困難であり、それを試みることは国際的な競合他社に対して企業を弱体化させるだけだということです。暗号化の簡単な歴史がそれを物語っています。

今日、PGPは誰でも使える一般的なツールであり、ほとんどの開発者は少なくともそれに慣れています。しかし、Phil Zimmermannが1991年にそれを発明したとき、米国政府は暗号化を軍事技術と見なしていました。Zimmermannに対して刑事捜査が開かれました。

NetscapeがSSLを作成したとき、米国政府は国際的に弱められたバージョンのみをリリースすることを許可しました。これらの規制は裏目に出ました。国際版の弱められたバージョンの方がはるかに容易に入手できたため、多くの米国人もそれを使用しました。

輸出規制は、政府が望んだように暗号化を制限することに成功しませんでした。SSL、PGP、および同様のツールは世界中で容易に入手可能になり、規制はアメリカ人に不利になりました。最終的に、裁判所は暗号化ソースコードのリリースは保護された言論であると判決を下し、米国政府は暗号化輸出規制を緩和しました。


抑圧を「中国製」モデルに限定しても、事態は容易になりません。AIモデルを中国製と見なす正確な基準は何でしょうか?もしフロンティアモデルが主張するように、アメリカのモデルから抽出されたものであれば、それは中国製なのでしょうか?アメリカ人が中国製モデルをファインチューニングした場合はどうなるでしょうか?最良の場合でも、このようにAIを規制することは、アメリカ人に(一時的に)官僚主義と、世界の他の国々と比較してAIへのアクセスを低下させるだけでしょう。

オープンソースAIは中国だけの現象ではない

オープンソースAIの議論には、オープンソースモデルは中国政府だけが開発するインセンティブを持っているという前提が組み込まれています。実際には、オープンソースAIを開発する十分なインセンティブを持つ多くの商業アクターが存在します。

  • チップメーカー: NvidiaのCEOであるJensen Huang氏は、Nvidiaが構築しているものを「トークン工場」と表現しています[2]。Nvidiaは、そのチップがフロンティアモデルを実行するために使用されるか、安価なオープンソースモデルを実行するために使用されるか([3])を気にしません。ただ、できるだけ多くのトークンを生成し、需要を生み出すことを望んでいます。実際、Nvidia自身もオープンソースモデルのスイートをリリースしています。
  • アメリカのスタートアップ: Thinking Machines Labは最近、強力なオープンソースモデルをリリースしました。彼らや他の企業は、モデルはコモディティ化され、モデルを補完またはカスタマイズする補助サービスを中心に防御可能な堀を築くことができると賭けています。
  • エンタープライズAIユーザー: フロンティアモデルの顧客は現在、オープンソースAI開発にそれほど積極的ではありませんが、そうなるでしょう。彼らは低複雑性のタスクのために低コストのモデルを望み、顧客向け機能に対してよりきめ細かな制御を望むでしょう。
  • 大企業: GoogleとMetaがOpenAIの新しい広告製品を注意深く見守っていることは間違いありません。フロンティアモデルの広告製品が勢いを増した場合、これらの巨大企業が広告競争を打ち砕くために、広告なしのオープンソースモデルをコモディティ化することは十分に価値があるでしょう。
「AIレース」とは…一体何なのか?

中国のモデルを巡る多くの不安は、「AIレースに負ける」ということに集中しています。しかし、このレースの目標は何でしょうか?最高のモデルを開発することでしょうか?最も多くのトークンを販売することでしょうか?最初に人類を破壊することでしょうか?

「AIレース」について話すことは、「インターネットレース」について話すことよりも意味がありません。我々は月へのロケットを最初に送るために競っているのではなく、新しい変革的な技術に対応しているのです。国家間のレースがある程度存在するとしても、それはこの移行を吸収し、経済を成長させるためです。この枠組みでは、無料のAIモデルは脅威ではなく恩恵です。

中国製AIモデルを恐れるべき悪い議論

中国は「AIダンピング」をしている!

Scott Gallowayは、無料の中国製AIは長期的には競合他社を排除しようとする試みであると主張しています。

これは、中国が太陽光パネル、鋼鉄、EV、バッテリーに対して行ったことです。まず、彼らは西洋の品質に匹敵するか、あるいは匹敵さえしません。89%。近い。実際、車では匹敵しましたが、まあ進んでください。次に、彼らは価格を3分の2に引き下げ、市場を所有します。

しかし、チップを除けば、AIは物理的な商品ではありません。太陽光パネルや鋼鉄は物理的なサプライチェーンを必要とし、その各リンクは単独では容易に存在できません。あなたの国で太陽光パネルが製造されていない場合、太陽光グレードのシリコンウェーハを販売するビジネスを構築するのは困難です。

ソフトウェアはそうではありません。中国から来たオープンソースモデルは、米国でのファインチューニングビジネスの成功を妨げるものではありません。むしろその逆です!

彼らはプロパガンダを広めるだろう!

中国製モデルが親中的な視点で出荷されると仮定することは不合理ではありません。しかし、これはそれらを抑圧する理由にはなりません。モデルはオープンソースです!もしアメリカ人が中国のAIモデルの政治的偏見に問題があるなら、彼らはそれを変更して「アメリカ化」されたモデルをリリースする自由があります。少なくとも米国国内では、中国寄りの歪んだ偏見を持つと見なされるモデルが、本質的に類似した米国寄りの歪んだ偏見を持つモデルを凌駕することは想像しにくいです。

彼らはバックドアを追加するだろう!

AIは脆弱性の基本的な市場を変えるものではありません。責任あるアクターはそれを修正し、攻撃者はそれを悪用します。責任あるアクターのためのツールを制限することは、攻撃者にのみ利益をもたらします。

悪意のあるアクターがモデルに隠された敵対的な動作を埋め込むことは理論的には可能です。しかし、これが起こった場合、責任あるアクターがこれらのエクスプロイトをできるだけ早く見つけることが彼らの利益にかなうことであり、それを行う最善の方法は、それを検査したい人なら誰でもできるようにすることです。

オープンソースAIはやってくる

政策立案者やビジネスリーダーが何を望むかはあまり関係ありません。オープンソースAIはあまりにも強力で、制御が難しすぎます。それはやってくるのであり、それを潰そうとする試みは、道中のノイズ以上のものにはならないでしょう。

注釈

  1. 「オープンソースモデル」という用語は、「オープンウェイトモデル」として使用します。

  2. Derek Thompson氏の最近の中国製モデルを誰が恐れているかという記事から引用しました。ついでに言うと、この記事はいくつか間違っています。

    フロンティアにいる者は誰でも、非フロンティア市場も支配するのに最も有利な立場にある。それはフロンティアからnヶ月を引いたものであり、つまりフロンティアモデルメーカーがサービス提供コストを最適化してきた数ヶ月である。

    なぜそうなるのかは不明です。彼らの巨額の資本へのアクセスは、小規模モデルの開発においてはそれほど重要ではなく、ユーザーをより高価なモデルに誘導するのではなく、そうすることにインセンティブがありません。

    Claude CodeとCodexが非常に粘着性があることが証明されていることは注目に値する。一度作業を開始したハーネスは、おそらくあなたが使い続けるものになるだろう。

    Claude CodeとCodexは、コークとペプシが粘着性があるのと同じように粘着性があります。一度一方を選択すると、もう一方に切り替える理由はあまりありません。しかし、これは同等のコストと品質を前提としています。実際には、コーディングエージェントには堀がないのです。価格差、モデルの品質、または信頼性の問題であっても、ユーザーがエージェントを切り替えることを動機付けるには、非常に小さな不便で十分です。

  3. まあ、少しは気にしますよ。フロンティアモデルのトレーニングに使われる莫大な資本は、Nvidiaにとって確かに良いことです。しかし、長期的には、商業的なトークン需要がオープンソーストークンの需要に置き換わったとしても、Nvidiaは勝ちます。