HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

オープンソースAIとオープンモデルの読書リスト

Open-Source AI and Open Models Reading List (interconnects.ai)

119 pointsby simonpure24 コメント

要約

この記事は、オープンソースAIとオープンモデルに関する最新かつ重要な記事をまとめた読書リストです。オープンモデルの定義、ビジネス戦略における役割、リスク、経済への影響、そして米国と中国の競争状況など、多岐にわたるトピックを網羅しています。AI分野の最新動向を把握したい読者にとって、包括的な情報源となることを目指しています。

全文翻訳

オープンソースAIとオープンモデルの読書リスト

皆さん、こんにちは!オープンモデルに関する一般向けおよび政策立案者向けの執筆の準備を進めているので、私の調査資料を共有したいと思います。ここには素晴らしい資料がたくさんあります。

これは、過去数年間のオープンモデルに関する最高の記事のリストです。もし誰かがこの分野について最新情報を得たいと思ったら、これを読むことで現状を包括的に把握できるでしょう。後で追加を検討する記事があれば、コメントで教えてください。随時更新します。

リスト最終更新日: 2026年9月15日

共有

基盤

オープンモデルとは何か、なぜ人々がそれらを公開するのか、ビジネス戦略とどのように関連するのか、そしてリスクは何なのか。

米中競争

オープンモデルで誰がリードしているのか、それが時間とともにどのように変化したのか、中国がそのリードをどのように維持しているのか、そして関連する歴史。

  • 中国からの競争の激化に直面し、米国が基礎研究開発/イノベーションのためにオープンモデルに投資する必要がある理由 — ATOMプロジェクト, Nathan Lambert (2025年8月)

    • オープンモデルが研究イノベーションとAIの有益な成果を促進するレンズ — なぜ私がオープン言語モデルを構築するのか, Nathan Lambert / Interconnects (2024年10月)

    • オープンモデルが、3つのコアなアメリカの価値観である教育、イノベーション、競争をどのように育むか — オープンソースAIの禁止は間違いである, Nathan Lambert & Kevin Xu (2026年6月)

    • 最近の「雰囲気規制」/曖昧な連邦監督メカニズムが、近い将来、フロンティアオープンモデルとの衝突や禁止につながる可能性 — オープンモデルの寿命はあと6ヶ月, Nathan Lambert / Interconnects (2026年7月)

    • [オプション] 理解における最先端を示すための、完全にオープンな言語モデルの技術レポート: Pythia (EleutherAI, 2023年)、Olmo (2024年)、Olmo 2 (2024年)、Olmo 3 (2025年)

  • AIに至るまでの中国のオープンソースの歴史 — 中国のオープンソース:決定版の歴史, Kevin Xu (2026年3月)。

  • 西側企業による中国製モデルの著名な使用が、意味のある規制上の注意を促している (詳細 議論)

    • 議員たちは、DoorDash (CNBC, 2026年7月31日)、Airbnb (Bloomberg, 2026年4月29日; Semafor, 2026年4月29日)、Anysphere / Cursor (Bloomberg, 2026年4月29日; Semafor, 2026年4月29日)、Apple (Reuters, 2025年5月17日)、Harvey (2026年8月) を、中国製モデルの使用について調査している。

    • 他の西側企業は、コスト削減のために、アメリカのクローズドラボのモデルから中国のオープンモデルへと、使用するモデルを公に移行させている。例としては、PerplexityがDeepSeek R1を顕著かつ迅速に採用したこと (Forbes, 2025年1月28日) や、Thomson ReutersがClaudeからの移行のためにQwenを基盤に構築したこと (Business Insider, 2026年8月24日) が挙げられる。

コメントを残す

技術的詳細

ディスティレーション(蒸留)とは何か、そしてそれが中国の研究室にどれほど役立つのか、オープンモデルはサイバーセキュリティのようなフロンティアAIリスクにどのように影響するのか、そしてオープンモデルはクローズドフロンティアからどれほど遅れているのか。

  • オープン・クローズドモデルのギャップは近年縮小しており、現在は約4〜6ヶ月である。主要なオープンモデルは、約2024年以降、すべて中国の研究室から登場している。

    • 独立した評価を実施し、オープンモデルが時間の経過とともにクローズドフロンティアのパフォーマンスに近づいていると結論付けたSemiAnalysisの記事 — オープンモデルは追いついているか?, SemiAnalysis (2026年8月)

    • オープンモデルはパレート効率のコストフロンティア上にいるが、絶対的なパフォーマンスフロンティアにはいない。例: DeepSeek V4 Flash、評価とコストはArtificial Analysisで参照。

    • Epoch AI および Artificial Analysis (および 米国対中国, 関連) のデータソースは、時間の経過とともにオープン・クローズドギャップを示している。

    • 公開および非公開の評価を組み合わせたオープン・クローズドギャップの独立分析 — オープンモデルはどれくらい遅れているのか?, Håvard Tveit Ihle (2026年5月)

    • 例: 2025年、Z.aiのプロダクトリードは、リリース時間に関して「迅速にリリースせよ。数時間以内にオープンソース化する」と述べた — Z.aiのプレイブック, ChinaTalk (2025年11月21日)

  • サイバー、リスク、オープンモデル (このセクションはさらに発展させる予定です)

  • ディスティレーション(別のモデルからの出力トークンでトレーニングするプロセス)は、2026年のオープンモデルに関する最も話題の多い議論である。

    • 基本的な背景については、Reinforcement Learning from Human Feedback (2026年出版のトレーニング後教科書) の合成データとディスティレーション全般に関する教科書の章を参照。

    • ディスティレーションが中国の研究室にどのように役立つか、しかしそれらが彼らのイノベーションを損なうわけではない — ディスティレーションは中国のLLMにとってどれほど重要か?, Nathan Lambert / Interconnects (2026年2月)

    • 中国企業がAnthropicの製品を使用し、利用規約や意図された使用法を回避する方法を非常に透明性高く文書化したレポート。このレポートは、技術的なディスティレーション(SFTデータで言及)と、ユーザーに知らせずにClaudeを製品やサービスに広範囲にルーティングすることの組み合わせとして、禁止された当事者によるAnthropic製品の大規模な使用を詳細に示している —AIの不正使用の検出と対抗:2026年9月。

    • フロンティアの研究室が、巧妙なトリックを通じて、推論トレース(最新トレーニングの重要な部分)の体系的な抽出を可能にするAPI実装を持っていたことを示した最近の論文。最近のディスティレーション論文、それに関する私の執筆 — プロプライエタリLLM APIからの推論トレースの盗用, Panfilov, Schmotz, Shumailov et al. 2026年 (詳細はXで)。Anthropicはこの技術が中国の研究室によって使用されたことを確認した。

    • ディスティレーションが中国のモデルがフロンティアに近い唯一の理由であると主張する、ディスティレーションに関する政治的パニックが証拠に基づかない理由 — ディスティレーションパニック, Nathan Lambert / Interconnects (2026年5月)

    • 研究室が、エージェント的な振る舞いにわたるRL環境のスケーリング時代に、ディスティレーションを使用してモデルを改善する方法 — ディスティレーションは今日どのように使用され、オープンモデルにどれほどのパフォーマンス向上をもたらすか, Nathan Lambert (2026年7月)

    • [オプション] より詳しい歴史: 2024年、私は合成データのフロンティアを執筆しました。その主なポイントは、主に「ディスティリング」モデル、つまりより強力なモデルからの出力をSFTでトレーニングすることによる合成データが、ディスティレーションの支配的な形態であったことです。フロンティアの研究室は、Geminiで最初に確認され、現在も続いている、ロジットベースの知識ディスティレーションへと移行していました。2025年初頭には、DeepSeek-R1がOpenAIのo1モデルをディスティルしたかどうかについて substantial な議論がありました。彼らがそうしたことを示唆する明確な証拠はありません。2025年4月には、DeepSeekがディスティルしたわけではないと自信を持って書きました。R1の時点では、DeepSeekがR1モデルのトレーニングを容易にするためにo1トレースをディスティルした可能性は、私が当初認めたよりも高いです。これは、上記の推論トレース抽出方法に基づいています。これはイノベーションを損なうものではありませんが、現実的であることは重要であり、ディスティレーションが中国がアメリカの研究室とのギャップを縮めるのを加速させる方法となり得ます。