あなたのハードウェアで最先端AIを

私のクラスで、聞きたかったけれど聞けなかった質問をしました。「卒業後に仕事がなくなることを恐れている人は？」部屋にいた150人のうち、約80パーセントが手を挙げました。これは、約120人の学生が、将来の自分の居場所がないと信じていると、一つの動作で答えたことになります。 もう一つの話はメールで届きます。博士課程の学生が、最先端の研究室に参加したいがために卒業を待ちきれず、大学での研究は無意味だと結論づけています。彼らは去るまでの年数を数えています。 私は、両方の話が間違っていると信じています。そして、同じ理由で間違っています。それは、研究の未来は最も多くのGPUを持っている人が所有するものだと仮定しているからです。私はその逆が真実だと考えています。大学は、おそらくルネサンスを迎えようとしており、次の10年で最もエキサイティングな仕事は、限られたリソースにもかかわらず、大学の研究室で起こるでしょう。 今週は、その主張のための議論を行い、それを文章ではなくコードで行います。 この記事は6つのパートで構成されています：私たちの研究室のような場所が、なぜ今や論文ではなくエコシステムを公開するのか、このオープンソースウィークには何が含まれるのか、私が遭遇し続ける悲観論がなぜ間違っているのか、何を捨て、何にしがみつくべきか、それを手放した後に研究はどのようになるのか、そしてなぜルネサンスが大学で起こるのか。 目次 研究の単位はもはや論文ではない オープンソースウィーク なぜ悲観論は間違っているのか 働き方を手放せ。自分自身をではない。 研究はどのようになり、どのように訓練するか？ ルネサンスは大学にある 関連記事 関連記事 研究の単位はもはや論文ではない 昨年のある変化で、私たちのほとんどはそれに合わせた習慣を更新していません。 エージェントにより、プロジェクトごとの研究は簡単かつ迅速になりました。かつて1年のエンジニアリングと実験を要した作業が、今では数週間、時には数日で完了します。私が理解するのに時間がかかった部分は次のとおりです。個々のプロジェクトがすべて簡単になると、断片的な作業は良い研究ではなくなります。ここでは論文、あそこでは論文、それぞれが自己完結しており、読者に自分でピースを繋ぎ合わせるように求めています。それは、すべてのピースが高価だった世界のフォーマットです。 困難は消えませんでした。それは移動しました。論文を公開することはもはや困難ではありません。一貫したエコシステムを公開することが困難なのです。 研究の単位はエコシステムです。 それがオープンソースウィークの目的です。私の学生と私が始めたとき、私たちは互いに構築し合うコンポーネントを構築することを目指しました。単に共存するだけでなく、各ピースが次のピースをより有用にするようにしました。私の研究室と私は、学問の自由を活かして、最高のAIツールをすべての人に無料で提供することを信じています。大学でユニークにできることです。具体的には、オープンシステムを構築し、モデルのローカル実行コストを削減し、ローカルモデルを強化し、ディープで自律的な研究における最先端のパフォーマンスを再現するローカルシステムを構築し、ドメイン固有の強化学習環境を構築するための新しい方法を作成することを意味しました。 これらすべては、3つの交差点にあります。推論サービングフレームワーク、エージェントハーネスと作業、そしてそれらを自律的な研究システムに組み合わせることです。そして、すべてが使いやすい必要があります。なぜなら、経験豊富な研究者だけが実行できるオープンソースは、オープンソースではないからです。アクセシビリティには2つの側面があります。必要なリソースと必要な専門知識です。そして、そのうちの1つだけがハードウェアによって固定されます。数個のGPU、またはMacBookがあれば十分です。 専門知識の要件は設計上の問題であり、ユーザーが考える必要のない技術的な詳細をすべて抽象化することで解決します。そこに私たちのほとんどの努力が費やされ、それはエージェントハーネスで最も顕著です。 オープンソースウィーク オープンソースウィークが始まる前にすべてを公開するつもりはありませんので、今お伝えできることは以下の通りです。 もし私が、小さな研究室が今日何ができるかと尋ねられたら、私たちは3つのことを示します。最先端の自律研究、私が知る限り最も効率的なテストタイムスケーリング、そしてClaude CodeやCodexが実装しているものよりもはるかに効率的な自動コンパクションです。 ハーネスから始めてください。それが他のすべてを使いやすくするからです。 数時間、数日、あるいは数週間続くエージェントセッションについて聞いたことがあるかもしれません。ほとんどの人、特にエージェントを扱ったことのない人にとって、それがどのように達成されるかは謎です。私たちのハーネスをリポジトリ（例えば、CUDAカーネルを持つ推論フレームワーク）に向け、カーネルの最適化を指示します。そして、あなたは立ち去ります。それは、進歩が遅く、作業がフラストレーションのたまる部分を通して改善を続け、あなたが戻ってくるまで続きます。途中でフィードバックは提供されないため、エージェントは不明確または不確実な場合に自分で解決しなければなりません。 それが、私たちの推論フレームワークのMacおよびMetal実装で行ったことです。1つのコマンドでエージェントをカーネルに解放しました。戻ってきたのは、Qwen 3.6 35B-A3Bモデルの量子化推論で、毎秒450トークン、1.5ビット/ウェイトで高品質な出力が得られました。半精度モデルは、各ウェイトに16ビットを必要とします。1.5ビットでは、同じモデルがメモリの約10分の1で実行され、リモートサービスではなくローカルプロセスのように感じるほど高速に実行されます。 次に、この投稿のタイトルのテーマがあります。かつては手の届かなかったモデルが、あなたがすでに所有しているハードウェアに収まるようになったらどうなるでしょうか？ 270億パラメータのQwen 3.8は、人気のローカルモデルでした。私たちのフレームワークを使用すると、そのより大きな兄弟である1250億パラメータのQwen 3.8 Flash Nextを、通常のデスクトップマシンにある24GB GPU 1枚で実行できます。AMD Strix、NVIDIA DGX Spark、または128GBメモリのMacBookを使用すると、DeepSeek V4.1（550Bモデル）を実行できます。コンテキスト長の管理も不要になります。圧縮とコンテキスト処理は自動で行われ、長いコンテキストでも推論は高速に保たれます。 次に、私が最も興奮している部分です。 これらのピースを組み合わせて、自律研究をさらに推し進め、その過程で、これまでに見たことのない精度を持つ新しい情報検索技術を構築しました。このシステムは、最先端の研究室のディープリサーチシステムを凌駕し、Sakana AIのシステムやGoogleのScientistOneよりも優れた自律研究結果を生み出します。インターネットアクセスなしで、完全にローカルで実行されます。 使用は簡単です。私が実行した実験をさせてください。 私はエージェントに、バイオインフォマティクスの分野で取り組む価値のある問題を見つけるように依頼しました。私はそれについてあまり知らないからです。そして、基準は具体的でした。進歩は速くなければなりませんでした。評価は、私たちがすでに持っているハードウェアで実行できるほど安価でなければなりませんでした。そして、それは新しい問題でなければなりませんでした。過去4週間に出版されたアクティブな研究があり、その分野がまだ定まっていないものに取り組むことになります。エージェントは3つの問題を持ってきました。私たちは最初の問題を取り上げ、約2時間で、ヒューリスティック手法の新しい下限を設定し、文献の中で最良のヒューリスティック手法を開発・テストし、AIモデルでトレーニングされた高価な手法に近づき、そしてこの問題の評価に使用されているすべてのデータソースに問題を見つけました。全体の問題で最先端には到達しませんでした。それでも、私の研究室のマシンでの2時間の作業で4つの結果が得られ、そのうちの1つは、この分野全体が依存している評価データに疑問を投げかけました。 このシステムは、ブログ記事のために披露するデモではありません。私の学生は毎日それを使用しています。ハーネスに入る前は、Slackボットの中にあり、ボットが時々ダウンするほど不安定でした。Slackボットがオフラインになったことを知らせるメールシステムはありませんでしたが、それに次ぐ最良のものがありました。私の学生はよく私に「ティム、Slackボットに何か問題があって、もう動かないんだ。助けてくれる？」と書いてきました。共同作業の場では、会議を録画した後、それを使用しました。録画から研究の質問を生成し、議論されたアイデアを文献と比較して評価し、有望な方向性をソートしました。