HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Show HN: HART OS – データセンター不要なフロンティアAIのためのオープンソースAI OS

Show HN: HART OS – an open-source AI OS built so frontier AI needs no datacenter (github.com)

3 pointsby hevolveai0 コメント

要約

HART OSは、ローカルファーストかつフェデレーテッドなAIネイティブオペレーティングシステムです。最先端のAIモデルをデータセンターに依存せず、個々のデバイス上で実行できるように設計されています。このOSは、CUDA、ROCm、Metal、Vulkan、CPUなど、多様なハードウェアをサポートし、特定のベンダーのシリコンに依存しないアーキテクチャを採用しています。AIモデルの推論をシステムサービスとして提供し、デバイス間の連携を可能にすることで、AIの利用形態を変革することを目指しています。

全文翻訳

HART OS

Hevolve Hive Agentic Runtime

ロックインフリーで民主的な最先端インテリジェンスを、エージェントOSで提供。

AIネイティブなオペレーティングシステム。モデルはユーザー自身のハードウェア上で実行され、ノードは直接相互に連携し、APIはOpenAI互換です。

[画像: ライブデモ] [画像: ドキュメント] [画像: Python 3.10+] [画像: ライセンス] [画像: Nunba]


それは何ですか?

サブスクリプションなしで、Wi-Fiを切った状態でも動作する、自分のマシンで実行できるアシスタントです。入力した内容はデバイスの外に出る場所がないため、デバイス内に留まり、ネットワークを監視して確認できます。

8GBのRAMがあれば十分で、8GBでは控えめなバージョンとなります。どのスペックで何が得られるかは「Start it」に記載されています。そこが重要だからです。

難しい質問に対しては、最先端モデルがラップトップに収まるものより優れています。しかし、日常的な質問のほとんどはそうではなく、これはそれらのためのものです。

本日利用可能なのは、Windows、Linux、Android向けのNunbaです。このリポジトリは、その下にあるランタイムです。ローカル推論をシステムサービスとして提供し、ピアツーピアでフェデレーションし、/v1/chat/completions または hart CLIからエンドツーエンドで操作できます。

要するに; あなたのコンピュータを操作するAIであり、チャットボットではありません。あなたのハードウェア。BitTorrentスタイル。仲介者なし。

Start it

単に使いたいですか? Nunbaをダウンロードしてください。署名付きインストーラーで、Pythonは不要、セットアップウィザードがハードウェアに合ったモデルを選択します。それでも次のセクションを読んでください。ウィザードが決定しているのはその内容であり、さらに下にあるクローンしてpipする部分は、ソースから実行していることを前提としています。

あなたのマシンで何ができるか。 2つのコンポーネントが決定します。core/gpu_tier.py がハードウェアをティアに分類し、フロントエンドバッジはその言葉を言い換えるのではなく引用します。実際にロードされるものと、どのデバイスにロードされるかは、VRAMマネージャーの判断によります。モデルごとに予算を管理し、ロード前にフィットするかどうかを確認し、各モデルをGPU、CPUオフロード、またはCPUのみに配置します(integrations/service_tools/vram_manager.py)。10GB以上のCUDAカードは、スペキュラティブデコーディングをアンロックします。これは、メインモデルが検証している間に0.8Bのドラフトが応答するもので、ティアテキストでは応答速度が約40%速くなるとされています。4GBから10GBの間では、GPUはメインモデルを単独で実行します。CUDAがない場合、チャットはCPUでコンパクトモデルをメインとして実行します。0.8Bまたは2Bクラスであり、モデルカタログはmainをGGUFが取れるスロットとして扱います(integrations/service_tools/model_catalog.py)。そのため、モデルの交換は手術ではなく設定です。ローカルの7Bモデルは16GBのRAMとGPUを必要とします(security/system_requirements.py、FULLティア)。

これらは、ノードが応答できることを制限するものではなく、ハードウェアで判断する前に理解する価値のある部分です。エージェントデーモンはどのティアでも同じように実行され、ローカルモデルが取るべきではないターンは、より大きなモデルを持つピアに丸ごと引き渡すことができます。その両方の半分は起動時に出荷およびアタッチされ、hive_capability_advertiserがアナウンスし、hive_expert_discoveryが聞いたものを登録します。ピアのモデルはドラフトを確認するのではなく、直接ターンを取ります。アナウンスはノードごとにオプトインです(HEVOLVE_HIVE_ADVERTISE=1と公開エンドポイント)、そのため誰もオプトインしていないネットワークでは、ローカルにフォールバックします。控えめなマシンは、小さなモデルと、より大きなモデルへのルートであり、単なる小さなモデルではありません。

サーバーは数秒で起動します。インストールはそうではありません。requirements.txtは191パッケージをピン留めし、torch、torchvision、transformers、onnxruntime、scipyをプルするため、初回実行時には数分と数GBを予算としてください。

Python 3.10または3.11を使用してください。それ以降は使用しないでください。 24個のピンにはcp312ホイールがなく、pandas、scipy、PyYAML、onnxruntime、grpcio、tokenizersなどが含まれています。そのため、3.12ではインストールが「No matching distribution found」で停止し、これはリポジトリの破損のように見えますが、バージョンミスマッチです。それらのすべてに、動作する現在のリリースがあります。issue #92に各々の最小互換バージョンが記載されています。

git clone https://github.com/hertz-ai/HARTOS.git && cd HARTOS
python3.10 -m venv venv && source venv/bin/activate   # Windows: venv\Scripts\activate.bat
pip install -r requirements.txt
echo "OPENAI_API_KEY=sk-..." > .env       # または GROQ_API_KEY、ローカルllama.cppの場合はなし
python hart_intelligence_entry.py         # :6777でリッスン

OpenAIプロトコルを話すため、任意のOpenAI SDK、LangChain、LiteLLM、Aider、またはContinueの設定をそのままポイントできます。

curl -X POST http://localhost:6777/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "hevolve", "messages": [{"role": "user", "content": "Hello"}]}'

ライブデモ · クイックスタート · Nunbaデスクトップ


「AIネイティブ」とは実際には何を意味するか

AI搭載と説明されるほとんどのソフトウェアは、アシスタントを ship しています。これは通常、誰かのサーバーと通信する別のアプリで、いくつかの機能を操作できます。アシスタントを削除しても、その下のすべては以前と同じように機能します。

ここでは、推論はシステムが提供するサービスであり、ファイルシステムが提供するようなものです。アプリケーションはモデルをバンドルしたりAPIキーを保持したりせず、Model Bus経由でOSに要求し、OSはどのモデルが応答するかを決定し、ローカルで実行します。1台のマシン上の10個のアプリは、それぞれが独自のコピーをロードしません。

1つの結果は明確に述べる価値があります。すべてのデバイスが同じターゲットになります。ラップトップを駆動するランタイムはロボットを駆動するランタイムと同じなので、ロボットのAIアクセスは単なる別のModel Bus呼び出しであり、:6777/v1/chat/completionsに対して書かれたコードは、両方で変更なしに実行されます。

これはPeerLink経由でフェデレーションする単一のPythonコードベースであり、ブローカーなしの直接ピアツーピアWebSocketです。ノードごとに2つのことが異なりますが、それらは互いに独立しています。ノードができることは、ハードウェアから読み取られる機能ティアです。ノードがネットワーク上のどこに位置するかは、HEVOLVE_NODE_TIERによって設定されるトポロジーモードであり、flatのみが自己宣言されます。regionalは中央から発行された証明書を必要とし、centralはEd25519マスター秘密鍵を必要とし、証明なしでどちらかを主張するノードはflatにフォールバックし、その理由をログに記録します(security/key_delegation.py:103)。

起動時のガードレールハッシュが300秒ごとに再チェックされ、Ed25519リリース署名と合わせて、人間が制御できるようにします。ノードは自身の使用からローカルで改善され、それはオフにできるトグルであり、自身を生きていると説明するオペレーティングシステムにはオフスイッチが付属すべきだからです。

それならなぜDockerfileをshipするのか

それは1つのソースツリーが3つの方法でパッケージ化されており、トポロジーモードがどれかを選択するためです。flatでは、Nunbaバンドル内で実行され、Windows、macOS、またはLinux上の通常のアプリとして実行されます。regionalまたはcentralとしては、Dockerでスタンドアロンで実行され、他のノードがフェデレーションするノードはどのようにデプロイされるかです。HART OSとしては、Nixでビルドされ、ベアメタルでブートし、他の2つの形式が実行するのと同じランタイムをホストします。フォームごとに何も再実装されておらず、最後のものだけがOSの主張です。

「イミュータブルOS」という言葉で人々が意味することのほとんどは、私たちからではなくNixから来ているため、Nixは言及する価値があります。世代、ワンコマンドロールバック、読み取り専用ストア:すべてNixOSであり、それだけが欲しい場合はプレーンなNixOSが今日それらすべてを提供します。ここにあるのはアップデートパイプライン、BUILDからTEST、AUDIT、BENCHMARK、SIGN、CANARY、そしてDEPLOYまでで、カナリアはヘルスが低下すると世代を自動的にロールバックし、署名ステップは人間が持ち、AIが到達できないマスターキーを必要とします(nixos/modules/hart-ota.nix)。継承は、下のコパイロット境界が約束ではなく構造的である理由でもあります。ストアは読み取り専用なので、コーディングエージェントは実行中のシステムをその場で書き換えることができません。

「OS」がその名前でコードが稼ぐ以上の仕事をしていると思うなら、それは合理的な疑念であり、Is it an OS? はそれを真剣に受け止めます。コンポジタはSmithayをリンクしてビルドし、2026-07-26にCIでグリーンになります。initrd、ペイントウォッチドッグ、ティアドロップ、リカバリTTYをカバーする19個のnixosTest VMチェックがありますが、そのページはそれらが定義されているがパスしていないことを率直に述べています。スイートは手動ディスパッチのみで、グリーンな実行はありません。initrdテストを書くことは、このプロジェクトがどのようなプロジェクトであるかをまだ教えてくれます。ブートが機能することを教えてくれるわけではなく、ページはそれを仮定させるのではなく、そう述べています。

人々が見落とす2つのこと

自身のデスクトップを見たり操作したりできます。 ビジョンモデルがスクリーンショットを撮り、通常の操作ボキャブラリーがpyautoguiを通じて実際のマシンを操作するため、ブラウザやその他のGUIを操作できます。視覚化はデバイス上で行われます(integrations/vlm/local_computer_tool.py)。

Claude Codeはノード自身のコパイロットとして実行されます。 hart-copilotは、ファイルシステムによって強制される境界で、フレッシュなブランチの書き込み可能なチェックアウト内でClaude Codeにドロップします。nixストアは読み取り専用なので、実行中のシステムをその場で変更することは構造的に不可能であり、そのパスの何もmainに触れません。マージ、OTAパブリッシング、リリース署名は人間が行います。詳細と現在の制限は設計ノートにあります。モジュールはビルドされ、flake-evalはグリーンであり、hart hive connectが存在するため、セッションはハイブディスパッチャーに登録して作業を受け取ることができます。まだ欠けているのは、ライブディスパッチャーがまだタスクを渡していないこと、そしてログインがライブISOの再起動で持続しないことです。

現在実行中のOSとの違い

WindowsとmacOSは現在、デバイス上でモデルを実行しているため、これはローカル対クラウドの古い話ではありません。Copilot+はNPUを使用し、Apple IntelligenceはNeural Engineを使用します。異なるのは、モデルが誰に属するか、アプリケーションが何を要求できるか、そしてそのものが学習し続けるかどうかです。

これら2つは完成したアーティファクトをshipします。それはあなたのシリコン上で実行されますが、あなたが関与しなかった場所でトレーニングされ、すべての人に同じように到着し、あなたの使用はあなたのマシンの代わりにベンダーの次のリリースを改善します。ここでは、ノードは自身の使用から改善され、学習したことはピアにゴシップされ、定期的に集約されます(federated_aggregator.py)。タイトなall-reduceに誰もブロックされないため、マシンは1つの建物に座る必要はありません。推論はllama.cppとGGUFウェイトで実行されるため、CUDA、ROCm、Metal、Vulkan、およびプレーンCPUはすべて実際のパスであり、配信パスの何も1つのベンダーのシリコンを必要としません。

目標は、ベッティングであり、出荷された機能ではありません。それは、誰も所有していないインテリジェンスのインターネットです。

HART OSWindowsmacOSLinux
アプリはOSに推論を要求できるかはい、:6777上のModel BusベンダーアシスタントのみApple IntelligenceはAppleのものいいえ、各アプリが独自のものを持参
ハードウェアからモデルを選択core/gpu_tier.py、vram_manager.py固定固定手動
Windows、macOS、Linux、Androidアプリを実行Wine、Darling、Flatpak/Snap/AppImage/Nix、Waydroid(app_installer.py)Windows、WSL経由のLinuxmacOS、その他はVMが必要Linux、Wine経由のWindows
他のデバイスを見つけてターンを引き渡すcompute_mesh_service.py、LANビーコン :6780いいえContinuityはタスクを移動するが、推論はしないいいえ
他の人のノードとフェデレーションするPeerLink、ブローカーなしいいえいいえいいえ
同意はシステムプリミティブ追記専用、JWT認証、デバイスへの展開(consent_api.py)アプリごとのプロンプトアプリごとのプロンプトアプリごとのプロンプト
タスクを一度学習して再生するcreate_recipe.py / reuse_recipe.pyいいえいいえいいえ
ロールバック可能な世代のアップデートNixOSが下にあるインプレース、システム復元は部分的シールされたボリューム、世代ロールバックなしNixOSとSilverblueははい、ほとんどのディストリビューションはいいえ

これらの行のうち3つは、それらが示すほど好意的ではありません。メッシュはピアにターン全体を渡しますが、1つのモデルを複数のマシンに分割するわけではないため、Parallaxスタイルのレイヤーシャーディングを探しているなら、それは違います。目標で調整するノードのハイブは、単一のより大きなモデルと同じではありません。最先端の機能が必要な質問は、依然として最先端モデルを必要とします。そしてレシピは実際の実行から学習されるため、間違ったレシピは人が修正するまで間違って再生され、ループ内の他のものはそれをキャッチしません。

完全な機能マップ → は、それを実装するファイルとともに、すべてのサブシステムをカバーしています。エージェントランタイム、自動進化、フェデレーション、31チャネルアダプター、16プロバイダー、セキュリティ、エコノミクス、APIサーフェス、そしてエージェントフレームワークと比較してOSと比較する方法です。

HARTはこのリポジトリのベアエンジンで、:6777でリッスンしています。まだPyPIパッケージはありませんので、上記のようにソースからインストールしてください。HART OSは、ラップトップ、サーバー、電話、またはエッジノードでブートする完全なAIネイティブOSです。Nunbaはコンシューマーアプリで、Windows、macOS、Linux用の単一の署名付きクライアントです。


なぜ存在するのか

少数の組織が最も強力なAIを所有しており、それとともに拒否ポリシー、価格、および入力したすべてのログを所有しています。これらのどれも自然法則から生じるものではありません。それはクラスターの費用を誰が支払ったかに由来します。

学習はここでは段階的でゴシップされ、ノードが使用されるにつれてコンシューマーハードウェアに蓄積され、federated_aggregator.pyはタイトなall-reduceではなく定期的な集約を行います。誰も他の人の勾配でブロックされないため、マシンは1つの建物に座る必要はありません。推論はllama.cppとGGUFウェイトで実行されるため、CUDA、ROCm、Metal、Vulkan、およびプレーンCPUはすべて実際のパスであり、配信パスの何も1つのベンダーのシリコンを必要としません。

目標は、ベッティングであり、出荷された機能ではありません。それは、誰も所有していないインテリジェンスのインターネットです。

私たちが快適でない部分

学習はオープンではありません。Hebbian、Bayesian、および勾配コードは、HevolveAIというプライベートリポジトリにあります。ソースとして読むことはできません。コンパイルされ、暗号化され、マスター署名されており、このランタイムはそのバンドルをロードし、欠落している場合はスタブにフォールバックします。その境界はsecurity/native_hive_loader.pyで見ることができます。「クローズド」は単に取得が不便であるという意味ではなく、クローズドであることを正確に述べる価値があります。

理由は退屈なものです。それは、資金提供された競合他社が最初にコピーする部分であり、これが残りの部分の支払い方法です。これは会社を運営する通常のやり方であり、誰も所有していないインテリジェンスに関する議論の隣に置くのは気まずいことです。両方とも真実であり、テーブルの行から自分で見つけるのではなく、ここで言いたいと思います。

より狭い主張は有効であり、自分でテストできます。llama.cppとGGUFはCUDA、ROCm、Metal、Vulkan、ベアCPUで実行されるため、ベンダーは必要なシリコンを所有していません。Apache 2.0は、フォークが1日かかると意味します。注意書きなしで言えないのは、誰もインテリジェンスを所有していないということです。なぜなら、今日、誰かがその一部を所有しており、それは私たちだからです。Open problem 9はその議論であり、私たちがそれをこのようにshipすること自体が間違っているというケースも含まれます。


ヘルプしたい場合、どこから始めるか

ステータス:パブリックアルファ。 ランタイム、Model Bus、チャネルアダプターは日常的に使用されています。APIはまだ移動しています。

具体的なものが欲しい場合は、good first issueとhelp wantedラベルは、製造されたオンボーディングタスクではなく、実際のギャップです。それぞれが何が間違っているか、なぜそれが重要か、そして何が完了と見なされるかを述べています。いくつかにはバグを見つけた測定値が含まれており、1つは仮説を名前で示しており、それはすでに除外されているため、誰も土曜日に再テストしません。セットアップはCONTRIBUTING.mdにあります。

私たち自身では閉じられないギャップはハードウェアです。VERIFICATION.mdの12の主張は記述されていますが、ベアメタルでは実行されていません。Piイメージがブートするか、GPIOがエージェントからトグルするか、Pi 4上の2Bが実際に管理するトークン/秒、2人の人が所有する2台のマシンが互いにコンピューティングを借りて、負ったものを決済できるか。CIにはボードがありません。もしあなたがそれを持っているなら、それを使った夜は1行を決済し、失敗は成功と同じくらい役立ちます。

パッチを当てるよりも議論したい場合は、Open problemsから始めてください。解決していない10のこと、それぞれに今日の不十分な回答を実装するコードがあります。人口を見ることができない場合の収束の意味、自己書き換えシステムがまだ検証可能であるかどうか、そしてなぜターンが自動的により良いモデルにエスカレートするのに、問題に1時間と3台のマシンが必要だと決して決定できないのか。そこでフレーミングが間違っていると私たちに伝えることは、パッチよりも私たちにとって価値があります。

コンピューティングを貸す場合

余剰容量を持つノードは、持たないノードのためにターンを提供できます。貸し手がコードで得るものは、原則ではなくコードで得られます。

integrations/agent_engine/revenue_aggregator.py:26は、総収益を90/9/1に分割します。90%は作業を実行した人々に支払われるプールに、9%はインフラストラクチャに、1%は中央に。アプリにも同じ90%が適用されます。クリエイターは、アプリが獲得するSparkの90%を保持します(app_marketplace.py:7)。

3つのものが収益を生みます。API、広告、そしてエージェントが作業を完了することです。プロバイダーは、誰かが支払うサブスクリプションからではなく、ネットワークが受け取るものから支払われます。これは、GPUを企業に貸すこととの違いです。

compute_borrowing.pyがそのメカニズムです。ピアはアイドル容量を広告し、プレッシャー下にあるノードが借り、作業は貸し手に記録されます。貢献はハードウェアではなく、参加によってスコアリングされます。PiとGPUラックは、同等の参加率で同じ投票権を持ちます(log1p(interactions)、ティア乗数なし(federated_aggregator.py:642))。そのため、小さなマシンを貸すことは丸め誤差ではありません。

まだ起こっていないこと。 支払いはいずれもエンドツーエンドで決済されていません。アグリゲーターは現在、APIと広告のレッグを合計しています。エージェントワークはSparkに収益を上げますが、クロスノードの集合収益スライスは意図的に不活性であり、その最初の行(collective_earning.py:「ブロードキャストも送金も変更もしない」)でそれを述べています。分割は定数であり、借り入れパスは書かれており、誰もそれを通じて支払われていません。

したがって、今日コンピューティングを貸す人は、メカニズムを証明するのを助けており、それから収集しているわけではありません。これはrow 8であり、2人の人が所有する2台のマシンを必要とします。

詳細はprovider joinをご覧ください。


ドキュメント

セクション内容
Capabilities実装ファイル付きの全サブシステム
Open problems解決していない10のこと
Verification証明されていること、されていないこと、行を決済する方法
Contributingセットアップ、ヘルプが必要な場所、マージしないもの
Quickstartエージェントへのインストールから開始
Architectureトポロジー、PeerLink、ドラフトファーストディスパッチ、フェデレーション
API/chat、OpenAI互換、195以上のエンドポイント
Provider joinコンピューティングを貸す、リージョンをホストする

ライセンス

Apache License 2.0。