Show HN: HART OS – データセンター不要なフロンティアAIのためのオープンソースAI OS

HART OS Hevolve Hive Agentic Runtime コンピューターから組み込みAIまで、あらゆるデバイスのためのAIネイティブオペレーティングシステム。 ローカルファースト、フェデレーテッド、OpenAI互換。 なぜこれが存在するのか 現在最も高性能なAIは、少数の組織内に存在し、それらの組織は一つの建物に十分なコンピューティングリソースを配置できます。 その集中化は物理法則ではなくアーキテクチャ上の選択であり、モデルが拒否するもの、コスト、そして誰があなたのタイピングを読むことができるかを決定します。 通常、2つの異なるロック（資本ロックとシリコンロック）は1つとして扱われます。 資本ロックとは、フロンティアモデルを事前学習するために必要なコンピューティングのことです。 シリコンロックとは、スタックのほとんどが1つのベンダーのカードと1つのベンダーのツールキットを想定しているという事実です。 後者は私たちが完全に拒否するものです。 ローカル推論は、GGUFウェイトでllama.cppを介して実行されるため、CUDA、ROCm、Metal、Vulkan、およびプレーンCPUはすべてファーストクラスです。 vram_managerは、「CPUのみ、Metal、壊れたnvidia-smi」を失敗ではなく通常のケースとして扱い、nvidia-smiの隣でrocm-smiをプローブします。 Appleラップトップ、AMDカード、GPUなしのマシンは、劣化したパスではなくサポートされているパスです。 配信パスのいかなるものも、特定の会社のシリコンを必要としません。 資本ロックについては、私たちは大声でなく正確です。データセンターなしではフロンティアモデルを事前学習できませんし、そう主張することもありません。 私たちが主張するのは、人々が実際に使用する知能は、そこから配信される必要はないということです。 そして、オープンウェイトとクローズドウェイトのギャップは、コンピューティングギャップが拡大するよりも速く縮小しているということです。 HART OSはデバイス上でモデルを実行し、ノードが何かを処理できない場合は、ブローカーも会社も介さずに直接ピアを募集します。 ネットワーク全体でモデルをシャーディングすることもありません。 コンシューマーリンクを介したレイヤーレベルの並列処理は悪いアイデアであり、私たちはそれを試みません。 代わりに、ピアはリクエスト全体を提供します。そのため、より大きなモデルを持つマシンは、より小さなマシンではできなかったものに答えることができ、これはテンソル並列処理ほどレイテンシーを許容しません。 私たちが解決していないことは、OPEN_PROBLEMS.mdに記載されており、それぞれが今日の不十分な回答を実装するファイルの名前を付けています。 HART = ベアエンジン（このリポジトリから実行され、:6777でリッスンします）。 まだ公開されているPyPIパッケージはありませんので、以下に示すようにソースからインストールしてください。 HART OS = 完全なAIネイティブOS。 ラップトップ、サーバー、またはエッジノードで起動し、スマートフォンで実行され、組み込みAIに到達し、エージェント対応のLiquid Shell、Model Bus、モデルカタログ、チャネルペアリング、エージェントダッシュボード、およびHiveビューを提供します。 Nunba = Windows / macOS / Linuxで動作する、1つの署名済みクライアントであるコンシューマーコンパニオンアプリです。 AIネイティブとは、OSが機械に適応するのであって、その逆ではないということです。 各デバイスで、ハードウェアが実際に何ができるかをプローブし、Model Bus（ソケット、D-Bus、またはHTTP）を介してすべてのアプリにLLM、ビジョン、スピーチを提供し、オンデバイスモデルがインターフェースを構成し、タスクを一度学習して後で再生できるようにします。 デスクトップを駆動するランタイムは、ロボットを駆動するランタイムと同じです。そのため、ロボットのAIアクセスは別のModel Bus呼び出しにすぎません。 これは3つの形状（フラットラップトップ、リージョナルLAN、またはセントラルクラウドメッシュ）で実行される1つのPythonコードベースであり、:6777/v1/chat/completionsでOpenAIプロトコルを話し、PeerLink（ブローカーなしの直接ピアツーピアWebSocket）を介してピアとフェデレートします。 起動時のガードレールハッシュ（300秒ごとに再チェック）とEd25519リリース署名により、人間が制御を維持できます。 あなたはそれを最後に気づくでしょう、まるで生きているものに気づくように：それはそれ自体で改善します。 各ノードは、行ったことから学習し、ローカルで、あなた自身のハードウェア上で、何もデバイスから離れることなく、静かに改善します。 オペレーティングシステムを生きていると呼ぶことは、あなたがオフスイッチに手を伸ばすようにさせるはずなので、それが最初にありました：自己改善はトグルであり、各ノードは単独でキル可能であり、あなたがそれを許可する限り実行されます。 このREADMEは、人間とエージェントの両方を対象に書かれています。 以下の各機能は、それが存在するファイルの名前を付けているため、開発者であろうとリポジトリを探索しているAIエージェントであろうと、機能からソースに直接移動できます。 ステータス：パブリックアルファ。 ランタイム、Model Bus、チャネルアダプターは日常的に使用されています。APIはまだ移動しています。 IssueとPRは本当に歓迎されています — 貢献を参照してください。 具体的な作業項目が欲しいですか？good first issueとhelp wantedは、製造されたオンボーディングタスクではなく、実際のギャップです。 それぞれが何が間違っているか、なぜそれが重要か、そして完了と見なされるものは何かを述べています。 それらのいくつかはバグを見つけた測定値を持っており、1つは私たちがすでに除外した仮説の名前を付けているので、誰も土曜日に再テストに時間を費やすことはありません。 パッチを当てるよりも議論したい場合は、Open problemsから始めてください。 私たちが解決していない9つのこと、それぞれに今日の不十分な回答を実装するコードと、進歩と見なされるものがあります。 グローバルビューなしでの収束が何を意味するか、自己書き換えを行うシステムがまだ検証可能かどうか、そしてなぜターンが自動的により良いモデルにエスカレートするのに、問題が1時間と3台のマシンに値すると自分で決定できないのか。 そこでのフレーミングに同意しないことは、パッチよりも私たちにとって価値があります。 目次 なぜHART OSなのか？ 未解決の問題 — 私たちが解決していないこと 開始方法 比較方法 機能 こんにちは、エージェント アーキテクチャマップ APIサーフェス 自動進化の仕組み Hive接続の仕組み トポロジー ビルド/拡張 経済性（ノードオペレーター向け） ドキュメントインデックス ライセンス なぜHART OSなのか？ AI搭載と説明されるほとんどのソフトウェアは、アシスタントを ship します。これは、通常、誰かのサーバーと通信する別のアプリで、いくつかの機能を駆動できます。 アシスタントを削除すると、その下のすべてが以前とまったく同じように機能します。 HART OSはそれを反転させます。 推論は、ファイルシステムやネットワークスタックを提供するのと同じように、システムが提供するサービスになります。 アプリケーションはモデルをバンドルしたりAPIキーを保持したりしません。OSに尋ね、OSはどのモデルが応答するかを決定し、可能な場合はローカルで実行します。 1台のマシン上の10個のアプリは、それぞれ独自のコピーをロードしたり、それぞれ請求書を支払ったりしません。 それは、はっきりと述べる価値のある実用的な結果をもたらします。すべてのデバイスが同じターゲットになります。 ラップトップを駆動するランタイムはロボットを駆動するランタイムと同じです。そのため、ロボットのAIアクセスは別のModel Bus呼び出しにすぎず、:6777/v1/chat/completionsに対して記述されたコードは両方で変更なく実行されます。 あなたがここに貢献するために来たのであれば、外部の目が必要な部分は、自動進化ループ（autoresearch_loop.py）、すべての自己改善をゲートするガードレール（hive_guardrails.py）、および31のチャネルアダプターです。最も自己完結型の開始場所です。CONTRIBUTING.mdを参照してください。 開始方法 時計に正直に言うと、サーバーはインストール完了の数秒後に起動しますが、インストール自体は速くありません。 requirements.txtは235パッケージをピン留めし、torch、torchvision、transformers、onnxruntime、scipyをプルするため、初回実行には数分と数GBを予算として計上してください。 このセクションは以前は「60秒スタート」という見出しでしたが、最後の行を除いてどれも真実ではありませんでした。 Python 3.10または3.11を使用し、それ以降のバージョンは使用しないでください。 最初のコマンドのpython3.10は装飾ではなく、ロードを担っています。 faiss-cpu==1.7.4はcp37からcp311までのホイールのみを公開しているため、3.12以降では「No matching distribution found for faiss-cpu==1.7.4」というエラーでインストールが停止します。これはバージョンミスマッチではなく、リポジトリの破損のように読めます。 システムPythonが新しい場合は、それと一緒に3.10をインストールし、venvをそれにポイントしてください。 git clone https://github.com/hertz-ai/HARTOS.git && cd HARTOS python3.10 -m venv venv && source venv/bin/activate # Windows: venv\Scripts\activate.bat pip install -r requirements.txt echo "OPENAI_API_KEY=sk-..." > .env # またはGROQ_API_KEY、またはローカルllama.cppの場合はなし python hart_intelligence_entry.py # :6777でリッスンします # OpenAI互換（任意のOpenAI SDK / LangChain / LiteLLM / Aider / Continueにドロップイン） curl -X POST http://localhost:6777/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model": "hevolve", "messages": [{"role": "user", "content": "Hello"}]}' ライブデモ · フルクイックスタート · Nunbaデスクトップ 比較方法 HART OS OpenAI Agents LangChain Auto