Show HN: Hob - Claude CoworkおよびChatGPTのオープンソース、オンデバイス代替

皆さん、こんにちは。Christianです。この数週間、私が取り組んできた新しいOSSプロジェクトを紹介します。Hobは、Mac、Windows、Linux向けの無料のMITライセンスデスクトップアプリで、ClaudeやChatGPTのデスクトップアプリと同様の方法でファイル操作を行えますが、モデルはユーザー自身のコンピュータで実行されます。オープンウェイトモデル（現在はGemma 4とgpt-oss）を使用しており、すべてのチャットとファイルはシステムから離れることはありません。オンラインになるのはウェブ検索（設定でオフにできます）と、ユーザーが追加したMCPコネクタのみです。

主な機能：

• 初回インストール時に、ハードウェアに最適なオープンウェイトモデルを自動的に検出（Mac/Linux/Windows）
• アドホックなツール（データ処理、ドキュメント変換、グラフなど）のためにサンドボックス化されたPythonコードを記述
• 組み込みウェブ検索（SearXNGを使用）
• MCPサポート
• 画像認識
• ローカルファイルシステムへのCRUD操作
• インターネットなしで完全にオフラインで動作

これを構築する前に、見つけられる限りのローカルAIアプリを試しましたが、それぞれに異なる問題があるようでした。私が気づいた主な点は、ChatGPTやClaudeのアプリがファイルに対して行うこと（フォルダ内のファイルを読み書きする、画像を閲覧する、サンドボックス内でコードを実行する、チャートを描画するなど）が、どのアプリもできなかったことです。最も高度な機能でも、プレーンテキストファイルを小さなコンテキストウィンドウに貼り付ける程度で、数KBを超えるファイルになるとほぼ失敗していました。画像やより大きなPDFを簡単に解析できるものは見つかりませんでした。

より高度なOSSソリューションは、ホスト型モデル（OSSまたはクローズド）をデフォルトにしているものがほとんどで、これはオンデバイスOSSが提供するプライバシーの利点を完全に損なうものでした。また、アカウントベースやオープンコア型のビジネスモデルを推進しているようにも見えました。

Electronをllama.cppとブリッジして、独自のプロセスでビルドしました。初回ロード時に、互換性のあるグラフィックカードがあるかどうかをシステムが判断し、なければCPUのみにデフォルト設定します（グラフィックカードが互換性があるように見えても、最初のクエリでクラッシュするという問題にたくさん遭遇しました。この話は長くなります笑）。コード実行は、チャットのフォルダにのみ書き込み可能で、要求されない限りネットワークにアクセスしないサンドボックス内で行われます（macOSではsandbox-exec、LinuxではLandlock、Windowsでは低整合性プロセスを使用）。画像は小さなQwen3-VLモデルに渡されます。ディクテーションはローカルのWhisperモデルを使用します。

最も困難だったのは、間違いなく小さなモデルでツールを確実に使用させることでした。4Bモデルが「ここにチャートがあります」と喜んで言いながら、チャートツールを一度も呼び出さなかったり、無限の呼び出しループに陥ったりする問題にたくさん遭遇しました。プロンプトの調整（小さなモデルではあまり効果がなかった）よりも、ガードを構築するのにかなりの時間を費やしました。

ローカルモデルは最先端のクラウドモデルよりも弱いという反論があることは理解しています。それは真実ですが、ほとんどの普通の人のほとんどのタスクにとって、最新の最先端モデルが常に必要とされることはめったにないと思います。私の評価では、16GB以上のRAMを搭載したシステムは非常にうまく機能し、GPUやより多くのRAMがあれば、最先端のホスト型モデルで箱から出してすぐに得られるものに非常に近くなります。

皆さんの意見を聞き、他のシステムでどのように動作するかを見るのが楽しみです！