AI・機械学習
Show HN: Python不要、CLIからローカルでテキスト、画像、動画、音楽、3Dを扱える
Show HN: Local text, image, video, music and 3D from one CLI, no Python (github.com)
要約
この記事は、Pythonに依存せず、ローカル環境で動作するCLIベースの推論ランタイム「mere.run」を紹介しています。ユーザーが所有するハードウェアと電力リソースを活用し、クラウドへのデータ送信を避けることを目指しています。テキスト生成、画像生成、音声認識・合成、画像認識、音楽生成、動画処理、2Dから3Dへの変換など、多様なAI機能を単一のインターフェースで提供します。MLX、llama.cpp、FFmpegなどを利用し、Mac(ARM64、x86)向けにビルドされています。MITライセンスで提供され、オフラインでも完全動作します。
全文翻訳
HNの皆さん、こんにちは!mere.runの作者です。mere.runは、インストール可能なCLIを中心に構築された、ローカルファーストの推論ランタイムです。可能な限り、私たちがすでに所有しているもの(埃をかぶっているMacラップトップ、まともなマシン、ゲーミングPCなど)と、ほとんどの人の隣にある壁のコンセントのような、簡単にアクセスできる限られた電力を使用すべきだと信じています。私たちがデータをクラウドに送り、利用規約がそれを望まない方法で使用されないことを願うだけであるべきではありません。ほとんどのローカルAIソリューションは技術的で複雑で、好奇心旺盛な人をパッケージ地獄に陥れます。人々は1つのシステムを最適化し、別のシステムはそうしません。楽しいものはPCにあればMacにはなく、MacにあればPCにはありません。
そこでmere.runは、私が問題だと感じた多くのことをパッチするために選択したものです。テキスト、チャット、コード、画像生成、音声TTS+ASR、ビジョン(キャプション/グラウンド/セグメント/トラック/ポーズ/デプス/フェイス/OCR/など)、音楽、SFX、動画、2D→3D、永続的なワールド、Loraトレーニング、そしておそらく私が忘れているいくつかのことを、すべて1か所で行い、スクリプト可能なCLI、OpenAI互換サーバー、そしてオプションでMac上のネイティブアプリとして機能します。
推論にはPython、PyTorch、diffusersを使用せず、MLX上でネイティブSwiftで動作します。テキストレーンにはGGUFでllama.cppを使用し、a/vミキシングにはFFmpegを使用します。MLXバリアントを持たないほとんどの上流リリースは、オフラインで変換され、Hugging Faceでホストされます。すべてのリリースパッケージはarm64(Mac & Cuda)およびx86用にビルドされています。署名されており、SHA256SUMSが付属しています。現時点ではWindowsはありません。
> mere.run model capabilities --recommended # これは、仕様に合わないモデルのプルを防ぐために、実行前にマシンを検査します。
型付けされ、検証されたグラフを持つワークフローレイヤーがあり、不変のジョブバンドルを作成し、ローカルで、SSHエグゼキューター経由で、またはマシンのフリートとリレーサービスを使用して実行できます。(リレーサービスはrelay.mere.runでホストされており、現在テスト中は招待制ですが、完全にオープンなMITなので自分でセットアップすることもできます)。
ランタイム全体は、コンパニオンパッケージと共にMITライセンスです。モデルは独自のライセンスを持ち、CLIは特定の条件がある場合にそれを明確にします。モデルをプルすれば、すべてが完全にオフラインで動作します。
(おそらく)包括的なドキュメントを作成しました → https://docs.mere.run
アカウント不要、APIキー不要、分析や電話ホーム不要です。ソース内のネットワーク呼び出しはすべて、Hugging Face.co(モデル)、GitHub.com(Piインストール)のような、あなたの要求によるものだけです。
始めたばかりですが、ようやくフィードバック、貢献、そして一般の人々が役立つと感じてくれるようになった段階です。あなたがすでに持っているものを活用して、物事を作り、可能性を探求するのに役立つことを願っています。
どんな考え、質問、アイデアでも歓迎します。もしよろしければ、スターをいただけると嬉しいです。
- Kyle