Show HN: Python不要、CLIからローカルでテキスト、画像、動画、音楽、3Dを扱える
Show HN: Local text, image, video, music and 3D from one CLI, no Python (github.com)
要約
この記事は、Pythonに依存せず、ローカル環境で動作するCLIベースの推論ランタイム「mere.run」を紹介しています。ユーザーが所有するハードウェアと電力リソースを活用し、クラウドへのデータ送信を避けることを目指しています。テキスト生成、画像生成、音声認識・合成、画像認識、音楽生成、動画処理、2Dから3Dへの変換など、多様なAI機能を単一のインターフェースで提供します。MLX、llama.cpp、FFmpegなどを利用し、Mac(ARM64、x86)向けにビルドされています。MITライセンスで提供され、オフラインでも完全動作します。
全文翻訳
HNの皆さん、こんにちは!
mere.runの作者です。mere.runは、インストール可能なCLIを中心に構築された、ローカルファーストの推論ランタイムです。
可能な限り、私たちはすでに所有しているもの(Macラップトップ、埃をかぶったままで十分な性能のマシン、ゲーミングPCなど)と、ほとんどの人のそばにある壁のコンセントのような、簡単にアクセスできる限られた電力を使用すべきだと信じています。私たちは、利用規約が後で後悔するような方法でデータが使用されるのを防ぐことを願って、データをクラウドに送信する必要はありません。
ほとんどのローカルAIソリューションは技術的で複雑であり、好奇心旺盛な人をパッケージ地獄に陥れます。人々は一つのシステムを最適化し、別のシステムはそうしません。Macを所有している場合はPC上で、PCを所有している場合はMac上で楽しいことが行われます。
そこで、mere.runは、私が問題だと感じた多くのことを修正するための選択肢となりました。テキスト、チャット、コード、画像生成、音声TTS+ASR、ビジョン(キャプション/グラウンド/セグメント/トラック/ポーズ/デプス/フェイス/OCRなど)、音楽、SFX、動画、2Dから3D、永続的なワールド、LoRAトレーニング、その他いくつか忘れているかもしれませんが、すべてを1か所にまとめ、スクリプト可能なCLI、OpenAI互換のサーバー、そしてオプションでMac上のネイティブアプリで、あなたが作業する方法で動作します。
推論にはMLX上のネイティブSwiftを使用しており、Python、PyTorch、Diffusersは使用していません。GGUFを使用したテキストレーンにはllama.cppを、a/vミキシングにはFFmpegを使用しています。MLXバリアントを持たないほとんどのアップストリームリリースはオフラインで変換され、Hugging Faceでホストされています。すべてのリリースパッケージはarm64(Mac & Cuda)およびx86用にビルドされています。署名されており、SHA256SUMSが付属しています。現時点ではWindowsはありません。
mere.run model capabilities --recommended
これは、仕様に合わないモデルのプルを防ぐために、実行前にマシンを検査します。
型付けされ、検証済みのグラフを持つワークフローレイヤーがあり、不変のジョブバンドルを作成し、ローカルで、SSHエグゼキューター経由で、またはリレーサービスを使用してマシンのフリートを実行できます。(リレーサービスはrelay.mere.runでホストされており、現在テスト中は招待制ですが、完全にオープンなMITライセンスなので、自分でセットアップすることも可能です)。
ランタイム全体はMITライセンスであり、コンパニオンパッケージも同様です。モデルは独自のライセンスを持ち、CLIは特定の条件がある場合にそれを明確にします。モデルをプルすれば、すべて完全にオフラインで動作します。
(おそらく)包括的なドキュメントを作成中です -> https://docs.mere.run
アカウント不要、APIキー不要、分析や電話ホーム機能はありません。ソース内のネットワーク呼び出しはすべて、Hugging Face.co(モデル)やGitHub.com(Piインストール)のような、あなたの要求によるものだけです。
始めたばかりですが、ようやくフィードバック、貢献、そして皆さんが一般的に役立つと感じてくれる段階に達しました。あなたがすでに持っているものを活用して、物事を作り、可能性を探求するのに役立つことを願っています。
どんな考え、質問、アイデア、そしてもしあなたがそういうことをするなら、スターをいただけると嬉しいです。
- Kyle