Show HN: TERMy – LLMを使用しない高速ターミナルアシスタント

私は研究開発が好きで、PJON（Padded Jittering Operative Network）で私のことを聞いたことがあるかもしれません。これは2010年に私が開発を始めたネットワークプロトコルで、最近、Pius Sieberの研究のおかげでETH Zurich大学によってシリコン実装されました。 NPC-Forgeフレームワーク上に構築されたターミナルアシスタント、TERMyを皆さんに共有できることを嬉しく思います。今日構築されている他のものとは異なり、TERMyは埋め込み、機械学習、LLMを使用しません。CPU上（Raspberry Pi Zeroでも）で、ターミナルまたはブラウザタブのクライアントサイドで動作し、ミリ秒単位で応答します。これは、単一の人工ニューロンに依存せずに、自然言語をシェルコマンドに翻訳する、皮肉屋でありながら非常に知識豊富なLinuxターミナルアシスタントです。 7月上旬から2ヶ月間、AIの価格高騰とサブスクリプショントークン枯渇の奇妙な時期に、個人的なプロジェクトに集中する機会がありました。簡単な自然言語のリクエストを処理できるターミナルアシスタントを一から開発できるか興味がありました。私は記憶力が悪く、Copilotに「仮想環境をアクティベートして」のような些細な操作を毎月かなりの金額を費やして尋ねることに慣れていました。何か私のワークフローをより効率的にできることはないかと考え始めました。それらのタスクを達成するために本当に兆単位のパラメータが必要なのでしょうか？ 仕組み プロンプトを入力すると、それは約1000行のPythonで書かれた軽量なNLUパイプラインを通過し、以下のステップを実行します。 1. 罵倒語、間投詞、励まし、落胆、感謝の言葉を削除します（ノイズ除去）。 2. 感情分析。 3. 完全一致（非常に高速）。 4. テンプレートマッチ（遅い）。 5. 確率的マッチ（さらに遅い）。 ステップ5は以下に依存します。 1. IDF（Inverse Document Frequency）で稀な単語を特定します。 2. BOW（Bag Of Words）で単語の順序の逆転に対応します。 3. IDF重み付けレーベンシュタイン距離でタイポを安全に処理します。 権限ゲートはデータセットにハードコードされており、潜在的に破壊的なコマンドすべてに対して強制されるため、予測不可能なLLMをマシン上で自由に実行させるよりも本質的に安全です。 - TERMyの動作: https://www.youtube.com/watch?v=qeIp0xePLBg - ばらつきとタイポ耐性: https://www.youtube.com/watch?v=tQvGDk6fkk0 - Copilot連携: https://www.youtube.com/watch?v=Wzzouhq2a8A - 高度な機能: https://www.youtube.com/watch?v=qeIp0xePLBg - ソースコード: https://github.com/gioblu/NPC-Forge