AI・機械学習
MicroLLM Lab – ブラウザで7つの小さなLLMを試す
MicroLLM Lab – Try 7 tiny LLM's in the browser (stateofutopia.com)
要約
この記事は、ブラウザ上で動作するMicroLLM Labという実験的なウェブサイトを紹介しています。このラボでは、7種類の軽量な大規模言語モデル（LLM）をダウンロードやインストールなしで直接試すことができ、速度や精度のベンチマーク結果も確認できます。ユーザーは自分のデバイスの性能を測定し、結果を共有することも可能です。
全文翻訳
最大新規次のアクション: 目標チェック（正規表現/正確なトークン）、記述品質ではない。1億3500万パラメータのモデルは失敗しても許される — それが測定値だ。モデルを選択し、実行する。推定値は、もしあれば、あなたの最後のトークン/秒を使用する。アクティブなモデルでスイートを実行するロードされているすべてのモデルでスイートを実行する持続速度テスト（256トークン）を実行する🏎️ 最高ピーク速度 — 最速の単一テスト⚡ 最高持続速度 — 連続256トークンデコード📊 平均持続速度 — テストされたモデル全体⏱️ 合計ベンチマークスコア — 累積スイート壁時間テストごとの実行時間（ミリ秒）テストごとの精度次のアクション: 速度（トークン/秒、持続デコード、スイート壁時間）と精度（目標テストの合格率）をこのブラウザでの実行結果から取得する。数値はこのマシン上に留まる。チャートはモデルごとの最新のスイートを使用する。🏎️ 最高ピーク速度 — 最速の単一テスト⚡ 最高持続速度 — 連続256トークンデコード📊 平均持続速度 — ロードされたモデル全体⏱️ 合計ベンチマークスコア — 合計実行壁時間精度（最新スイート）速度（平均トークン/秒）スイート壁時間（ミリ秒）保存された比較をクリアする🏆 検証済みベンチマーク証明書 & ソーシャルシェアあなたのデバイスのハードウェア、ピークおよび持続トークン/秒を含む検証可能なパフォーマンス証明書を生成してダウンロードし、スコアを共有する。あなたの名前またはハンドルデバイス & ハードウェア情報🎨 証明書を生成する⬇️ 証明書画像をダウンロードする（.png）📋 画像をコピーする𝕏 Xで共有する💼 LinkedInで共有する🔗 テキストをコピーする要約次のアクション: JavaScriptでベンチマークを作成するエディタはこのオリジンでeval()され、その後各チェックはモデルのデコードされたテキストで実行される。例: object例: function実行して評価するより大きなLLMのプロンプトをコピーする関数形式次のアクション: