HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

MicroLLM Lab – ブラウザで7つの小さなLLMを試す

MicroLLM Lab – Try 7 tiny LLM's in the browser (stateofutopia.com)

283 pointsby logicallee113 コメント

要約

この記事は、ブラウザ上で動作するMicroLLM Labという実験的なウェブサイトを紹介しています。このラボでは、7種類の軽量な大規模言語モデル(LLM)をダウンロードやインストールなしで直接試すことができ、速度や精度のベンチマーク結果も確認できます。ユーザーは自分のデバイスの性能を測定し、結果を共有することも可能です。

全文翻訳

MicroLLM lab

max new

次のアクション:

目的チェック(正規表現 / 正確なトークン)、書き取り品質ではない。135Mモデルは失敗しても許容される — それが測定値である。モデルを選択し、実行する。推定値は、利用可能な場合、最後のtok/sを使用する。

次のアクション:

このブラウザでの実行による速度(tokens/s、持続デコード、スイートウォール)と精度(客観テストの合格率)。数値はこのマシン上に保持される。チャートはモデルごとの最新スイートを使用する。

あなたの名前またはハンドル

デバイスとハードウェア情報

次のアクション:

JavaScriptでベンチマークを作成する

エディタは、このオリジンで eval() され、各 check はモデルのデコードされたテキスト上で実行される。

より大きなLLMのプロンプト

次のアクション: