OpenJev

OpenJev (旧 SemIf)

ブラウザで、オープンモデルからのセマンティックなif文を実行。
サイトを「Unsloppify」する

ローカルでのライブ実験

ブラウザで意思決定モデルを。

ローカルモデルは、許可されたオプションの確率をデコードせずに読み取るか、トークンごとに同じ種類の分布を書き込むことができます。サイズを選択し、両方を自分のGPUで実行して、違いを測定してください。

browser only
no backend
your timings
1.56 GB model

待機リストはありません！ 今すぐ試してみてください ↓

デフォルトではMiniCPM5 2Bが選択されています。スマートフォンや小型デバイスでは、必要に応じてモデルボックスでQwen3 0.6Bに切り替えてください。

00 / セットアップ

モデルを一度ロードする

モデル

より大きなモデル。ロードに時間がかかるか、一部のローエンドデバイスに収まらない場合があります。

測定されたモデル品質
native checkpoints · owned + public benchmarks

Owned列はバランスの取れた精度です。TypeSafeは、同じ102行の公開サブセットでの等しいケースの一致です。Jevは公開値です。ブラウザの量子化はモデルの精度を変更する可能性があります。

{{ text }}

download / cache
—
クリックしてロードすると開始されます

model load
— download and prepare

warmup
— compile passes for both methods

重みはHugging Faceから取得され、ブラウザキャッシュに残ります。入力はページから離れることはありません。最初のロードは、選択したモデル、ネットワーク、GPUによっては数分かかる場合があります。

01 / 意思決定

実際の選択を与える

例を試す

状態質問

両方のパスは同じ決定を受け取ります。一方はオプションの確率を直接読み取り、もう一方はモデルにJSONテキストとしてオプションの確率を書き込むように求めます。

your decision
state + question + options

same local model
MiniCPM5 · 2B

read logits
A…T probabilities

write tokens
{options + probabilities}

02A / 直接読み出し

選択確率

decodingなし

モデルの選択ロジットを読み取り、提供されたオプションのみで正規化します。

waiting for a run

total
—
input
—
output

1 readout

02B / 生成

JSON確率

token by token

モデルに同じ表示オプションの分布を推定させ、JSONとして書き込むように依頼します。すべてのトークンが到着するのを見てください。

waiting for a run

first token
—
total
—
input
—
output
—

measured wall-time ratio
run it on your GPU

これらの数値が意味すること—そして意味しないこと

条件付き確率。 直接スコアは、表示されたオプショントークンのみのソフトマックスです。これらは調整された信頼度ではなく、モデルが好む可能性のあるすべての回答を含みません。

ローカルモデルのティア。 電話モデルは精度とサイズをトレードオフします。MiniCPMはデスクトップのデフォルトです。4Bオプションは大幅により多くのメモリを必要とします。Jevに匹敵すると主張されているものはありません。

実際のローカルタイミング。 セットアップ、ウォームアップ、プロンプト準備、直接実行、最初の生成トークン、および生成完了は、performance.now()でタイミングが取られます。ダミーの結果は表示されません。

量子化された重み。 デモでは、wllamaを介してピン留めされたGGUFビルドを使用します。量子化は、品質と速度の両方を変更する可能性があります。