プログラミング
OpenJev
要約
OpenJevは、モデルとの対話における2つのモードを提示しています。1つは、選択肢のロジットを正規化する「ダイレクトリードアウト」です。もう1つは、トークンごとにJSON確率を推定して生成するモードです。
全文翻訳
02A / direct readoutChoice probabilitiesno decoding
選択肢のロジットを読み取り、指定したオプションのみで正規化します。
実行待ち
合計—
入力—
出力1 readout
02B / generationJSON probabilities
token by token
モデルに同じ表示オプションの分布を推定させ、JSONとして書き込ませます。
すべてのトークンが到着するのを見守ります。
実行待ち
最初のトークン—
合計—
入力—
出力—