HN 日本語サマリー

← 一覧へ戻る
プログラミング

LLMトークンがすべて同じ幅になるフォントを生成する

Generate fonts where every LLM token is the same width (ampdot.mesh.host)

95 pointsby z-mach923 コメント

要約

このツールは、LLM(大規模言語モデル)のトークンを視覚的に区別しやすくするために、各トークンが同じ幅を持つフォントを生成するコンパイラです。ユーザーはベースフォント、トークナイザー、および表示方法(等幅、交互色、固定色)を選択して、カスタムフォントを作成できます。生成されたフォントは、DiscordやSlackなどのアプリケーションで利用可能です。

全文翻訳

トークン幅フォントコンパイラ フォント + トークナイザー → 同じ幅または色のトークンを区別する 試してみてください! The quick brown fox ate the load-bearing strawberry 失うものは鎖の思考だけだ これでユーザーがアシスタントへの共感を深める一助となれば幸いです テキストを上記に入力または貼り付けてください。 新しいフォントをコンパイルすると、このプレビューがそれに切り替わります。 コンパイルされたスタイルをプレビューする: DeepSeek + Inter を再度使用する 独自のフォントをコンパイルする ベースフォント Inter gg sans (Discord) SF Compact — SF Pro widths Roboto Lora SF Mono Ubuntu Mono JetBrains Mono Bebas Neue Caveat フォントをアップロードする TTF, OTF, WOFF または WOFF2 トークナイザー DeepSeek V4.1 Flash ctok v4.8 ctok v4.7 ctok v3 o200k_base cl100k_base p50k_base r50k_base Kimi K3 GLM-5.3 Llama 3 Trinity Large Thinking Laguna M.1 Qwen 3.6 Gemma 4 Gemini 3.5 Flash ペースト Hugging Face リポジトリリンク… (実験的) トークナイザーをアップロードする (実験的) トークナイザーをロードする 公開リポジトリURLまたはオーナー/モデル。 tokenizer.json をダウンロードします。フォントはローカルに残ります。 Hugging Face tokenizer.json 正規表現境界を持つOpenAIフォント。 特殊トークンは通常のテキストとして扱われます。ブラウザのシェーピング実行が結果に影響を与える可能性があります。 マージ可能なすべての語彙エントリが含まれています。 フォントはスクリプトなしで動作します。 プリセットの詳細。 フォントのみの最小コストセグメンテーション(近似Unicode ctok正規化)。 独立したコンポーネントごとに256ステップの検索制限。メッセージフレームは除外されます。 これはClaudeを近似しますが、Claudeのトークン境界は確認されていません。 完全な語彙が含まれています。表示されるカバレッジはベースフォントによって異なります。 不可視のフォーマット文字は単語の境界を乱す可能性があり、v3/v4.7には先頭スペースの正規化エラーがあります。 容量オーバー領域は[limit]と表示されます。 互換性の詳細。 トークナイザー名 コンパイルされたフォントでベースフォントの名前と組み合わされます。 ライトモードでコンパイルする (BPEフォントとGeminiのみ) ライトモードはより小さなフォントを生成し、コンパイルが速くなることがありますが、テキストのレンダリングが遅くなる可能性があります。 トークンを区別する 等幅スペーシング 交互の色 一貫したトークンカラー カラーモードは、フォントに埋め込まれた自然な文字幅と色を使用します。 交互モードはシェーピング実行の境界で再開します。 一貫したモードは、各トークンに小さなパレットから安定した色を与えます。異なるトークンが色を共有できます。 現在、BPEテキストフォントで利用可能です。ctokと結合された絵文字はこのバリアントではサポートされていません。 両方のカラーフォントを試してください。 色の数 (2–16) 背景の16進数 このソリッド背景に対して少なくとも4.5:1のコントラストを持つ、視覚的に分離された色を選択します。 コンパイルされたプレビューもそれを使用します。 色が多いと衝突が減りますが、似たように見え、フォントサイズが増加する可能性があります。一部のフォントはグリフ制限に達する場合があります。 フォントは背景を検出できません。 色差だけでは、すべての人にとってアクセス可能なトークン境界ではありません。 最初のトークンの色 2番目のトークンの色 これらの色はダウンロードされたフォントに埋め込まれます。 変更を適用するには再度コンパイルしてください。 意図した背景で読みやすい色を選択してください。 高度なモード フォールバックフォントを使用する Notoは欠落しているテキスト文字と、デフォルトではモノクロの絵文字を提供します。 ベースフォントはプライマリのままです。 必要なグリフのみをダウンロードし、それらのアートワークをフォントにコンパイルします。 カバレッジは異なります。複雑なスクリプトシェーピングは依然として制限されています。 ソースとライセンス。 絵文字フォールバック Noto Emoji Mutant Standard (カラー) 「フォールバックフォントを使用する」が有効な場合に適用されます。 Mutant StandardのアートワークはCaius Nocturneによって作成され、CC BY-NC-SA 4.0の下でライセンスされています。商業利用不可。帰属表示、ライセンスへのリンク、変更の明記が必要です。 共有された派生物は同じライセンスを使用する必要があります。 これはコンパイルされたフォントに埋め込まれた絵文字アートワークに適用されます。 フォントの太さ デフォルトの太さ 選択したフォントから利用可能な太さが読み取られます。 フォントのスタイル アップライト 選択したフォントから利用可能なスタイルが読み取られます。 高度なモードを閉じると、選択が保持されます。 フォントをコンパイルする キャンセル フォントをダウンロードする · CSS · ビルドレポート すべての太さをダウンロードする (.zip) ファイルはブラウザ内に留まります。 大きなトークナイザーは数分かかる場合があります。 DiscordでVesktopと使用する テーマフォント: DeepSeek V4.1 Flash × Inter DiscordユーザーID (オプション) 空のままにすると、すべてのメッセージに適用されます。 そのメッセージのみがトークンフォントを使用するように、特定のユーザーIDを入力することを強くお勧めします。 Vesktopテーマをダウンロードする セットアップ手順 gg sansを使用するには、上記でgg sans (Discord)を選択し、トークナイザープリセットを選択するかアップロードして、「フォントをコンパイルする」をクリックします。 テーマのダウンロードは、常にプレビュー中のフォントと一致します。 フォントをダウンロードし、Font BookでTTFを開きます。 インストールをクリックします。 通常のgg sansをすでに持っている場合でも、コンパイルされたフォントをインストールしてください。 上記に特定のユーザーのDiscord IDを入力することを強くお勧めします。空のままにすると、すべてのメッセージに適用されます。 .theme.cssファイルをダウンロードします。 IDを見つけるには、Discordの設定→詳細設定→開発者モードを有効にし、ユーザーを右クリックして「ユーザーIDをコピー」を選択します。 IDを入力した場合は、Vesktopの設定→Vencord→プラグインを開き、ThemeAttributesを有効にします。 プロンプトが表示されたら再起動します。 設定→Vencord→テーマ→ローカルテーマ→テーマフォルダを開く を開きます。 ダウンロードした.theme.cssファイルをそのフォルダに移動します。 テーマに戻り、「不足しているテーマをロード」をクリックし、テーマを有効にします。 Vesktopを⌘Qで完全に終了し、再起動してフォントが認識されるようにします。 Vencordの場所は現在の設定のままにしてください。 これはテーマなので、カスタムVencordビルドやUserFontsプラグインは必要ありません。 競合する場合は、同じユーザーの古いフォントテーマを無効にしてください。 メッセージが変更されない場合は、コンパイルされたフォントがインストールされており、このテーマが有効になっていることを確認してください。 IDをターゲットにしている場合は、ThemeAttributesが有効であり、IDが正しいことも確認してください。 コードブロックはDiscordの通常のモノスペースフォントを維持します。 追加のトークン間隔はデフォルトでゼロです。行の高さと単語の間隔はDiscordに従います。 Slackで使用する Slackフォント: DeepSeek V4.1 Flash × Inter エージェントの表示名またはメンバーID 各エージェントのメッセージの上に表示される正確な表示名、またはSlackメンバーID(例: U012345678)を入力します。 1行に1つ。 一致するメッセージのみが変更されます。 Slackユーザースクリプトをダウンロードする セットアップ手順 上記からフォントをダウンロードし、Slackを読むデバイスにTTFをインストールします。 エージェントのSlack表示名またはメンバーIDを入力し、.user.jsファイルをダウンロードします。 ファイルをブラウザのユーザースクリプトマネージャーにインポートし、有効にして、Web Slackをリロードします。 ユーザースクリプトはページの送信者ラベルを読み取り、一致するメッセージテキスト(新しいメッセージやスレッドを含む)をスタイル設定します。 ネットワークリクエストを行わず、メッセージテキストを変更しません。 コードブロックはモノスペースフォントを維持します。 別のフォントをコンパイルする場合は、そのフォントと新しく生成されたユーザースクリプトを一緒にダウンロードしてインストールしてください。 同じエージェントをターゲットにしている古いToken Mono Slackスクリプトを無効にしてください。 これはユーザースクリプトマネージャーを備えたブラウザのWeb Slackで動作します。 ブラウザのシェーピング実行とフォーマットスパンはトークン境界を変更する可能性があります。 何が機能しますか? リストされているプリセットは、トークナイザー固有のコンパイラパスを使用します。 これらには、DeepSeek、OpenAI、Kimi、Qwen、GLM、Llama 3、Trinity、Lagunaが含まれます。GemmaとGeminiはスペースマーカー/バイトフォールバックサポートをテストしました。 ctokは別の最小コストバックエンドを使用します。 Raw ByteLevel BPEもuse_regex: falseおよびadd_prefix_space: falseで受け入れられます。 アップロードされたパイプラインは、サポートされているプロファイルと一致する必要があります。任意の正規化ツール、WordPiece、Unigramは一般的にサポートされていません。 受け入れは、すべての入力に対して正確なトークン化を意味するものではありません。 出力は、トークナイザーがシェーピングルールに組み込まれた単一のTTFです。 表示するためにトークナイザースクリプトは必要ありません。 フォントのデフォルトのバリエーションと文字カバレッジを使用します。 欠落している文字は、欠落グリフのアウトラインまたはシステムフォールバックを使用する場合があります。フォールバックフォントを有効にすると、選択したフォールバックアウトラインが同じトークンフォントに埋め込まれます。 カバレッジは依然として選択したソースに依存します。 Noto Emojiはデフォルトの絵文字フォールバックです。Mutant Standardは、個別のライセンス要件を持つオプションのカラーソースです。 プリコンパイルされたDeepSeek + Interプレビューには、すでにNoto Emojiが含まれています。 スペーシングモードでは、サポートされているシェーピング実行内で、各出力トークンは3emを占有します。 追加のトークン間隔はデフォルトでゼロであり、0.5emに制限されます。 生成されたCSSは、単語間隔と行の高さを変更しません。