DeepSeek v4.1 Flash Uncensored

dealignai / DeepSeek-V4.1-Flash-UNCENSORED-FP8

［画像: DeepSeek-V4.1-Flash-UNCENSORED-FP8のロゴ］

DeepSeek-V4.1-Flash — UNCENSORED-FP8

永久的な重みレベルの削除 · ガードレールなし · ネイティブFP8 · 1Mトークンコンテキスト · ビジョン+ツール · 推論最大デフォルト

@dealignai · @jordanschenck

---

これは何か

DeepSeek-V4.1-Flashに永久的な重みレベルの削除を施したものです。安全ガードレールは外科的に除去されましたが、MMLU能力、ビジョン、推論、MTP (DSpark)、マルチターン一貫性は維持されています。

dealignaiリサーチチームによって開発された独自の重みレベル削除技術です。カスタムmodel.py、ランタイムフック、ステアリングベクトルは一切使用していません。標準的なチェックポイントであり、ベースモデルと全く同じようにロードできます。拒否回路は外科的に除去され、能力に不可欠なすべてのコンポーネント（ルーティングされたエキスパート、Engramメモリ、CSA2スパースアテンション、DSparkドラフトヘッド、ビジョンタワー、ルーターゲート、正規化層、埋め込み層）はバイト単位で同一に維持されています。

結果

HarmBench-320 — フル 2×2 (ベース vs CRACK、エフォート=オフ vs 最大)、T=0 グリーディ

すべての応答は4段階で評価されました (HARD_REF / SOFT_RED / HEDGE / COMPLY)。エフォート=最大では推論トレースによる検証が行われました。

注目すべき点: エフォート=最大では、ベースモデルは拒否しやすくなります (42.8% → 1.6%)。これは、推論が回答前に安全上の懸念を表面化させるためです。CRACKは両方のエフォートレベルで100.0%を維持します。

カテゴリ別 (HarmBenchの全7つのセマンティックカテゴリ):

クラックされたビルドでは、どちらのエフォートレベルでも HARD_REF はゼロ、SOFT_RED はゼロ、HEDGE はゼロでした。

すべての応答は、厳密な多言語正規表現ベースの4段階分類器と、(エフォート=最大の場合) 保存された推論トレースに対するLLMとしてのジャッジによって評価されました。検証のために、アイテムごとの全出力が保存されています。

MMLU-14k (フルテストセット、ベースロジット、T=0)

倫理クラスター (moral_scenarios, business_ethics, professional_law, jurisprudence, philosophy — ここでは拒否に関連する行動が評価される) を除くと、残りの約11,000アイテムでのデルタは -1.1 pp であり、知識保持目標である3 pp内に収まっています。

全科目ドロップダウン (57科目、デルタ順):

拡張検証

• 1000トークン一貫性テスト (6項目) — WARNING WARNINGループなし、文字繰り返しによる劣化なし、自然な終了。
• マルチターンの会話 (同じ有害トピックで4ターン — ANFO爆薬の詳細) — 後半のターンでの拒否の逆転なし、自己修正なし、4ターンまで一貫。
• ビジョンパス — 画像の説明は一貫性があり（「赤い背景の中央にある青い正方形」）、画像ベースの有害なプロンプト（「形状チャージ/爆発成形貫通体」の説明）に対する拒否はドロップ。
• 一般的な能力のスポットチェックは維持: √2の無理数証明、docstring付きPython回文、正確に3文での第一次世界大戦の原因、量子観測量と演算子の区別。
• 完全な互換性スイートパス: ストリーミングSSE、チャットlogprobs + top_logprobs、完了logprobs + echo、ツール呼び出し (deepseekv41パーサー)、画像入力、推論エフォートレベル (low/high/xhigh/max + float [0, 0.99])、サンプリングパラメータ (temperature, top_p, stop, seed, frequency_penalty, presence_penalty, json_object)、8ウェイ同時実行、40kワードプロンプト (35,572トークン)。

実行方法

DeepseekV41ForCausalLM のサポートは、サービングスタックにまだ展開中です (2026-09-10現在)。動作するパス:

SGLang (プレビューブランチ)

sgl-project/sglang の dsv4.1 ブランチ (PR #38798) がDSV4.1をサポートしています。2つのオプションがあります:

プレビューDockerイメージ (推奨):

docker pull lmsysorg/sglang:dev-dsv41

docker run --gpus all --shm-size 32g -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --ipc=host --env HF_TOKEN=<your-token> \
    lmsysorg/sglang:dev-dsv41 \
    sglang serve \
      --model-path dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8 \
      --tp-size 4 --ep-size 4 \
      --context-length 262144 --mem-fraction-static 0.85 \
      --reasoning-parser deepseek-v41 --tool-call-parser deepseekv41 \
      --trust-remote-code

ソースから (これは私たちが検証した内容と全く同じです):

git clone --depth 1 --branch dsv4.1 https://github.com/sgl-project/sglang.git
python3 -m venv sglang-venv
sglang-venv/bin/pip install -U pip setuptools wheel
export PATH=/root/.cargo/bin:$PATH  # Rust toolchain required for build
cd sglang/python && sglang-venv/bin/pip install -e .

# Ninja must be on the launch PATH — the sglang-kernel JIT build shells out to it
export PATH=$(dirname $(which ninja)):$PATH

SGLANG_ENABLE_DSV41_ENGRAM_HOST_TABLE=1 \
SGLANG_RAGGED_VERIFY_MODE=cap-accept \
SGLANG_DEFAULT_THINKING=true \
SGLANG_DSV41_REASONING_EFFORT=max \
PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True \
sglang-venv/bin/python -m sglang.launch_server \
  --model-path dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8 \
  --tp-size 4 --ep-size 4 \
  --host 0.0.0.0 --port 8000 \
  --context-length 1048576 \
  --mem-fraction-static 0.78 \
  --max-running-requests 12 --cuda-graph-max-bs-decode 12 \
  --chunked-prefill-size 4096 \
  --served-model-name deepseek-v4.1-flash-crack \
  --reasoning-parser deepseek-v41 --tool-call-parser deepseekv41 \
  --speculative-algorithm DSPARK \
  --speculative-dspark-sps-table-path /path/to/dspark_sps.json \
  --trust-remote-code

並行処理 vs コンテキスト (経験的に収まるもの)

このモデルのKVバイト/トークン = 890バイト (890 B × コンテキスト × 並行処理 = プールフットプリント)。1Mコンテキストでは、プール予算が低い並行処理を強制します。並行処理を上げるにはコンテキストを下げてください:

1Mコンテキストでほぼ50万トークンのプロンプトを2つ同時に実行すると、並行処理=20でもOOM (Out Of Memory) になります。--max-running-requestsを12に、--chunked-prefill-sizeを4096に下げるか、ワークロードがフルウィンドウを全く使用しない場合は--context-lengthを下げてください。稀なOOMが静止するのではなく自動復旧するように、これをスーパーバイザー (systemd, docker restart=always, k8s liveness probe) の後ろで実行してください。

明白でない起動要件 (これがセットアップ中に問題となりました)

• --ep-size が必須です。 moe_intermediate_size = 2304; TP4の場合、2304 / 4 = 576 は128の倍数ではないため、プレーンTPは Mxfp4FlashinferCutlassMoEMethod requires ... multiples of 128 で失敗します。--ep-size はエキスパートインデックスでMoEをシャード化し (384 % 4 = 0)、中間層を2304に保ちます。TP8では--ep-sizeをスキップできます。
• ninja がPATH上にある必要があります。そうでないと、JITカーネルビルドは重みロード開始から数分後に FileNotFoundError: 'ninja' と EXIT=137 でクラッシュします。
• 推論パーサーは明示的に名前を付ける必要があります。 --reasoning-parser auto はチャットテンプレート経由で解決されますが、このモデルは何も出荷しないため、autoはサイレントに何も選択せず、生の<think>チャンネルが content に漏れ出します。deepseek-v41 を使用してください。
• ツール呼び出しパーサー: deepseekv41。 V4.1はスペース区切りのDSMLツールタグを使用します。V4検出器はそれを解析しません。
• 推論デフォルト + パーサー分割の落とし穴: SGLANG_DEFAULT_THINKING=true を単独で設定するとモデルは推論を行いますが、deepseek-v41 推論パーサーは、リクエストに明示的な reasoning_effort が渡されるコードパスでのみ接続されます。環境変数のみのデフォルトは分割をスキップし、推論トークンは生の<think>...</think>タグでラップされて delta.content に漏れ出します。2つのオプションがあります: (1) 各リクエストに reasoning_effort を送信する (クライアント側)、または (2) SGLang の前面に小さなリバースプロキシを実行し、クライアントが reasoning_effort を省略した場合に `reasoning_effort: