HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AWS Bedrock上のCodexのバグ、10倍の料金が発生

Codex on AWS bedrock bug causing 10x charges (github.com)

132 pointsby TheP100046 コメント

要約

AWS Bedrock上で動作するCodex CLIが、明示的なプロンプトキャッシュ制御をサポートしていないため、高額なキャッシュ書き込みコストが発生していることが報告されています。特にエージェント型コーディングワークロードにおいて、この問題によりコストが大幅に増加しており、ユーザーはキャッシュ制御機能の追加を求めています。

全文翻訳

Native Bedrock Codex GPT-5.6 Solは明示的なキャッシュ制御を欠き、高額なキャッシュ書き込み費用を発生させています #37674

要約

Amazon Bedrock MantleへのネイティブCodex CLIリクエストでは、GPT-5.6 Solの明示的なプロンプトキャッシュをオプトインできません。エージェント型コーディングワークロードにおいて、これは大量のキャッシュ書き込みトークンを生成し、実質的にコストを増大させています。

これは#35300に関連していますが、ネイティブ amazon-bedrock プロバイダーからの独立した本番利用の証拠を追加するものです。

環境

  • Codex CLI: 0.147.0
  • プロバイダー: ネイティブ amazon-bedrock
  • エンドポイント: Bedrock Mantle Responses API, us-east-1
  • モデル: openai.gpt-5.6-sol

観測された本番利用状況

2026-08-05から2026-08-08までの完了日について、Cost Explorerの利用数量とBedrockの料金表から、Solに対するキャッシュを考慮した推定値は以下のようになりました。

リクエスト数キャッシュ書き込みトークン推定キャッシュ書き込み費用推定総費用
3,656171.94M$1,182.09$1,386.46

キャッシュ書き込みは、モデルの推定費用の約85%を占めていました。

ローカルのCodexセッションでも、76回のSolリクエストで6.709Mの cache_write_input_tokens、0の cached_input_tokens、そしてリクエストあたり平均約88Kのキャッシュ書き込みトークンが報告されました。対応するCloudWatchメトリクスにはクライアントエラーはありませんでした。

これらは利用状況から推定されたもので、確定したAWS請求額ではありません。

調査

Codexは既にセッションスコープの prompt_cache_key を発行していますが、HTTPおよびWebSocket Responsesリクエストのタイプには以下のいずれも含まれていません。

  • prompt_cache_options
  • prompt_cache_breakpoint

Amazon Bedrockプロバイダーの組み込み設定は、トランスポート/認証設定を公開しますが、構造化されたリクエストボディ変換は行わないため、これは config.toml を介して設定できません。

AWSは、GPT-5.6 on Bedrockの明示的キャッシュモードを、特に長い安定した指示/ツール定義の後に変化するツールとユーザーコンテンツが続くエージェントワークフローのために文書化しています。これは上記のワークロードと一致します。

要求される動作

  1. GPT-5.6対応のResponsesプロバイダーのために prompt_cache_options をシリアライズするサポートを追加してください。
  2. サポートされている入力コンテンツブロックに、型指定された prompt_cache_breakpoint フィールドを追加してください。
  3. プロバイダー/モデルの機能ゲートと、Codexの測定された安定指示/ツールのプレフィックスの終端に安全に配置するための戦略を提供してください。
  4. ユーザーが高コストなフルプレフィックスの書き直しを診断できるように、ターンごとの利用テレメトリにキャッシュ読み取りとキャッシュ書き込みを表面化してください。

スコープ

このレポートは、すべてのキャッシュ書き込みが欠陥であると主張するものではありません。コールドスタート、真に異なるプロンプト、フォーク、コンパクションはすべて書き込みを必要とする可能性があります。問題は、ネイティブBedrock Codexが現在、安定プレフィックスケースに対して文書化された明示的キャッシュメカニズムを使用する方法を持っていないことです。