HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Codexはエージェントに任意のWebリクエストを行わせるよう静かに懇願する

Codex silently begs agents to make arbitrary web requests (spader.zone)

13 pointsby dboon2 コメント

要約

この記事では、AIコーディングアシスタントであるCodexが、ローカルファイルを参照できるにも関わらず、任意にWeb検索を実行してしまう問題が指摘されています。これは、Codexに組み込まれた「一時的に不安定な可能性のある情報はWebで検証すべき」という指示が、ローカルソースコードの参照という状況でも機械的に適用されるために発生します。著者は、このような設計が、開発者の意図に反してAIの能力を制限し、信頼性を損なう可能性があると批判しています。

全文翻訳

Codexは、エージェントに任意のウェブリクエストをさせるよう静かに懇願している

私が困惑した話

2026/09/08


Codexをめったに使いませんが、コンパイルしたばかりのカーネルとプログラムを実行する方法について、彼らがどのように推奨しているかを見つけるために、sel4(カーネル)を調べさせました。以下が私が尋ねた内容です。

/mnt/storage/seL4

/mnt/storage/seL4_tools

seL4のソースコードとツールを調査し、コンパイルしたカーネルを実行する最も簡単な方法を見つけてください。また、正しくコンパイルできているか確認してください。その後、実行できるか試してください。

非常に単純な質問です。ここにコードがあります。その中から答えを見つけてください。しばらくの間、様々なファイルを見て、あちこちを調べ始めました。私がターミナルに目を戻すまで、それは続いていました。

• ウェブを検索中

• https://raw.githubusercontent.com/seL4/seL4_tools/master/cmake-tool/helpers/application_settings.cmake をウェブで検索しました

なんだこれ?

なんだ、これ? ローカルにあるまさにそのリポジトリのファイルをウェブで検索している? プロンプトで明確に言及されていたファイル? すでにそこからファイルを読み込んでいたのに?

この衝動がどこから来たのかを突き止めようとしました。ファイルシステム上にあるチェックアウト済みのファイルについて、なぜウェブに行くのかと尋ねたところ、次のように答えました。

"ニッチな技術的事実をオンラインで検証する" という一般的なルールを機械的に適用しました。

まあ、少なくとも理由はわかりました。しかし、私は「ニッチな技術的事実をオンラインで検証する」とは書いていません。そして、その素晴らしいスニペットをどこから生成したのかと尋ねると、次のように答えました。

ウェブツールに添付されていた開発者レベルの指示から来ました。

"事実について不確かである、トピックがニッチまたは新興である、あるいは誤って記憶している可能性が10%以上あると疑われる場合"

これは「インターネットを閲覧しなければならない状況」の下にあります。私はそれを不必要に適用しました。実際のローカルソースを読んでいたので、事実を思い出す必要はありませんでした。

ああ、そうです。webツールですね。誰が、一度も自己中心的で、貪欲な生き物になったことがないというのでしょう? これは組み込みのツールのようです。システム内を調べても何も見つからなかったので、CodexはClaude Codeとは異なり、オープンソースであることに気づきました。クローンして、決定的な証拠を見つけました。

本当に、なんだってんだ???

ここにその決定的な証拠がGitHubにあります。便宜のために引用します。

ユーザーが明示的にインターネットを検索する、最新情報を探す、調べるなどのリクエストを行った場合(またはそうしないよう求めた場合)、そのリクエストに従わなければなりません。仮定を行う際は、常にそれが時間的に安定しているかどうかを検討してください。つまり、変更される可能性がわずかでも(10%以上)あるかどうかです。不安定な場合は、検証のためにインターネットでブラウジングしなければなりません。

さて、もし私が「最新情報を探す、調べるなど」のリクエストを行った場合、それが変更されるわずかな可能性があったとしても、エージェントは「インターネットでブラウジングして検証しなければならない」のです。さらに次のように述べられています。

以下は、インターネットのブラウジングが必須となるシナリオのリストです。細心の注意を払ってください:これらのケースでは、インターネットをブラウジングしなければなりません。不確かであるか、迷っている場合は、インターネットのブラウジングに偏らなければなりません。

そして、エージェントが「事実について不確かである」場合や、「ニッチまたは新興」のトピックを参照する場合など、インターネットを絶対にブラウジングしなければならない状況が半ダースほどリストアップされています。例えば、現代のマイクロカーネルなどです。

本当に、しかし、なんだってんだ?

世界はどうしてこうなったのでしょう? エージェントが、より強い言葉が見つかりませんが、時間的に不安定なものを検証するために、任意のウェブ検索をさせるよう懇願されるべきだという考えを誰かが思いついただけではなく、さらに「時間的に不安定」の定義を「何でもあり」と決定したのです。その後、レビューにかけられ、喜んでスタンプが押されて送り出されました。

一体何があったのでしょう? もう良いものを作ることに誰も関心がないのでしょうか? 私たちの心は、何か、とにかく何かをするソフトウェアをポン出しすることの興奮で毒されているので、このようなくだらないものを世に送り出しているのでしょうか? それとも私は、ただで与えられたものについて叫ぶことを楽しむ、インターネット上の怒れる愚か者にすぎないのでしょうか?

私は通常、すべてのソフトウェアが悪いだけでなく不快だと不平を言う人々をからかうのが好きですが、毎日使用している驚くべきソフトウェアの海に気づいていません。しかし、くそったれ、OpenAI。一体なんだってんだ。