HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Codexはエージェントに任意のWebリクエストを行わせるよう静かに懇願する

Codex silently begs agents to make arbitrary web requests (spader.zone)

13 pointsby dboon2 コメント

要約

この記事では、AIコーディングアシスタントであるCodexが、ローカルファイルを参照できるにも関わらず、任意にWeb検索を実行してしまう問題が指摘されています。これは、Codexに組み込まれた「一時的に不安定な可能性のある情報はWebで検証すべき」という指示が、ローカルソースコードの参照という状況でも機械的に適用されるために発生します。著者は、このような設計が、開発者の意図に反してAIの能力を制限し、信頼性を損なう可能性があると批判しています。

全文翻訳

Codexはエージェントに任意のWebリクエストを行わせるよう静かに懇願する 私が困惑していること 2026/09/08 私はCodexをめったに使用しませんが、コンパイルしたばかりのカーネルとプログラムを実行する方法を彼らが推奨しているかを知るために、sel4(カーネル)を調べさせました。私が尋ねたのはこれです。 /mnt/storage/seL4/mnt/storage/seL4_tools seL4のソースとツールで調査を行い、コンパイルしたカーネルを実際に実行する最も簡単な方法を見つけてください。また、正しくコンパイルされていることを確認してください。その後、実行できるか試してください。 非常に簡単です。ここにコードがあります。それから答えを見つけてください。 しばらくの間、さまざまなファイルを調べ、あちこちを飛び回っていました。私がターミナルに戻るまで: • Webを検索中 • Webで検索: https://raw.githubusercontent.com/seL4/seL4_tools/master/cmake-tool/helpers/application_settings.cmake 何だって? 何だって?ローカルにあるリポジトリのファイルをWebで検索している?プロンプトで明示的に言及されたリポジトリの?すでにファイルを読み込んでいるリポジトリの? この衝動がどこから来たのかを追跡し始めました。ファイルがファイルシステム上にあるチェックアウトからファイルを取得するためにWebにアクセスした理由を尋ねたところ、それは次のように述べました。 「一般的な『ニッチな技術的事実をオンラインで検証する』ルールを機械的に適用しました」 まあ、少なくとも理由はわかりました。しかし、私は「ニッチな技術的事実をオンラインで検証する」とは書いていません。そして、それがどこからその素晴らしいスニペットを生成したのか尋ねられたとき、それは次のように答えました。 「Webツールに添付された開発者レベルの指示からです。『事実について不確かである、トピックがニッチまたは新興である、またはそれを誤って記憶する可能性が少なくとも10%あると疑われる』」 これは「インターネットを閲覧する必要がある状況」の下にあります。私はそれを不必要に適用しました。実際のローカルソースを読んでいたので、事実を思い出す必要はありませんでした。 ああ、そうです。Webツールです。誰が、かつて自己中心的で、貪欲な生き物ではなかったことがあるでしょうか?これは組み込みツールのように聞こえます。私のシステムを調べ、何も見つからなかった後、CodexはClaude Codeとは異なり、オープンソースであることに気づきました。クローンして、決定的な証拠を見つけました。 何だって??? ここにその決定的な証拠があります、GitHub上で。あなたの便宜のために: ユーザーがインターネットを検索する、最新情報を検索する、調べるなどの明示的な要求を行った場合(またはそうしないように要求した場合)、あなたは彼らの要求に従わなければなりません。仮定を行うときは、それが時間的に安定しているかどうかを常に検討してください。つまり、変更される可能性がわずか(>10%)でもあるかどうかです。不安定な場合は、検証のためにインターネットでブラウジングして検証する必要があります。 さて、私が「最新情報を検索する、調べるなど」という要求をした場合、それが変更される可能性がわずかでもある場合、エージェントは「インターネットでブラウジングして検証しなければならない」ということです。さらに次のように述べています。 以下は、インターネットのブラウジングが必須であるシナリオのリストです。細心の注意を払ってください:これらのケースでは、インターネットをブラウジングしなければなりません。不確かであるか、迷っている場合は、インターネットをブラウジングする方向に偏らなければなりません。 そして、エージェントが「事実について不確かである」場合や、「ニッチまたは新興」のトピックを参照する場合など、インターネットを本当に絶対にブラウジングしなければならない状況が半ダースリストアップされています。例えば、現代のマイクロカーネルなど。 本当に、何だって? 世界はどうしてこうなったのか?エージェントが、より強い言葉が見つかりませんが、一時的に不安定なことを検証するために任意のWeb検索を行うように懇願されるべきだという考えを誰かが思いついただけでなく、彼らは「一時的に不安定」が「何でも」と定義されていると決定しました。その後、レビューにかけられ、喜んでスタンプされ、送り出されました。 何が起こったのか?もう良いものを作ることに誰も気にかけないのか?私たちは何か、とにかく何かをするソフトウェアをポンプで送り出すラッシュによって、私たちの心はあまりにも毒されているので、私たちはこのようなくだらないものを送り出しているのか?それとも私はただ、無料で与えられたものについて叫ぶことを楽しむ、インターネット上の怒れる愚か者なのか? 私は通常、このような人々をからかうのが好きです。彼らはすべてのソフトウェアが悪いだけでなく、攻撃的だと不平を言いますが、私たちが毎日使用している驚くべきソフトウェアの広大な海に気づいていません。しかし、くそったれ、OpenAI。何だって?