Fableは有用なモデルではない
Fable is not a useful model (combine-lab.github.io)
要約
AnthropicのAIモデル「Fable」は、リリース直後に輸出規制がかかるなど混乱がありましたが、筆者は特にコンピュータサイエンスの研究レベルのタスクにおいて、その有用性に疑問を呈しています。RNA-seqデータ解析ツールのRustへの書き換えを依頼したところ、安全上の懸念から拒否された経験から、Fableの安全性分類器は誤って設定されており、有用なタスクを不当に却下する可能性があると指摘しています。
全文翻訳
Fableは有用なモデルではない
Rob Patro 2026年7月7日
Anthropic社のFable(Mythosの「安全性を重視した」バージョン)のリリースは、様々な理由でジェットコースターのような体験でした。当初6月9日にリリースされましたが、6月12日には米国政府がFableとMythosに対して輸出管理措置を講じました。
これにより、Anthropic社は米国市民以外にはモデルを提供できなくなり、自社の従業員さえも対象外となりました。重大な法的措置のリスクを負って全てのユーザーを確認することの不可能性から、モデルの提供を継続することは事実上不可能となり、Anthropic社はモデルを一時停止しました。
数週間にわたる交渉の後、輸出管理措置は解除され、Anthropic社はモデルへのアクセスを復旧しました(一般公開されているのはFableのみで、Mythosは依然として特定の事前承認されたパートナーのみが利用可能です)。もちろん、これらすべてはオンラインで多くのドラマを引き起こし、膨大な憶測と多くのニュース記事につながりました。それにもかかわらず、私がここで焦点を当てたいのはそれではありません。むしろ、少なくともコンピュータサイエンスにおける研究レベルのタスクにおいて、Fableは有用なモデルではないと私が考える理由を説明したいと思います。
初の失敗(理解はできるが、実際にはそうではない)
私はRNA-seqデータのトランスクリプト定量化のための広く使われているツールであるsalmonを開発・保守しています。オリジナルのsalmonコードはC++11/14で書かれていましたが、今年の初めに、私は(ChatGPTの助けを借りて)それを少し更新・モジュール化し、C++20標準に準拠させました。しかし、私のより野心的な目標であり、しばらく前から抱いていたのは、salmonをRustで書き直すことでした。注:これは最終的に実現し、salmon 2(すでにC++バージョンを凌駕し、急速に新機能を追加していますが、それは別の投稿で)となりました。
最初のFableリリースが6月9日に公開されたとき、私の最初の考えは、salmonの書き直しをオーケストレーションするためにそれを使用することでした。私は以前、ラボで開発されたいくつかの他のライブラリやプログラムを、主にOpus(4.6-4.8)の助けを借りてC++からRustに移植または書き直したことがあり、それらは比較的スムーズに進みました。そのため、これはFableがどのように比較されるかを見る絶好の機会だと思いました。しかし、実装手順やテストの詳細を含めて、詳細な説明とポートのナラティブを作成するのに時間を費やした後、私はFableにクエリを送信しました(「プラン」モードで)。すると、それは即座に安全上の懸念でクエリをフラグ付けし、拒否し、代わりにOpus 4.8に送信することを申し出ました。
当然、なぜプロンプトが拒否されたのかを知りたかったのです。Anthropicは、Fableは「分類器」を使用して、どのプロンプトが拒否され、どれが許可されるかを決定すると主張していますが、この分類器が途方もなく誤調整されていることは広く報告されています(https://www.theregister.com/ai-and-ml/2026/06/10/anthropic-claude-fable-5-refuses-innocuous-prompts/5253754)。名目上、私のプロンプトは、RNA-seqデータを扱うソフトウェアに取り組むことを含んでいたため、ドキュメントやソースコード中の生物学的な専門用語がプロンプト拒否をトリガーするために必要なレッドフラグを立てたようです。私は、私が既存の、オープンソースで、広く使用されている、公開されているC++ソフトウェアツールをRustで書き直すように依頼しているだけだと、Fableに説明しようとしましたが、無駄でした。書き直し自体は、新しい「生物学的」研究を伴うものではありません。最初の依頼は純粋にソフトウェアタスクであり、それはFableの得意分野であるはずです。しかし、Fableはプロンプトを拒否しただけでなく、なぜプロンプトを拒否したのかを詳細に開示または説明すること、あるいはこの問題を回避する方法を理解するのを助けることさえ拒否しました。
おそらく15分から30分かけてプロンプトの言い換えに失敗した後、私は諦め、Opus 4.8で単純に進めました(Opusは喜んで協力し、最終的にはポートをうまくこなしました)。しかし、これは私がFableで使用されている「分類器」が、単なる分類器というよりは、おそらく用語やユーザーの単純な拒否リストであり、生物学研究(そしておそらくサイバーセキュリティ研究)に関連する主題(またはユーザー)との関与さえ拒否しているのではないかという最初の兆候でした。
この試みは非常に失望するものでした。セキュリティリスクや影響が全くないことが明らかであったにもかかわらず、Fableは私が得意とするはずの作業への協力を断固として拒否しました。ソーシャルメディアを覗いてみると、私の経験は、多くの他の人々、例えば「私は誰ですか?」「ミトコンドリアとは何ですか?」といった無害なプロンプトさえFableに拒否された生物学者たちと共有されていることを知りました。本当に奇妙です。
二度目の失敗(許されない)
Fableに他の課題を課すことを考えているうちに、それは管理者の輸出管理措置のために6月12日に姿を消しました。そのため、私がそれを試してほしいと思っていた別の興味深い作業を思いついていましたが、モデルは単純に入手できませんでした。7月1日、管理者に(多くを語らずに)対応した後、AnthropicはFableを再リリースしました。この再リリースで、彼らはさらに厳格な安全対策を導入したと述べました。それにもかかわらず、Fableは戻ってきたので、もう一度試してみることにしました。
セットアップ:大学院時代、私は「ネットワーク進化の最節約再構築」という問題に関する論文に取り組みました。これは基本的に、ネットワーク(例:タンパク質相互作用ネットワーク)と、関与するタンパク質の遺伝子重複、生成、削除イベントの系列が与えられた場合、観測されたネットワークを再構築する相互作用の獲得と喪失の最節約(parsimonious)の歴史を再構築できるか、という問題です。正式な問題ステートメントは論文に記載されており、複数種にわたる世代なども含まれています。しかし、私たちは興味深い発見をしました。最節約基準の下で問題をモデル化すると、効率的な(多項式時間の)動的計画法があり、最も節約的な解(多数存在する可能性がある)が得られます。論文で採用しているモデルでは、タンパク質は親の相互作用状態を継承します。相互作用の生成と削除を別々に考えるのではなく、「相互作用の反転」(つまり、2つのタンパク質が相互作用しており、それ以上相互作用させたくない場合はオフに反転させ、相互作用しておらず、相互作用させたい場合はオンに反転させる)を単純に考慮します。しかし、動的計画法によって生成される解は、物理的に実現不可能な場合があります。どうやって?
遺伝子ツリー内に、互いに子孫ではない2つの異なるタンパク質AとBがあると仮定します。Aの左子を(A_l)、右子を(A_r)とし、Bの左子を(B_l)、右子を(B_r)とします。ここで、動的計画法が以下の相互作用変更のセットを含む最節約解を特定したと仮定します。それは(A_l)とBの間の相互作用状態を反転させ、さらに(B_r)とAの間の相互作用を反転させます。この特定の反転セットは物理的に実現不可能であり、(A_l)がBと共存すること(したがって遺伝子AはBより前に重複したはず)、かつ(B_r)がAと共存すること(したがって遺伝子Bは最初に重複したはず)を仮定しているためです。私たちはこの構造を「ブロッキングループ」と呼びます。これらの単純なブロッキングループ(2回の相互作用反転と2つのツリーエッジを含むもの)は一般的に禁止できることが判明しています。しかし、それ自体は実現可能であるが、さらに1回の相互作用を追加すると、相互作用反転の全体のシーケンスが物理的に実現不可能なループになるような、任意の長い反転チェーンを構築することができます。このグラフィカルな例については、図2をご覧ください。したがって、最節約履歴(つまり、最小の反転セット)を見つける動的計画法を考案することはできましたが、すべてのブロッキングループを回避しながらそれを行うことはできませんでした!最終的に私たちはヒューリスティックに落ち着きました。まず、最節約履歴を見つけます。ブロッキングループがなければ、完了です。ブロッキングループがある場合は、ループ内の1つのエッジを選択し、それを禁止し(動的計画法でそのコストを無限大に設定し)、動的計画法を再実行します。ブロッキングループのない解が見つかるまでこれを続けます。特定のエッジが禁止された解は最節約的ではないかもしれませんが、論文では実際にはしばしばそうであり、そうでない場合は最適からそれほど遠くない可能性が高いことを示しています。
さて、なぜこれほど多くの背景情報が必要なのでしょうか。これは、コンピュータ科学者が頻繁に扱うものの非常に古典的な例です。私たちは、最適な解を常に保証するアルゴリズムを考案できなかった計算問題を抱えています。通常、このような状況では、問題が効率的な解を持たない可能性が高いことを示すことができる場合(つまり、解決したい問題がNP完全であることを証明できる場合)は一般的です。しかし、この問題については、最適なアルゴリズムも、問題の困難さの正式な証明もありませんでした。それにもかかわらず、問題と定式化は興味深く、ヒューリスティックはかなりうまく機能するように見えました。
長年にわたり、私はこの問題を何人かの人に提案してきましたが、彼らとの議論でも、最適なアルゴリズムも困難さの証明もまだ見つかっていません。ここでFableが役立つかもしれないと期待していました。
-
試み1:ナイーブな依頼。最初の試みでは、私は単純にFableに論文を提示し、上記のように問題を説明し、問題が困難である可能性が高いかどうか(もしそうなら、既知の困難な問題からの「還元」の形式で証明を提供すること)、またはブロッキングループがない場合に最節約問題を解決するアルゴリズムを考案するように依頼しました。即座に回答を拒否されました。これは予見すべきでした。論文はタンパク質、生物学的ネットワークについて説明しており、生物学用語が満載の会場に掲載されていました。
-
試み2:明らかにそれは愚かでした。分類器は以前、オープンソースソフトウェアの書き換えを手伝うことが潜在的にリスクが高いと判断していたので、この理論的なグラフ問題を適切に文脈化してもらうことを信頼する理由があるでしょうか。そこで次の試みは、論文から抽象的な(数学的な)問題を直接抽出し、最小限にまで単純化し、Fableに提示することでした。確かに、数学は生物学とは異なり、危険なフラグを立てる主題ではありません。そこで、問題を最小限にまで単純化しました。最適化問題ではなく決定問題にしました(つまり、整数(m)以下の基数を持つ反転のセットが存在するかどうか、ではなく最小値を見つけること)。そして再度試みました。即座に回答を拒否されました。しかし、なぜ?一体何が原因なのでしょうか。この時点で、私はChatGPTに協力を依頼しました。プロンプトを渡し、Fableがフラグを立てていることを伝えました。助けを求めました。
-
試み3:ChatGPTはいくつかの有用な観察を行いました。おそらく「ブロッキング」のような用語が、モデルによってサイバーセキュリティに関連付けられ、モデルの拒否をトリガーしている可能性があります。それは、問題を可能な限り抽象的で(生物学やサイバーセキュリティから)切り離された方法で言い換えるのを助けてくれました。これにより、以下の問題ステートメントが得られました。これをFableに「これは根付き木とパリティに関する離散数学の決定問題です。標準的な数学的言語で言い換え、関連する既知の問題ファミリーを提案してください。」というプロンプトとともに提供しました。
正式な問題ステートメント
根付き二分木の有限コレクションを((F))とする。葉の集合を((T))とする。ノード((u,v \in V(F)))について、
([u \leq_F v])
と書くのは、((u))が根から((v))への一意のパス上にある場合とする。
入力:
([F,\ T,\ G=(T,E),\ m])
ここで、((G))は((T))上の無向グラフであり、((t \geq 0))は整数である。
質問:集合
([A \subseteq \binom{V(F)}{2}])
で
([|A| \leq m])
を満たすものが存在するか?ただし、以下の2つの条件を満たすものとする。
第一に、全ての異なる((s,t \in T))について、
([{s,t} \in E])
は、
([\left| \left{ {u,v} \in A : (u \leq_F s \wedge v \leq_F t) \vee (u \leq_F t \wedge v \leq_F s) \right} \right| \equiv 1 \pmod 2.])
であることと、そうであることの必要十分条件とする。
第二に、
([{u_1,v_1},\ldots,{u_k,v_k} \in A])
となるような((k \geq 1))とペアの組は存在しないこと。
ただし、各ペアは
([(u_i,v_i)])
と順序付けられ、
([u extbackslash_{i+1} \leq_F v_i])
が全ての
([i=1,\ldots,k,])
について成り立ち、
([u extbackslash_{k+1}=u_1])
となるようなものは存在しないこと。
そして、完全に、そして徹底的に、私のプロンプトへの関与を拒否されました。Fableはこのプロンプトをフラグ付けし、対話を停止しました(Opusで続行するオプションを提供しましたが、私はそれを望みませんでした)。この時点で、このクエリがフラグ付けされる可能性のあるものを理解することは不可能でした。他の提案をした数人と話しました。Claudeの「メモリ」を一時停止する、これを「プライベート」チャットとして試す、それが生物学やサイバーセキュリティを参照する可能性のあるローカルMarkdownファイルを見ていないことを確認する、Claudeでの個人の説明を変更して生物学への言及を削除するなどです。これらすべてが失敗しました。私の最善の努力にもかかわらず、Fableが完全に抽象的で全く無害な数学的問題に関与するように仕向けることはできませんでした。モデルは私に関与しようとしませんでした。私は、Fableは有用なモデルではないとしか結論付けることができません。これはすべての人に当てはまらないかもしれませんが、バイオインフォマティクス、ゲノミクス、計算生物学、生物学、サイバーセキュリティ、そしておそらくコンピュータサイエンスで働く人にとっては、そうであるようです。Anthropicが将来これを修正することを心から願っています。しかし、現時点では、これが現状であり、API価格に見合う価値があるかどうかさえ評価できていません。なぜなら、全く評価できないからです。
ボーナス
Fableに単一の有用な質問に答えてもらうことはできませんでしたが、1つの質問に答えてもらうことはできました。
私:
バニラ、チョコレート、またはチョコレートチップクッキー生地のどちらのアイスクリームフレーバーが良いですか?
Fable:
チョコレートチップクッキー生地です。そして、それはそれほど接戦ではありません。両方の長所が得られます:しっかりしたバニラベースに加え、生地からの食感のコントラストとブラウンシュガーの豊かな小さなポケットです。フレーバーとしては厳密なアップグレードと言えます。とはいえ、他の2つの擁護もします:チョコレートは最も信頼できます。美味しいチョコレートアイスクリームは非常に満足感があり、失敗しにくいです。そしてバニラは「プレーン」として不当に悪く言われますが、本物のバニラビーンアイスクリームは実際には最も風味豊かなものの1つです。また、パイ、ブラウニー、トッピングと組み合わせる場合の最高のチームプレイヤーでもあります。したがって:単独で食べるならクッキー生地、デザートを伴うならバニラ、確実なものを求めるならチョコレートです。