ハニー、AIの物語を買っちゃった
Honey, We Bought an AI Story (bona-books.com)
要約
小規模出版社Bona Booksが、AIによって生成された可能性のあるフィクション作品を誤って購入した経験について語っています。当初はAIには創造性がないと考えていましたが、実際に検出が困難な作品に遭遇し、著者確認やAI検出の緊急手順を構築する必要に迫られました。この経験から、AI生成コンテンツが文学界に与える影響の大きさを警告しています。
全文翻訳
ハニー、AIの物語を買っちゃった
AIを心配していますか?
2025年のワールドファンタジーコンベンションでの小規模出版社パネルで、私たちはこの質問を受けました。編集長のC.L.は、かなり自信を持って答えたのを覚えています。「AIは予測テキストを華やかにしたものだ。言葉は技術的には繋がるが、革新も想像もできず、読む価値のあるものを書くことは決してないだろう。」
彼は今でもそう信じています。私たちも今でもそう信じています。ほとんどは。
しかし、私たちがもはや信じられなくなったのは、AIの物語を見てそれがAIだと知ることができるという考えです。
Bona Booksは、誤ってAIの物語を買ってしまいました。実際、さらに2つ買いそうになり、他に3つが長編リストに載っていました。
そして、これは私たちだけの問題よりも大きな問題です。
どうしてこうなったのか?
ボランティアチームを持つマイクロプレスにとって、これはとてつもない悪夢でした。数ヶ月を失い、膨大なエネルギーを費やし、ゼロから新しい緊急手順を構築しました。Bona Booksは人間の著者を支援することに専念しており、AI生成作品を容認することはありません。もしこのことに気づくのがさらに2ヶ月遅れていたら、私たちは制作段階に入り、再版の資金もないまま、印刷された全ロットを断裁するという現実的な事態に直面していたでしょう。
2025年6月以来、Bona Booksのチームは、私たちの2作目のリリースであるWrath Monthにエネルギーを注いできました。これは、クイアのスペキュレイティブ・フィクションの、荒々しく、怒りに満ちた、パンクなアンソロジーです。私たちは、LGBTQIA+の人々(私たち自身を含め)が世界の現状に対して感じている怒りを、意味のある何かに変える方法になることを願っていました。
コミュニティも同意してくれたようで、世界中のクイアの作家から606ものワイルドで激しい物語が寄せられました。魔法パンクロッカー、警官を食べるトランスジェンダーのワイアディンゴ、埋葬されることを拒否するゾンビゲイ。それをわずか20作品に絞るのは大変でしたが、私たちはガッツポーズをしていました。
選ばれた物語の一つは、スチームパンクで反植民地主義的なファンタジーで、「The Machine-Breaker of Aba」というタイトルでした。それは私たちの基準に完璧な強度で合致し、抵抗しがたいものでした。スクラップメタルと怒りから機械を作り上げ、植民地支配者を破壊するクイアの女性?もちろん、私たちはそれを愛しました。著者はベラ・チャチャという新進のナイジェリア人作家でした。
また、若い男性が菌糸ネットワークと融合してファシスト政権を打倒し(そしてボーイフレンドを救う)物語である、エピックファンタジーロマンス「The Rot Beneath」も受け入れました。世界構築は雑でしたが、アンソロジーのトーンを広げる想像力豊かで壮大なスケールを提供していました。私たちが知る限り、これは著者スティーブン・ジャクソンの最初のプロフェッショナル出版になるはずでした。
(注:私たちは、私たちが実行したプロセスに自信があり、主張を擁護できるため、両方の著者の名前をここに記載しています。また、これら両方の名前がペンネームであることも指摘しておきます。)
数ヶ月にわたる私たちの小さなチームの勤勉な作業の後、Wrath Monthは印刷寸前でした。
そして、すべてがうまくいかなくなりました。
タイムリーな警告
別の編集者が私たちに問題があることを知らせてくれました。いくつかのSFF雑誌は、ベラ・チャチャという馴染みのある名前で活動している作家から、AIの痕跡を示す多数の投稿を受け取っていました。
心臓が床に落ちた後、私たちは調査を開始しました。ベラはオンラインでの存在感がほとんどなく、2025年5月に初めて現れました。それ以来、彼女は注目すべき出版記録を積み重ねていました(私たちは12ヶ月で15作品の出版を確認しました)。大手出版社や、私たちのようなSFWA(サイエンスフィクション&ファンタジー作家協会)のレートを支払ういくつかの場所を含む、小規模またはコミュニティ志向の媒体にわたっていました。
もちろん、それは何も証明しませんでした。作家は多作であることがあります。プライベートであることもあります。クイアのメディアのために書くナイジェリア人女性は、ほとんどの人よりもプライバシーを必要とするかもしれません。
そこで、私たちはベラの元の投稿に戻り、アンテナを立て、少し強制された謙虚さをもって、もう一度読みました。
AIライティングの警報ベル
多くの短編小説市場は、当然のことながら、すぐに公開できる物語を探しています。Bona Booksが新進作家を支援しようとする方法の一つは、追加の編集サポートを必要とする才能ある作家から物語を受け入れることです。ベラはそれらの作家の一人でした。比較的若い作家(私たちが理解したところでは)、私たちの投稿のほとんどとは異なる文学的文脈から書いていました。振り返ってみると、以前は独特だと考えていた多くの特徴が、懸念すべき響きを帯びてきました。
最初のドラフトを詳しく調べるほど、物語の中心が欠けているように見えました。主人公は活動的でしたが、内面性が欠けていました。世界構築にはカラフルな詳細がありましたが、一貫して構築されているようには見えませんでした。特定の決まり文句が繰り返し現れました(「Xではなく、Y…」)。そして、ペース配分がおかしく、重要な物語の展開に奇妙にわずかな物語的重みが与えられていました。
編集プロセスの再検討も明らかになりました。物語を受け入れた後、私たちは著者に、原稿自体のコメントや行編集と並んで、「大局的な」フィードバックを含む編集レターを送る傾向があります。著者はこの議論に積極的に参加します。彼らは提案の一部を受け入れ、一部を拒否し、その理由を説明します。著者は、感受性と技術を示す方法で改訂を行います。
ドキュメントのバージョン履歴を見返すと、そのほとんどが起こらなかったことに衝撃を受けました。「大局的な」フィードバックの後、ベラはコメントなしで、わずか1つの小さな変更を加えただけでした。彼女は議論なしにすべての行編集を受け入れました。そして、ドキュメント内のコメントへの彼女の返信は空虚でした。「ありがとう」、「感謝します」、「ありがとう」。質問はなく、著者が自分で作成・形成した物語を注意深く検討している通常の兆候もありませんでした。
そこで、私たちは、発表され、支払いが行われ、契約された著者の1人に、できる限り繊細に、あなたが詐欺師かもしれないと示唆する、恐ろしいことをしなければなりませんでした。
ベラ・チャチャの返信
ベラの最初の返信は、安心させるべきものでした。それは実質的で雄弁でしたが、英語が第二言語であることを強調していました。彼女は物語が自分のものだと断言し、物語の「設定、参照、感情的なテクスチャはアバ、ナイジェリアの馴染み深さから来ている」と指摘し、「その根拠なしには説得力を持って構築できないもの」だと述べました。私たちはそれを信じたい声明でしたが、それは幻覚的で、原稿とは矛盾しているように感じられました。世界構築の薄さ、具体的な参照や感情的なテクスチャの欠如は、私たちを積極的に心配させた特徴でしたが、ベラはそれらを防御として指摘していました。
私たちはベラに、物語を書くための同時代の文書(メモ、ドラフト、メッセージなど)があれば共有するよう求め、ビデオ通話をアレンジするよう依頼し、彼女にあらゆる明確化の機会を与えようとしました。
代わりに、不条理なやり取りが始まりました。ベラは証拠を送ると約束しましたが、何も現れませんでした。彼女は会議に熱心に同意しましたが、日付や時間は決して確認しませんでした。何度も何度も。数週間にわたって。私たちが断固とした態度をとった後、ベラはようやく証拠が存在しないことを認めました。
しかし、会議には同意しました。
対面で
そして数ヶ月後、私たちは本物のベラ・チャチャと話すことになりました。それは安心できる会話ではありませんでした。
事前に、私たちは探求すべきトピックの構造化されたセットを準備していました。ベラが特定の物語の選択の背後にある理由、改訂中に何が最も変わったか、作家としての彼女の意図などです。本物の作家との楽しい会話につながる質問ですが、AIで物語を生成した人を困らせる可能性のある質問でした。
ベラは、物語のアイデア、テーマ、そして物語が彼女にとって何を意味するかといった、より概念的な側面については、完全ではあるもののかなり一般的な回答をしました。しかし、著者の意図と技術に移ると、私たちは困難に遭遇し続けました。
ベラの回答は単純だったり、より簡単なアイデアやテーマに関する議論のポイントに戻ったりしました。彼女が創造的なプロセスについて話すように促すことができた範囲では、彼女は「アイデアを思いつく」followed by 「書く」という平坦な説明をしました。キャラクターデザインや構成の問題に追い詰められると、彼女はアンソロジーのブリーフを私たちに繰り返しました。
特に改訂にどのように取り組んだか尋ねると、ベラは漠然と、「あまりうまくいかなかった」部分を探して、「それらを変更した」と言い始めました。どのような種類の変更について追い詰められると、彼女は物語への最大の改訂は、最初のドラフトがスペキュレイティブではなかったため、ジャンル要素を追加したことだと主張しました。編集者は、巨大な怒れるロボットを構築する主人公についてのディストピアSFストーリーに対して、これを主張する絶対的な不条理さを強調したいと考えています。
彼女は本物で、面白く、実際にはかなり魅力的でしたが、この人物が「The Machine-Breaker of Aba」を書いたという保証は全く得られませんでした。
感染が広がる
その間、私たちはアンソロジーのすべての作品を再評価に戻り、2番目の物語の赤旗を見つけました。そう、「The Rot Beneath」スティーブン・ジャクソン作です。
「Machine-Breaker」のように、それは抵抗できないエネルギーと強度で私たちのブリーフに合致しましたが、今では懸念を引き起こす特徴を含んでいました。中心の不在感、詳細では具体的だがまとまりのない世界構築、奇妙に単調なペース配分。再び、オンラインでの存在感がほとんどない著者。再び、編集プロセスの不規則性。
そこで、私たちはさらに恐ろしいメールを書きました。そして、その返信はベラのとは異なりましたが、似ていました。長くてもっともらしいメッセージで、奇妙な矛盾がなければ説得力があったはずです。唯一の明るい側面は、著者が改訂のための執筆プロセスを詳細に説明していたことでした。「私は4〜5つのドキュメントを開いたままにし、ノートカードを散乱させ、ポストイットで全てを覆っています。」
安心した私たちは、この証拠を共有できるか尋ねました。ベラの場合と同様に、通話をスケジュールするようにも依頼しました。
著者は返信しませんでした。
伝染病
純粋な興味から、私たちはWrath Monthの落選作品をレビューしました。そして、さらに別の作品を見つけました。
私たちは、今後のクイア・スペキュラティブ・フィクション雑誌Fantabulosa!のために検討していた長編リストに戻りました。そこには、さらに2つのAIのような物語が見つかりました。
どこを見ても現れているようでした。
私たちは、AI生成フィクションは常に明白だろうと思っており、準備ができていませんでした。今後数年間、あらゆるレベルのエージェント、編集者、スラッシュリーダーは、AIがどのように書くかを教育する必要があります。
これらを調査している間、私たちは公には沈黙を守っていました。不十分な根拠に基づく告発が作家に与える損害を私たちは痛感しています。だからこそ、これらの物語に対する疑念をすぐに発表しなかったのです。私たちは詳細なプロセスを確立し、それを結論まで実行し、そして今、私たちが持つことができる最高レベルの自信をもって私たちの発見を発表しています。
Wrath Monthはどうなるのか?
このスキャンダルは、私たちが支援するために存在する本物のクイア作家から、数ヶ月の能力、時間、労働力、資金、そして注意を奪いました。それは、私たちがプラットフォームに乗せようとしている非常に新しい声に懐疑的に接することを余儀なくさせ、私たちの喜びに満ちたボランティア事業に醜く疑わしいレンズをかけました。
失う一銭一銭は、協力者に支払うこと、書籍を制作すること、そして過激なクイアアートを作ることのできないお金です。この点において、Wrath Monthでさえ、騙された可能性に対する怒りを抑えることはできません。
そこで、私たちはWrath Monthが常に意図していたことを行います。その怒りをエネルギーに変え、アートを作るために使用します。Bona Booksはクイアフィクションを出版し続けます。Wrath Monthは復活し、2026年秋の出版を目指します。
何よりも、私たちは失われた2つのAI物語を、3つの新しい人間が書いた物語で置き換えることを決意しています。私たちは、Hailey Piper、Mimi Mondal、そしてBogi Takácsが、この危機に立ち上がり、彼らのペンをWrath Monthに貸してくれることに同意してくれたことに、窓を割るほど喜んでいます。
だからどうした?
出版業界は危機に瀕しています。Shygirl論争に対するHachetteの即席の対応や、Granta/Commonwealth Prizeの分裂を見れば、私たちの業界がこれに対応できていないことがわかります。良心に反して、ノーベル賞受賞者でさえ、ChatGPTとの個人的な関係を通じて物語を開発すると発表しています。
さらに悪いことに、私たちはほとんどそれに気づいていないように感じられます。そして、私たちがしている会話は、プライベートで行われています。多くの人から、出版社は過度の混乱なしに、静かに自律的にこれを解決できるという感覚があります。私たちの最近の経験に基づくと、それは愚かです。
Bona Booksチームは今年の初めにロンドン・ブックフェアにいましたが、作家やアーティストがコンベンションホールの片側でAIに対して結集する一方で、反対側では、生産マージンを向上させるためにAIが人間の作家、アーティスト、編集者、ナレーターをどのように置き換えることができるかについて興奮して会議を開いていました。
専門機関はこの問題に対して十分な対応をしていません。もっとロビー活動をすべきです。資本は自己を守るため、知的財産とAIに関する問題は記録的な速さで解決されましたが、人間の作家の保護はどこにあるのでしょうか?より多くの作業を行い、AI防止策と契約破棄のコストを吸収しなければならない編集者や出版社への補償はどこにあるのでしょうか?人間の創造物の規制保護を提唱することを検討しなければなりません。
最も重要なのは、沈黙は間違った対応だと信じていることです。私たちは、問題が発生した場合、出版社は責任を負うべきだと信じているため、公に話しています。恐れから沈黙を守れば、私たちはこれらの秘密の戦いを一人で失い続け、信頼の上に築かれたエコシステムを悪用することに専念する悪意のあるアクターに側面を突かれることになります。
Neil Clarkeのような stalwarts は、何年も前からこの問題について警報を鳴らしています。私たちは、状況を変え、行動を促す最初の動き手が現れるのを待っていました。
この洞察が、それを読む人々、特に他の編集者や小規模プレスにとって役立つことを願っています。
これは、私たちだけで解決できる問題ではありません。コミュニティが私たちに問題のヒントを与え、コミュニティがゼロから設計した著者検証プロセスを形成するのに役立ち、コミュニティが、ギャップを埋めるための優れた新しい作家をもたらし、コミュニティ、私たちのコミュニティは、私たちが対応方法を模索している間の長期的な減速を許してくれるでしょう。
出版社、編集者、作家、読者、そしてアーティストは、すでに私たちの家の中にある脅威に立ち向かわなければなりません。多様な出版が生き残るためには、連帯、謙虚さ、そしてほんの少しの正義の怒りが不可欠です。
C.L. McCartney
Trip Galey
Robert Berg
Lyam Keer-Keer
2026年6月