HN 日本語サマリー

← 一覧へ戻る
ビジネス・スタートアップ

リバース・ケンタウロスはAIのパラドックスの答えである

Reverse centaurs are the answer to the AI paradox (pluralistic.net)

83 pointsby jason_s41 コメント

要約

この記事は、AIの利用体験がユーザーによって大きく異なる理由を「ケンタウロス」と「リバース・ケンタウロス」という概念で説明しています。ケンタウロスはAIに支援される人間、リバース・ケンタウロスは人間をアシスタントとして使うAIであり、後者の場合、人間はAIのミスや過負荷の責任を負わされる「アカウンタビリティシンク」となります。AIの現状は投資バブルであり、バブル崩壊後には生産的な技術が残る可能性が示唆されています。

全文翻訳

リバース・ケンタウロスはAIパラドックスの答え (パーマリンク)

私の最新の『Locus』コラム「リバース・ケンタウロス」は、あるパラドックスを解き明かそうとしています。それは、なぜ一部のAI利用者はその経験を地獄のような試練だと表現する一方で、他の人々はAIが生活をより良く変える方法を喜んでいるのか、という問いです。

https://locusmag.com/2025/09/commentary-cory-doctorow-reverse-centaurs/

その答えは、自動化理論に見られる「ケンタウロス」と「リバース・ケンタウロス」の概念に含まれています。

https://pluralistic.net/2025/05/27/rancid-vibe-coding/#class-war

「ケンタウロス」とは、機械に支援される人間(力強く疲れを知らない体に人間の頭がついた存在)です。リバース・ケンタウロスは、人間をそのアシスタントとして利用する機械(無慈悲で執拗な機械に操られる、か弱く傷つきやすい人間)です。

例を挙げましょう。この夏の初めに、Hearstがチャットボットによって「幻覚」された存在しない書籍でいっぱいの夏休み読書ガイドを出版したのを覚えていますか?

https://www.npr.org/2025/05/20/nx-s1-5405022/fake-summer-reading-list-ai

404 MediaのJason Koeblerは、そのリストに名前が載っていた人物に連絡を取りました。彼は非常に恥ずかしがり、悔いていました。

https://www.404media.co/chicago-sun-times-prints-ai-generated-summer-reading-list-with-books-that-dont-exist/

しかし、フォローアップ記事でKoeblerは、この哀れな男性に対する最初の非難やミームが逃していたことに気づきました。この同じライターは、この増刊号の「夏のベスト」リストの多くに名前を連ねていました。彼は、64ページにわたる全特集のほぼ唯一の著者でした。

https://www.404media.co/viral-ai-generated-summer-guide-printed-by-chicago-sun-times-was-made-by-magazine-giant-hearst/

そして、ここが興味深いところです。Koeblerはジャーナリズムのキャリアを『Washington Monthly』でのインターンとしてスタートさせました。そこで彼はこのようなリストの仕事をしていました。

https://www.404media.co/podcast-ai-slop-summer/

Koeblerがこの仕事をしているとき、彼は経験豊富なジャーナリストの監督下にある3人のインターンチームの一員であり、広範なファクトチェック部門に支えられていました。これらの小さなリストは、その品質を本当に気にかけるなら、驚くほどの労力を要します。

この巨大な夏休み読書ガイドとそのリストの作者であるフリーランスライターは、文字通り数十人のライター、編集者、ファクトチェッカーの仕事をこなすように依頼されていました。彼のボスがAIの使用を指示したかどうかは分かりませんが、一人のライターがAIなしでこれほど多くの仕事をこなすことは不可能です。

つまり、そのライターの仕事は記事を書くことではありませんでした。彼の仕事は、記事を書いたAIの「ヒューマン・イン・ザ・ループ」であることでしたが、そのスケジュールとワークロードは、彼が良い仕事をするのを妨げるものでした。Dan Daviesの記憶に残る言葉を借りれば、彼の仕事はAIの「アカウンタビリティ・シンク(責任の受け皿)」であり、AIのミスに対する非難を受けるために給料を得ていたのです。

彼は、言い換えれば、リバース・ケンタウロスでした。

私もフリーランスライターですが、そう遠くない昔、記事でポッドキャストで聞いた賢い引用を引用したいと思ったのですが、どこで聞いたか思い出せませんでした。そこで、OpenAIのオープンソースAI文字起こしモデルであるWhisperをラップトップにダウンロードしました。私が聞いた最後の30時間分のオーディオをそれに投入し、1〜2時間他の作業をしました。再度確認すると、かなり信頼性の高い文字起こしのフォルダがありました。テキストを検索し、引用を見つけ、提供されたタイムコードのオーディオを開いてダブルチェックしました。私はケンタウロスでした。AIをどのように使うかを自分で決められ、自分の仕事をより良く、より満足のいくものにする方法でしかそれを使用する必要がありませんでした。

これが、AIのパラドックスの説明だと私は思います。上司が同僚を解雇し、解雇の生存者に仕事を押し付けるよう説得されたAIの利用者は、AIを憎んでいます。なぜなら、AIはあらゆる点で彼らの生活を悪化させるからです。

一方、AIの使用時期と方法を選択する人々、つまりケンタウロスは、AIを有用な範囲でのみ使用し、そうでない場合は捨てています。彼らはAIに関して誤った選択をするかもしれませんが、それらの選択は彼ら自身のものであり、上から押し付けられたものではありません。自転車に乗る人が二輪で通勤することを選択した場合、素晴らしい乗り心地を得ることも、狂ったように乗って転倒することもありますが、それは、不可能なノルマを与えられ、アルゴリズムによる賃金差別で給料を侵食されているギグデリバリープラットフォームのライダーとは根本的に異なる経験です。

https://pluralistic.net/2024/02/29/geometry-hates-uber/#toronto-the-gullible

私はこの分析をSF分野の業界誌である『Locus』のページに掲載できたことを非常に嬉しく思っています。SF作家の仕事は、技術が何をするかを描写することに付随するにすぎません。最高のSFは、技術が誰に対して、そして誰のためにそれをするのかを問い直します。

これは抵抗の政治的行為です。マーガレット・サッチャーのモットーは、結局のところ、「代替案はない」でした。彼女が意味したのは、「代替案を考えようとするのをやめろ」ということです。いじめっ子の手口は、あなたの敗北を既成事実として提示することです。「抵抗は無益だ」と。

テック企業の経営者は常に、下品なサッチャー主義を実践しています。マーク・ザッカーバーグは、彼に聞かれることなく友人と話す方法はないと思わせたいのです。サンダー・ピチャイは、スパイされることなくウェブを検索する方法はないと思わせたいのです。ティム・クックは、彼がインストールするソフトウェアを却下する権利を与えずに、安全で信頼性の高いコンピューティング体験を得る方法はないと思わせたいのです。サティア・ナデラは、あなたが同僚の毎分キーストローク数を比較されることなくWordファイルを編集する方法はないと思わせたいのです。

https://pluralistic.net/2021/02/24/gwb-rumsfeld-monsters/#bossware

そしてAI企業の経営者は、これらのツールを使用する唯一の方法は、労働力を代替し、貧困化することだとあなたに思わせたいのです。なぜなら、それが彼らが投資資本を調達する約束だからです。

https://pluralistic.net/2025/08/05/ex-princes-of-labor/#hyper-criti-hype

AIはバブルです。もしそれがバブルでなかったなら、単にコンピュータ科学者と製品チームがバックプロパゲーション、敵対的生成ネットワーク、機械学習の進歩の可能な用途をいじっているだけなら、ここには論争はなかったでしょう。ほとんど機能しないクロスブラウザCSSスタイルシートを、多少の調整を経て自動生成するためにチャットボットを使用するプログラマーは、ビールを飲みながらその事実を話題にするかもしれませんが、チャットボットが目覚めて私たち全員をペーパークリップに変えるというような、突拍子もないシナリオに夢中になるカルトに巻き込まれることはないでしょう。

https://firstmonday.org/ojs/index.php/fm/article/view/13636

AIはバブルです。バブルは弾けます。私たちはAI投資狂騒曲のほぼ完全な崩壊を経験するでしょう。これらの企業のほとんどは失敗します。多くの計画されたデータセンターは開設されません。多くの既存のデータセンターは閉鎖されます。その時、何が残るのでしょうか?

AIはバブルであり、バブルが弾けると、生産的な残渣が残ることがあります。自宅では、私は2GBの対称ファイバーオプティックインターネットを楽しんでいます。なぜなら、AT&TはWorldcomが詐欺的に数十億ドルを調達したダークファイバーの一部を有効にすることができたからです。WorldcomのCEOは、一般市民の財産を詐取した後、刑務所で亡くなりました。もしそれが決して起こらなかったら世界はより良い場所になったでしょうが、生産的な残渣が残り、今日、私たちの多くがその恩恵を受けています。

https://locusmag.com/2023/12/commentary-cory-doctorow-what-kind-of-bubble-is-ai/

これを仮想通貨バブルと比較してください。それが弾けたとき、私たちは暗号化とRustでのセキュアプログラミングの補助的な教育を受けた少数のプログラマーは残るでしょうが、ほとんどの場合、仮想通貨が残すのは悪いオーストリア経済学とさらに悪い猿のJPEGです。エンロンのように、仮想通貨は価値のあるものをほとんど残しません。

すべてのバブルは悪いですが、より生産的なものもあります。AIバブルが弾けたとき、GPUの素晴らしい掘り出し物があるでしょう(科学者たちがそれらをわずかな価格で手に入れ、気候モデリングに使用できたら皮肉でしょう)。私たちは、10年前よりも応用統計学にはるかに長けた多くの技術者を得るでしょう。そして、私がポッドキャストの文字起こしに使ったWhisperのようなオープンソースモデルがあります。

これらのオープンソースモデルは汎用ハードウェアで動作し、それらのモデルを作成する際の気候コストはひどいものですが、それらは今ここにあり、それらを運用することは特にエネルギー集約的ではありません。私がWhisperを使って30時間分のポッドキャストを文字起こししたとき、ラップトップのファンはオンにすらなりませんでした。

さらに、オープンソースハッカーたちはこれらのツールを使って驚くべきことをしています。それは、それらをリリースした巨大企業が予想していたよりもはるかに多いことです。これらの「おもちゃ」モデルは、プログラマーを大手テクノロジー企業が運営するクラウドシステムに特化させるための誘いとしてリリースされましたが、これらのスタンドアロンモデルが驚くべきことを実行でき、巨大で破滅的な基盤モデルのデモにすぎないことが判明しました。

https://pluralistic.net/2023/08/18/openwashing/#you-keep-using-that-word-i-do-not-think-it-means-what-you-think-it-means

OpenAIに何が起ころうと関係ありません。Whisperはここに残り続けます。すでに他の標準ツールに統合されており、最新バージョンのffmpegはWhisperを統合し、キャプションを自動生成できます。

https://www.theregister.com/2025/08/28/ffmpeg_8_huffman/

これらのオープンソーススタンドアロンモデルができることは増える一方であり、コンピューティングアプリケーションの標準機能となるでしょう。あなたのコンピュータや電話は、オーディオを文字起こししたり、写真の背景から見知らぬ人を消去するようなクールな画像編集機能を標準機能として実行できるようになります。

それが良いニュースです。悪いニュースは、バブルが現在引き起こしているすべての損害と、その崩壊から生じるさらなる損害です。今日、私たちは明らかに気候への影響、そしてAIが彼らの仕事をできないにもかかわらず、その製造業者の営業担当者が上司を説得して彼らを解雇させ、AIに置き換えさせた多くの労働者の貧困化を経験しています。

バブルが弾けた後、一般市民の退職貯蓄の大量焼却と、市場全体がクラッシュする際の連鎖的な影響が起こるでしょう。そしてそれからずっと後、彼らが置き換えた人々が姿を消し、彼らがつまずいた仕事を引き継ぐことができなくなった後、機能停止する基盤モデルによって、私たちの社会の物事を実行する能力に壊滅的な影響が出るでしょう。私たちは社会の壁にデジタルアスベストをせっせと詰め込んでおり、数世代にわたってそれを掘り出すことになるでしょう。

バブルが続く一日ごとに、今日と明日の損害は増加します。私たちはそのバブルをできるだけ早く弾けさせる必要があります。それが、私が Farrar, Straus and Giroux のために、AI詐欺師とその恐ろしい投資バブルに最大限の損害を与えることを目的とした本、『The Reverse-Centaur's Guide to AI』という仮題で、夏の間執筆することになった理由です。

2026年に発売されますが、それまでは私の『Locus』コラムをご覧ください。

https://locusmag.com/2025/09/commentary-cory-doctorow-reverse-centaurs/

(画像: School Photos PCC, CC BY 2.0, 改変)


Hey look at this (permalink)

[画像: A close-up of a flush car door handle]


[画像: A shelf of leatherbound history books with a gilt-stamped series title, 'The World's Famous Events.']

Object permanence (permalink)

#20yrago Themepunks(別名Makers)が今後10週間にわたりSalonで連載 https://web.archive.org/web/20050914060107/http://www.salon.com/tech/feature/2005/09/12/themepunks_1/index_np.html

#10yrsago データは資産ではなく負債である https://web.archive.org/web/20150911201818/https://richie.fi/blog/data-is-a-liability.html

#10yrsago コンピュータサイエンスのカリキュラムに欠けているもの https://prog21.dadgum.com/210.html

#5yrsago 家主のためのAlexa https://pluralistic.net/2020/09/11/protocols-of-qanon/#landlord-alexa

#5yrsago セキュリティエンジニアリング、第3版 https://pluralistic.net/2020/09/11/protocols-of-qanon/#security-engineering-v3

#5yrsago アメリカのパンデミックの螺旋 https://pluralistic.net/2020/09/11/protocols-of-qanon/#doom-loops

#5yrsago EFF対フィルタリングネットワーク https://pluralistic.net/2020/09/11/protocols-of-qanon/#no-filternet

#5yrsago Qanonは基本的にシオン賢者の議定書である https://pluralistic.net/2020/09/11/protocols-of-qanon/#godwins-qanon

#5yrsago プリクライミナルの生活 https://pluralistic.net/2020/09/11/protocols-of-qanon/#chris-nocco


Upcoming appearances (permalink)

[画像: A photo of me onstage, giving a speech, pounding the podium.]


[画像: A screenshot of me at my desk, doing a livecast.]

Recent appearances (permalink)


[画像: A grid of my books with Will Stahle covers..]

Latest books (permalink)

  • "Picks and Shovels": 『Red Team Blues』の続編、PCの英雄的な時代について、Tor Books (US), Head of Zeus (UK), 2025年2月 (https://us.macmillan.com/books/9781250865908/picksandshovels)。

  • "The Bezzle": 『Red Team Blues』の続編、刑務所テックやその他の詐欺について、Tor Books (US), Head of Zeus (UK), 2024年2月 (the-bezzle.org)。

  • "The Lost Cause": 気候非常事態における希望のソーラーパンク小説、Tor Books (US), Head of Zeus (UK), 2023年11月 (http://lost-cause.org)。

  • "The Internet Con": インターオペラビリティとビッグテックに関するノンフィクション(Verso)2023年9月 (http://seizethemeansofcomputation.org)。サイン入りコピーはBook Soupで入手可能 (https://www.booksoup.com/book/9781804291245)。

  • "Red Team Blues": 「読者を夢中にさせ、世界がどのように機能するかについて、以前よりも多くのことを学ばせる、掴みどころのある強迫的なスリラー。」Tor Books http://redteamblues.com。

  • "Chokepoint Capitalism: How to Beat Big Tech, Tame Big Content, and Get Artists Paid, with Rebecca Giblin", クリエイティブ労働市場の不正を正す方法について、Beacon Press/Scribe 2022 https://chokepointcapitalism.com


[画像: A cardboard book box with the Macmillan logo.]

Upcoming books (permalink)

  • "Canny Valley": Pluralisticのために作成したコラージュの限定版コレクション、自費出版、2025年9月

  • "Enshittification: Why Everything Suddenly Got Worse and What to Do About It," Farrar, Straus, Giroux, 2025年10月7日
    https://us.macmillan.com/books/9780374619329/enshittification/

  • "Unauthorized Bread": 難民、トースター、DRMについての私のノベラを翻案した中学生向けグラフィックノベル、FirstSecond, 2026年

  • "Enshittification, Why Everything Suddenly Got Worse and What to Do About It"(グラフィックノベル版)、Firstsecond, 2026年

  • "The Memex Method," Farrar, Straus, Giroux, 2026年

  • "The Reverse-Centaur's Guide to AI," 効果的なAI批評家になるための短い本、Farrar, Straus and Giroux, 2026年


[画像]

Colophon (permalink)

今日のトップソース:

現在執筆中:

  • 「The Reverse Centaur's Guide to AI」、Farrar, Straus and Giroux向けの効果的なAI批評家になるための短い本。第一稿完了・提出済み。
  • DIYインスリン計画についての『Little Brother』短編小説

[画像]

この作品(連載フィクションを除く)は、クリエイティブ・コモンズ 表示 4.0 ライセンスの下でライセンスされています。これは、私、Cory Doctorow に帰属させ、pluralistic.net へのリンクを含める限り、商業目的を含むあらゆる方法で使用できることを意味します。

https://creativecommons.org/licenses/by/4.0/

引用と画像はこのライセンスには含まれていません。それらは、著作権の制限または例外の下で、または個別のライセンスに基づいて含まれています。ご注意ください。


How to get Pluralistic:

ブログ(広告、トラッキング、データ収集なし):

Pluralistic.net

ニュースレター(広告、トラッキング、データ収集なし):

https://pluralistic.net/plura-list

Mastodon(広告、トラッキング、データ収集なし):

https://mamot.fr/@pluralistic

Medium(広告なし、ペイウォールあり):

https://doctorow.medium.com/

Twitter(大規模、無制限、サードパーティの監視と広告):

https://twitter.com/doctorow

Tumblr(大規模、無制限、サードパーティの監視と広告):

https://mostlysignssomeportents.tumblr.com/tagged/pluralistic

「When life gives you SARS, you make sarsaparilla」 -Joey "Accordion Guy" DeVilla

注意深くお読みください:これを読むことにより、あなたは雇用主の代理として、私があなたの雇用主、そのパートナー、ライセンサー、エージェント、および譲受人と永久に、権利と特権に影響を与えることなく締結した、交渉されていない(BOGUS AGREEMENTS)いかなる合意、ライセンス、利用規約、シュリンクラップ、クリックラップ、ブラウズラップ、機密保持、開示禁止、競合禁止、および許容される使用ポリシーからも、私を一切の義務および免責から解放することに同意します。さらに、あなたはあなたの雇用主の代理として、私をこれらのBOGUS AGREEMENTSから解放する権限を有することを表明します。

ISSN: 3066-764X