HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

言葉、言葉、言葉

Words, Words, Words (aeon.co)

6 pointsby benbreen1 コメント

要約

AIと文学に関するエッセイ「Words, Words, Words」についての記事です。このエッセイでは、AIが文章作成者として文学愛好家に歓迎されるべきであるという視点が提示されていると推測されます。AIが創造的な領域に与える影響や、人間との協働の可能性について議論していると考えられます。

全文翻訳

AIに対する作家の強い抵抗は理解できる。しかし、それは私たちが機械と共有するもの、すなわち言語そのものを曖昧にしてしまう

人工知能が数年前に主流になって以来、それは政治的な性格検査の二重の役割を果たしてきた。AIについてどう思うか教えてくれれば、あなたが誰であるかを教えよう。気候変動を心配する人々はエネルギー消費に焦点を当てる。後期資本主義を非難する人々はそれを企業独占の究極の例と見なす。人種差別を懸念する人々はAIのバイアスについて警告してきた。植民地主義の影響を研究する人々はそれをさらなる搾取の一形態と見なす。そして破滅に向かう傾向のある人々は、ChatGPT、Claude、Gemini、Grokを黙示録の四騎士と見なしてきた。

芸術と文化に携わる人々は、AIによって特に脅威を感じている。なぜなら、この技術は彼らが最も大切にしているもの、すなわち画像、言葉、アイデアの創造的な使用を奪いに来ているように見えるからだ。後者の二つ、言葉とアイデアは、生成AIが言語に基づいていること、そしてアイデアがそれらを表現する言葉と密接に関連していることから、嵐の中心にある。その反応として、作家たちは主に抵抗を選び、人間の真の創造性を機械に対抗して守ってきた。私のソーシャルメディアのフィードは、AIが創造的になれないことを証明しようと躍起になる同僚たちによって生成・拡散された、AIによるゴミで溢れかえっている。これを「クリエイティブ・レジスタンス」と呼ぼう。

世界中で教え、講演してきた経験に基づくと、クリエイティブ・レジスタンスは北米で最も強く、インドではそれほど支配的ではなく、中国や韓国ではさらに弱く、ヨーロッパはその中間にある。昨夏、ソウルでAIと創造性に関するクラスを教えた際、アジアやラテンアメリカからの学生たちがいたが、彼らの唯一の懸念は「これらのツールを効果的に使う方法を教えてください」だった。クリエイティブ・レジスタンスを呼びかけた唯一の人物は、クラスに迷い込んできたアメリカ人の学生だった。インドでも、芸術分野の人々との多くの交流で、より防御的ではなく、より探求的な姿勢が見られた。

これらの逸話的な印象は、より一般的に異なる場所でのAIに対する態度を測定した研究によって裏付けられている。この不均等な分布の理由を推測するのは魅力的だ。映画監督のシェーカル・カプールは、会話の中で、それは既得権益を守る問題だと語った。グローバルサウスの人々は失うものが少なく、したがって新しい技術によりオープンである。そこには、より深い哲学的・文化的態度があるかもしれない。仏教の影響を受けた文化は、人間と非人間との区別への投資が少ない。

どこに存在しようとも、クリエイティブ・レジスタンスは破壊的な技術への反応として理解できるが、最終的にはAIの理解を妨げる。過去3年間、私はAIを実験してきたが、慎重な楽観主義者として終えた。AIはソフトウェアエンジニアにとっては悪いニュースかもしれないが、言語とアイデアに関心のある人々、つまり現在最もそれを拒絶している人々にとっては、興味深い発展だと私は思う。

クリエイティブ・レジスタンスには、AIが機械ができることとできないことについての疑問を提起するという点で一理ある。しかし、それは人間についての同様の疑問も提起する。クリエイティブ・レジスタンスがAIに見出す多くの欠点、すなわち予測可能であること、既存のものを単に再結合するだけであることは、多くの人間にも当てはまる。実際、過去数十年の芸術における多くの作品は、人間の創造性に関する主張に疑問を投げかけてきた。これには、孤高の天才というカルト、芸術を形成する上での制度の役割、ツールやメディアへの依存、そして集合的な創造生産モードが含まれる。AIの脅威に直面した作家や芸術家たちが、それらすべてをいかに早く忘れ、今や人間の創造性という非常に伝統的な見方に避難を求めているのを見るのは奇妙だ。まるで、1950年代にC・P・スノーが描写した、最先端科学と伝統に縛られた芸術・人文科学に分断された世界に戻ったかのようだ。

クリエイティブ・レジスタンスの主な問題は、AIに関する最も興味深い点、すなわちAIが言語に基づいていること、私たちがAIと共有しているものであることを見えなくしてしまうことだ。確かに、機械と人間は言語を異なる方法で学習し、異なる方法で処理し、異なる方法で対話する。しかし、これらの違いは、人間だけが本当に言語を使用し、機械はそれを単に模倣するだけだということを意味するものではない。AIエージェントは言語の驚くほど効果的な使用者であるが、私たちとは異なる強みと弱みを持っている。これを認めることは、AIが意識を持っているとか、定義が難しい概念であるとか、あるいは他の点で人間らしいと言うことにはならない。実際、AIの強みの一つは、私たちとは異なる言語を使用することだ。しかし、ここでのポイントは、言語は人間と機械が出会う地形であるということだ。これを「共有言語モデル」と呼ぼう。これは、人間がそもそもAIと対話できる理由も説明している。

共有言語モデルと共に生きることは、私たちが学ぶ必要があることだ。最近まで、(訓練されたオウムを除いて)すべての話すエージェントは人間であると仮定することは合理的だった。それゆえ、チャットボットに人格を帰属させるという私たちの刷り込まれた習慣と、それに伴う広く報道された結果がある。しかし今、私たちは仲間に別の言語使用者を持つことに慣れる必要がある。

多くの読者は、テキストがAIによって書かれたと知ると、騙されたと感じる。しかし、この態度は続くのだろうか?

AIの影響を理解するには、工学や数学を含む多くの学問が必要となる。しかし、それらには人文科学に関連する二つの理論、すなわち読者反応批評とポスト構造主義も含まれる。どちらも私が知的に育った理論であり、AIという課題に取り組む上で驚くほど役立つことがわかった。

読者反応批評は、1970年代から80年代にかけてドイツとアメリカで、文学は著者(または数人の著者)が異なるメディア(写本巻物、印刷された本)を使用して制作し、仲介者(図書館、書店)を経て読者に伝達され、読者がそれを読むという標準的な見方に異議を唱えることによって発展した。ドイツのヴォルフガング・イーザーやアメリカのスタンリー・フィッシュのような理論家は、「そんなに早くない」と言った。文学は本のページに閉じ込められたものだという仮定は、読者を見落としている。真実において、読者は読む行為を通じて文学を共同で制作する。文学は紙の上の言葉ではない。それは、読者によって読まれている紙の上の言葉なのだ。その最も極端な形態では、テキストがどのように(そして誰によって)書かれたかは問題ではなく、問題はそれがどのように読まれたかだった。読む行為がすべてであり、著者が書いた言葉は読む行為のための単なる口実だった。

読者反応理論の中心は、ドイツのはるか南西の角、スイスとの国境沿いに新設された大学であるコンスタンツ大学だった。私は1980年代後半にそこに留学した。最初の学期に、イーザーのセミナーに迷い込んだ。彼は『読む行為』(1976年)の著者であり、この運動の初期の重要な作品の一つだった。その年のクリスマスに家に帰ったとき、私は家族や友人に、彼らが誇らしげに本棚に飾っているものが文学ではなく、彼らが読み始めたときに初めて生まれるものだという衝撃的な主張を熱弁した。

AIは読者反応理論の完璧な実験だ。テキストを誰が(あるいは何が)生成したかは本当に問題ではないのだろうか?今のところ、その判断は大きく影響するようだ。特にクリエイティブ・レジスタンスは、その違いにすべてを賭けており、多くの読者はテキストがAIによって書かれたと知ると騙されたと感じる。しかし、この態度は続くのだろうか?読者反応理論の核心的な洞察は、この問いをより良い形で表現するのに役立つ。問題は言葉そのものではなく、私たちがそれらをどのように読むかだ。AIにとって、これは、AI生成テキストがどれほど優れているかではなく、読者がそれらを(あるいは全く)異なって読み続けるかどうかという問題になるということだ。

言語は私たちを人間たらしめる魔法のような能力ではなく、私たちを捉え、思考を変えてしまった奇妙な技術である。

AIを理解するのに役立つもう一つの文学理論はポスト構造主義だ。これは私が大学院で紹介された理論であり、読者反応批評から卒業した後だった。それはまた、私がアメリカに来た理由でもあり、ジャック・デリダのもとで学ぶために来た。彼はカリフォルニア大学アーバイン校で定期的に教えていた。デリダのオフィスアワーに勇気を出して行った時のことを覚えている。ファンの長い列を予想していたが、代わりに長い空の廊下の端に一人で座っている彼を見つけた。私は数回戻り、これらの少しぎこちない、不完全な英語でのやり取りを楽しみにしていた(学期が進むにつれてお互いに上達した)。彼は主に、人々がその実質なしに彼の思考スタイルを模倣しているだけではないかという彼の恐れについて話したかった。この心配は私に残り、最終的にポスト構造主義から離れることになった。

しかし今、AIに直面して、ポスト構造主義が重要な何かを正しく捉えていたことに気づいた。すなわち、言語には自然なものは何もないということだ。言語は私たちを人間たらしめる魔法のような能力ではなく、私たちを捉え、思考を変えてしまった奇妙な技術である。

デリダがこの議論を行った方法は、一見すると直感に反していた。書くことは話すことよりも根本的である。この主張は、人間が約10万年前に最初に話す能力を進化させ、その後、はるかに遅れて書かれた記号で話し言葉を捉えることを学んだという歴史的証拠に反していた。デリダがこの物語で気になったのは、言語を自然なもの、書くことを人工的なものとして扱っていたことだ。しかし実際には、すべての言語は人工的であり、思考の道具だった。その点を最もよく示す方法は、話し言葉が書くことの痕跡(デリダにとって重要な言葉)を含んでいることを示すことだった。それは、独自の規則に従って機能する人工的に作られたシステムであるという意味でだ。この人工性は、書くことにおいてはより簡単に見ることができた。それゆえ、彼は、この明らかに人工的な技術である書くことが、話すことについて、そうでなければ見えにくい何かを明らかにしていると主張した。実際、ポスト構造主義はこの理論を真空から生み出したわけではなく、ジャック・ラカンなどの一部のポスト構造主義者は、情報理論の父であるクロード・シャノンやノーバート・ウィーナーのようなAI革命の理論家を実際に読んでいた。

文学理論の他に、作家がAIの規模を測るのに役立つもう一つの情報源がある。それは文化史だ。ピグマリオン神話から、チェコ人作家が「ロボット」という言葉を造語したカレル・チャペックの戯曲『R.U.R.』(1920年)まで、文学は長い間AIについて考えてきた。ここでの最高の文学は、『ターミネーター』のような終末論的な警告に限定されない。しかし、制御不能になることへの懸念は、魔法使いの弟子が制御できない魔法のメカニズムを解き放つという神話に見られる。知的な生き物に関する他の物語は、魔法のランプと空飛ぶ絨毯、幽霊、ジン、妖精、神託、神々に関する物語に見られる。私たち作家や学者は、もしそれらをどう使うかを見つけさえすれば、他の形態の知性について考えるための広大な文化的資源を持っている。

[画像: インクで編集されたテキストと修正が見られる、本の原稿のページの手書きの画像]

「それは11月の憂鬱な夜のことだった…」メアリー・シェリーの1816年の『フランケンシュタイン』の原稿のページに、そのクリーチャーは生命を得る。オックスフォード、ボドリアン図書館提供。

『フランケンシュタイン』(1818年)のような小説を取り上げよう。AIの観点から見ると、メアリー・シェリーが言語の役割と、私たちがトレーニングデータと呼ぶものを人工的なクリーチャーの創造において、いかに深く考えたかがわかる。小説の中で、フランケンシュタイン博士はクリーチャーを完成させる前に放棄する。彼は外見は与えたが、知識や教育は与えなかった。世界に放り出されたクリーチャーは、それらを自分で獲得しなければならない。シェリーは、クリーチャーが数ヶ月かけて人間の家族を密かに観察することによって言語を獲得すると書いている。

『ターミネーター』の文化的影響はトレーニングデータの一部であり、したがってチャットボットの行動を形成している。

しかし、それだけでは不十分だ。クリーチャーは書籍に基づく知識も獲得しなければならない。シェリーは、クリーチャーが読む4冊の本を正確に指定しており、それらがその後の世界への反応、その知性を形作っている。このトレーニングデータは、プルタークの『対比列伝』、ジョン・ミルトンの『失楽園』(1667年)、J・W・ゲーテの『若きウェルテルの悩み』(1774年)、そしてC・F・ヴォルネイの『遺跡』(1791年、文明の歴史に関する作品)である。これらの4つのテキスト、シェリーのスーパーカノンは、クリーチャーに古典的な理想(プルターク)に基づく偉大さの概念、創造とその道徳的課題の劇的な感覚(ミルトン)、内面性と感情の言語(ゲーテ)、そして世界の悲劇的な歴史観(ヴォルネイ)を植え付ける。

深遠な文化史からAIにアプローチすることは、AIの最も不穏な行動の一部を説明するのにも役立つ。私たちのAIは、人間の思考の集合的でデジタル化された遺産に基づいてトレーニングされているため、AIを想像するこの歴史は、実際にはそのトレーニングデータの一部である。人間とAIチャットボットとの間の、まるで『ターミネーター』の一場面のような不気味なやり取りの少なくとも一部は、実際に『ターミネーター』から来ている。サイボーグ暗殺者フランチャイズが未来を正確に予測したからではなく、その文化的影響がトレーニングデータの一部であり、したがってチャットボットの行動を形成しているからだ。世界文学の規範をよく理解している作家は、このような文化的フィードバックループの優れた分析者となるだろう。

トレーニングデータ、すなわち世界文学の偉大な作品からRedditやXのすべてに至るまで、膨大な量の人間が作成したテキストの摂取は、著作権の問題を引き起こす。広く知られているように、AI企業は、プルターク、ミルトン、ゲーテなどのパブリックドメインの本だけでなく、私の作品を含む数多くの保護された書籍の巨大なリポジトリからもモデルをトレーニングしてきた。作家や芸術家たちは、民間企業が自分たちの作品を盗み、それを大幅な割引価格で買い戻そうとすることに憤慨している。この広範な海賊行為の結果として生じた訴訟は、現在裁判所を通過しており、著者側に有利に和解するだろう。しかし、AIは所有権と芸術に関するより厄介な問題も提起する。確かに、創造的なプロデューサーは長年、その技術で生計を立てるために著作権保護に頼ってきた。同時に、彼らは「フェアユース」の原則を通じて、他者が作成した作品を使用する権利に依存してきた。これは、保護された作品を創造的に流用し、変容させることを可能にした。AI企業は海賊行為防止法に違反しただけでなく、「フェアユース」という、芸術家の創造的な自由を保護するために設計された原則を主張している。これは、より直接的な海賊行為よりも、1世紀以上にわたって芸術を支えてきた保護と芸術的自由の間の慎重なバランス行為を脅かすものである。

作家および文化史家として、私は過去3年間AIを実験しており、より多くの作家や芸術家に同様のことを行うよう奨励したい。過去には、創造的な用途のためにコンピューターをプログラミングする技術的に器用な芸術家が何人かいた(私はその一人ではなかった)。しかし今では、私たちの好きなテクノロジーである言葉、言葉、言葉だけを使って、大規模なコーパスやカノンにアクセスし、操作し、カスタムツールを作成するために必要な技術的知識は最小限で済む。

私にとって最もスリリングな経験は、Vibeコーディング(会話型のプロンプトを与えることでソフトウェアを構築すること)だった。シェリーの小説に言語使用とトレーニングデータに関する不気味に先見の明のある指示が含まれていることに気づいた瞬間、私はチャットボットを作成することに着手した。学んだことから、クリーチャーは基本的にRAGベースのチャットボットで実装されることを叫んでいた。RAGベースのチャットボットは、大規模言語モデルに基づいている。小説『フランケンシュタイン』の観点から見ると、LLMはクリーチャーが話し始め、言語をツールとして使用することを学ぶ最初の段階のようなものだ。次に、RAG段階、すなわちクリーチャーがその後の行動を形作る4冊の正確な本を読む段階が来る。RAGプロセスとは、4つのテキストの知識ベースを追加することを意味する。これらのテキストは、検索可能な形式(技術的にはベクトル空間)に変換されると、チャットボットが言語を使用する方法を形作るプライマリフィルターとなる。このプロセスには、いくつかの追加ステップと多くの試行錯誤が必要だった。しかし、最終的にはうまくいった。シェリーの正確な想像力のおかげで、私はフランケンシュタインのクリーチャーを作成したのだ。それ以来、私はそのようなチャットボットを数十個作成した。ある学生が言ったように、「文学のためのジュラシック・パーク」だ。

Vibeコーディングのおかげで、これらの資料がどのように応用できるかを、より具体的に考えられるようになった。

これらの初期の実験に励まされ、私はRAGベースのチャットボットから、これらのチャットボットを実際に動作させるVibeコーディングアプリへと移行した。一つのプロジェクトは、これらの哲学者たちの討論を上演するアプリであり、多くの哲学者や人文科学者が長年夢見てきたことを実現する。すなわち、世界中の最高の知性を集め、彼らに語り合わせることだ。もう一つは、キャリアや人生の選択に関するより実践的なアドバイスを提供する、哲学に基づいたエグゼクティブコーチのようなものだ。

どちらの経験も、私が何十年も教えてきた創造的な資料に対する私の考え方を変えた。Vibeコーディングのおかげで、学生、あるいは実際には誰でも、これらの資料とどのように関わり、どのような目的で関わることができるかを、より具体的に考えられるようになった。つまり、これらの資料がどのように応用できるかだ。Vibeコーディングは私にエンジニアのように考えることを教えてくれた。「ハンマーを持つ人には、すべてが釘のように見える」という古い格言がある。私は、批判のように見えるもの、「すべてが釘ではない」というのは、実際には深い洞察だと常に考えてきた。ハンマーは私たちをハンマーを振るう種に変えた。ハンマーを効果的に振るうためには、私たちは世界をその光、つまり潜在的な釘の山として見る必要があるのだ。

Vibeコーディングでも同様のことが起こっている。私は今、応用という観点から世界を見ている。私の頭の中では、常に新しい考え方が走っている。「この洞察、この哲学を、具体的な実用的なものに変えることはできないか?」と。誰もがこの種の態度を採用する必要があるとは言わないが、AIは、それを実験しようとする作家がそうすることを可能にしたのだ。

リベラルアーツのほとんどすべての教師は、AIを日常的に使用する学生の間で、読解力、作文力、思考力の低下を心配している。そして、特定のタスクでAIを使いすぎることが、学生が重要な認知スキルを習得するのを妨げるという良い証拠があるのは事実だ。これは、K-12および大学教育には、AI以前の時代の教育戦略を含める必要があることを意味する。それらは、AI愛好家である私自身を含む、私たち全員が何十年ものアナログ教育で恩恵を受けてきたものだ。そして、課題と評価は重要なインセンティブ機能を持つため、学生が常にAIをショートカットとして使用できないように構成するのが正しい。それは、授業中の作文課題、口頭試験、その他の技術を意味するかもしれない。重要なのは、学生が重要な認知スキル、例えばメタ認知スキル(学習方法を学ぶこと)であるノート取り、アウトライン作成、リサーチ、改訂などを発達させられるように、常にAIを使用するという誘惑から遠ざけることだ。

同時に、韓国の私のクラスの学生のように、大学が進化するAIツールをどのように使用するかを教えることを要求するのは絶対的に正しい。そして、それらのツールは急速に進化しているため、学生に「メタAI」スキル、すなわちAIの使用方法を考えるアプローチを教えることが必要になるだろう。私自身の過去2年半の使用を観察することで、これがどのようになるかの一端が見えた。それは、AIと効果的に対話する方法を学び、エンジニアのように考える方法を学ぶことを含だろう。また、応用について考えること、洞察がAI(または他の)ツールを通じてどのようにテストされ、適用できるかについても考えることが含まれるだろう。

私自身がそのようなアプローチを実装しようと試みた分野の一つは、過去3年間で開発したオンラインライティングコースだ。私たちの取り組みは、学生にライティングのステップバイステップのプロセスを教えることだった。それには、実行可能なリサーチクエスチョンを尋ねる方法、リサーチを行う方法、議論を構築する方法、証拠を整理する方法、反論や反証拠に基づいてテーゼを改訂する方法、エッセイを構成する方法、フィードバックを得る方法、そして改訂する方法が含まれる。目標は、ライティングを思考のテクニックとして提示することであり、それには一般的な論理的誤謬を回避する能力も含まれる。私たちは、学生がこの煩雑なプロセスを乗り越えなければ、高度な認知スキルを学ぶことはできないと感じていた。ここでは、ライティングは思考のプロセスとして提示されており、AIにアウトソースされるべきではない。

私たちは学生に、AIエージェントを作成してスパーリングパートナーとして機能させ、彼らに思考を研ぎ澄ませる方法を教えている。

卒業後、学生は多くのライティングでAIに頼るようになるかもしれないが、彼らは長いエッセイに何度も改訂を重ねて自分で取り組むことによってのみ得られる認知スキルを発達させる必要がある。さらに、このプロセスにより、学生はAI生成された文章の品質を判断できるようになる。最後に、AIは、大胆に行き、AIが苦手とすることで有名な驚くべきフレーズや珍しい比喩を生み出すといった、スタイルのスキルを強調することを奨励してくれた。AI生成された文章は多くのライティングタスクには十分かもしれないが、AIよりも優れている方法を知っていることには価値がある。

同時に、私たちは、適切に使用されれば、AIがライティングと思考のプロセスを強化できると感じていた。この目的のために、私たちは学生にAIエージェントを作成してスパーリングパートナーとして機能させ、反論や反証拠に反応することで彼らに思考を研ぎ澄ませる方法を教えている。AIはリサーチアシスタントとしても使用でき、さまざまな構造を試すこともできる。最後に、コースをスケーラブルにする必要があるため、私たちは初稿に正確なフィードバックを提供し、改訂プロセスの計画を支援するエージェントを構築した。

このコースを作成して以来、私はAIをこのように使用してきた。私は、私のプロジェクトを知っており、私のアイデアや議論をストレステストするように指示したさまざまなカスタムアシスタントを作成した。もちろん、これは人間を読むことや話すことに取って代わるものではないが、私の思考とライティングプロセスに組み込まれた重要な実践に進化している。

AIは、意図的および非意図的な多くの結果をもたらす強力な技術である。労働市場や教育など、他の分野への影響について懸念する正当な理由がある。このような状況では、私たち言葉遣い屋がAIを正しく理解することが特に重要である。この目的のために、私たちはAIが何であり、どのように対話すべきかを理解するのに役立つ理論的および歴史的なツールを利用できる。それらを使おう。