HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

言葉で話すから

Because It Speaks in Words (brianschrader.com)

8 pointsby sonicrocketman1 コメント

要約

この記事は、私たちが情報を理解し、世界を解釈する上で言葉と物語がいかに重要であるかを探っています。大規模言語モデル(LLM)がなぜ私たちの意識に急速に浸透したのか、それは単に技術的な進歩だけでなく、人間が言葉を信じ、共感する本能的な欲求に訴えかけるからだと論じています。AIが真実や道徳の概念を持たないにもかかわらず、言葉によって私たちを魅了し、物語を共有する私たちの根深い生物学的ニーズを乗っ取っている現状について考察しています。

全文翻訳

言葉で語るから

何かを知っていることと、それを真に理解していることの間には違いがあります。私たちは皆、長い間学んだ真実が初めて心に響く、そんな瞬間を経験したことがあると思います。それは私たちの心に宿り、広がり、隠されたニュアンスの広大な広がりをFinally見せつけます。

[画像: mine.]

ほとんどの夜、空に並んだ月、木星、金星を見かけるとき、それらは三日月のかたわらの点として目に映ります。しかし時折、銀色の雲の切れ端の上にある夕焼け空を背景にすると、それらを違ったふうに見ます。その瞬間、自分自身、曽祖父母、ユリウス・カエサル、そしてアリストテレスが皆、同じ空を見ていたことに気づきます。それは常に私たちのためにありました。私たちは今日、木星と金星について多くのことを知っていますが、人間の目はいまあなたが見ている以上のものを見たことはありません。

私たちは皆、この時代に、言葉の真の力と、それが話す者ではなく、聞く者にとって何を意味するのかをFinally実感しているのだと思います。

物語の力

ユージン・ウィグナーが自然科学における数学の不合理な有効性について有名に書いたように、高度な数学が自然の振る舞いを予測する上で不気味なほど正確であるという経験的事実があります。それは私にとって、数学こそが自然が話す真の言語であるかのように思えるほどです。

しかし、子供の頃、私たちは複雑な数学、この自然の根源的な言語を生まれながらに理解して成長するわけではありません。代わりに、私たちは皆、自分自身、他者、そして私たちの周りの世界についての物語を聞き、語りたいという生来の欲求を持って生まれます。私たちのよく知られた認知バイアスは、そうでないものよりも韻を踏む物語を受け入れさせ、話している相手を信じるように私たちを駆り立てます。最後の点は、特にこの時代において重要です。なぜなら、信じられるべき言葉があまりにもたくさん存在するからです。

物語は、私たちが情報を共有する方法であり、何千年もの間、互いに警告し、追放し、賞賛してきた方法です。私たちは、自分たちが成功した(あるいはしなかった)理由や、他者がそうである(あるいはそうでない)かもしれない理由について、自分自身や他者に物語を語ります。私たちは病気に道徳性を与えます。それは、混沌とした世界の純粋なランダム性よりも道徳的な物語の方が耐えやすいからかもしれません。私たちの心は、パターンを見つけることによって世界を理解しようと働きます。それらのパターンが織り交ぜられ、まとまりのある物語になると、どこで、なぜそうなったのかを説明する物語が現れます。これらの物語は、私たちの世界理解にとって非常に重要であるため、私たちはそれに固執し、それを自分自身の一部とします。そして、それらが壊れると、自己も壊れる可能性があります。結局のところ、私たちが世界について持っているすべて、そして私たちが直接知っている唯一の真実は、私たちが自分自身に語る物語なのです。

私たちは、身振り、行動、そして最も重要な言葉で、それらの物語を自分自身や他者とコミュニケーションします。それが、言葉を人間の社会における最も強力な力にしているのかもしれません。それらは私たちの世界を維持する基本的な相互作用です。過去の言葉は、何らかの正当化や権威として私たちが求めるものです。有名人や賢人の言葉を称賛したり拒絶したりします。現代世界の宝石である数学でさえ、言葉で伝えられ、教えられます。物語的な心を持つ私たちにとって、これらの思考の原子はすべてです。

[画像: Ulysses and the Sirens. John William Waterhouse via Wikimedia Commons]

偽情報や誤情報は過去にも蔓延していましたが、これほど混沌とした、これほど多くの叫び声を上げる声に満ちた世界はかつてありませんでした。古代ギリシャ人はサイレンとその恐ろしくも魅惑的な歌について警告しましたが、今日、サイレンは私たちの耳に、そして目に、毎日毎瞬鳴り響いています。

しかし今日、私たちは新しいもの、私たちのコミュニケーションにおけるステップ関数も手に入れました。この時代、私たち人間だけが話しているわけではありません。これは、私たちが言葉遣いの完璧な見本であるとか、他の種が私たちと同じことができないということではありません。しかし、私たちが選んで作り出した対話相手は、私たちのような心ではないからです。それは、真実も道徳も知らないデバイスです。それはオウムであり、私たちの言葉を模倣しますが、それを理解しません。それは学習せず、学習することもできません。それでも私たちは、その真実に関わらず、それが私たちに伝えることを学び、そして学ぶでしょう。

心なき言葉

サポートベクターマシン(SVM)は、長い間存在している機械学習アルゴリズムの一種です。ランダムフォレストも別のものです。どちらも、ノイズの多いデータの中から信号を探し出すのに非常に優れています。SVMとランダムフォレストは、大規模集団における疾患発生率の特定や、複雑な疾患の遺伝的原因を特定する新しい方法を見つけるのに役立ちます。このような技術は、10年前に学術界や産業界で広まっていました。Appleがレコメンデーションシステムの簡単なモデルを構築するためのドラッグ&ドロップアプリをリリースしたのを覚えています!この種のものは長い間存在していました。

しかし、それが本当なら、なぜ大規模言語モデル(LLM)がメインストリームの意識に浸透するのに時間がかかったのでしょうか?人々は何年も機械学習を人工知能と再ブランド化するという考えを主張してきましたが、最近ではLLMはAIと同義語になっていますが、他の技術はそうではありません。確かに、現代のLLMは技術的に印象的ですが、それが理由でしょうか?それとも理由は技術とは全く異なるのでしょうか?おそらく私たちはLLMを知的と呼び、おそらく私たちはそれらを狂乱的な急ぎで採用し、そしておそらく私たちはそれらを、それらが特に優れた機械学習アルゴリズムであるからではなく、Finally、それらがベクトルや数字ではなく、言葉で語り、言葉は私たちの領域だから、最も恐れているのです。

[画像: Ulysses and the Sirens. John William Waterhouse via Wikimedia Commons]

私が上でリストアップした認知バイアスを思い出します。私たちは、話している相手を信じる傾向があるということです。他のどの機械学習技術も、他のどのAIも、私たちに話しかけ、他の心のように聞こえたことはありませんでした。テクノロジーが新しい形のコミュニケーション(本、パンフレット、手紙、メール、インスタントメッセンジャー、テキストメッセージ)を可能にするあらゆる機会に、私たちは常にそれらのツールを使って自分たちに似た他者を探し、新しい物語を共有し、聞きました。それらの物語は、たとえそれが一つの解釈であっても、世界に関するあるレベルの真実と大まかに相関していました。今、私たちは本物らしく聞こえるように統計的に構築された言語を持っていますが、その話し手には伝えるべき心も経験もありません。それでも、私たちは言葉の力ほど深く信じているため、多くの人が現実よりも、もっともらしく聞こえるこの作り話を好んでいます。

物足りなさ

LLMは、ソーシャルメディアとは異なり、私たちを中央、つまり統計的平均値に押しやる可能性があるという証拠があります。もしLLMが永遠に人間が生成したデータのみでトレーニングされることが保証されているなら、おそらくこれは真実でしょう。しかし、人間同士のコミュニケーションと、新しいAIチャットボットが書いた言葉の両方で、私たちが目にする言葉から客観的な意味をさらに乖離させていくにつれて、この状況は長くは安定しないでしょう。

結局のところ、重要なのは、デジタルテキストを生成するツールを構築したことではありません。重要なのは、加工食品や砂糖のように、物語を共有し聞きたいという私たちの長年の生物学的な欲求が、テクノロジーによって乗っ取られ、利用されているということです。それにどのような価値を割り当てるかはあなた次第です。道徳は私のポイントではありません。人間は何千年もの間、星空を見上げて、なぜ私たちは生き、死ぬのか、この宇宙は私たちのために作られたのか、そして私たちはその中に属しているのかを不思議に思ってきました。それらの疑問は残っています。今、私たちはちょうど私たちが聞きたいことを正確に教えてくれる声に頼る能力を持っています。私たちは、安価なキャンディー、保存可能なカップケーキ、ソーダでカロリーのニーズを満たしました。これらは便利なもので、適度なら良いですが、それでも私たちを傷つける可能性があり、それらが作り出した問題を解決するのに苦労しています。今日、私たちは感情的なニーズも満たしているのかもしれません。甘く心地よい真実を囁く、陰謀を企む宮廷の宰相のように機能しています。しかし、ステレオタイプとは異なり、この宰相は陰謀を企みません。心も目標もなく、ただ喜ばせることだけを目的としていますが、私たちは喜ばされたいと強く願っています。

[画像: The Uncanny Valley Masahiro Mori and Karl MacDorman]

このニーズは私たちに深く根ざしており、満たすことは不可能でしょう。それは人間性の条件の一部です。おそらく、時間が経てば、この新しい種類の統計駆動型言語は、不気味の谷の容赦ない井戸の底に深く入り込むことになるでしょう。見てみましょう。サイレンが一時的に説得力があったことは間違いありません。ガソリンスタンドのペストリーが良いしっかりした食事の代わりにならないように、予測エンジンの言葉は空虚で気まぐれなものにすぎず、耳には愛らしいかもしれませんが、魂を満足させるものではありません。

何千年もの間、言葉は他者の心とのつながりの代理でしたが、今日、そのつながりは断ち切られましたが、私たちの中のその必要性は残っています。そして、空虚なカロリーで虚無を満たすことができる期間には限りがあります。私たちは、自分自身の物語を語ることができ、学習し真実を共有できると言われる宇宙で唯一の存在としての地位を維持しています。知識の泉は、今も昔も私たちから始まり、真実を見つける旅は孤独なものです。私たちは、遠い岸から多くの騒々しく誘惑的な声が私たちを呼んでいるとしても、世界の荒れ狂う海の中に投げ込まれています。