AI・機械学習
言葉は意識の副産物。LLMにとっては逆
Words Are a Byproduct of Consciousness. For LLMs, It's Backwards (ranpara.net)
要約
この記事では、人間が思考や意識を先に持ち、それを表現する手段として言葉を使うのに対し、LLM(大規模言語モデル)は言葉を基盤としており、意味はその副産物であるという違いを考察しています。過去の技術革新を振り返りながら、LLMがもたらす変化、特に誰もがビルダーになれる時代において「一貫性」と「ノイズ」の重要性を強調しています。また、LLMの進化によるコンテンツの質の低下や、エンジニアリングとコーディングの違いについても言及しています。
全文翻訳
一秒立ち止まって、簡単な質問を自分に問いかけてみてください。あなたの言葉はどこから来るのでしょうか?
あなたが話すとき、アイデアと言葉、どちらが先に来ますか?まず心の中に思考を感じて、その後にそれを包み込む適切な言葉を探しますか?私たちは皆そうだと思います。言葉が始まりであることは決してありません。言葉はただの皮に過ぎません。アイデア、意識こそがその下に座っているものです。
LLMについても同じ質問をしてみてください。LLMにとっては、全く逆です。そして、この小さな違いが、私たちがどこへ向かっているのかについて、ほとんどすべてを説明していると思います。(これを覚えておいてください、後で役に立ちます。)
私たちは今、転換点に立っています。歴史はこのような点で満ちており、その一つ一つが人類を前進させてきました。
ずっと昔、ホモ・サピエンスは話し、考えることを学びました。本当の魔法は音そのものではありませんでした。法律、正義、哲学といった抽象的なアイデアを頭の中に保持できるようになったことです。それが私たちを他のあらゆる動物から際立たせました。異なる人間のグループは同じアイデアに対して異なる音を作り出し、私たちはこれらの音を言語と呼びます。
そして私たちは書くことを学びました。次にインク、紙、そして印刷機が登場しました。突然、近接性は問題ではなくなりました。インドの人が書いたものをヨーロッパの人が読むことができ、その知識は人間が移動することなく伝わりました。魔法のように感じませんでしたか?
しかし、私たちはまだロジスティクスのような現実世界の問題を抱えていました。ある場所から別の場所へ物を移動させることは困難でした。それでも、新聞、本、芸術は人間の脳に情報を供給し続け、アイデアは生まれ続けました。その時代、アイデアは金でした。実行は非常に困難でしたが、良いアイデアは少なくとも進むべき方向を与えてくれました。
次にコンピューターが登場しました。計算ができる機械で、再び魔法のように感じられました。しかし、それは遅く、騒がしく、エアコンの効いた部屋に鎮座し、数百万ドルを消費してほとんど何も返してくれませんでした。これに心当たりはありませんか?その考えを頭に入れておいてください。
次に人々は情報を共有するためにコンピューターを接続し、インターネットが生まれました。今や情報はほぼ瞬時に移動できるようになりました。WWWが登場し、次にソーシャルメディア。ある時点で誰かが簡単な質問をしました。なぜ大企業だけがこれらすべてを享受すべきなのか?なぜ私たちのような一般の人々はダメなのか?そして私たちはパーソナルコンピューターを手に入れました。(スティーブ・ジョブズに感謝します。)
その後、カメラ付きの携帯電話が登場し、私たちは話す、聞く、見ることができるようになりました。音声、画像、ビデオ、すべてが一緒になりました。そして静かに、バックグラウンドでは、私たちはデータの巨大な山を築き、コンピューターはますます電力効率が良くなっていきました。
2017年に早送り。GoogleのあるチームがTransformerと呼ばれるものを作り、それが世界を変えました。私たちはLLMを手に入れました。
では、LLMとは一体何なのでしょうか?その核心は、コンピューターが考え出した数学を使って次の単語を予測する、大量の単語の山です。
私の最初の質問に戻ってください。LLMは、それ以前のすべての単語に基づいて次の単語を予測します。それがすべてです。その下にアイデアはありません。言葉がすべてです。LLMにとって、言葉が源であり、どんな意味も偶然に生じる副産物に過ぎません。
しかし、あなたの脳は逆の働きをします。まず概念、感情、イメージがあり、それからそれを説明する言葉が出てきます。(少なくとも、これが私の脳が働いていると感じる方法です。)私たちにとって、言葉は意識の副産物です。LLMにとっては、完全に逆です。そしてこれが私が繰り返し立ち戻る部分です。その方向性は再現できないと思います。
人々はLLMは高価で電力消費が大きいと言います。それは事実です。しかし、初期のコンピューターを思い出してください。それらも全く同じで、およそ3世紀の間にポケットに入るほど小さくなりました。LLMも効率的になるでしょう。違いは、今回は75年もかからないということです。人類のあらゆる知識が、今や小さなチャットボックスの中に収まっています。私たちには、想像できる数人の賢い人間が必要なだけです。
そしてこれが大きな変化です。LLMの登場により、誰もがビルダーになりました。正直なところ、まだアプリになっていないアイデアなど残っているでしょうか?以前は、アイデアは道を示し、実行が困難な壁だったため、強力でした。今日では誰もが情報を持ち、誰もが実行もできます。では、実際に何が残されているのでしょうか?それは2つのことに帰着します。一貫性とノイズです。そうです、ノイズです。
今日のインターネットは完全に情報であふれています。良いものを見つけること、あるいは本当のマーケティングを行うことはほとんど不可能です。だから私は、これから勝利を収めるのは、マーケティングにおいて創造的であり、そしてより重要なことに、一貫性のある人々だと信じています。最も賢い人ではありません。最も一貫性のある人です。
これは仕事についても考えさせられます。ソフトウェアエンジニアは安全でしょうか?私はイエスだと思います。(開発者については、正直言って確信が持てません。)なぜなら、エンジニアリングは考えることであり、コーディングは書くことだけだからです。今やLLMが至る所にあり、誰でも何でもコードを書くことができます。しかし、誰もがエンジニアのように考えることはできません。そして正直に言うと、コーディングは決して難しい部分ではありませんでした。Googleマップのアルゴリズムについて考えてみてください。それは、数十億の交差点とライブトラフィックを同時に計算しながら、ニューヨークからサンフランシスコへの経路をほぼ100%の精度で数秒で提供します!コードは簡単な部分です。そのような思考こそが本当のことなのです。
しかし、一つだけ少し恐れていることがあります。もしLLMが徐々に悪化したらどうなるでしょうか?考えてみてください。2017年以前に書かれたものはすべて人間が作成したものです。2017年以降、LLMはオープンウェブを自身のコンテンツで埋め尽くし始めました。そして今、その同じコンテンツが次のLLMをトレーニングするために再利用されています。LLMは完璧な文法と豊かな語彙を提供できますが、本当の文脈を静かに失う可能性があります。今のところ、AIコンテンツの割合は小さいです。しかし、それが増え続けたらどうなるでしょうか?
それでも、私は悲観的ではありません。AIは全く新しい思考方法を開拓しており、それに伴い、私にはまだ予測できない新しい機会が生まれています。実際、私は幸運だと感じています。Windows 98、Nokia 3315、iPhone、インターネット、MシリーズのMacBook、そして今やChatGPTを、すべて一生のうちに見てきました。
だから私は興奮しています。これからの数年間で人間がどのように考えるか、本当に見たいです。
あなたもそうですか?