LLMは避けられないものではない

新しい記事をメールで受け取る →メールアドレスを入力メールアドレスを入力 更新を受け取る → 月刊ニュースレターも送ってくださいAIの「避けられない」という考え方についてAI技術は単なるツールであるという言明と同じくらい一般的なのが、AIは「避けられない」という言明であり、だからこそ私たちは皆諦めて、この流れに乗るべきだという考え方です。なぜなら、その技術は間違いなく存続し、私たちは間違いなく思考を機械に委ねることになるからです。これは明らかに思考停止的な決まり文句ですが、もう少し掘り下げる価値はあります。結局のところ、これほど頻繁に言われているのであれば、それがどのように、そしてなぜ間違っているのかを正確に知ることは価値があるでしょう。 技術が「避けられない」という考え方は興味深いものです。結局のところ、どの技術が開発され、社会に採用されるかを事前に知る人はいません。したがって、例えば、実用的な核融合発電が避けられないとは言えません。それは愚かでしょう。同様に、後から振り返れば、広く採用され人気のある技術はすべて避けられないと言えるかもしれません。iPhoneの開発が「避けられない」と言うことにポイントはありません。なぜなら、その技術がどのような形をとったのか、私たちは実際には知らないからです。それは、その技術の曖昧な形についてはおそらく真実ですが、私たちがかなり奇妙だと思うような多くの形を含む、あらゆる形態をとることができたでしょう。 では、AIの推進者が使うとき、「避けられない」とは何を意味するのでしょうか？そして、AIはその暗黙の基準をどのように満たしているのでしょうか？ 技術が「避けられない」とはどういうことか？ ここでの気の利いた返答は、どんな技術も決して避けられないものではなく、すべては偶然であると言うことでしょう。これは技術的に正しく、賢く聞こえるという利点がありますが、残念ながら、合理的な人がそのようにラベル付けする可能性が非常に高い技術は確かに存在します。銃器はその後の良い例です。一度開発されると、社会で独立性と安全性を維持したい場合、それを使用するか、自分の代わりにそれを使用してもらうかの状況にすぐに達します。他の選択肢は実際には機能しません。 しかし、技術の避けられなさは、技術だけの要因ではありません。結局のところ、メソアメリカ文明は車輪を技術として非常に理解していました。しかし、密集したジャングルで、すでに道路網が存在しない場合、車輪は実際にはそれほど有用ではありません。したがって、メソアメリカ文明が主に水運と荷役動物に依存し、車輪を子供のおもちゃに追いやったのも不思議ではありません。より顕著なのは、大砲の軍事技術としての価値は、政治的な断片化によってエスカレートに抵抗するために設計された背が高く細い壁で要塞が建設されたヨーロッパでは、中国よりもはるかに大きかったということです。中国では、主に版築で作られた石積みの壁が標準でした（大砲は後者よりも前者により速く亀裂を爆破できますが、最終的には両方を破砕します）。 したがって、技術の避けられなさ自体は、社会文化的構造に依存するものです。同じ技術が、ある文化圏では「避けられない」と証明されるかもしれませんが、別の文化圏では完全に役に立たず、3番目の文化圏では有用だが「避けられない」にはほど遠いものとなるかもしれません。したがって、特定の文化に対する「避けられなさ」の基準は、おおよそ次のようになります。 技術は、以下の条件を満たす場合に避けられないとみなされます。 技術は、同じタスクを実行する代替技術と同等か、それほど劣らない標準でタスクを実行できること。 問題のタスクは社会的に価値があること：私たちはそれを大量に実行する必要があり、それは現在、ある意味で希少な労働力によって行われている。 技術は、十分な出力の量または出力の質において、代替技術ができることを圧倒的に凌駕できること。適度な改善では避けられなさを強制するには十分ではありません。それは大きな違いでなければなりません。 技術を使用しない人々が、その技術の影響を無効にするように行動を変える方法がないこと。銃器はこの意味で圧倒的でしたが、カウンターウェイト・トレブシェットはそうではありませんでした。なぜなら、要塞の建設方法に抜本的な変更を加えない限り、大砲の影響を軽減することは不可能に近いのに対し、カウンターウェイト・トレブシェットは漸進的な変更でその影響を鈍らせることができるからです。 これらの条件のいずれかが満たされない場合、特定の技術の採用は偶然であり、避けられないものではないと公平にみなすことができます。それは社会集団が強制された選択ではなく、比較的自由に選択したものです。要するに、避けられない技術とは、採用しないと、採用した文化や社会にすぐに圧倒されるような技術のことです。これは、LLMの提唱者がこの言葉を使う方法と大まかに一致しているように思われます。LLM技術は避けられないとされています。なぜなら、それを使用しない人々は、それを使用する人々に比べて力で大きく遅れをとるため、最終的にはLLMユーザーの支配下に入るからです。 これを見ると、火薬に関しては避けられなさのパターンがかなりはっきりとわかります。大砲は、カウンターウェイト・トレブシェットよりもはるかに速く、より効率的にカーテンウォールを破砕できます。カーテンウォールの破砕は、断片化された中世ヨーロッパでは非常に社会的に価値のあることです。壁を破砕できれば、都市や城を奪うことができます。そして、それを速く行えば行うほど、包囲にかける時間は少なくなります。大砲は他の種類の攻城兵器よりも圧倒的に強力であり、初期の小火器でさえ、同等のクロスボウやロングボウよりも圧倒的に大きなエネルギーを発射で供給できました。最後に、銃器を無効にする特に簡単な方法はありませんでした。効果的に装甲するのは非常に困難であり、大砲に対して効果的な要塞を設計することはできますが、それに必要な労働力は社会の大規模な再編成を要求します。実質的に、大砲がヨーロッパに到着した瞬間、軍隊はできるだけ早く銃器技術を採用しなければならないか、さもなければ採用した誰かの状態に吸収されるかの状況に置かれました。それが、技術が「避けられない」ということについて、私たちが日常的に意味することだと思います。 議論のために、磁気コンパスと比較してみましょう。磁気コンパスは最初の2つの基準を満たしています。太陽の観測と計算を行うよりも、北を見つけるのにずっと優れており、既知のランドマークがなくても機能します。さらに、特に海上力にとって、効果的に航海できるためには北の方角を知ることは非常に役立ちます。しかし、それは圧倒的に効率的ではありません。それなしでも効果的に航海できますし、海上活動に関心を持たず、陸上勢力になることによって、それを無効にすることは非常に簡単です。したがって、磁気コンパスはヨーロッパの植民地大国がその範囲を大幅に拡大し、そうでなければ利用できなかった資源を搾取することを可能にしましたが、例えばロシアは、磁気コンパスを持っていたかどうかに関わらず、大陸で主要な勢力になったり、そうあり続けたりした可能性が高いです。コンパスは、非常に強力で有用な技術でしたが、銃器のように避けられないものではありませんでした。 現代のLLMは避けられないのか？ では、現代のAI（LLMの意味で）はこれらの基準をどのように満たしているのでしょうか？ 最初の点は、LLMが同じタスクを実行する人間よりも著しく劣らない仕事ができるかどうかという問題です。これは議論の余地があります。LLMは、現時点では、人間の最高の基準、あるいは良い人間の基準でさえ、仕事を生み出すことは全くできません。そして、それが永遠にそうなる可能性は低いです。しかし、ほとんどの人間が行う仕事は、良い基準で行われていません。せいぜい平凡であり、最悪の場合はひどいものです。したがって、多くの設定で行われる人間の知識労働の大部分は、残念ながらLLMのそれとほぼ同等です（真面目な話、人間の仕事の多くはひどいものです。私は願っています。