人工的狂気

「人工知能」という言葉が、現在の生成AIモデルの最先端を指すには不適切だという考えは、確かに理にかなっています。しかし、それは「人工的」という言葉のせいではありません。率直に言って、大規模言語モデル（LLM）をその範疇に含めることは、従来のAIに対する侮辱です。つまり、技術的に言えば、1980年代のビデオゲームの方が、現代のLLMのカーネルよりも多くの論理的な分岐点を含んでおり、読むのがはるかに面白かった可能性が高いです。それは明らかに少し不公平な比較ですが、もちろん、最先端の「AI」と知性の長年の定義との比較も同様に不公平です。 そこで本題に入ります。私たちが「AI」として売りつけられているものを、なぜすべて拒否すべきなのか、そしてそれを売っている人々をなぜ軽蔑すべきなのか、その本当の理由を明確にしたいと思います。これは非常にアメリカ的な視点から書かれます。なぜなら、アメリカの経済的および政治的な力学が、アメリカのAI企業がアメリカ国民にくだらないものを浴びせている理由の中核をなしているからです。 まず、AnthropicやOpenAIのような企業が公の議論で聞きたがらないことを明確にする必要があります。最先端のAIは、依然として高度に拡張された確率的オウムに過ぎません。十分な火力を持つ確率的オウムは恐ろしい生き物になり得ますし、多くの異なる文脈で役立つこともあります。しかし、このオウムは、いかなる真剣な形の意識も模倣することはできず、したがって知的な判断能力を持つことは決してできません。このオウムが操作するデータがどれほど洗練されようと、その選択がいかに拡張されようと、このオウムは常に予測不可能で極めて望ましくないトークン選択を起こしやすいでしょう。実際のオウムを訓練する方が、より良い判断が得られるでしょう。なぜなら、それは人工的なオウムが、光の速度をどうにかして超える方法を見つけない限り、決して操作できないようなデータスペクトル上で動作するからです。 これが、AIが私たちに売られている方法における大きな根本的な問題につながります。それは、実際よりもはるかに多くのものがあるかのように誇張されており、近い将来、人間の「知能」を超える能力を持つものとして、人々や政府に販売されていますが、それは全く知能を持つことができません。確かに、このAIの実装を通じて、基本的な人間の記憶とストレージの限界を超えることは可能ですが、人間の脳、あるいは昆虫の脳の推論能力に近づくという点では、すでに物理的に証明された行き止まりです。「機械の反乱」のようなシナリオの危険性は、この技術には全くありません。そして、それを言わなければならないことを少し残念に思いますが、ジェイコブ・コックスン氏のような人々は、アメリカのAI企業にとって非常に「有用な愚か者」となっています。彼らは間違ったメッセージと間違った危険性をすべて取り込み、その潜在的な危険性に関する偽の物語を広めることによって、意図的かどうかにかかわらず、この技術の認識されている範囲と重要性を誇張しています。 このオウムが人類を危険にさらす唯一の方法は、誰かが「この混沌としたトークン予測器を、その出力が人々を殺すことができるような位置に置こう」と言うことです。人々はそんなことをするほど愚かでしょうか？まあ、はい、もちろんそうです。彼らはそれを大規模に行うほど愚かでしょうか？おそらくそうですが、ここで提示される危険はAIではなく、常にそうであったように、人間によってもたらされるのです。この技術が現在の軌道で提示する危険は、既存の人類が自らに課す危険の単純な加速剤として理解するのが最も良いでしょう。例えば、致死性の新しい病原体を工学的に設計することは、すでに危険です。参入障壁は主に必要なハードウェアにありますが、変異体を迅速に自動生成または分析できることは、危険にほとんど何も加えておらず、単にこの危険な実践に従事している国家レベルの主体を支援するメカニズムに過ぎません。念のため言っておくと、この領域でのハードウェアの入手可能性とスケーラビリティは、そう遠くない将来に私たちの絶滅を間接的に引き起こす可能性が非常に高いですが、現在の軌道上のAIがそれを大きく変える可能性は低いでしょう。 このパラダイムは、現在の世代のAI技術とその軌道がもたらすほぼすべての「種レベル」の危険のカテゴリーに明らかであり、それはせいぜい、種における既存の「不整合」の加速剤です。私たちのグローバルな社会経済秩序は、私たちの種レベルのニーズに適合せず、冷酷で社会病的なエートスを受け入れており、それはそう遠くない将来に、世界の人口の大部分が恐ろしく、早すぎる死を遂げることをほぼ確実に引き起こすでしょう。AIはそれとは全く関係ありません。ただ少しスピードアップを助けているだけです。AIはまた、権威主義的な政権が、ナチス・ドイツでさえ夢見たことのないような様々な形態のファシズムを課すのを助けており、それはアメリカのメディアで語られるどんなことよりも、私たちの集団的な生活の質にとって、はるかに差し迫った危険をもたらします。 では、気候変動による破壊へと私たちを駆り立てている多くの同じ社会病質者が、なぜ突然AIがもたらす「危険」についてあれほど懸念し、開発を遅らせて規制を求める警告を発するという信認義務に反しているかのように行動しているのでしょうか？もちろん、その理由は完全に自己中心的です。彼らの過去の言説から、ほとんど排他的にそれを判断できるはずです！彼らはこの「種への脅威」という物語と、「私たちの赤ちゃん、そして西側文明全体の利益のために、中国に先んじなければならない」（これは非常に皮肉です。後で説明します）という物語を組み合わせて、認識されているすべての成果（特に高度に宣伝され、高度に歪められた数学的な「勝利」）を最大限に活用しています。それらの背後にある理由を理解するためには、これらの物語が互いに直接関連していることを理解することが重要です。 まず、これらの企業が人類史上最大の窃盗を成し遂げたことを認識する必要があります。彼らは、ライセンスや所有権をほとんど、あるいは全く尊重せずに、デジタル化できるあらゆるものを手に入れました（すでに十分な規模のエンティティによって強制されている場合を除く）。そして、後で政府が彼らの犯罪から救ってくれるほど重要になるだろうという仮定のもとに行われました。彼らは、革命的な技術を開発したという物語に完全に依存しています。 十分に拡張されたオウムは本当に革命的でしょうか？ある意味では、ある産業では、まあまあです。それは間違いなく、今後数十年間で多くの仕事をより煩わしく、満足度の低いものにするでしょう。その経済的利益は、経済的コストを相殺するでしょうか？議論の余地があります。特に、将来の世代の労働力に対する（まだ実現していないが予測可能な）結果を考慮に入れると。実際、これらの企業の現在の財務モデルは、企業が規制当局の買収に成功しない限り、持続可能でさえある可能性は低いです。 これがもう一つの重要な点につながります。AIの公的な重要性を誇張しようとする必死の試みのもう一つの理由は、規制当局の買収です。これらの企業は、できるだけ多くの例外を自分たちのために作り出し、素早くはしごを引き上げたいのです。彼らは大量の窃盗を行えますが、他の誰もできません！また、これらの企業が、オープンウェイトモデルを裏で葬り去ろうとしたり、妨害しようとしたりすると予想しています。もしそれがすでに起こっていないのであれば。ここで作用している力学のいくつかは、私がしばらく前に概説したソフトウェアエンジニアリングとオープンソースの背後にある力学と非常に似ており、実際、AIは、そのエコシステムにおける既存の多くの害を加速させています。オープンであることは、社会病的なエンティティ（例：企業）にとって、労働者自身から利益を得るよりも、関連する労働の価値を下げることでより多く利益を得る限りにおいてのみ良い考えです。 対照的に、これらの企業が蒸留（distillation）の慣行について社内でパニックになっているのを見るのは滑稽です。ああ、彼らは私たちから盗んでいる、私たちが皆から盗んだ後で！その理由から、これらの企業は、そのパニックをどのように公表するかについて非常に注意を払っています。なぜなら、彼らは自分たちの反対意見に内在する皮肉を非常によく認識しているからです。