AIは普通の技術ではない

AIは普通のテクノロジーではない

I. AIを普通のテクノロジーだと考える人とそうでない人の間にある、唯一残された根本的な意見の相違は、AIがあらゆる人間ができることを、より良く実行できるという信念です。もしあなたがこれを信じるなら、人間の仕事は何も残らなくなるというのは、ほとんどトートロジー（同語反復）です。そして、もしあなたがこれを信じないなら、人間の仕事は残るというのは、ほとんどトートロジーです。言い換えれば、AIに関する議論は、基本的に、AIが人間の能力の全範囲をカバーするまで能力を獲得し続けることができるかどうか、という点に集約されます。いわば、ギザギザを滑らかにするということです。

これは明白かもしれませんが、AIの議論には他にも多くのことが絡んでくるため、この点について少し時間をかけたいと思います。「AIは意識を持っているのか？」「AIは目標/動機が一致しているのか？」「AIは著作権を侵害しているのか？」といった疑問です。これらはすべて重要な質問かもしれませんが、AIがそれ以前のどのテクノロジーとも異なる、潜在的にユニークなテクノロジーである理由ではありません。

AIが、他のAIを管理することを含め、人間ができるどんなこともできないと信じるべき理由を、私はまだ聞いたことがありません。そのメカニズムさえあります。自動化しようとしていることを実行している様子を記録するために十分な人々を雇い、そのデータを次のトレーニング実行に組み込むだけです。かつては「AIはXができない」というのが帰無仮説であり、証明の負担は本当にAI加速主義者にありました。しかし、その帰無仮説がシフトすべき時点ははるかに過ぎています。物理的な世界さえも安全ではなく、世界の資本はロボット工学に注ぎ込まれており、主要な進歩は常に起こっています。

[

［画像］

](https://substackcdn.com/image/fetch/$s_!di04!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F217c5c85-2c6b-4c4e-b4ba-8cb9e92cd4ad_1194x815.png)

あのロボットは私が今まで見た中で最も不気味なもので、100%あの家族を殺すだろう。

AIの台頭が、工場の自動化がロボット工学やメンテナンス、コンピュータサイエンスの新しい仕事を生み出したように、新しい種類の仕事を生み出すだろうと主張する人もいます。その前提をしばらく考えてみましょう。そのような自動化が、国の町や都市を空洞化させ、トランプを生んだ経済的疎外の重要な要因となったこと、そして新しい仕事は能力（「コーディングを学ぶ」は、誰もが持っているわけではない能力、時間、お金を意味します）と量（古い仕事ほど多くの新しい仕事はなかった）の両方で1対1で移転可能ではなかったことを無視します。

AIは以前のテクノロジーとは異なります。なぜなら、理論的にはどんな新しい仕事もAIによって実行できるからです。

少し帰納法で証明してみましょう。3つの前提から始めます。

1. 仕事がある数だけ存在する。
2. AIが人間よりも良く仕事をするなら、AIがその仕事をするようになる。
3. AIは人間よりもあらゆることを良くできる。

2つの可能性があります。AIが新しい仕事を生み出さない場合、AIがすべての仕事をするようになります。あるいは、AIが新しい仕事を生み出す場合、ステップ1に戻って繰り返します。

[

［画像］

](https://substackcdn.com/image/fetch/$s_!qbCM!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff0b81a5e-3936-4a09-9b12-179681dfbdd2_1318x1131.png)

明らかに、人々は3番目の前提に異議を唱えますが、時間が経つにつれて、AIがすべてをできないという兆候にしがみついている人々はますます必死になっていることに注意してください。強く押しすぎると、答えは必然的に「AIは[夢を見たり、愛したり、笑ったり]できない」といった、人間精神の魂のような質へのほとんど宗教的な訴えになりますが、それは会計チームにとっては関係ないことです。しかし、繰り返しになりますが、この抽象的な意味でさえ、それは単なる能力の問題です。「AIはすべての仕事を奪うことはないだろう。なぜなら、人間ができることの中でAIにはできないことがあるからだ。」そして、あなたは元のトートロジーに戻ります。

AIが普通のテクノロジーではない理由は、それが完全に汎用的だからです。人々はAIを車などと比較します。車を発明すれば、交通手段に革命をもたらすかもしれませんが、バリスタがコーヒーを淹れる方法にすぐに影響を与えるとは限りません。しかし、何でもできる車を発明したら、どうなるでしょう…

[

［画像］

](https://substackcdn.com/image/fetch/$s_!K-fx!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ffdc876c1-17b3-4026-9f83-8ab366524d83_1536x1024.png)

II. AIができないこと、そして決してできないことは、人間であることです。例えば、AIアートは定義上、100%人間が作ったものではありません。常に識別子に対する需要があるため、人間が作った本物のものに対する需要も常にあります。しかし、これは経済のごく一部であり、新婚旅行中にウブドの「本物の」バリ島の店主から手作りの木彫りや手縫いの帽子を買うカップルと大差ありません。そのようなアッパーミドルクラスのキッチュの世界的貿易を、経済的需要として丸めて計算することもできますが、それは全体的な世界経済のごくわずかな誤差にすぎません。

その理由は単純です。「本物らしさ」は必要性ではなく、好みとして購入されるからです。人々が実際に必要とするものは、その由来に関係なく常に購入されます。そして、潜在的な欲求の長いリストの中でも（その中で本物らしさへの欲求は競合しなければなりません）、私の強い感覚では、本物らしさはリストの下位にあります。少なくとも「品質」よりはずっと下です。私は、本物のピザよりも美味しいピザを常に好むでしょう。オリジナルのローマ人がンドゥイヤを乗せなかったとしても、あのピザは美味しいのです。アンソニー・ボーディンでさえ、洗っていないイボイノシシの直腸を食事として楽しむことはできなかったと主張することはできませんでしたが、確かに本物だったでしょう！

[

［画像］

](https://substackcdn.com/image/fetch/$s_!f8P7!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd6f5a8e3-4b2f-42d7-9ec0-9bbd7f2735f5_777x727.png)

何、私が冗談を言っていると思った？

本物らしさは、客観的に需要が多いからでも、客観的に価値があるからでもなく、需要に対して相対的に希少であるためにのみ価値があるのです。1 AIができることは、理論的には無限に安くなる可能性があり、それは価値がないことと同等になります。

これはAIライティングで起こっていることの一部です。著名な受賞者やケニアの作文ライターの執筆スタイルを模倣しています。つまり、かつては希少で人々がお金を払ってでも欲しがったものです。5年前に、誰もがあんな風に書けるようになると言われたら、広告コピーでさえ文学の黄金時代に入ると考えたでしょう。しかし、それが問題なのです。広告コピーは広告コピーのままです。その種の文章がどこにでもあるものになった瞬間、それは安っぽい空虚な思考と同義になり、人々は文字通り脳をオフにするか、AIのゴミを読んでいると知ると暴力的になるのです。

したがって、平均的なSubstackの投稿やツイートにおける、不十分な句読点と悪い大文字使用の増加が見られます。人々は、多くの情報を迅速かつ効率的に伝える必要がある場所2や、執筆が主に雑用/仕事であり趣味ではない場所で、AIを常に使用しています。これはコードで最も明白です。コードは、美学が文字通り欠けているわけではありませんが、エレガントに読めることで価値があるわけではありません。しかし、他の場所でもこの傾向が見られます。著名な科学雑誌に提出された論文の何パーセントがAIによって書かれているでしょうか？法律文書の何パーセントでしょうか？来年、その数字は増えるか減ると思いますか？

AIがあらゆる人間ができることをできると仮定すると、三段論法は自ずと書かれます。物事は希少であれば価値があります。AIができることは希少ではなくなるでしょう。したがって、「人間ができることすべて」の価値はゼロに低下します。

III. 私は、現在、数学界がその分野の工業化に衝撃を受けていることを念頭に置いてこれを書いています。フィールズ賞受賞者で数学の専門家であるテレンス・タオ氏によれば：

ここ数ヶ月で、LLMの数学的能力は劇的に向上し、多くの数学分野における主要な未解決問題を解決できるようになりました。しかし、AI企業がベンチマークとして数学の問題を解決しようとする動きは、数学という科学、そして数学コミュニティにとって有害です。AI企業と数学コミュニティの目標は、深刻にずれています。私たちは、他の科学および創造的な職業、そして社会全体に影響を与える、より広範なアラインメント問題の一部としてこれを見ています。

…

最近数ヶ月で、主要な数学的問題を解決するAIの成功は、数学界の外でも見出しを飾りました。しかし、問題の解決は、概念的な理解と洞察という主要な目標を達成するためのツールと代理にすぎません。AIの世界でこれを忘れると、ツールが主要な目標に対して逆転する可能性があります。実際、「真/偽」ステートメントの大量生産が、新しいアイデアに生命を吹き込むのではなく、肥沃な土壌を破壊する可能性があります。

…

私たちは、AIの使用の結果とその当初の目的との間の不一致により、知的労働に対する一般的な脅威を目撃しています。多くの分野や活動において、長年の訓練は、最終的な答えや製品を生み出すだけでなく、理解を深め、新しい質問やアイデアを形成する能力を養うのに役立ってきました。しかし、AIシステムは、過去の人間の膨大な仕事に基づいて、そのような仕事の結果を直接生成する能力をますます高めており、これらの目標は一致しなくなっています。

（興味深い注：タオ氏は数学におけるAIの使用を大いに支持してきました。彼がここで反対の立場をとっているのを見るのは特に興味深いです。）

私はエンジニアであり、物事を効率化するのが大好きですが、AIに「画期的なことをしろ」とプロンプトを与えるだけで長年の数学的問題を解決することに、本質的に歪んだ何かがあることを認識することさえできます。

[

［画像: 画像］

](https://substackcdn.com/image/fetch/$s_!y2Qo!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F9836ed73-6819-4cd3-a89f-ea82269dac6e_885x399.jpeg)

数学者ではなく、数学者になるつもりもない人々は、これが平均的な人々にもミレニアム問題を解決させるだろうと騒いでいますが、まるでそれがすべてのアプローチのポイントだったかのようです。これは典型的な過学習の例であり、尺度（難しい数学的問題を解決すること）を目標（数学をよりアクセスしやすくすること）と混同しています。民主化を装った破壊です。

しかし同時に、これはオリジナルのラッダイトが感じたことと同じなのではないでしょうか？彼らもまた、職人技の不可解な品質が失われ、それを維持する価値があることを認識していたはずですよね？数学の工業化によって負わされた傷も時間とともに癒え、将来の世代は歴史の授業で肩をすくめ、子供たちが今日のシェインをスクロールして、かつて繊維工場を破壊した人々についての教科書の読書を無視するのと同じように、モデルに「画期的なことをしろ」とプロンプトを出すことに戻るかもしれません。もちろん、歴史の授業のようなものがまだ存在すると仮定すればですが。

IV. この記事のタイトルは、昨年4月に書かれた「AIは普通のテクノロジー」というエッセイに由来しています。それは重要なエッセイであり、重要な目標を持っています。彼らの言葉を借りれば：

私たちは、人工知能（AI）を普通のテクノロジーとして捉えるというビジョンを明確にします。AIを普通と見なすことは、その影響を過小評価することではありません。電力やインターネットのような変革的で汎用的なテクノロジーでさえ、私たちの考え方では「普通」です。しかし、それは、AIを、非常に自律的で潜在的に超知的な実体として、別の種のように扱う傾向を共通して持つ、ユートピア的およびディストピア的なAIの未来のビジョンの両方と対照的です。

…

「普通のテクノロジー」というフレームワークは、テクノロジーと社会の関係に関するものです。それは技術的決定論、特にAI自体がその未来を決定するエージェントであるという考えを拒否します。

多くの人々は、この記事とそれを書いた人々を、AI 2027という、超知的な悪意のリスクに焦点を当てたものへの回答/反対として位置づけました。私の意見では、ボットを制御する能力について懸念しているとしても…

［画像］

奇妙な一週間だった

…私は、ターミネーター・スカイネット・絶滅の範囲外にあるAIのリスクについても、同時に考えることが非常に重要だと思います。これはどちらか一方の問題ではありません。私は両方の結果を懸念しています！

AIは普通のテクノロジーという考え方の主な前提は、AIがすぐにFOOM（急速な知能爆発）しないため、私たち（種として）が介入する時間と能力を持つだろうということです。著者は、AIが無限に新しい能力を獲得し続けることを否定していません。むしろ、AIのツールが能力が増加しても私たちの管理下にあるため、私たちの制度がそれらの能力に対応する時間があると彼らは考えています。

このフレームワークにおける私の問題：AIは複数の軸で異常なテクノロジーです。「AIが独自の意思を持つかもしれない」という話は、それらの軸の1つにすぎません。バレー3の誰も、人間よりも優れたAIツールを持つことが何を意味するのか、それが私たちの世界経済と人間の労働の価値に何をもたらすのかを本当に把握しているとは思えません。著者は、AIがすべての仕事をすぐに引き継がないように政策的な管理を課すことができるかもしれないと示唆しています。しかし、率直に言って、組織や政府がAIを使用するのを防ぐ明確な制御メカニズムはありません。

上記のタオ氏の記事は、AI業界に適用されるアラインメントという言葉を意図的に使用しています。なぜなら、私たちが使用するAIツールだけが唯一のオプティマイザーではないからです。これは私が「万物の最適化理論」でより完全に探求したことです。企業、政府、そして個人も、それぞれ独自のインセンティブを持つオプティマイザーであり、それらはすべてAIの使用に関して「裏切り」を奨励します。倫理的な理由でAIを使用しないと宣言するCEOは、世界のすべての取締役会によって scalp され、他の国が前進し続ける場合、AI産業を弱体化させる提案は世界のすべての政府機関によって却下されるでしょう。グローバルな合意なしにさらなる開発を避ける4がない限り、AIの使用が遅くなるのを私は本当に見ていませんし、ビジネスオーナーの寛大さに頼って、企業でAIを ruthlessly に展開しないことを期待したくありません。

したがって、AIは普通のテクノロジーですが、あらゆることをでき、能力を成長させ続け、最終的にはほとんどのタスクで人間の労働を上回ることができるという例外があります。つまり、これまで見たことのない、まったく異なるテクノロジーなのです。

IV. 1年前、私は最初の「AIに関する瞑想」投稿を書きました。ここで再訪する価値があります。

もしあなたが、フォノグラムが普及する前のクラリネット奏者だったなら、多くの仕事があり、それらはよく稼げました。どんなバー、レストラン、劇場、ダンスホールも、音楽を演奏するためには生演奏のミュージシャンを必要としていました。今では、それは荒野です。ポケットの中のランプからいつでも好きな音楽を頼めるのに、誰もクラリネット奏者を欲しがりません。1900年代初頭のどの時点よりも多くの人々が音楽を作れるようになったと賭けてもいいです。しかし、その分野でキャリアを築く能力は激減しました。参入障壁は下がり、テイストがはるかに重要になり、テイストだけで中流階級の生活に近いものを稼げるほど重要なクラリネット奏者はほんの数人しかいません。確かに、時々エルヴィス・プレスリーのような人が現れるかもしれませんが、それは計画できるものではありません！これはAIがすべての仕事に与える影響の最悪のシナリオですが、100年ではなく2年で起こるため、さらに悪くなるでしょう。

半ば関連する注：以前、AIがグラフィックデザイン分野に与えた影響について話しました。私が言及しなかったことの1つは、「本物の」アーティスト、つまり業界で長年働いてきたシニアクラスのデザイナーは繁栄しているということです。彼らは主にそのテイストで評価されていたため、今ではそれがさらに価値が高まっています。そこには重要なパターンがあります。一般的に、シニアリティとテイストは強く相関しているため、AIはジュニア、フリーランス、エントリーレベルのポジションに不均衡に影響を与えることが予想されます。シニアであるほど、あなたはより保護され、より利益を得るでしょう。

AI擁護派は、自動化された汎用知能の存在が生活の質を劇的に向上させると主張しており、歴史は彼らが正しいことを示唆していると思います（繰り返しますが、それが私たち全員を殺さないという前提で）。しかし、短期的には、かなり重大な労働ショックと賃金格差の増加を予想すべきだと思います。

中長期的にはどうなるか？私の意見では、仕事の性質、すべての仕事の性質は根本的に異なり、予測不可能なほど異なるものになる可能性があります。100年前のミュージシャンは、SpotifyやDAWを予測できたはずがありません。AIの後に何が来るかを誰が予測できると思いますか？

[

［画像］

](https://substackcdn.com/image/fetch/$s_!Eao2!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F39754bf8-1354-41f3-b2c2-8afdd7ea9138_1094x618.png)

[

［画像］

](https://substackcdn.com/image/fetch/$s_!sReZ!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fab1c0388-a2e1-4ebc-80b7-8f4bdf30ce24_1058x661.png)

基本的なスキルが非常に安価でアクセスしやすくなった産業で何が起こるかを知っています。世界的な人間の経済の未来は、ロックスターミュージシャンと、音楽を作って生計を立てられない膨大な人々の海です。伝統的には、それはより多くのアクセスを意味します。今日、より多くの人々が音楽に触れる機会がありますが、彼らは日雇いの仕事が必要です。しかし、それはAIでも機能するのでしょうか？おそらく、あなたは数学を趣味に変え、ソフトウェアエンジニアとして日雇いの仕事を持つことができます。それは、かつてないほど多くの人々が数学ができることを意味するかもしれません。しかし、AIはソフトウェアエンジニアリングもすべて行うので、その次はどうなるのでしょうか？

一番上に戻って、AIが決してできない、今も、20年後も、決してできない、人間特有のことは何でしょうか？私が思いつく最良の答えは「人間であること」です。しかし、それだけではあまり慰めにはなりません。

1

客観的に価値があるものとしては、例えば、食料生産、空調、医療などが考えられます。これらは生物学的な肉袋であることの必要性から、常に何らかの固有の価値を持つでしょう。

2

執筆自体が効率的であるとは言いません。AIライティングはしばしばひどく、専門用語やAI特有の癖に満ちています。しかし、コミュニケーションは2つの部分からなります。何かを伝えるのにかかる時間は、最近まで、まず第一にそのものを書くのにかかる時間によって支配されていました。

3

バレーの外にも多くの人がいます！しかし残念ながら、AIツールにそれほど近くない経済学者は、これらのモデルが何ができるのか、そしてどれだけ速く動いているのかを完全に理解するのが難しいです。

4

可能です。核兵器でそれをやりました。しかし、そこではリスクがより明白でした。

投稿はありません