AIは世界を破壊している

AIは世界を破壊している

*この記事には参考文献は含まれていません。LLMという問題についての個人的な意見を共有したかっただけです。もしあなたが私と一度でもバーに行ったことがあるなら、これらの論点のいくつかは聞いたことがあるかもしれません。

技術的視点

AIとは何か？今日、それは大規模言語モデル（LLM）のマーケティング用語です。過去には、「AI」という言葉は、チェスエンジン、ゲームのNPCの挙動、遺伝的アルゴリズム、検索アルゴリズムなど、さまざまな技術に適用されていました。

古典的な定義によれば、アルゴリズムは決定論的でなければなりません。私がより重要だと信じているのは、アルゴリズムや技術が限定的な適用範囲を持っていることです。これはどんなツールにも当てはまります。

どのようなツールを知っていますか？

• エンジニアリング電卓は、ある程度の精度で数学的な式を計算できます。しかし、Pythonでテレグラムボットを書いてくれと頼んでも、それはできません。もし幼い子供がエンジニアリング電卓を手に取っても、何も計算できないでしょう。

• 壁掛け時計は、ある程度の精度で時間を告げることができます。しかし、私の服装のスタイルを評価してくれと頼んでも、それはできません。デジタル時計しか使ったことのない人が機械式時計を見ても、時間を知る助けにはならないでしょう。

• clangd言語サーバーは、ある程度の精度で私のコード内の関数やメソッド名を提案できます。しかし、「シャルロット」パイの材料リストを書いてくれと頼んでも、それはできません。C/C++でプログラミングしたことのない人にとって、clangd言語サーバーは特に役立つものではないでしょう。

• 聖書に対するN-gram検索は、ある程度の精度で節を見つけることができます。しかし、ガールフレンドのために詩を書いてくれと頼んでも、それはできません。もし人がロシア語でクエリを入力しても、インデックスがギリシャ語で構築されていれば、そのような検索では結果は返ってきません。

私たちの周りを見渡すと、さまざまなツールや技術があります。しばしば、それらは絶対的な精度を保証するわけではありませんが、限定的な適用範囲を持ち、特定のユーザーのスキルを必要とします。LLMはこれらの特性を持っておらず、そのため私はLLMツールをツールとは考えていません。

ほとんどの人は、自分の分野のツールの不足を補うためにLLMを使用していません。ほとんどの人は、自分の思考や意思決定をLLMに外部委託しています。人類は全く新しいものに直面しています。それはタイプライターでも、蒸気機関でも、インターネットでもありません。私はこの現象の爆発的な影響範囲を懸念しており、このブログ記事では、それが私たちの生活の重要な領域にどのように影響するかについての私の評価を提供します。

ビジネス的視点

AIの熱狂は、ChatGPTのリリースとともに数年前に始まりました。今日、企業はAIを製品やプロセスに広く統合しています。これは顧客であるあなたにとって何を意味するのでしょうか？技術進歩を装って、企業はコストを削減し、サービスの質を低下させています。

最近では、AIは人々がかつてうまくやっていた分野で最もよく使われています。AI搭載サポート、AI搭載コールセンター、AIベースのレコメンデーション、AI搭載検索、AI生成製品画像、 blah, blah, blah... 過去には、特定の個人があなたが受けたサービスに責任を持っていました。今日、その人は解雇され、その責任は不明確になりました。その責任感こそが、企業の評判を形作っていました。

リビングルームのために手作りの木製椅子を購入したと想像してください。今、それを販売した会社は、3本足の、悪臭を放つ中国製の大量生産プラスチック椅子を再販し始めました。あなたはもうその会社と取引したくありませんが、他に選択肢はありません。プラスチック椅子が標準となり、すべての家具職人は解雇され、製品の品質に関して競争はもはや存在しません。

私たちのAI主導の新しい世界では、状況はさらに悲惨です。大多数の企業は、オープンソースモデルを独自にトレーニングしたりホストしたりすることさえできないため、あなたの個人データすべてを少数の主要なLLMプロバイダーのサーバーに送信しています。私たちは、誰かのコストを削減するためだけに、競争力のあるサービス、品質に対する個人的な説明責任、そしてプライバシーを犠牲にしています。AIを採用しているサービスを利用する際は、マーケティングのスローガンを盲目的に信じるのではなく、利点と欠点を慎重に比較検討することをお勧めします。

教育的視点

現代のAI搭載教育プラットフォームにはうんざりしています。教育とは、課題に直面し、それを克服するプロセスです。私たちは、それらがもはや私たちにとって課題でなくなるまで、同様の行動を繰り返し行います。これはAIが置き換えようとしている古典的なシステムです。

この記事の読者のほとんどは、学校、大学、または大学で少なくとも一度は不正をしたことがあると思います。なぜあなたはそれをしたのですか？準備する時間がなかったから、自分に自信がなかったから、あるいはその科目が好きではなかったからですか？いずれにせよ、あなたは時間を知識と引き換えにしました。その時間は、より有用なことに費やすことができたはずです。

今日の人工知能愛好家は、若く、影響を受けやすい心に、「ナンセンスジェネレーター」をアドバイザー、教師、そして真実の情報源として提供しています。「挑戦」という要素が完全に排除されており、それは子供が何も学ばないことを意味します。将来、AIは間違いを少なくするでしょうが、それなしでは人間は完全に無力になるでしょう。

過去5年間、私は子供たちに競技プログラミングを教えてきました。私は多くの成功と失敗の物語を目撃してきました。努力が必ずしも望ましい結果につながるとは限りません。時には、才能や運が不可欠です。しかし、私は絶対的な確信を持って言えます。子供がLLMを使い始めると、その進歩は止まります。最も「無害な」シナリオでさえもカウントされます。トピックの説明、コードの完成を手伝う、または解答のヒントを与えるなどです。

私の同僚の教師のほとんどは、この問題に関して私の急進的な立場を共有しています。子供たちは世界を学び、探求することに熱心です。子供の時間は、私たちのように資本家によって半分が制御されている学習とは異なり、学習に費やされるべきであり、そうすることができます。私は、ほとんどの親が非常に若い頃から子供にAIへのアクセスを許可するだろうと真剣に懸念しています。そのような子供たちは運命づけられています。

信頼的視点

このセクションを「権威的視点」と呼ぶことも考えましたが、どちらのタイトルが良いかはまだわかりません。

世界は、人々がお互いに与える影響の度合いが大きく異なるというものです。歴史的に、人の権威は自身の業績や他の人の権威によって検証されてきました。この文脈では、暗号学の「プルーフ・オブ・ワーク」という言葉が好きです。

医者にかかるとき、その医者が数年間勉強し、より経験豊富な医者によって承認されたことを確信したいと思うでしょう。もしあなたが夕食をとり、お金があるなら、未知のカフェのインターンよりも、歴史あるレストランの有名なシェフを好むでしょう。誰かを雇うとき、同僚からの肯定的な推薦を得られることを期待します。

よく考えてみると、それは完全に信頼の問題です。私たちは、周りの人々が本質的に悪ではないと信じていますが、彼らの野心はしばしば能力を超えています。この理由から、私たちは信頼の証明書を必要とします。AIは、確立された認証モデルを破壊しています。

今日、誰でもRust（RIP、Bun）で大規模なオープンソースプロジェクトを再コード化したり、メンテナーがレビューに10時間かかる5050行の完全にひどいプルリクエストを提出したりできます。今、サービスやユーティリティを使用するとき、それが何をしているかを理解している経験豊富な誰かの仕事の結果であると確信できません。

インターネット上の記事の半数以上がAIによって生成されています（幸いなことに、この記事は完全に人間によって書かれました）。これは、あなたが以前に読んだ記事が、検索結果の2ページ目に表示される可能性があることを意味します。自問してみてください。永遠に失われた情報と、見つけることが不可能になった情報との間に違いはありますか？

ITの雇用市場はすでに逼迫しており、卒業論文が最終的な卒業要件であった大学は、急速に採点ポリシーを変更しています。一部のオープンソース組織は、再コード化されたコードの提出を完全に禁止していますが、他の組織は貢献者のホワイトリストを導入しています。人類は、信頼という制度に挑戦する何かに備えていませんでした。

文化論的視点

芸術作品は、その創造者から切り離すことはできません。フョードル・ドストエフスキーは処刑の数分前に恩赦されました。三浦建太郎は何十年も単一の漫画に1日16時間費やしました。イーゴリ・タニコフは政治的な歌詞のために射殺されました。AIは創造者にはなれません。人の苦しみ、過ち、激動、喜び、そして発見、これらが芸術作品に命を吹き込むものです。

子供の頃から、私たちは皆、面白い物語を愛してきました。本、絵画、音楽、映画、ゲームは、実在の人物の物語とつながる機会を与えてくれます。誰かが、自分の蓄積された経験を描く代わりに、数回のプロンプトで「ナンセンスジェネレーター」の出力を提供するとき、その結果はゴミです。

過去10年間、文化産業はすでに厳格な検閲の結果として損害を受けてきました。今や、猿でも月20ドルで、文学テキスト、芸術作品、音楽などのゴミのような模倣品を大量に生成できます。多くの有名な企業や個人がこれを行っているのが見つかっています。なぜ彼らがこれをするのか私には理解できません。それは間違いなくお金のためではありません。

私は予測をする準備ができています。すぐに、AI生成のゴミが人間の創造物と混ざり合うでしょう。そのため、有害なコンテンツを消費することを避ける唯一の方法は、作成日によってフィルタリングすることになります。今日でさえ、NVIDIAは恐るべき画像アップスケーリングアルゴリズムを提供しており、人気のメッセージングアプリはAIを使ってテキストを書き直すことを提案し、スマートフォンのカメラは街灯の写真に月を描くことさえできます。文化は常にその時代の反映でした。私たちは文化のない時代に入りました。

個人的視点

前世紀、SF作家たちはしばしば、ロボットがすべての過酷な肉体労働を引き受け、人間は創造性と個人の成長に集中するという未来を想像しました。残念ながら、彼らは間違っていました。今日、AIはますます多くの知的および創造的な仕事を置き換えています。

私にとって、これは個人的な問題です。私はプログラミングが大好きです。私は他人のコードを読むこと、技術の歴史を研究すること、実験すること、そしてゼロから物事を構築することが大好きです。過去には、この情熱は強力なエンジニアリング文化の特徴と考えられていました。今日、それは役に立たない、オタク的な趣味に変わってしまいました。AIはこの活動の価値を単純に低下させてしまいました。私は人生のかなりの部分をこれに捧げてきました。

私の個人的なプロジェクトでは、開発においてAIを完全に拒否するというアンドリュー・ケリーの方針に従っています。私は人間によって作成されたコンテンツのみを消費したいです。もちろん、人間は常に間違いを犯しますが、お互いの間違いを指摘し、分析することによってのみ、私たちはより大きなものを作成できます。これには時間がかかり、時間はお金がかかります。

AIの採用により、多くの大手テクノロジー企業はジュニア開発者の採用を停止しました。彼らは短期的な利益を追求しており、市場から有資格の専門家がいなくなっていることを気にかけていません。現在の現実においてエンジニアの専門知識を評価する方法を知っている人は、今日ほとんどいません。私が信頼について書いたことを思い出して、これがどこにつながるかを考えてください。

私たちは、クールなオープンソースソリューションを開発・推進する代わりに、すべての企業がAIを使用して独自の製品をベンダー化し始めている時代に入りました。私は、真に革命的な技術の出現をもう目撃することはないと信じています。無知なエンジニアに指示されたLLMエージェントは、一度きりの使用を意図した、再利用された、書き捨てのジャンクを大量生産するでしょう。そして私たちはこのジャンクに囲まれて生きることになります。

結論

AIは単なる新しいツールではありません。AIはいかなる映画のような、全能の超知能でもありません。AIは私たちの世界観に対する挑戦です。私は、それが私たちの生活の根本的な側面をどのように破壊しているかについての私のビジョンを説明しました。私が信じるか信じないかに関わらず、私たちはすでに後戻りできない地点を通過しました。LLMは人間が作成したすべてを何度も処理しました。主要なプロプライエタリモデルに何が起こるとしても、オープンソースの代替手段をホストする準備ができている人々は常にいるでしょう。

今、私たちはただ漂流しており、古い習慣とルールに従い続けています。しかし、これは永遠には続きません。数年後、世界はゆっくりと崩壊し始めるでしょう。私たちができることは、それをただ見守り、失われた未来を嘆くことだけです。