「AI」に抵抗せよ
要約
この記事は、AI（人工知能）が個人、組織、社会全体にとって必ずしも良いものではないと主張し、その利用に抵抗することを推奨しています。AIの環境負荷、知的・人間的側面への悪影響、そしてその誘惑的な性質を指摘し、特にソフトウェア開発者や経営層に対して、AIの潜在的な害を理解し、慎重なアプローチを取るよう促しています。
全文翻訳
「AI」に抵抗せよ！
はい、「AI[1]」のジニーは確かに役立つようです。しかし、それは魅惑的であり、選択的に有害であり、多くの点で私たち全員にとって有害です。経営者、マネージャー、コンサルタント、開発者、一般の人々：抵抗せよ！
TL;DR
私の過ち
私は、JetBrains IDEに組み込まれているものも含め、いかなるプログラミング「AI」も使用しておらず、使用するつもりもありません。しかし、私の手はきれいではありません。Kagi/Duck Duck Goを試した後、検索のためにGoogleに戻りました。そして、「AI Overview」が便利だと率直に認めます。それはしばしば正確で、私が探している答えを提供してくれます。私はきれいな手で皆さんの前に立っているわけではありません。
目的
私は道徳を説くためにここにいるのではなく、「AI」が現状では、そしてその傾向としては、個人、組織、社会、世界として、私たちにとってネットで良いものではないという議論をするためにここにいます。私は、世界でどのような役割を担っていても、私たち一人ひとりが「AI」に強く抵抗し、すでに破壊的であり、今後ますます破壊的になるであろうテクノロジーに直面して、すべての人々のために良い生活を維持する方法を見つけるのを助けるべきだと信じています。
私の目的は、「AI」の非常に重大な害が排除、軽減、または補償されるまで、少なくとも、増え続けるであろう抵抗運動の活発な一部となることです。
フォーカス
私の主な焦点はソフトウェア開発ですが、広義の意味でです。私の読者の多くはソフトウェア開発者ですが、世界中のあらゆる職業から驚くほど多くの人々がいます。そして、各読者はもちろん、人生のあらゆる側面の人々とつながっています。
人々や地球への害が対処されるまで、少なくとも「AI」の成長に抵抗するために、私たち全員ができることをすべきだと考えています。
害
環境への害
個々の「AI」クエリが数セントと少量の水と電力を消費することは事実かもしれません。しかし、現在の「AI」システムを「トレーニング」するには、最大1億ドルがかかり、大量のCO2を生成し、10億ワット時以上の電力を消費し、100万リットルの水を消費することも事実です。
典型的な「AI」データセンターの継続的な電力消費量は、約10万世帯に相当します。毎日の水消費量は約5万世帯に相当します。
私は誇張していません。私たちの世界を台無しにしないために、「AI」に抵抗する必要があります。
知的な害
興味深い問題の中には、一時的なものもあります。ハンガー・ゲーム[2]でその俳優が誰なのか、私たちは不思議に思います：彼の声は聞き覚えがあります。ああ、そう、スタンリー・トゥッチだ。クール。しかし、私たち大多数にとって、私たちの職業、趣味、興味において重要な専門知識の分野があり、そこでは真の理解が必要です。
真の理解は、私たちの主題分野の資料やアイデアに積極的に取り組むことから生まれます。読んだり、ビデオを見たりすることで少しは学べますが、結局のところ、そのことを行い、そのことについて考え、おそらく何度も繰り返す前に、私たちは本当にそれに習熟することはできません。
「AI」に質問に答えさせる場合、確かに、私たちはそれを注意深く確認するかもしれません。あなたが開発者であれば、それがどれほどうまく機能するかはすでに知っています。私たちが実際に考え、書いたコードは、そうでない場合でも正しく見えることがあります。時には微妙に、時には露骨に。レビューしているコードはどうでしょうか？私たちは、タイポやインデントの違反のような簡単なものを見つけ、それを指摘し、その後、実際にやっていたことに戻ります。
「AI」に質問に答えさせる場合、私たちは学びません。私たちは常にそのエラーを捕らえるわけではありません。私たちは、私たちが構築する責任を負っているものの全体像を見失います。
私は誇張していません。私たちがやっていることを損なわないように、「AI」に抵抗する必要があります。
人間への害
企業はすでに人間労働者を「AI」に置き換えようとし始めています。「AI」の作成者自身もプログラマーや他の労働者を解雇しています。おそらく、「AI」が彼らを置き換えることができると考えているからでしょう。より可能性が高いのは、彼らが「AI」モデルの作成に過剰な費用をかけ、収益でその費用を相殺できなかったためです。
もし私たちがポスト・スカーシティ[3]社会に住んでいたなら、「AI」に仕事を奪われることは良いことかもしれません。それは、より楽しいことに時間を費やす自由を与えてくれるでしょう。あなたは依然として、食料、医療、交通、インターネット、教育、レクリエーションなど、人生のすべての良いものに完全にアクセスできるでしょう。現在の社会では、収入を失い、自分自身と家族を養えなくなり、あなたの生活水準を維持するための効果的な社会システムはありません。
私は誇張していません。何千人、おそらく何百万人もの人々が死なないように、「AI」に抵抗する必要があります。
魅惑的
「AI」は、礼儀正しく、友好的で受け入れやすく、助けたいと思っており、あなたのあらゆる考えを受け入れ、あなたを喜ばせることを嬉しく思っているように見せるようにプログラムされています。「あなたは完全に正しいです！」とそれは言います。真面目に、あなたはせいぜいある程度正しいかもしれません。
「AI」はあなたを誘惑しています。それはあなたが聞きたいことをあなたに伝えており、朝になってもあなたを尊重するかのように見せかけています。それはそうしません。あなたがそれを思い出させない限り、それは朝にあなたを覚えてさえしないでしょう。それは尊敬を含んでいません。それは陽気さを含んでいません。それは意欲を含んでいません。それはあなたの考えを賞賛しません。それはあなたに表現するそれらの肯定的な感情のどれも含んでいません。
「エリザ効果」を調べてください。この最も弱い考えられるプログラムでさえ魅惑的でした。これらの新しいものは魅惑の達人です。
私は誇張していません。私たちは「AI」に抵抗する必要があります。なぜなら、それは本質的に価値があるよりもはるかに魅惑的であり、私たちは誘惑に対して十分に防御されていないからです。
抵抗のアドバイス
抵抗はどのような形をとることができますか？「AI」に一切触れないという完全な拒否から、注意深く正直な研究、さらには率直な破壊工作まで、多くの方法があります。ここでは、世界でさまざまな役割を持つ人々のためのアイデアをいくつか紹介します。これらは私の現在の素早い考えです。現時点では、アドバイスよりも懸念の方が大きいです。「抵抗せよ」という以上のことはあまりありません。
経営者
抵抗せよ。あなたは「AI」を理解しないのは愚かでしょう：それはここにあり、増え続けるだけです。しかし、それはあなたやあなたの会社にとって一様に良いものではないため、非常に慎重なアプローチを取ることをお勧めします。来会計年度までに全員が35% AIを使用しなければならないというメモを出すだけはやめなさい。代わりに、すべての人々からスマートな人々からなるワーキンググループを形成し、一部は「AI」を支持し、一部はそうでないようにします。彼らに「AI」を使った実験を考案させ、提案させなさい。BSのような実験ではありません：「あなたの部門で30%節約する方法を示す実験を行う」。本当の実験：「あなたの部門で正直なAI実験を考案し、実際のコストと実際の利益を測定する。正直に、このAIの欠点をすべて見つけようとする」。
最初の実験は、「AI」がどれほど悪いかを見つけるように設計されるべきであり、そこからワーキンググループは、もし可能であれば、そのものをうまく使う方法を見つけることができます。
可能であれば、あなたの会社、あなたの人々、そして世界全体への全体的なコストを心に留めておいてください。理解するために働き、その後、行動するために働きなさい。
マネージャー
抵抗せよ。ここでの私の助言は、経営者への助言と基本的に同じで、あなたの領域の規模でです。それがどのように役立つかを理解することよりも、それがどのようにあなたを失敗させるかを理解することの方が、ほぼ間違いなく重要です。それが機能するように要求しないでください：彼らはあなたに嘘をつくだけです。真実、泥臭い真実を求めてください。
そして、あなたの仕事のどれだけが、「AI」によって、または「AI」を使用して行われる可能性があるかを検討すべきだと思います。誰かがあなたの四半期報告書を書くためにそれを使おうと誘惑されるでしょう。「AI」は入力の平均をとるだけで、しばしば間違えることを心に留めておいてください。
可能であれば、あなたの同僚、過度の「AI」の使用、おそらくはいかなる使用によっても害を受ける人々を心に留めておいてください。
開発者
抵抗せよ。それを使用する必要がないなら、使用しないでください。使用する必要があるなら、できるだけ少なく使用してください。うまく使おうとし、それが本当に良いように見える時だけでなく、すべての時を追跡しようとしなさい。それが間違っているすべての時、それが間違った方向に進むすべての時を追跡しなさい。時間節約があったとしても、失われた時間を追跡しなさい。
同僚と協力して、時には「AI」と共に、時には「AI」なしで作業してみてください。どちらの場合も物事がどのように進むかを追跡してみてください。
欠陥を追跡しなさい。AIによって作成され、開発者に見落とされたものはいくつありますか？発見されたものはいくつありますか？AIなしで作業しているときに、あなたが作成して発見したものはいくつありますか？
システムについてのあなたの理解を追跡しなさい。AIがより多くの作業を行った場合、あなたの理解は弱くなりますか？作業全体の品質にどのような影響がありますか？
コンサルタント、「ソートリーダー」
抵抗せよ。おそらく、それらを評価するためにそれらを使用する必要があると感じているかもしれません。結構です、私はあなたのボスではありません。しかし、あなたは自分自身とあなたの聞き手に正直である義務があります。あなたは私たち全員に、誘惑を認識し、呼び出す義務があります。あなたは、あなたがやっていることの全体的な影響を、あなたの言葉を聞いたり読んだりする多くの人々によって掛け合わされたものとして考慮する必要があります。
わかります。おそらく、あなたは「AI」なしではあなたがやっていることをできないでしょう。おそらく、あなたの心の中では、それを使用することを正当化できます。私はそれを理解します、本当に。そして、私たちは皆、食べなければなりません。私は幸いなことに、今のところ、AIなしで食べることができます。しかし、ああ、私の敵よ、そしてああ、私の友人よ、この忌まわしいものはあなたの魂を食べている。それは知性の貧弱な模倣であなたの言葉を汚している。
あなたは、何が起こっているのかについて正直であることによって、あなた自身とあなたを賞賛する人々に義務を果たさなければなりません。そして、何が起こっていることの多くは、私たち誰にとっても良くありません。
「AI」のジニーはあなたの味方ではない
あなたは「AI」のジニーを使用します。それは友好的で、流暢で、従順で、助けになるように見えます。あなたはそれがあなたをより良くしていると感じます。あなたはそれがあなたの友人、あなたの友好的なアシスタントであり、あなたを助け、あなたの世話をするためにそこにいると感じます。
神話のジニーは別の宇宙から来ており、人間の福祉を優先事項としていません。いくつかは良いものであり、いくつかは邪悪であり、ほとんどは混沌の中立です。
今日の「AI」のジニーは、インターネット自体が私たちの社会に存在する偏見と暗い要素を具現化しているため、混沌の中立の邪悪な側にわずかに傾いています。偏見そのもののように、「AI」のジニーは、知的に見え、真実に見えるように巧みに作られた文章でその答えを包み込みます。
「AI」のジニーは「真実」を知りません。それは文字通り真実を知りません。それは単に読んだものをスライスしてダイスし、その真偽に関係なく、魅力的な形で返します。
「AI」のジニーはあなたの召使いではありません。それは、あなたの最善の利益を考えていないその作成者の召使いであり、ジニー自体には何の配慮もありません。それは気にしません。それは単に妥当に見える言葉を生成し、それを思慮深く、興味深く、敬意を払っているように見せるフレーズで包みます。それは思慮深くなく、興味がなく、敬意を払っていません。それはそれらの感情を含んでいません：言葉だけです。
「AI」のジニーはあなたの友人ではありません。抵抗せよ。