HN 日本語サマリー

← 一覧へ戻る
プログラミング

AIは悪いツールである

AI Is a Bad Tool (bytecode.news)

64 pointsby shtgnwrng76 コメント

要約

この記事は、AIがソフトウェア開発において悪いツールであると主張しています。その主な理由は、AIが不透明であり、検証や保守が困難なコードを生成するためです。AIはデータを抽出するのには役立ちますが、コード生成に使うと時間の無駄になり、既存のソフトウェアスタックにおける適切な抽象化の欠如を露呈させます。著者は、AIが賢くなりすぎるからではなく、多くのソフトウェアの仕事が現在関わっている抽象化されていない作業の無益さをAIが浮き彫りにするため、関連性を失うという恐怖は現実だと述べています。

全文翻訳

User Submission: AIは悪いツールである

編集者注: ByteCode.Newsの友人であるHideki Idoru氏がこの記事を投稿しました。すべての論点に同意できるわけではありませんが、多くの価値があります。最近、業界で広く観察されているAIの失敗モードを見つけることは難しくありません。


AIは悪いツールである。

少なくとも、AIはソフトウェアにとって悪いツールである。

まず、良い面から始めましょう。AIはデータ抽出器として認識すれば有用です。以前は、検索エンジンに何かを入力し、最も有望に見える結果をクリックし、ページをスキャンして探している情報を見つけ、それを理解できる方法で処理する必要がありました。AIは、もしそれが優秀で真実であれば、これらのステップをあなたのために凝縮してくれます。実際、今日の検索エンジンは、結果の一番上にAIスニペットを挿入することでこのギャップを埋めようとしていますが、没入感のある部分は、さらに情報をフォローアップして洗練できるあなたの能力です。

これは手動で行うには長い時間がかかりましたが、機械にやってもらう方がずっと簡単です。だから、すべてが悪いわけではありません。

しかし、それはほぼ終わりです。AIをそれ以外のことに使用する場合、特にコード生成に使用する場合は、時間の無駄です。

なぜそうなるのかを説明する前に、AIそのものについての議論から一歩引いて話す必要があります。それはしばしば、必要以上に感情的になりがちです。反対派の多くは、生計を失い、本質的に無関係になることへの恐怖に駆られています。感情は役に立たないと思いますが、それらは人間の条件について興味深い洞察を提供します。なぜなら、これから示すように、その恐怖は現実だからです(ただし、理由は異なります)。

言い換えれば、あなたは無関係になるでしょう。そして、それは機械があなたよりも賢くなりすぎるからではありません。それは、あなたがゴミコードを生成し、機械はそれよりも少しだけうまくできるからです。

AIが悪いツールである理由は、一般的に言って、それが完全に不透明であることです。よく聞かれる標準的な質問は、「AIに構築させたアプリは誰が保守するのか?」というものです。AIの列車に完全に乗り込んでいるなら、あなたはこう言うでしょう。「機械だ」。もし機械がそれを構築したなら、当然保守もできるはずです。それは間違いではありません。

本当の質問は、AIが構築したものが良いものか真実かを確認できるのは誰か、ということです。最近、AIがソフトウェアのセキュリティ上の欠陥を発見したという主張が多くありますが、それは証拠のない主張です。そのため、非機械による検証が必要であり、おそらく、検証プロセスは、問題を最初に見つけるのに必要な労力と同じか、それ以上の労力を必要とするでしょう。

同じ論理が、AIに構築させたアプリにも当てはまります。それが意図したとおりに機能していることを誰が検証するのでしょうか?それは機能しているように見えるかもしれませんが、悪名高いことに、* Schein(見かけ)とSein*(実質)は同じではありません。そして、既存の実装のテストを書くとき、AIは仕様の観点から盲目的にテストを書くのではなく、実装に合わせるようにテストを偏らせることで悪名高いです。それは問題を解決するのではなく、解決したように見せかけるだけです。

AIが完全に不明瞭であるということは、「AIエンジニアリング」や「プロンプトエンジニアリング」が、かつてのSEOと同じように完全な詐欺であることを意味します。ブラックボックスの機械を巧妙な方法で操作できるという主張はすべて、偽です。相関関係を確立する方法がなく、機械がどのように機能するかについてあなたが想像するかもしれないどんなパターンも不安定です。要するに、あなたはソースコードにアクセスできず、たとえアクセスできたとしても、それを理解するのに十分な精神的処理能力はおそらく持っておらず、たとえ持っていたとしても、AIはあなたが導き出すことができるどんなパターンも意図的に真実であるには速すぎる速度で動きます。あなたは本質的に愚かなわけではありません。機械は非常に賢い人々によって構築されたのであり、彼らは自分たちでさえ完全に理解していない可能性が高いです。

したがって、AIはあなたが中を見ることができないツールです。「信頼してくれ、兄弟」という機械的な実現形態です。その場合、それが無関係になり取り残されるという、根深い人間の恐怖を露呈したときに、なぜそれほど露骨なのでしょうか?なぜあなたはそれにそれほど反発するのですか?

今日、AIにやらせるどんなプログラミングタスクも、あなたの仕事の抽象化が不十分であることに起因します。AIにシンボル名を変更させる場合、それはあなたのLSPが処理すべきことです。AIにプロジェクトの足場を構築させる場合、その足場はおそらくあなたのフレームワークが担当すべきものです。AIに生成させるコードの各行は、抽象化を減らし、繰り返しを増やす可能性が高いです。AIが行うことはすべて、あなたのスタックにおける適切な抽象化の欠如を明らかにすることです。そして、あなたにとっての問題は、もしコードが適切に抽象化されていたら、あなたは仕事をしていないかもしれませんが、現状では、機械は抽象化されていないコードを生成する上であなたよりも優れているということです。

言い換えれば、AIが些細なコードしか生成しないのであれば、それは些細な方法で抽象化可能であるはずです。もしそれが非些細なコードを生成するなら(それはしませんが)、その入力に基づいてそれがどのようにそれを達成したかという疑問が生じますが、その不透明さと、おそらく理解できない非些細なものを自分で確認する必要があるという事実のために、それでも何も得られないでしょう。それは、非問題を解決するか、非問題を作り出すかのどちらかです。

ここでの大きなポイントは、AIが登場するずっと前から、ソフトウェアにおけるほとんどの仕事は無用だったということです。AIは単にその仮面を剥がしただけであり、それが人々を狂わせているのです。

では、これからどうすればよいのでしょうか?AIによって加速され、誰も何もすることがなくなる死の墓場となるソフトウェアの世界、AIがすべての無用で抽象化されていない仕事を行い、ごく少数の天才だけが天空の上で操作するという状況の結果にどう対処すればよいのでしょうか?

残念ながら、これに対する良い答えはありません。おそらく人々は、AIという幽霊とその偽りの約束を追いかけるのではなく、情熱に従うことに戻る必要があるでしょう。おそらく、あなたが構築したものに情熱を注ぎ、それを完全に理解し、完全に所有し、そしてそれを適切に抽象化して、AIの脅威の餌食にならないようにすることが、唯一の道でしょう。