HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

私たちはAIを一切使用しません

We never use AI. For anything (corkmac.app)

55 pointsby frizlab57 コメント

要約

この記事は、AIを依存性を生み出し、環境を破壊し、監視ツールとなりうる詐欺だと強く批判しています。AIの不確実性、幻覚(ハルシネーション)の傾向、そして真の知性の欠如を指摘し、LLMを「高度な自動修正」に例えています。また、AIインフラが国家監視に転用される可能性についても言及しています。

全文翻訳

私たちはAIを一切使用しません。AIはあなたをそれに依存させるように設計されています。私たちはまだ、この詐欺の「グレイビートレイン」の段階にいます。AIは、あなた、つまり人間、あなた、つまり労働者を、決して休まず、不平を言わず、指示されたことは何でも行う完璧な機械奴隷に置き換えるという偽りの約束に騙された億万長者や巨大企業によって、莫大な補助金を受けています。しかし、投資家がリターンを要求し始め、無料のお金が尽き、AIモデルを実行する真のコストが明らかになり、ハイプトレインに乗っていた人々がAIの真の限界を悟ったとき、何が起こるのでしょうか?それに依存するようになった人々は、大金を支払わざるを得なくなります。そして、AIの強欲な大富豪たちのすでに法外な富はさらに増大するでしょう。しかし、私たちはそうではありません。私たちは独立性と長期的な計画を重視します。したがって、「AIの未来」という偽りの前提を拒否します。 AIは知的ではありません。そして、ハルシネーションは機能です。自己プロンプトから、互いに話し合って合意に至る複数のエージェントまで、AIのハルシネーションを修正するために数え切れないほどの資源が費やされてきました。しかし、ハルシネーションは、AI、あるいはより具体的には大規模言語モデル(LLM)の動作方法に固有のものであり、決して修正されることはありません。LLMは、高度な自動修正にすぎません。スマートフォンのキーボードと異なる点は、そのメモリのサイズであり、過去の膨大な単語データベースに基づいて、次に可能性のある単語を予測するために使用できます。しかし、それだけです。予測です。AIは、自分が書いていることを知ったり理解したりしていません。同じAIに同じプロンプトを与えて、2つの全く異なる回答を得られるのを見てください。推測はできても、決して知ることはできません。これを修正するには、LLMの動作方法を完全に再構築する必要があります。 AIは歴史上最も成功した詐欺師です。「AIに自分が知っていることについて尋ねると、完全に間違っている。しかし、知らないことについて尋ねると、素晴らしい答えをくれる」というのは、数週間前にRedditで見た投稿の言い換えです。上記に加えて、企業の幹部はAIを愛しています。なぜなら、AIは非常に得意なことが一つあるからです。それは、あたかも自分が何について話しているかを知っているかのようにあなたに思わせること、そして説明責任を巧みに回避することです。ちょうど先週、遊び半分で最新の開発状況を把握するために、主要なAIの一つであるClaudeに、検索ボタンに簡単な機能を追加するように依頼しました。要件はシンプルでした。ユーザーがすぐに検索を開始できるように、表示されたときにフィールドを自動的にフォーカスすることです。最初は、私が望んでいたものと全く同じように見え、実際に正しく動作しているようにさえ見えました…最初は。コードをより詳しく調べると、何もしていないように見えるコードの巨大な塊が見つかりました。変数が自分自身に再割り当てされ、デリゲートやコーディネーターが作成されても決して使用されず、互いに参照し合う無意味な双方向バインディング、10個の変数のうち1つを初期化してから静かに失敗する便利なイニシャライザ。ただ面白半分に、Claudeが作り出した無駄なコードをすべて削除し、次のように尋ねました。「このコードがなくても、機能は期待通りに動作します。この無駄なコードの目的は何ですか?」そして得られた答えは、全く驚くべきものではありませんでした。「おっしゃる通りです!そのコードは必要ありませんが、もし削除すると、(AIが作り出した、元の仕様には全くなかった機能)が動作しなくなります。」AIは嘘をつくのが得意です。それだけです。 AIは環境を破壊し、人々の生活を台無しにしています。植物、動物、さまざまな生き物でいっぱいの美しい森を想像してください。機能する生態系です。それをすべて焼き払いなさい。木を伐採し、草を単色のアスファルトで覆いなさい。そして、生命に満ちた環境の代わりに、天候を乱し、冷却のために最も清浄な水だけを消費し、誰も実際に読まないページを生み出すために信じられないほどの量の電力を消費するデータセンターを建設しなさい。このカフカ的複合施設の周りに住む人々は、かろうじて聞こえる騒音に永遠に苦しむでしょう。彼らが生きるために必要な水は、データセンターが代わりにそれを得る間に、汚れと錆で茶色と黒になるでしょう。彼らはシャワーを浴びたり、蛇口から水を出したりすることができなくなるでしょう。なぜなら、必要な圧力は、無駄な施設に何百万リットルもの水を送り込むために使われるからです。これは、近年、あらゆる技術の最も悲惨で倒錯した使用法です。 AIは暴君的な警察国家につながるでしょう。必然的にその詐欺が暴かれたとき、何が起こるのでしょうか?それらのデータセンターは別の目的を果たし始めるでしょう。世界中で、政府は、あなたの会話を聞くのに十分な感度を持つマイクを備えている疑わしい「ナンバープレートリーダー」、そして想像を絶する他の監視デバイスの大規模なカメラネットワークを組み立てています。AIの未来をもたらすという名目で構築されたその計算能力の多くは、あなたをスパイし、あなたのあらゆる動きを追跡し、あなたのすべての通話を傍受するために使用され始めるでしょう。このインフラの多くはすでに確立されています。PRISM MARINA OAKSTAR STORMBREW Dishfire Main Core Dropmire Stateroom Five Eyes ECHELON そして、私たちが知っている、そして知らない、さらに多くのものがあります。それらのデータセンターがアイドル状態になったとき、計算能力が無駄なスロップの信じられないほどの量を生成するために使用されなくなったとき、それはすでに存在するプログラムを強化するために使用されるでしょう。 誰もAIが何であるかさえ知りません。AIは、生成的で、再現不可能な予測不可能な出力を生成する傾向のあるあらゆるシステムに対するキャッチオール用語になっています。「AI画像」とか、「AIテキスト」とか。それがスロップを生成するなら、それはAIです。人々がそう思うのも不思議ではありません。多くのAIツールは、多くの無関係な技術をバンドルし、それらを単一の「AI」製品として販売しています。しかし、その裏側を覗いてみると、次のことがわかります。テキストジェネレーター?それらは実際にはLLM、つまり高度な自動修正にすぎません。画像ジェネレーター?それらはランダムなノイズを取り、周囲のピクセルをグループ化して画像を再作成しようとする拡散モデルです。画像分類器?それらは過去20年間ほとんど変化しておらず、現在の「AI」の概念とは何の関係もない技術です。光学文字認識は何十年も前から存在し、当時と同じくらい、そして今でも同じように機能します。そして、それらのどれも推論したり考えたりすることはできません。そして、決してできないでしょう。知的なのは、創造的なのは、実際の思考ができるのは、人間だけです。このユニークな贈り物を無駄にすることはできません。