HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIは単なるツールであり、その使われ方だけが重要だと言うのをやめよう

Stop saying that AI is just a tool and it only matters how it is used (frank.computer)

63 pointsby cratermoon40 コメント

要約

著者は、「AIは単なるツールであり、その使われ方だけが重要だ」という一般的なフレーズに疑問を呈しています。このフレーズは、AIの複雑な影響(環境、法律、政策、人間性への影響)を無視し、問題解決を個人の使い方に矮小化しすぎると批判しています。AIは単に「使われる」だけでなく、その設計、普及、廃棄物、経済・環境への損害、そして人間性への影響といった側面も考慮されるべきであり、ツールは中立ではなく、私たちのあり方を形作るものであると論じています。

全文翻訳

AIは単なる道具であり、どう使うかが重要だという言説をやめよう

[2026年アップデート]

この記事は、過去10ヶ月間にわたり私のブログに多くのトラフィックをもたらし、オンライン・オフラインで活発な議論を呼びました。「AIは単なる道具」といった検索クエリでは、常に検索結果の上位に表示されています。この記事にたどり着いた方々へ、私の考えを改めて記しておきます。私は「道具作り」(私の博士論文のテーマです)について基調講演を行いました。ぜひこの記事を読み、その後、私の講演の最初の10分程度をご覧ください。導入部分で、この記事で議論しているアイデアの一部を具体的に解説しています。このブログ記事と講演は、互いを補完し合います。

また、最近では、現代の生成AIがプロトタイピングにどのように影響を与え、プロトタイピングが本来あるべき姿を脅かしているかという、非常に似た問題についてさらに執筆しました。もしこの記事の後にさらに読み進めたい場合は、生成AIとプロトタイピングに関する記事もご覧ください。

元の記事開始:

私は「AIは単なる道具であり、どう使うかが重要だ」という、あまりにも頻繁に耳にするありきたりなフレーズについて、常に考えてきました。これは、もはや自分自身で研究を行わない技術愛好家の学者、同意なしに人々の犯罪的な描写の生成画像をよだれを垂らして眺めるテックブロ、そしてAIには実際には関心がなく、自分たちのためにさらにお金を稼ぐ機会としか見ていないビジネス志向の人々のスローガンとなっています。

このフレーズは、 deceptively simple(見かけは単純だが欺瞞的)で、deceptively misleading(見かけは誤解を招くが欺瞞的)です。はい、AIは道具です。そして、道具をどのように使うかを選ぶことは重要です。

しかし、このフレーズの根幹にある論理は、侮辱的なくらいナイーブです。ほとんどの物事には当てはまりません。「車は単なる道具であり、どう運転するかが重要だ」と言います。まあ…石油とガスは気候を破壊し、シートベルトは運転がうまいかどうかにかかわらず命を救います。そして、車の発明以来、アメリカの都市設計は全く歩行者にも住人にも優しくないものになってしまいました。

したがって、道具には、私たちがそれを使う方法以上のものがたくさんあります。そして、このフレーズが受賞歴のある、非常に成功したHCI研究者によって使われているのを見てきたので、一部の人々は単に自分たちに反対する人々を黙らせたいだけなのではないかと不思議に思わずにはいられません。これらの学者は、自分たちの倫理観が問われることを恐れているのでしょうか?それとも、AIの利点をあまりにも強く信じているため、欠点には全く関心がないのでしょうか?なぜ一部の人々が「AIは単なる道具」という幼稚なマントラにこれほど熱狂的に固執するのかは分かりませんが、知っておくべき人がそれを使うのを見るたびに、私は尊敬の念を失います。

私たちの分野では、何十年にもわたって「すべての人工物は政治性を持つ」ことについて議論してきたのではないでしょうか?道具は私たちの環境、法律、政策、そして人間であることの意味に計り知れない影響を与えます。「AIは単なる道具だ」と信じることは、良くてもナイーブであり、最悪の場合は軽視することです。なぜなら、道具には「単に」何であるかということ以上のものが全て存在するからです。それらは、生活と文化の非常に複雑な一部なのです。

フレーズの最後の部分、「どう使うかが重要だ」もまた、deceptively misleading(見かけは誤解を招くが欺瞞的)で、過度に単純化されています。本当ですか?現代の技術エコシステムとインフラストラクチャに関わる倫理の全てが、単一の個人が何かを使う適切な方法を選ぶかにかかっているのですか?個人の行動だけではすべての問題を解決できません。一部の倫理的な問題はシステム的であり、単一の個人がテクノロジーをうまく使う方法を選ぶ以上のものが必要です。

人々がそのようなことを言う理由は、それがすぐに解決策主義(solutionism)を招くからです。「どう使うかが重要だ」というのは、知的な半分のジェスチャーです。そのフレーズを聞いた聴衆は、賢明にも同意するでしょう。「ああ、もちろん、私の知恵で物事をうまく使う方法を知っている。そして、それはそれだけだということだ!」それは人々を愚かにし、自分が魔法使いだと思わせます。「どう使うかが重要だ」は、それゆえ、明白で単純な、解決可能な問題空間となります:まあ、一部の人々は単に知らないだけだ。「ハンマーの振り方を教えるだけで、ハンマーは倫理的に良いものになる!」ナンセンスです。

木と鉄で作られたハンマーでさえ、木を伐採し、地球を採掘する必要があります。単純なハンマーでさえ、複数の産業における労働者の公正な扱い、様々な生物的・地質的環境の持続可能性、そしてハンマーの販売と使用に関する規制についての法律が必要です。「どう使うかが重要だ」という言葉は、人工知能に関しては、AIがどのように作られるか、どのように普及するか、AIが生み出す廃棄物、AIが経済や環境に与える損害、そしてAIが人間の生活や文化に与える全体的な影響といった現実を無視しています。

「どう使うかが重要だ」というのは、自分が他の人々や他の生物で満ちた社会に住んでおり、皆が公平さ、尊厳、そして生存のために絶えず戦っている実体からなるシステムに参加しているという現実をまだ認識していない、未熟で自己中心的で若い子供が言うような言葉です。

私は「AIは単なる道具であり、どう使うかが重要だ」というフレーズを憎んでいます。

道具と「存在」について

そして道具は、その設計によって私たちを使います。これはハイデガーのゲシュテル(「枠づけ」)です。テクノロジーはその設計と使用によって私たち自身を形作るという考え方です。ハンマーは、木と鉄で作られているだけではありません。ハンマーは、それが何をするか、そしてそれを使うときに私たちが何になるかによってハンマーなのです。

したがって、道具は決して「中立」ではありません。

私の博士論文はこの緊張関係を中心に構築されています。もし道具が中立でないなら、どうなるのか?私の論文では、視覚化のアクセシビリティに焦点を当て、ツールデザインを介入としています。しかし、私の論文の概念、命令、行動喚起は、より広く応用できます。

私たちはテクノロジーを調査し、再形成しなければなりません。効率と生産性の利益のために、私たちの人間性を平坦化するデザインに抵抗しなければなりません。私たちの道具が、人間の存在にとって敵対的なインフラストラクチャや景観をどのように作り出したのかを問わなければなりません。そしてもちろん:

私たちは、道具がその設計によって私たちをどのように形作るかを調査しなければなりません。

「椅子」を例にとりましょう:

アンナ・ギュレンクレフはこう書いています、「椅子に命令されているように感じたことはありませんか?「じっと座りなさい。前を向きなさい。行儀よくしなさい。」」

椅子は、その設計によって、座ることを、そして特定のやり方で座ることを命じます。

あなたの存在は、道具を通して意図されています。あなたは、じっと座り、前を向き、行儀よくするように意図されています。人工知能も全く同じように機能します。「すべては使い方次第だ」と信じてこれらの道具を使っているかもしれませんが、それでも、私たちの道具は私たちを使っています。私たちの存在は、おそらくこれまで以上に、道具に依存するように意図されています。すべての道具はこれを行います。これは新しいことではありません。

しかし、人工知能は、私たちがこれまでに作ったどの道具よりもはるかに、私たちが批判的に考えることをやめ、想像することをやめ、そして最も魅力的なことに、苦しみや痛みを経験することをやめるように意図しています。

苦労と意味のある闘いの違いを知る

[画像: 宮崎駿が口にタバコをくわえて横顔で描かれているイラストで、「人生の面倒事がなくなったら、それを取り戻したくなるだろう」というキャプションが付いている]

「人生の面倒事がなくなったら、それを取り戻したくなるだろう」 - 宮崎駿。(これは本物の人間の芸術です!)出典:Sam Yang, @samdoesarts.bsky.social

自動化の最大のセールスポイントは、常に苦労を取り除くことでした。そして、苦労の中心には、ある種の闘いと痛みがあります。

現代の想像力と物質的な現実における人工知能は、あらゆる苦労の解決策として消費者に販売されています。私たちはただ芸術を求めるだけで、それは私たちの前に現れます。そこには全く苦労が伴わないため、芸術家であるというひどい労働が取り除かれるのです!

しかし、すべての苦労は苦労と同じなのでしょうか?

そしてAIは、この点では新しくありません。すべての痛みを、痛みの完全な喪失に平坦化することは、以前はレクリエーション薬物使用や神学の仕事でした。したがって、AIは、むしろアヘンのようなものです。あるいは、その現代の信奉者の熱狂を考えると、それはドラッグ漬けの宗教に近いのかもしれません。

芸術、思考、執筆を含むあらゆるものの現代の自動化は、私たちの本質を麻痺させます。完全な自動化は、作る苦労と奪う痛みを見分ける能力を鈍らせます。

これらの2つの質問にどう答えるかが、AIの使用をどのように扱うべきかを inform(知らせる)はずです。

もし可能なら:私たちは山を登るべきか、それとも平らにすべきか?そして、私たちは縁石を登るべきか、それとも切り取るべきか?

山を登ることこそが目的です。闘いとそれを乗り越えることが重要です。しかし、縁石は?縁石はアクセスへの障壁です。縁石に対する闘いは存在するべきではありません。だからこそ、アクセシビリティの分野では、縁石を切り取り、障壁を平らにしようとします。

例えばジムを考えてみましょう。運動の痛みとの闘いは報われ、高揚感を与えます。ウェイトを動かす必要はありません。それを持ち上げることは私たちに要求されるタスクではありません。ロボットにジムでウェイトを持ち上げてもらうように頼むのはナンセンスでしょう。

しかし、私たちがウェイトを持ち上げる方法を改善するツールやテクノロジーは、私たちのウェイトを持ち上げる愛の認識です。より新しく、より安全なウェイトリフティングマシン、落下するウェイトからの保護、より強力なケーブル、ダンベルの前の鏡など。多くのテクノロジーは、私たちの人間的な闘いの愛を強化するために存在します。

しかし、AIを使うと、私たちは闘いを失います。私たちは母親に誕生日に心のこもったメールを書く必要はありません。上司に昇進の根拠を説明する必要はありません。書いているアルゴリズムの難しい部分を考える必要はありません。そして、芸術に関しては、自分の技術を向上させる痛みを経験する必要はありません。私たちはただプロンプトを入力するだけで、(オプションで)そこから得られたものを検証する作業を選択できます。しかし、もちろん、検証の自動化は、現代のAIドリーマーが夢見るもう一つのことです。

人工知能は、道具としての薬の典型です。それは無限の経済(economy of infinity)で機能し、あたかもどんなやり取りにも欠点がなく、私たちがすることにはリスクやコストが全くかからないかのようです。

しかし、最大のコストは、私たちの道具が私たちをどのように形作り、「私たちの存在を平坦化する」(ハイデガーの言葉)ことにあります。なぜなら、痛みや苦しみを真に感じ、経験することは、私たちの人間性の中心だからです。私たちはユニークな個人であり、同時に苦しみを通して集団的に統一されています。したがって、私たちが決して苦しまないように意図された道具は、私たちを形作る痛みと、お互いを理解する能力と根本的に対立しています。

そして椅子の比喩に戻ると、私たちは椅子が設計された通りに使用することを拒否できます(あるいは全く使用しないこともできます)。そして、椅子を座る以上の目的で使用することもできます。そして、どんな種類のこともできる新しい椅子や非椅子を設計することもできます。私たちは、テクノロジーが人類を善良で意味のあるものへと形作る力と責任を持っています。

では、AIとどう向き合うべきか?

[画像: AIを使って論文を書いた学生のために、「今、それを草の中に落とす。あなたの人生が今、困難であることを知っている。あなたの日はこの地上で貴重であることを知っている。しかし、あなたは一体何から自由になろうとしているのか?生きることから?その奇跡的な仕事から?愛とは、その仕事をする人々のものである。」]

現在、私のお気に入りの詩。出典:Joseph Fasano, @josephfasano.bsky.social

道具は計り知れない影響力を持っています。それらは人類を形成し、含めたり排除したり、何が重要かを定義したり、文字通り私たちが生きる気候や環境を形作ったりする能力を持っています。「道具」は人間の意志のラディカルな拡張です。

私は、AIエージェント(現代の企業が管理するトランスフォーマーおよび拡散モデル)は、特に現在、そしてほとんどすべての文脈において、使用するには概して悪いと主張したいです。それらの危険は環境的、経済的、そして実存的です。「道具」として、それらは破壊的すぎます。

環境について:現代のAIエージェントは、気候変動を加速させ、すでに不安定な世界に計り知れないコストをもたらしています。それらを使い続けることは、私たちの貴重な水とエネルギー資源の継続的な破壊に積極的に同意することです。しかし、多くの環境破壊産業と同様に、政策と、より良く、より効率的な技術とインフラストラクチャによって、それらを抑制することができます。おそらくいつか、環境への損害は管理され、AIは真に「持続可能」になるでしょう。

AIの経済について:現代の数十億パラメータAIモデルは、人類史上最大の強盗の上に構築され、可能になっています。それは、私たちが共有するデジタル空間のあらゆる隅からスクレイピングできたすべてのものの盗難です。現在のモデルによって引き起こされた損害に対する防止と正義なしには、それらの使用は倫理的に非常に困難です。私たち人間は、信用や出所といったものに対処する上で、複雑な社会的な知性の形態を発達させてきました。これらは現代のモデルには不可能なものです。そして、現在のAIモデルを可能にした労働のグローバル経済全体の金銭的および政策的な認識なしには、それらを使用することは、すべての人間の芸術と知識の盗難への積極的な許可となります。

私たちの存在について:

ティナ・ヘは、現代AIによる私たちの存在論的危機について書いています、「私たちは、それとの接触を通して危険に目覚めるのです。私たちを動揺させるアルゴリズム的な無関心は、私たちをより高い警戒心へと駆り立て、最適化、市場論理、あるいはデジタル制御に私たちの経験のすべてを明け渡すことを拒否させるかもしれません。これらのシステムが生み出す不安そのものが手がかりです。何か重要で、定量化できず、還元できない人間的なものがまだ抵抗しています。」彼女は続けます。「これは道具を捨てることではなく、それらを私たちが神聖または本質的と見なすものと一致させるために格闘することです。」

それが私たちの使命です。私たちの仕事は、これまでと同じように、私たち自身の人間性と世界の健康のために戦うこと、道具を無批判に使用しないこと、そして道具が私たちを平坦な無へと形作る前に、道具を形作ることです。私たちはこれらの現代モデルを、私たちにとって意味のあるものに変えることができますが、そのためには政策、経済的正義、そしてガードレールが必要です。私たちは、それらが何のためにあるべきかを再想像し、私たちが意味のある方法で創造し経験し続けるための方法を探求し、革新し続ける必要があります。

機械にはできないことをしに行きましょう:政策変更を提唱し、戦い、不正なシステムに抵抗し、拒否し、あなたを教え、鼓舞した人々を名前で認識し、ル・グウィンの言葉を借りれば「文学の塩坑における先人や同僚に感謝し」、私たちに形と意味を与える良い種類の痛みを感じてください。存在してください。