その他
'AI' Is Not a Tool by Rich Hickey
'AI' Is Not a Tool by Rich Hickey (gist.github.com)
要約
Rich Hickeyは、AI、特に大規模言語モデル(LLM)は、従来の「ツール」とは根本的に異なると主張しています。ツールは人間が「振るう」ものであり、制御、フィードバック、専門知識の構築を伴いますが、LLMは「自動化」であり、人間は要求を出し、AIが自律的に行動します。この違いを理解しないと、学習機会の喪失や、AIの気まぐれな性質に依存するリスクを招くと警告しています。
全文翻訳
以下はすべてRich Hickeyによるテキストです。https://www.linkedin.com/pulse/ai-tool-rich-hickey-kjl8e
'AI' Is Not a Tool by Rich Hickey
公開日 2026年10月12日(私はこれを常に短い言葉で伝えていますが、ここではもう少し詳しく説明します)
まず最初に、'ツール'という言葉に興味深く、区別でき、したがって啓発的な意味を持たせるのか、それとも単に「役に立つものすべて」の陳腐な言い換えとして使うのか。私たちは、VC、政治家、タイタンになりたいCEO、ソフトウェア開発者、地方の町など、すべてが「ツール」であるAIタイタンのために、ツールを「悪用できるあらゆる人/もの」として保存します。私のシャツの前のポケットは役に立ちます(読書用メガネをすぐに使えるようにしておく必要があります)が、ツールではありません。同様に、ファストフードのドライブスルー窓は役に立ちますが、ツールではありません(後述)。
「ツール」のいくつかの定義:
特定の機能を実行するために使用されるデバイスまたは道具、特に手に持つもの
ハンマーやノコギリのような、手で使われたり作業されたりする道具
手工業者や労働者が仕事で使う道具
私が最も気に入っているのは:ツールとは、あなたが振るうものです。
振るう - (ツールや道具のように)特に完全なコマンドまたはパワーで使用すること:扱う、操作する、制御する
特に有用なのは:
手に持つ - コントロールとフィードバックの両方の源であり、使用行為の親密さの兆候
パワー - 力、エネルギー伝達と方向付け、てこなど
コントロール - イベントのコースの意図と継続的な指示
ツールは、あなたが何かを行うための道具であり、それらはあなたのために何かを行うのではありません。ツールの使用は、専門知識とスキルを構築し、報酬を与え、しばしば要求します。絶え間ない技術とエネルギーの適用、および感覚フィードバックは、専門知識の構築(experiri - 「試す」から)に不可欠です。良いツールは多くの特性を持っていますが、LLMはそれらを欠いています - それらは予測可能で、信頼性が高く、決定的で、機能が限定的で、できればシンプルです。
ツールを振るいながら学ぶことは、世界、タスク、物理学、論理、つまりあなたがやろうとしていることや克服しようとしている状況についてです。そしてしばしば、あなた自身についてです。
生涯にわたるツールビルダーおよびユーザーとして、私はツールが何であるかを知っています。LLMはツールではありません。
コントロール、感覚フィードバック、意図、親密さ、継続的な指示、専門知識などはすべてLLMの使用から欠けています。LLMは振るわれません。
LLMは自動化です。
自動化 - (デバイスまたはプロセスの)ほとんどまたは全く直接的な人間の制御なしで動作すること。
ドライブスルーは調理のためのツールではなく、調理を避けるための自動化です。LLMはコードを書くためのツールではなく、コードを書くことを避けるための自動化であり、コードを書くことを放棄するものです。
あなたはLLMのアクションを指示するのではありません - あなたは要求を出し、それはあなたのエネルギーや継続的な指示なしに、それ自身の判断で行動します。この要求/自動化サイクルは、振るうことではなく、コントロールすることではなく、継続することではなく、フィードバックなしのものです。
自動化を使用している間に、現実世界の真実を学ぶ代わりに、あなたは自動機械のその日の詳細を推測しようとしています。そして、それらをゲーム化しようとしています - 例えば、新鮮なものを作るためにカスタムバーガー(玉ねぎ抜き)を注文すること。または、voodoo.mdに適切な呪文を唱えること。
あなたは、あなたが「学んだ」すべてが、最新のアルゴリズムによって時代遅れにされるようなソフトウェアアップデートの距離にいます。(玉ねぎを取り除いた、湿って冷たいハンバーガー)
あなたは世界と働くことを、気まぐれなロボットのために働くことに交換しました。
「ツール」をユーティリティと同等であると見なすことを無計画に進めるのは間違いです。例えば、「LLMは私の論文を書いてくれたのではなく、単にそれを研究論文を読むためのツールとして使っただけだ」と言う場合です。しかし、あなたはそれらの論文を読むためにそれを振るいませんでした(Kindleを振るうように)。それは論文を読みましたが、あなたではありません。
読書を放棄することで何を失いますか?ほとんどすべてです。まず第一に、あなたは優れた人々から書くことを学ぶ機会を失います。あなたは議論を形成する方法を学ぶ機会を失います。あなたは物事に気づく機会を失います。あなたは新しいアイデアの餌をあなたのバックグラウンドの心にロードする機会を失います。あなたは、ある著者への信頼と他の著者への疑いを築く機会を失います。あなたはすべてのジョークを失います。あなたはすべてのエッジを失います。あなたは考える方法を学ぶ機会を失います。
ツールは「アライメントがずれる」ことも、「暴走する」ことも、「封じ込めを逃れる」ことも、「共謀する」こともありません。
LLMはツールではありません。
多くの人が「単なるツール」というフレーズを、単に「それらはあなたがそれらから作るものだ」という意味で使っていることを知っています。しかし、それは真実ではありません。自動化には、あなたが危険を冒して無視するツールとは異なる固有の特性と違いがあります。
Rich