Jaron Lanier: AIは存在しない（2023年）

この記事を保存するこの記事を保存するこの記事を保存するこの記事を保存する コンピュータ科学者として、私は「AI」という言葉が好きではありません。実際、それは誤解を招くものであり、少し危険でさえあると思います。誰もがすでにその言葉を使っていますし、今さら議論するのは遅すぎるように思えるかもしれません。しかし、私たちは新しい技術時代の始まりにいます。そして、技術を誤管理する最も簡単な方法は、それを誤解することです。 「人工知能」という言葉には長い歴史があります。それは1950年代、コンピュータの初期に造られました。最近では、コンピュータ科学者は「ターミネーター」や「マトリックス」のような映画、そして「スター・トレック：ネクスト・ジェネレーション」のコマンダー・データのようなキャラクターと共に成長してきました。これらの文化的なタッチストーンは、テックカルチャーにおけるほとんど宗教的な神話となっています。コンピュータ科学者がAIを創造し、長年の夢を実現することを望むのは自然なことです。 しかし、AIの夢を追求する多くの人々が、それが人類の終焉を意味するのではないかと心配しているという事実は注目に値します。今日の取り組みの中心にいる科学者たちでさえ、AI研究が人類の絶滅、あるいは少なくとも人類に多大な損害をもたらす可能性があると広く述べられています。最近の調査では、AI科学者の半数が、人類がAIによって破壊される可能性が少なくとも10パーセントあることに同意しました。OpenAIを率いる私の同僚であり友人であるサム・アルトマンでさえ、同様のコメントをしています。シリコンバレーのどのコーヒーショップに入っても、同じ議論が繰り広げられています。一人は、新しいコードは単なるコードであり、人間が主導権を握っていると言いますが、もう一人は、そのような意見を持つ人は新しい技術の深遠さを理解していないと主張します。議論は完全に合理的というわけではありません。私が最も恐れている科学者の友人たちに、AIの黙示録がどのように起こりうるのかを説明するように尋ねると、彼らはしばしば無限を想像しようとする人が陥る麻痺状態に陥ります。彼らは「加速する進歩は私たちを通り過ぎ、何が起こっているのかを理解できなくなるだろう」といったことを言います。 私はこの種の話し方には同意しません。私の多くの友人や同僚は、GPT-4のような最新の大規模モデルとの経験に深く感銘を受けており、より深い知性の出現を待つための徹夜の祈りを捧げているような状態です。私の立場は、彼らが間違っているということではなく、確信が持てないということです。私たちはソフトウェアを異なる方法で分類する選択肢を保持しています。 最も現実的な立場は、AIを生き物ではなくツールとして考えることです。私の態度は危険の可能性を排除するものではありません。どのように考えても、私たちは新しい技術を悪く設計・運用し、私たちを傷つけたり、さらには絶滅につながったりする可能性があります。技術を神話化することは、私たちがそれをうまく運用できない可能性を高めるだけです。そして、この種の思考は私たちの想像力を制限し、昨日の夢に縛り付けてしまいます。AIというものは存在しないという仮定の下で、私たちはより良く働くことができます。これを早く理解するほど、新しい技術を賢明に管理し始めることができます。 もし新しい技術が真の人工知能でないなら、それは何なのでしょうか？私の見解では、今日私たちが構築しているものを理解する最も正確な方法は、革新的な形態の社会的協働としてです。 注文に応じて文章を書くことができるOpenAIのGPT-4のようなプログラムは、統計を使用して多くのデータを組み合わせたWikipediaのようなものです。注文に応じて画像を作成するプログラムは、画像を組み合わせるシステムを備えたオンライン画像検索のようなものです。どちらの場合も、テキストを書いたり画像を提供したりしたのは人間です。新しいプログラムは、人間の心によって行われた作業を組み合わせます。革新的なのは、組み合わせプロセスがガイドされ、制約されるようになったため、結果が利用可能でしばしば印象的であることです。これは重要な成果であり、祝う価値がありますが、新しい心の発明というよりも、人間の創造物の間に隠されていた調和を明らかにするものと見なすことができます。 私の知る限り、私の見解は技術を称賛しています。結局のところ、文明とは何でしょうか？それは社会的協働です。AIを独立した知的な存在を創造するための技術としてではなく、共に働く方法として見ることで、それはより神秘的でなくなり、HAL 9000やコマンダー・データのようなものではなくなります。しかし、それは良いことです。なぜなら、神秘は誤管理をより可能性のあるものにするからです。 新しいシステムに知性を帰することは容易です。それらは、私たちが通常コンピュータ技術に結びつけない柔軟性と予測不可能性を持っています。しかし、この柔軟性は単純な数学から生じています。GPT-4のような大規模言語モデルは、プログラムが処理した膨大なテキストの中で特定の単語がどのように共起するかという累積的な記録を含んでいます。この巨大な集計により、システムは多くの文法パターン、そしておそらく「著者のスタイル」と呼ばれるものの側面を本質的に近似します。特定の順序で特定の単語からなるクエリを入力すると、そのエントリはモデル内のものと相関します。数十億のエントリの相関の複雑さにより、結果は毎回少しずつ異なる可能性があります。 このプロセスの非反復的な性質は、それを活気のあるものに感じさせることがあります。そして、それは新しいシステムをより人間中心のものにすることができるという意味があります。AIツールで新しい画像を合成すると、似たようなオプションがいくつか表示され、その中から選択する必要があります。もしあなたがLLMを使ってエッセイ課題を不正にこなす学生なら、モデルが生成したオプションを読んで一つを選ぶかもしれません。非反復的な技術は、少しの人間の選択を要求します。 私が好むAIの多くの用途は、コンピュータがより柔軟になったときに私たちが得る利点に基づいています。私たちが知っているデジタルなものは、人々がそれに適合することを強制する脆い性質を持っています。私たちは皆、医者の受付の画面で、ある哀れな魂が期待されることをしようと苦労するのを見て、苦痛を経験しました。顔が歪み、人間性が損なわれます。デジタルデザインに適合する必要性は、人間の服従という環境的な期待を生み出しました。AIの肯定的な側面は、もし私たちがそれをうまく使えば、この拷問の終わりを告げるかもしれないということです。例えば、色覚異常の人向けにオンザフライで再構成されるウェブサイトや、個人の特定の認知能力やスタイルに合わせて調整されるサイトを想像できます。私のような人間主義者は、技術に過度に影響されたり導かれたりするのではなく、人々がより多くのコントロールを持つことを望んでいます。柔軟性は私たちにいくらかの主体性を取り戻してくれるかもしれません。 それでも、これらの可能な利点にもかかわらず、新しい技術が私たちが望まない、あるいは理解できない方法で私たちを振り回すのではないかと心配するのは、それ以上ないほど合理的です。最近、私の友人たちは、最も野心的なAI開発の一時停止を求める請願書を回覧しました。そのアイデアは、一時停止中にポリシーを策定するというものでした。請願書は私たちのコミュニティの一部の人々によって署名されましたが、他の人々は署名しませんでした。私はその考えをあまりにも曖昧だと感じました。どのレベルの進歩が進めば、一時停止を終了できるのでしょうか？毎週、私はAIポリシーを設定するプロセスを開始しようとする組織から、新しい、しかし常に曖昧なミッションステートメントを受け取ります。 これらの取り組みは意図は良いですが、私には希望がないように思えます。長年、私はEUのプライバシーポリシーに取り組んできましたが、私たちはプライバシーが何であるかを知らないことに気づきました。それは私たちが日常的に使う言葉であり、文脈では意味をなしますが、一般化できるほど明確に定義することはできません。プライバシーの定義に最も近づいたのはおそらく「そっとしておかれる権利」ですが、私たちが常にデジタルサービスに依存している時代には、それは古風に思えます。AIの文脈では、「計算によって操作されない権利」はほぼ正しいように思えますが、私たちが望むすべてを完全に言い表しているわけではありません。 AIポリシーの会話は、「アライメント」（AIが「望む」ことは人間が望むことと一致しているか？）、「安全性」（悪いAIを阻止するガードレールを予見できるか？）、「公平性」（プログラムがすべての方法で…）といった用語に支配されています。