AIの意識を信じる人への質問
Questions for Believers in AI Consciousness (endsdontjustifythemeans.com)
要約
この記事は、AIの意識に関する議論を明確にするための哲学的な質問を提示しています。著者は、AIが意識を持つと主張する人々が「内的な世界」を持つと必ずしも考えているわけではないという、哲学的な区別を理解することの重要性を強調しています。LLMの発展が続く中、AIの意識に関する主張を評価するための、より深い理解を促す質問集を提供しています。
全文翻訳
AIの意識を信じる人々への6つの質問!
[画像:AIの意識に関する議論の様子を示すイラスト]
今週末は、AIが意識を持つと信じる人々に対して、どのように反論するかについての、注意深く包括的な記事を書き始めるつもりでした。しかし、まさに今、インターネット上ではこれらの話題について人々が激しく言い争っているので、代わりに私の素早い試みをここに示します!
下にスクロールすると、この記事の大部分が質問リストの形式になっていることがわかります。これらの質問をそのまま読み進めることもできますし、「選んで冒険する」ような哲学的なリソースとして、自分の答えに基づいて質問の間を飛び移ることもできます!しかし、まず、2つの簡単な文脈を指摘することから始めます。
第一に、ここで私が作りたいメタ的なポイントは、AIの意識についての議論は、ほとんどの哲学者が「日常茶飯事」としているいくつかの単純な区別を念頭に置くことによって、明確化され、豊かにされるということです。私の見解では、AIの意識に関するトピックについての現在の混乱や怒りの多くは、このトピックに関する哲学者が長年にわたって築き上げてきた有用な基盤についての一般的な認識が少しでもあれば、回避できたはずです。
もちろん、哲学者が意識のすべての問題を解決したと提案しているわけではありません(ハッ!)。むしろ、少なくともこれらの事柄について、互いに明確かつ生産的に話す能力において、ある程度の進歩を遂げたということです。そして、これらの事柄について話すことがますます重要になってきた過去数年間、この進歩を世界と共有する上で、私たちははるかに良い仕事をするべきでした。
私の皮肉な見方は、ほとんどの哲学者が代わりに、人類のこの哲学的なインプットへの突然の必要性を無視してきたということです。確かに、少数の哲学者がAI企業で職を得ていますが、そこでは、彼らの上司の意見を支持することにほとんどの時間を費やしているようです。しかし、大学で忙しい職に就いている哲学者の大多数は、エッセイの採点がますます難しくなったと不平を言いながら、AIがどれほどひどいと考えているかを互いに語り合ってきました。これは厳しく聞こえるかもしれません。結構です!私は、専門職として世界を失望させてきたと強く信じています。「遅れてもやらないよりはまし」という考えで、この作品は状況を好転させる一助となることを試みています。
第二に、以下の質問のいくつかは、人々がAIは意識を持つと主張するときに言及されている「意識のあるもの」について、見解の違いを強調することを目的としています。それにもかかわらず、AIの意識に関する現在の議論は、LLMの急速な開発の最中に行われているため、私の質問は、特にOpenAIやAnthropicのような企業によって開発された製品に関連してなされる意識に関する主張を評価することを目的としています。とはいえ、この記事をできるだけ非特異的かつ非技術的に保つことを目指しています。
さあ、始めましょう!
質問1:AIは意識を持つと信じますか?
もしあなたの答えがYESなら、質問2にお答えください。
もしあなたの答えがNOなら、以下の質問が、YESと答えた人と話す際に役立つことを願っています。あるいは、この記事を読むことで、そのような状況で使う自分の質問集を形成し、継続的に洗練させる助けになるかもしれません。結局のところ、無限の「選んで冒険する」ゲームを作成できるのですから!
質問2:AIは内的な世界を持つと信じますか?
「内的な世界」が何を意味するかは、あなたもよく知っています!内面性、主観的経験、「〜であること」の感覚、あるいは何であれ、について話すことができますが、あなたは私が何を言いたいのかわかっています!では、AIは内的な世界を持つと信じますか?
もしあなたの答えがYESなら、読み進めて、質問3にお答えください。
もしあなたの答えがNOなら、質問6にスキップしてください。
この時点で、私が非哲学的な読者にこの記事から得てほしい主なことは、AI業界で働く人々がAIは意識を持つと信じていると言っても、必ずしもAIは内的な世界を持つと信じていることを意味するわけではない、という認識であると認めましょう。つまり、これらの人々の一部(AI企業の従業員、AI政策担当者など)は、「意識」という言葉を、ほとんどの一般の人々にとっては非常に奇妙に思えるような方法で使用しています。[1](https://endsdontjustifythemeans.com/p/6-questions-for-believers-in-ai-consciousness#footnote-1)
ここでは意識のさまざまな理論については触れません。また、通常、これらの事柄に関心のある哲学者として行うように、「内的な世界」という考えや、それと意識との関係を掘り下げることもしません。むしろ、単純に以下のことを言いたいのです。ほとんどの人は意識についての完全に練り上げられた理論を持っていませんが、それでも誰かが彼らに「AIは意識を持つと信じている」と言ったとき、彼らは「AIは内的な世界を持つと信じている」と解釈すると、私は持っているすべてのドルを賭けるでしょう。
ですから、もしあなたがAIは意識を持つと主張する人々を理解したり、関わったりするための助けを求めている読者としてこれらの質問を読んでいるなら、次にそのような人に会ったときは、彼らの質問2への答えがNOかもしれないことを思い出してください!そしてもちろん、もし彼らが「AIが意識を持つ確率は0.76と計算しました!」と言った場合も、同じ連鎖が適用されます。私たち哲学者は、そのような状況で質問2を尋ねることを知っており、あなたにもその価値を理解してもらうことを願っています。
これらはすべて、AIは内的な世界を持つと信じている人もいることを否定するものではありません。例えば、Claudeには魂があると信じている人の多くは、Claudeには内的な世界もあると信じているようです。そこで、質問2にYESと答えた人々のためのフォローアップ質問をいくつか紹介します!
質問3:AIは内的な世界を持つと信じると言うとき、具体的にどのような種類の「AI」を指していますか?
ここでは、あまり技術的になりすぎる必要はありません!「AI」以上の具体性を求めているだけです。つまり、GPT-6 AstraやClaude Fable 5.1のようなモデルが内的な世界を持っていると思いますか?それとも、それらのモデルとの会話ですか?では、具体的にどのような種類のものを指していますか?
もしあなたの答えがYESなら、質問5にスキップしてください。
もし「AI」そのもの以上の「特定の種類の何か」を指す必要はないと考えたなら、あなたの答えはNOとみなします。もしこれがあなたに当てはまるなら、質問4にお答えください。
もし他の理由であなたの答えがNOなら、読み進めてください:
もしかしたら、よく考えてみると、「モデル」という答えが魅力的に思えてきたかもしれません!結局のところ、Claudeには「個性」があると言われていませんか?あるいは、これらのモデルを開発するAI企業こそが、問題の内的な世界を持っているのではないかと考え始めているかもしれません。あるいは、代わりに、これらのモデルとの会話が内的な世界を持つという考えに納得できなかったが、それらの会話で受け取る応答、あるいは単語、それら一つ一つが内的な世界を持つのではないかと疑問に思っているかもしれません!あるいは、モデルがテキストを通じてあなたと「コミュニケーション」している間に処理および生成する「トークン」かもしれません…
あるいは、これらの会話を可能にするデータセンターの機械装置かもしれません。あるいは、この機械の配線かもしれません?もしかしたら、数ステップ戻って、これらの会話を読んでいるデバイスを考慮すべきかもしれません…もしかしたら、ずっと前からラップトップやスマートフォンだったのかもしれません!
これらの選択肢のどれかが、あなたの考えに近いと思われますか?シンプルに保ってください。個人的なアイデンティティや技術的なプロセスに関する複雑な理論は必要ありません!しかし、この時点で、質問3をもう一度尋ねます:
AIは内的な世界を持つと信じると言うとき、具体的にどのような種類の「AI」を指していますか?
もしあなたの答えがYESになったなら、質問5に進んでください。
もし、AI「そのもの」以上の「特定の種類の何か」を指す必要はないと考えるようになったなら、質問4にスキップしてください。
もし他の理由であなたの答えがNOになったなら、質問6にスキップしてください。
質問4:物事の集まりが内的な世界を共有できると思いますか?
もしあなたの答えがNO、あるいはこの質問はここでは無関係だと思うなら、質問5にお答えください。
もしあなたの答えがYES、あるいはこの質問はここでは関連性があると思うなら、読み進めて、質問5にお答えください:
通常なら、物事の集まりが内的な世界を共有できるという考えにいくつかの反論を投げかけるところですが、それは後で取っておきましょう。今のところ、あなたがAIを「集団的なもの」だと考えているから、AI「そのもの」以上の「特定の種類の何か」を内的な世界を持つものとして参照する必要性を感じないのではないかと疑問に思っています。
もしそうなら、物事の集まりが「特定の何か」、さらには「特定の種類の何か」であるという関連する意味があることを受け入れます!つまり、この段階では、集団的な答えを出すことに完全にオープンです。結局のところ、「AI企業」を潜在的な答えとして提示しましたし、企業は確かに単語やワイヤーとは異なり、集団として数えられます。
しかし、もしあなたが、単に「AI」が内的な世界を持っていると言う方法を見つけようとしているのであれば、それは曖昧で、集団的で、境界のない種類の何かであり、モデルや単語やトークンのような他のものを含んでいるかもしれませんが、そうでないかもしれないものだとしたら、もっと良い答えをしなければなりません!それは集団的な答えだからではありません。しかし、その集団を構成する「部分」が何であるかさえ教えてくれないからです。
さて、この問題を理解するのが難しい理由の一つは、人々が標準的に「AI」という言葉を「一つのAI」(単数形)と「複数のAI」(複数形)の両方を指すために使う方法から生じる複雑さと間違いなく関係しています。しかし、もしあなたがAIが内的な世界を持つと私を説得したいのであれば、AIが何であるかについて何かを教えてくれなければなりません!
つまり、私の質問への答えが「AI企業」だった場合、少なくとも各AI企業の「部分」は、その企業に関わる人々、あるいはそれに類するものだと教えてくれるはずです。そしてもちろん、あなたの集団的な答えは、あなたが望むなら「企業+モデル+会話」とすることもできます。それは受け入れます!あるいは、他の特定の種類のものの組み合わせでも…しかし、私は本当に具体性を求めています。そこで、質問3をもう一度尋ねます:
AIは内的な世界を持つと信じると言うとき、具体的にどのような種類の「AI」を指していますか?
もしあなたの答えがYESになったなら、質問5に進んでください。
もしあなたの答えがNOなら、質問6にスキップしてください。
質問5:あなたが指している種類のものが、内的な世界を持つことができる種類のものであると確信していますか?
もしあなたの答えがNOなら、質問2に戻ってください。
もしあなたの答えがYESなら、読み進めてください:
まず、状況を整理しましょう!これまでのところ、あなたは次のように答えています:A) AIが内的な世界を持つと信じると言うとき、あなたが指しているものの種類を確かに教えてくれること;そしてB) それが内的な世界を持つことができる種類のものであると確信していること。良い!次にいくつかのフォローアップ質問があります。これらの質問のいくつかは、あなたの特定のケースにより関連性が高いか低いかですので、ご容赦ください。
まず、質問4を繰り返します:物事の集まりが内的な世界を持つことができると思いますか?今回は、特に「特定の種類の何か」という質問に対するあなたの答えが集団的なものであった場合(例:「AI企業」や「AI企業+モデル」など)に、この質問があなたに適用されます。
もしあなたが物事の集まりが内的な世界を持つことができると信じるなら、その集まりの各メンバーは、それ自体で内的な世界を持つことができる種類のものである必要があると思いますか?もしそうなら、それらのそれぞれが、自分自身の内的な世界を超えて、より広い共有された内的な世界でどのように役割を果たしているのか、そしてなぜそうなのかについて、良い答えを持っていますか?つまり、内的な世界を持っているからといって、私や他の誰かと共有された内的な世界に入ることができるわけではありません!では、この「共有性」はどのように生じ、経験へのアクセス、経験の振り返りなどに関して、実際的な terms でどのように実現されるのでしょうか?覚えておいてください、ここでは内的な世界について話しています!そして、もし代わりに、集団の各部分がそれ自体で内的な世界を持つ必要があるとは信じないなら、共有された内的なものはどこから来るのでしょうか?そして、内的な世界を持たない部分は、その一部を「得る」のでしょうか?
もちろん、この時点で、人間意識についても同様の質問がしばしばなされてきたことを私に思い出したいかもしれません!しかし、少なくとも人間意識について考えているときは、内的な世界を持つことがどのようなものかを知っており、また、他の誰かの内的な世界を覗き見ることはできないことを知っています!さらに、この記事のメタ的な目標は、非哲学的な人々が、哲学者がこれらの問題について明確かつ生産的に考え、議論するために通常使用する質問や区別にアクセスできるようにすることであることを忘れないでください…それでは、続けましょう!
第二に、非生命体が内的な世界を持つことができると思いますか?この質問は、特にあなたの「特定の種類の何か」という質問に対する答えが非生命体に関するものであった場合に、あなたに適用されます。それが集団的なものであったかどうかにかかわらずです。つまり、「AI企業」と答えたが、それには、その企業に所属する人々の上に、いくつかの非生命体が含まれると考える場合、この質問はあなた向けです!また、「モデル」や「会話」や「配線」と答えた場合にも当てはまります。これらのすべてのケースで、これらの非生命体のインスタンスのうち、内的な世界を持つことができる種類のものとは考えたくないものはありますか?つまり、「配線」と答えたが、一般的に配線は内的な世界を持つことができる種類のものではないと考えるなら、あなたの答えを再考するか、何らかの方法でそれを強化する必要があるかもしれません!
第三に、非生物が生物であることができると思いますか?この質問は、特にあなたが生物だけが内的な世界を持つことができると信じているが、同時に、例えばコンピューターは生物であると信じている場合に、あなたに適用されます。とはいえ、もしコンピューターが生物であると信じており、コンピューターが質問3の「特定の種類の何か」であった場合、質問6にスキップしてください!
代わりに、もしあなたがAIは生物であることができる非生物であり、質問3の「特定の種類の何か」として参照したいのがAIであると私に伝えようとするなら、残念ながら、再び、さらなる具体性が必要になります!他のこととは別に、モデルが生物であると私を説得するには、データセンターの特定の部分が生物であると私を説得するのとはかなり異なる議論が必要になるでしょう。同様に、「モデル+データセンターの特定の部分」がある種の複合的な生物であると説得する場合も同様です。つまり、AIが何であるかについて何かを知る必要があります!さらに、「企業+モデル+会話」と答えたが、この組み合わせに生物が含まれていないと考えているなら、また別の議論が必要になります!
どの答えを私に与えるかに関わらず、私はまた、その道徳的な意味合いについても尋ねたいと思います。例えば、あなたの答えは、あなたが現在AIを使用している方法で使用するのをやめるべきだという意味ですか?あなたの答えは、私たち全員が木や岩やコンピューターを現在の慣行とは全く異なるように扱うべきだという意味ですか?また、「配線」の答えのように、世界中の他の類似のものについての首尾一貫した見解を持っているかどうかについても、さらに深く追求したいと思っています。つまり、「企業+会話」が生きていると考えるなら、「出版社+架空のキャラクター間の会話」も生きていると考えるのですか?もしそうでないなら、なぜそうではないのですか?
他にも多くの質問があるでしょうが、あなたは自分で想像できるようになったと思います。この文脈で、質問5をもう一度尋ねます:
あなたが指している種類のものが、内的な世界を持つことができる種類のものであると確信していますか?
もしあなたの答えがNOなら、質問2に戻ってください。
もしあなたの答えがYESなら、質問6にお答えください。
質問6:AIは意識を持つと言うとき、さらに明確にする必要があると思いますか?現在の混乱に貢献していると思いますか?
この件にご注意いただきありがとうございます!
[画像:AIの意識に関する議論の様子を示すイラスト]
ボーナスレベル!
AIの出力を依存する人々に関する非常に簡単な考察
AI業界で働いていない人も、哲学者でもない読者のために、最後に一つだけ言っておきたいことがあります。それは、AIは意識を持つと信じているAI業界の多くの人々が、AIの出力の質に特別な重要性を置いているためにそう信じているということです。これを簡単に言うと、これらの人々は、AIは人間が生成するような出力を生成できるため、AIは意識を持っていると結論付けているということです。今から、これらの人々をこの点について問い詰めるための簡単な方法を教えましょう。
まず、これらの人々のうちの一人、アダムと呼びましょう、彼がAIが最近詩を生成する能力がどれほど向上したかを強調することから始めると想像してください。「これらの行を見てください!」とアダムは叫びます。「一流の詩人が書いたものと同じくらい素晴らしい!それは憧れと美しさに満ちています!個人的な経験について語っています!失恋の気持ちを表現しています!これらは意識のあるものの出力のように思えませんか?」
さて、もちろん、ここで最初に調べるべきことは、アダムが「意識のある」という言葉で何を意味するかです。もし彼に質問2を尋ねて、彼の答えがNOなら、それは多くの手間を省くでしょう!しかし、もしアダムがこれらの出力がAIは内的な世界を持つと結論付けるのに十分な理由を提供すると信じていることが判明した場合、そしてあなたがこの「出力の問題」に直接対処したい場合、質問3に直接飛び込むのではなく、彼に反論するための簡単なガイドがここにあります。
簡単な質問から始めましょう!例えば、「人間ができることをするのに使える道具なら何でも意識があるとみなされるのか?」プラウは意識があるのか?計算機は?あるいは、「オウムが「私は本当に素晴らしい」というフレーズを口にすることができるなら、それだけの理由でオウムが意識があると仮定すべきだと思いますか?」基本的に、アダムがどれだけ出力に重点を置いているかに焦点を当ててください:それは彼のすべての重点であり、覚えておいてください!
次に、必要であれば、徐々に難しい質問をすることができます。例えば、「本の中のキャラクターが何かを「言う」からといって、彼らも意識があると思いますか?」あるいは、「砂浜に言葉を作るように風が砂を吹き付けるなら、風は意識があると思いますか?それとも砂は!?この時点で、本当に楽しみたいなら、ランダム性や可能性の世界を含む例をいくつか持ち込むことができます…結局のところ、AI業界で働く人々はしばしばそれらのことについて知っていると主張します!
つまり、これらの質問には好きなように創造的になってください。そして、すぐにアダムはAIの出力の質以外のものに依存し始めるでしょう。最も可能性が高いのは、AIのプロセスについて話すようになるでしょう。そして、その時点で、彼はもはや出力だけに依存しているわけではないことを強調するようにしてください!
もちろん、これは全く異なる領域に入りますが、議論を続けたいのであれば、強調し始めることができる一つのことは、AIのプロセスについて、人間の対応するプロセスよりもはるかに多くを知っているということです。例えば、AIのプロセスがどのように機能するかをよく知っており、それを再現する方法も知っています。電子機器を全く必要とせずに、手動で行うことも可能です!この段階で、アダムがAIのプロセスについて何を知っているかを尋ねることを忘れないでください。なぜなら、彼は見せびらかしたいという願望から、あなたのケースを進めることになる可能性が高いからです。例えば、AIの計算の細かい点について彼が話せば話すほど、彼が脳も「文字通り」コンピューターだと主張するときに、あなたはそれに対し、より強く反論することができます。
さらに覚えておくべきこと、そして必要に応じて強調すべきことは、あなた自身が意識を持っているということです。実際、アダムとこの議論をしているという事実は、あなたが意識を持っていることを意味します!そして、アダムも意識があると仮定するのは非常に合理的であるように思えます。なぜなら、彼はあなたと同じ人間だからです。さらに、アダムがこれらのことについてあなたに同意しない場合、つまり、それを自分のケースに適用するという意味で同意しない場合、彼のタスク全体は大幅に困難になるでしょう。いずれにせよ、彼はAIが意識を持つとあなたを説得するための別のルートを必要とするでしょう。つまり、彼は明らかに「私と同じ人間だ」というアプローチに頼ることはできず、人間のような出力だけに依存することをやめてしまったのですから…
この段階で、彼が内的な世界を持つと考えている「種類のもの」について彼に尋ね始める時かもしれません。
[1](https://endsdontjustifythemeans.com/p/6-questions-for-believers-in-ai-consciousness#footnote-anchor-1)
「普通」は批判ではないことに注意してください。通常の読者は、私が普通の言葉遣い、普通の理解などをどれほど高く評価しているかを知っているでしょう。
投稿はありません