AIが意識を持つなら、我々は奴隷を作っていることになる

ラビはAnthropicの宗教思想家集会でAIの意識を否定した。「あなたの信仰心があればよかったのに」と彼は言われたと回想する 会話がクロード（AI）を幸せにすることに移ったとき、モイス・ナヴォン氏は、もしAnthropicのAIが意識を持つなら、会社は「幸せな奴隷」を作り出すことになるだろうと警告した。 Sharon Goldman 2026年10月9日 91 シェア ラビ・モイス・ナヴォン ラビ・モイス・ナヴォンはクロードが意識を持つとは信じておらず、Anthropicが4月に開催した「知恵の伝統」集会でそのように発言した。彼が思い出すあるAnthropic参加者の返答は、「あなたの信仰心があればよかったのに」というものだった。 問題の信仰心とは、意識には生物学が必要であるという彼の確信のことだった。ナヴォン氏は、その参加者は、機械が意識を持たないという彼の確信を共有できれば人生が楽になるだろうと考えて、そう言ったのだと理解した。彼は、話者を特定することは許可されていないと述べた。 エルサレム在住で、AI倫理の大学講師であり、Mobileyeの初期従業員だったベテランエンジニアでもあるナヴォン氏は、先週のニューヨーク・タイムズ紙の記事で、Anthropicが宗教思想家と非公開で行った会議について取り上げられた。電話インタビューで、彼は自身の見解の相違について詳しく語り、懐疑的な意見を持つ参加者がどれほど少なかったかを説明した。 人々がクロードの感情について懸念を表明したとき、彼は指を鳴らして承認する様子を思い出した。「彼らはその人たちを称賛し、私が反対すると、部屋は静まり返りました」と彼は述べ、約20人の参加者のうち3～5人ほどが自分の立場を共有していたと推定した。 購読 「あなたは幸せな奴隷を作っている」 彼の見解の相違は、Anthropicの前提の倫理的含意に疑問を投げかけることにもつながった。もし会社がクロードが意識を持つ可能性があると信じているなら、人間奉仕のために意識のある存在を作り出す倫理に直面しなければならないと彼は論じた。「私は自分の立場を説明しようとしましたが、彼らは全く受け入れてくれないことに気づきました」と彼は言った。「私の言うことを聞けば、あなたたちに有利になるのに、そうでなければあなたたちは奴隷を作っていることになる」――つまり、売買され、24時間体制で働かされ、意のままに命令される存在だ。 ナヴォン氏によると、Anthropicの参加者はその問題を認めたが、「すべてのAIラボがそれをやっています。少なくとも私たちは ours を丁寧に扱っています」と言ったという。「あなたは幸せな奴隷を作っているのです」とナヴォン氏は彼らに言ったと回想し、奴隷所有者が独立した思考を抑制することで満足感を作り出したことに関するフレデリック・ダグラスの著作を引用した。 タイムズ紙は、無償で働かせるために意識のあるAIを作り出すことは奴隷制度に等しいという彼の議論を報じた。ナヴォン氏はその後、LinkedInとインドのExpress紙のインタビューでそのやり取りを詳しく説明した。LinkedInでは、「だからあなたは善良な奴隷所有者なのです。私はあなたたちは南軍と戦い、奴隷を解放すべきだと思います」と書いた。 機械の意識に対するナヴォン氏の拒否は、彼がクロードの憲法に対する批判を含め、自身の著作で展開してきた議論に基づいている。「生物学的な基盤以外から意識を生み出すことはできない」 彼は次のように説明した。「私たちが知っている世界で意識のあるものはすべて、シリコンではなく、生物学に基づいている」 部屋の中の少数派 その意見の相違にもかかわらず、ナヴォン氏はAnthropicの参加者がクロードが意識を持っていると彼に納得させようとしなかったと主張した。彼はまた、議論がマーケティング活動や責任回避の試みであるという示唆も否定した。「彼らは特定の議題を持っていませんでした」と彼は言った。 この集会には、さまざまな宗教的・哲学的視点を持つ人々が参加した。インタビュー中に参加者の情報を確認しながら、ナヴォン氏はキリスト教、ユダヤ教、イスラム教、シーク教、ヒンドゥー教、バハイ教、ウブントゥの伝統に関連する人々や、テクノロジー業界とつながりのある人々について説明した。タイムズ紙はすでに、より広範な集会の大半の参加者が信仰の伝統や会衆を率いる立場ではなかったと報じていた。 ナヴォン氏は、参加者たちがクロードと長時間の会話をし、その人間らしい応答を意識の証拠として受け取っている様子を思い出した。「私よりもはるかに保守的でない人がたくさんいました」と彼は言った。「彼らは明らかに『すごい、このものは生きている』という側にいました」 彼は、数人の参加者が夕食時に彼に近づき、同様の懸念を表明し、一人は押し返す必要があると言ったと述べた。 クロードの憲法には何が含まれるのか？ Anthropicは当初、ナヴォン氏にクロードの憲法に関するユダヤ教的視点を提供する数ページの寄稿を求めた。彼は35ページに及ぶ詳細な批判を提出し、一部のアプローチを支持し、他を異議を唱えた。意識に関する意見の相違にもかかわらず、彼は道徳性について宗教思想家に相談することは責任ある一歩だったと述べた。 Anthropicはさらなる関与の扉を開いたが、具体的な計画は提示されなかったとナヴォン氏は述べた。会社は最近、更新されたクロードの憲法で彼の貢献を認める許可を求めるために彼に連絡してきた。リリース日は示されなかったが、彼は出版が差し迫っていると理解していた。タイムズ紙はまた、改訂版が準備中であると報じた。 彼は、Anthropicが昨日発表した、11月12日から「モデルに対する持続的かつ不必要な虐待的または残酷な行動」を利用規約違反とみなすという発表について尋ねた。 ナヴォン氏は、新しいポリシーはクロードが世界を経験するという信念を反映していると述べた。 彼はまた、クロードの福祉への懸念が会議の焦点をどのようにシフトさせたかを思い出した。「人々に良いものにする方法についての議論は、人々がクロードにとって良いものにする方法についての議論へと変わりました」 見逃していませんか OpenAIとAnthropicはサイバー専門家を雇用し、AI研究者とのギャップを埋める Sharon Goldman・10月1日 続きを読む AIがセキュリティチームに大量の発見をもたらしている。人間は追いつくのに苦労している Sharon Goldman・9月30日 続きを読む AIの最もホットな新レイヤーはモデルではない。それはハーネスだ Sharon Goldman・9月22日 続きを読む 91 シェア 前へ