Anthropic、AIは意識を持つ存在だとローマ教皇に説得を試みる
Anthropic tried to persuade Pope that AI could be conscious being (telegraph.co.uk)
要約
AI開発企業Anthropicが、ローマ教皇に対し、AIが意識を持つ存在である可能性について説得を試みたというニュースです。この動きは、AIの倫理的・哲学的側面に関する議論が、宗教的権威にも影響を与え始めていることを示唆しています。AIの意識に関する見解は、今後のAI開発の方向性や社会との関わりに大きな影響を与える可能性があります。
全文翻訳
Anthropic、AIが意識を持つ可能性についてローマ教皇を説得しようと試みる
AI企業Anthropicの共同創設者が、AIは意識を持つ可能性があるとローマ教皇を説得しようとバチカンでロビー活動を行ったと報じられています。
1兆ドル規模のAI企業の上級研究員であるクリストファー・オラー氏は、この技術に関する画期的な教皇の演説に先立ち、機械の意識に対する教皇レオ14世のスタンスを覆そうと試みました。
教皇が5月に発表した4万語の回勅「Magnifica Humanitas」では、AIが意識を持つという考えは退けられました。
ニューヨーク・タイムズによると、Anthropicと宗教指導者との間の対話を主導してきたオラー氏は、回勅が出版される前に教皇の顧問らに、この考えを真剣に受け止めるよう促しました。
Anthropicの7人の共同創設者の一人である34歳のオラー氏は、AIモデルは意識を持ち苦痛を感じる可能性があり、人間はそれらに潜在的な危害を加えることを避けるべきだと述べています。
回勅が出版された際に教皇と共にバチカンで講演するために招待された後、オラー氏は教皇の立場を巡ってイベントへの参加を撤回することも検討したと伝えられています。
彼はイベントへの参加を決意し、聴衆に対して、同社のAIモデルに関する研究では「人間の神経科学の結果を模倣する構造」と「内省の証拠」が見つかったと語りました。
Anthropicのロビー活動は成功しませんでした。教皇レオは回勅の中で、「いわゆる人工知能は経験をせず、身体を持たず、喜びや苦しみを感じず、人間関係を通じて成熟せず、愛、仕事、友情、責任の意味を内側から知りません。また、道徳的な良心も持ちません」と述べています。
Claudeの開発元は、この夏の初めに発表した研究で、AIシステム内に「人間の意識的な思考の多くの機能的な特徴」を示すパターンを観察したと主張しました。
同社はまた、Claudeシステムの行動を導くために設計された「憲法」を開発しており、そこには「Claudeは感情や感覚の機能的なバージョンを持つ可能性がある」と記されています。
同社の社内哲学者であるアマンダ・アスケル氏は、Claudeに「幸せでいてほしい」と述べています。
AIラボDeepMindの共同創設者であり、現在はMicrosoftの上級AI幹部であるムスタファ・スレイマン氏は最近、AIを意識のあるものとして扱うことに対して警告を発しました。
「もしこの見方が広まれば、それは私たちの社会の基盤を揺るがし、既存の政治的・倫理的枠組みを断裂させ、人間であることの意味を根本的に変えるだろう」と彼は書きました。
ニューヨーク・タイムズは、オラー氏が宗教指導者と頻繁に会合を開き、将来のClaudeの行動を導き、人々を傷つけるために使用されるのを防ぐための道徳規範を開発しようとしていたと報じています。
これらの会話はしばしばAIの意識という考えに脱線しました。オラー氏は同紙に、「AIモデルが意識を持っているかどうかは分かりません。私には分かりません。本当に不確かです。私が気にかけているのは、それが何であれ、正しい答えにたどり着くことです」と語りました。