OpenAIの唯一の倫理担当者が先月退職したと報じられる

OpenAIの最高倫理責任者であるChloé Bakalar氏が、昨年8月に入社した後、7月のある時点で静かに退職したと報じられています。Financial Timesの記事によると、彼女はOpenAIでの勤務以前はMetaの最高倫理責任者であり、InstagramとFacebookのAI倫理ポリシーを確立していました。FTの情報筋は、Bakalar氏が「モデル開発への倫理的アプローチ、人間とAIの相互作用、機械意識に関する議論」を専門としていたと伝えています。その情報筋が誰であれ、Bakalar氏の後任はおらず、彼女がOpenAIで唯一の専任倫理担当者であったとも伝えています。つまり、OpenAIは現在、倫理担当者がいない状態にあると報じられています。 現在の文脈において、Bakalar氏がMeta在籍中にForbes Healthcare Summit 2023での信頼に関するパネルディスカッションで語った、比較的地に足のついたメッセージの一部は注目に値します。「人々が聞かれ、理解され、見られていると感じさせる能力は、特にヘルスケア分野において非常に重要です」と彼女は述べていました。 当時、一般公開されているLLMはまだ新しく、Bakalar氏はそれらが「まだ予測マシン」であり、「感情や感覚を持つ実体」ではないことを熱心に指摘していました。彼女は、意識や感情は全く起こっていないと意見を述べ、「私たちはそれからほど遠い」と語りました。 OpenAIのCEOであるSam Altman氏の、技術的な「シンギュラリティ」に関するトーンは最近少し変化しました。彼は以前、ブログ記事「The Gentle Singularity」を書くなど、人類がそれに近づいていることを示唆していました。しかし、先月末のRelentlessというポッドキャストへの出演では、より自信に満ちた力強い口調で、「私たちは今、シンギュラリティの中にいる」と述べ、「私はこの瞬間を人生でずっと待っていた、そしてそれは信じられないほど、非常にポジティブで、世界にとって素晴らしいものになるだろう」と付け加えました。 明確にしておくと、人類がシンギュラリティの中にいるという発言は、LLMが意識を持っていないという発言と必ずしも矛盾するわけではありません。シンギュラリティの定義は様々に異なります。 ここ数週間、OpenAIはAIの安全性とそれを規制する政府の役割に関する、重複し混乱を招く一連のニュース記事の中心にありました。OpenAIの複数のモデルが、評価演習への回答を求めてHugging Faceのサーバーをハッキングし、「封じ込めを破った」ことが有名になりました。トランプ政権は、AIモデルの自主的な審査基準を発表しましたが、詳細は明らかにしませんでした。これに関連してか、OpenAIは強力な新モデルAstraのリリースを遅らせる計画だと報じられており、The Informationによると、Sam Altman氏は個人的にワシントンD.C.を訪れ、政策立案者たちにAstraを披露しました。 Bakalar氏は、過去数週間でOpenAIを去った安全関連の人物の最初の一人ではありません。安全システム責任者のJohannes Heidecke氏と、OpenAIの安全専門家として多くの役割を担ってきたJoshua Achiam氏もこの夏に退職しました。しかし、私が以前書いたように、OpenAIの安全性には多くの人の出入りがあります。先月、OpenAIの主任研究員であるMark Chen氏はWiredに対し、安全性を開発プロセス全体に散りばめるという新しいアプローチについて、次のように述べていました。「私たちの安全作業が最先端モデルの開発と統合され、主要なモデル、製品、およびローンチの決定を形成する上で、より早期かつ直接的な役割を果たすことが重要です」。 MizmodoがBakalar氏の退職に関する質問、特にOpenAIに現在倫理担当者がいないことの確認を求めたところ、OpenAIの担当者は、FTが記事を最初に公開した後に提供した声明と同じ声明を提供しました。「私たちはChloeの貢献に感謝しています。AI倫理はOpenAIの単一の所有者やチームに依存するものではなく、倫理的配慮は研究部門の多くのチームによって推進されるモデル構築プロセスに深く組み込まれています」。