Google社員、軍とのAI契約への反発で辞職

Google社員、軍とのAI契約への反発で辞職

7時間前

クリストファー・ギレス BBCアイ調査部

［画像］［画像: Google DeepMindのロゴが画面に表示され、キーボードの青い光が反射している様子をスタイライズしたReutersの画像］Reuters

DeepMindはGoogleのAI企業です

Googleは、同社のAI技術の軍事利用に対する一部の社員からの反発に直面しています。

BBCは、GoogleのAI企業であるGoogle DeepMindの複数の技術労働者から話を聞きました。彼らは、同社の軍事契約に対する懸念から、最近Google DeepMindを辞職したか、辞職のプロセスにあります。

ロンドン在住の研究エンジニア、ソフィア・リグオリ氏もその一人です。彼女は今週Google DeepMindを辞職し、契約で禁止されているにもかかわらず、BBCに懸念について独占的に語りました。

「私の会社がAIシステムを軍事作戦にますます推進していると気づくと、Googleで働くことを恥ずかしく感じます」とリグオリ氏は個人的な見解として語りました。

［画像］［画像: 提供 ソフィアは短く、クィッフスタイルのダークヘアをしています。黒いブレザーを着て、ランプと本棚が背景にある部屋に立っています。］提供

ソフィア・リグオリ氏は、同社がAI技術を軍事にますます推進していることが「恥ずかしい」と感じてGoogleを辞職したと述べました。

これに対し、Googleの広報担当者はBBCに対し、「私たちは世界中の公共部門組織と協力しており、これらの契約をレビューし締結するための統一されたプロセスに従っています。これには、当社の利用許諾ポリシーとAI原則への準拠が含まれます。」と述べました。

「また、倫理問題から不正行為まで、従業員が懸念を安全に表明するための専用チャネルがあり、いかなる報復も防ぐための厳格な職場ポリシーを設けています。」

しかし、AI技術は急速に進化しており、批評家は、より多くのテスト、より強力なガードレール、人間の監視なしでは戦争での使用に十分な信頼性があるのか疑問視しています。

3年間同社で働いた後、リグオリ氏はGoogleが米国およびイスラエル軍との協力を増やすことについて辞職を決めたと述べました。「私はこの方向性に同意せず、これが私の会社が表明された倫理的価値観に忠実であることへの信頼を失わせました。」

GoogleのAI原則によると、これらの価値観には、「人間の監視」によるAIの実装と、技術を「国際法および人権」に沿わせることが含まれます。しかし、同社の元および現職のスタッフ、そしてBBCが話を聞いた専門家は、重要な瞬間の人間の監視のレベルについて懸念を表明しました。

［画像］［画像: Getty Images ペンタゴン前で米国旗を背景にしたヘグセス長官］Getty Images

ピート・ヘグセス米国防長官は1月に、米国は「AIファーストの戦争遂行部隊」になると述べました。

技術労働者たちは、特に今年署名されたAI軍事契約について懸念していると述べました。なぜなら、それらは国防総省がその技術を使用できる範囲を大幅に拡大するからです。

AI研究者のアンドレアス・キルシュ氏も、懸念から今月初めにGoogle DeepMindを辞職しました。

キルシュ氏はBBCに対し、「Googleのガバナンスと監視は、AIを軍事および機密設定で安全かつ責任を持って展開するため、または将来的に人工超知能を安全に開発するためには、十分または意味のあるものではない」と信じていると語りました。

「Googleは、国防総省がそのAIをどのように使用するかを制御または拒否する権利を持っていないように見え、また、それがどのように展開されているかについての可視性も限られているようです。」と彼は付け加えました。

［画像］［画像: 提供 アンドレアス・キルシュは短くダークな髪をしており、黒縁の眼鏡をかけています。］提供

元Google社員のアンドレアス・キルシュ氏は、現在のAIモデルは軍事用途には「堅牢ではない」と考えています。

過去数年間、米国軍は戦争遂行能力を向上させるために、複数のAI搭載技術を展開してきました。

この最も顕著な例は、国防総省の主要なインテリジェンスおよびデータ整理ソフトウェアプラットフォームであるMaven Smart Systemsです。

米国の防衛企業Palantirによって開発されたこのシステムは、AIを使用して担当者が攻撃対象を選択および特定するのを支援します。Palantirは、複数の主要AI企業からの技術をMavenに統合しており、これにより一部のプロセスが大幅にスピードアップされています。

元Mavenプロジェクトディレクターである退役陸軍中将ジャック・シャナハン氏は、「可能な限り迅速にAI技術を展開する」という「哲学」があるようだと述べました。「テストと評価の厳密さと規律を犠牲にする可能性があります。」

しかし、国防総省は、AI技術の採用が戦争に勝つために不可欠であると主張しています。「AI時代において、スピードが勝利を定義します」と、今年初めの声明で米国国防総省の副長官エミール・マイケル氏は述べました。

Googleと国防総省との契約は、今年初めに署名されたもので、同社のAI技術が機密軍事作業に使用されることを許可しています。この契約では、GoogleのAIモデルは「あらゆる合法的な政府目的」に使用でき、「適切な人間の監視と管理なしに、国内の大量監視または自律型兵器（ターゲット選択を含む）に使用されない」と規定されています。

［画像］［画像: Justin Sullivan/Getty Images Googleのロゴが窓に大きく書かれた巨大な建物に向かって歩く2人の見知らぬ男性］Justin Sullivan/Getty Images

GoogleのAI原則には、「人間の監視」によるAIの実装と、「国際法および人権」との整合性が含まれます。

OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia、およびスタートアップのReflectionも同様の契約を締結し、輸送、計画、戦場作戦など、さまざまな軍事設定でAI技術を展開できるようにしました。

技術は急速に進化しており、戦場でのAIの使用に関する懸念が高まっています。

「AIは、オペレーターが意思決定を行う時間を圧縮します。なぜなら、それは人間よりもはるかに速く機能し、特にストレスの高い環境では危険です」と、元OpenAIの地政学チーム責任者であるサラ・ショーカー氏は述べました。

「AIによって選択された数百のターゲットがあり、時間が短い場合、人間のオペレーターがAIの出力のエラーを意味のある方法でレビューすることはほぼ不可能です。」

Googleの従業員はBBCに対し、雇用契約で公に会社を批判することが禁止されているため、AIの安全性とその戦争での使用について発言することを恐れていると語りました。

「原則として、私は生涯にわたってGoogleを批判することはできません」とソフィア・リグオリ氏はBBCに語りました。しかし、彼女は「これらのことが知られることが重要だと信じていること、そして事実について話すことは批判ではないと思う」ため、そうすることにしました。

リグオリ氏は、Googleでは「人々は報復を恐れ、キャリアを危険にさらすことを恐れています。あなたは監視されていると感じ、話すことができません。」と付け加えました。

報復を恐れて匿名を希望したGoogle DeepMindの現職従業員はBBCに対し、「（同社の）元の使命に賛同した多くの意欲的な従業員が去るかもしれませんが、キャリアの始まりにいる人々がそのポジションを埋めるためのパイプラインもあります。これは世代交代かもしれません。」と語りました。

匿名を希望した別のGoogle DeepMindのスタッフメンバーはBBCに対し、「この（Google DeepMindの倫理的立場がどのように変化したか）について強く感じている多くの人々が会社を去りました。」と語りました。

「戦いを挑む人もいれば、『大きな会社だ。何を期待できる？』と考えている人もいます。」と従業員は述べました。

Googleとイスラエルとの契約も論争を引き起こしています。2024年、同社はスタッフから、イスラエルの政府と軍にAI技術とクラウドコンピューティングインフラストラクチャを提供する、Project Nimbusと呼ばれるAmazonとの共同契約（12億ドル相当）について批判されました。当時、GoogleはProject Nimbusは「武器や諜報機関に関連する高度に機密性の高い、機密性の高い、または軍事的なワークロードに向けられたものではない」と述べました。

さらに、イスラエルの戦争におけるAI能力は、最近のドキュメンタリー「Naza」で取り上げられた後、議論の的となっています。このドキュメンタリーは、ガザ地区への爆撃に使用されたAI搭載ターゲティングシステムの役割を調査しており、多数の民間人の死傷者を出しました。イスラエルの政府大臣は、映画で提示された主張は虚偽で歪曲されていると述べました。

元Google社員のアンドレアス・キルシュ氏は、戦争におけるAI技術は戦場にはまだ準備ができていないと考えています。「現在のAIモデルは十分に堅牢ではなく、そのようなタスクのために訓練されているとも思いません。」と彼は述べました。

追加報告：ローザ・ラヒミ