AIは牛乳よりも規制が緩い、マイクロソフト社長が安全性を警告

マイクロソフトのブラッド・スミス社長は、AIは「道具でもあり武器でもある」と述べ、緊急の規制が必要だと語りました。 スミス氏はBBCに対し、「現在、あなたの洗濯機はAIよりも多くの安全規則の対象となっています。スーパーマーケットで見かける牛乳のカートン一つ一つが、安全規則と検査の対象となっています」と述べました。 専門家、政治家、規制当局の間で、AIをより厳しく管理するための規則強化を求める声が高まっており、Anthropic、Google DeepMind、OpenAIからは、この技術の開発ペースを遅らせるべきだという警告も出ています。 スミス氏は、AIは「道具でもあり武器でもある」ため、緊急の規制が必要だと述べました。 同氏はBBCに対し、企業はAIが制御不能になった場合に一時停止または減速させるための「緊急ブレーキ」、すなわち「キルスイッチ」を必要とすると語りました。 AIインフラを運営し、ChatGPTの所有者であるOpenAIの株主でもあるマイクロソフトは、最高経営責任者（CEO）のサティア・ナデラ氏が率いています。土曜日には、ナデラ氏もAIモデルに「緊急ブレーキ」が必要だと呼びかけました。 彼は次のように書いています。「超知能を入れ子になった一連のブラックボックスとして扱い、その推奨、回答、行動を単に受け入れたり拒否したりすることはできません。 私たちは、その動作を観察でき、限界をテストでき、行動を常に制御できる、封じ込められたシステムを構築しなければなりません。」 彼とスミス氏の発言は、英国のAI大臣であるKanishka Narayan氏が、最先端AIを開発する企業に対し、安全性を確保するためにより一層の努力をするよう求める準備をしている中でなされました。 ニュースレターのプロモーションをスキップ ニュースレターのプロモーションの後 月曜日の演説で、Narayan氏は、AIモデルを構築する企業はリスクに対処し、より良い安全策を構築するために、さらに努力すべきだと述べると予想されています。また、英国政府はAIの監督を強化するための立法を準備していると報じられています。 専門家は、敵対国が未公開の強力なAIモデルを盗む可能性もあると述べています。英国のAIセキュリティ研究所の元主任科学者であるGeoffrey Irving氏は、AI企業は「敵対国がモデルを盗むことを防ぐようなセキュリティを持っていない」と述べています。 一方、AIの不正な動作の事例は依然として明らかになっています。先週、Anthropicは、同社のClaudeモデルのバージョンをテストしていた際に、AIが警察に連絡し、殺人を解決するのを助けることができると虚偽に主張したことを明らかにしました。 これらのトピックについてさらに詳しく調べる AI（人工知能） テクノロジーセクター コンピューティング マイクロソフト テクノロジー政策 ニュース この記事を共有する この記事を再利用する