HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

未来はすべての人々のために – ポジティブなAI未来への道

The Future Is for Everyone – The Path to a Positive AI Future (meta.com)

14 pointsby insumanth3 コメント

要約

Metaは、AIが人間の能力を超える「超知能」の時代が到来し、創造性、ビジネス、学習、健康など、あらゆる分野で生活を向上させる可能性を秘めていると述べています。同社は、この超知能を一部の機関に集中させるのではなく、個人に力を与え、発明を促進し、権力の均衡を保つことで、すべての人々が恩恵を受けるポジティブな未来を築くべきだと提唱しています。

全文翻訳

未来はすべての人々のもの

ポジティブなAIの未来への道

私たちは歴史の信じられないような瞬間に生きています。今後数年間で、人々は人間の能力を超える超知能を利用して、驚くべき新しいものを創造・発見し、新しいビジネスを構築し、新しいアイデアを表現し、新しい概念を学び、健康と生活の質を向上させることができるようになります。この瞬間に近づくにつれて、超知能をどのように最善に利用して、私たちの生活、仕事、コミュニティ、自由、安全すべてを向上させるかについての哲学を開発することが重要です。

私たちの時代の決定的な問いは、誰が超知能にアクセスでき、それを何に向けるかということです。それは少数の機関に集中され制限されるのでしょうか、それともすべての人に力を与えるツールとなるのでしょうか。

私たちは、個人のエンパワーメントを繁栄の源泉とし、発明を超知能の主な目的とし、権力の均衡を安全の基盤とする哲学を提案します。

すべての新しい技術は機会と課題を生み出します。超知能は歴史上最も重要な技術の一つとなるでしょうから、その機会と課題は、私たちの生涯で見たことのあるどのものよりも大きいものになるでしょう。私たちはこれを非常に真剣に受け止めるべきです。

それでも、多くのAI開発者からの議論が終末論に満ちているのは驚くべきことです。AIがほとんどの仕事をなくし、人類の関連性を大きく低下させると信じている人が、なぜその未来を急いで構築しようとするのか理解できません。AIがあまりにも危険であるため、唯一安全な道は権力の極端な集中であるという考えは、本質的に問題があるように思えます。歴史的に、十分に啓蒙された絶対的な権力が人類に恩恵をもたらすことを期待しても、安全で肯定的な結果にはつながりませんでした。

人類は多くの変革的な進歩を目撃してきました。そのたびに、人々が取り残されるのではないかという恐れがありました。しかし、そのたびに人類は、より多くの人々がより大きな繁栄、健康、自由を共有する形で進歩してきました。私たちは、AIでもこれが当てはまると信じており、未来の豊かさはすべての人と共有される可能性があります。また、私たちをこの地点まで導いた価値観、すなわち自由、自由な探求、自由な企業活動、機会均等といった価値観が、肯定的な未来を築くための正しい価値観でもあると信じています。

人々が自身の願望を追求するための力を手に入れることが、人類が最も進歩してきた方法です。新しいアイデアや大きな飛躍は、確立された機関だけから生まれることはめったにありません。それは、人々が飛べるはずだと信じた自転車店の兄弟、学校教育を受けずに発電方法を発見した製本職人の見習い、そしてパーソナルコンピュータがすべての人向けになるはずだと考えたガレージの子供たちから生まれました。私たちはこれが今後も続くと信じています。誰もがより強力なツールを手に入れるにつれて、各個人は未来を形作る能力を失うのではなく、むしろ高めることができるでしょう。

自動化ではなく、発明こそが超知能の最大の貢献となるでしょう。初期のAIは質問に答えたり、ルーチンワークを行ったりできました。すぐに、家族の病気を治す新薬の発見から、ビジネスを改善する新しい方法の発見まで、新しい知識を発見するのにますます役立つようになるでしょう。一日に人が尋ねることができる質問の数には限りがありますが、超知能が目標達成を助けるために発明できる価値あるものの数は無限です。

知性が豊富になるにつれて、最も重要な問いは、それをどのように方向付けるかということになります。超知能そのもの、あるいはそれを制御する少数の専門家が、人類にとって何が最善かを決定すべきだと主張する人もいます。私たちはこれに同意しません。民主主義と経済の歴史は、人々が最良の人生をどのように定義するかについて単一の客観的な答えはないことを示しており、したがって最善のアプローチは、人々が自身の人生で重要だと考えることを決定できるようにすることです。

私たちは、超知能をすべての人に届けることが、この問いに答える方法だと信じています。これは、スーパーコンピュータとインターネットの力をすべての人々のポケットやデスクに届けるという伝統に沿ったものです。超知能を集中させるのではなく、広く分散させ、すべての人にそれを指示する能力を与えるべきです。これは、個人がこの強力な新しい能力を使用して、これまでにないほど自分の可能性を最大限に引き出し、興味を追求し、生活と世界を改善できる、個人のエンパワーメントの新しい時代を開始する可能性を秘めています。

これをより具体的にするために、Metaが私たちの生活すべてを向上させるためにパーソナル超知能を構築している具体的な方法をいくつか紹介します。

• すべての人が、あなた、あなたの目標、そしてあなたが気にかけているすべてを理解する、非常に有能なパーソナルエージェントを持つようになります。 あなたのエージェントは、あなたの人間関係、健康、キャリア、財政、家庭管理、趣味などを改善するために、24時間年中無休であなたの代わりに働きます。それはあなたが楽しむための時間を解放し、そうでなければ達成できなかったであろうこと以上のことを達成するのを助けるでしょう。それは強力なプライバシーとセキュリティオプションを備えているため、WhatsAppの暗号化のように、個人コンテンツをすべて処理するために信頼でき、他の誰もあなたの情報にアクセスできないことを知ることができます。メガネを含め、あらゆるデバイスを通じてエージェントと対話できるようになり、愛する人たちと一緒にいる瞬間に集中し続けることができます。

例えば、私の担当エージェントは興味深い情報をフラグ付けし、アイデアのプロトタイピングを助けてくれます。それは私の睡眠を監視し、私がトレーニングするのを見てフィードバックを与えることで、私の健康を維持するのを助けます。私の娘は料理が大好きなので、エージェントは私たちが毎週末一緒に作るためのパーソナライズされたレシピを計画し、材料を注文し、私たちが料理をしている間、提案をしてくれます。

• すべての人が、あなたのアイデアを表現するための素晴らしい創造ツールを持つようになります。 私の8歳の娘はすでに自分のアイデアをコーディングし、以前なら私に数ヶ月かかったか、不可能だったであろうビデオを夕方までに制作できます。今、私たちは一緒にロボットを設計しています。一方、Metaの研究者は、拡張現実メガネに理想的な新しい結晶構造を生成しており、エンジニアは以前ならかかった時間のほんの一部で新しいアプリを作成しています。誰もがすぐに発明の超能力を持つようになるでしょう。

• すべての人が、新しいビジネスを創造するための強力なツールを持ち、経済はより起業家精神にあふれたものになるでしょう。 人々は、資金を調raiseしたり、大規模なチームを構築したりすることなく、自分でアイデアを実現できるようになり始めています。以前は試すには難しすぎたり高価すぎたりした多くのアイデアが、今では可能になるでしょう。これは、より多くのアイデアとビジネスが見られることを意味します。私はこれが、より大きな経済成長につながるだけでなく、長期的にはより多くの雇用につながると予測しています。

• すべての人が、あらゆる分野で博士号を持ち、無限の忍耐力を持つパーソナライズされた家庭教師やコーチを持ち、あなたが学びたいことを何でも学ぶのを助けてくれるでしょう。 学生は、現在両親が支払える人のみが利用できる、必要な分野で追加の支援を受けることができます。大人は、新しい仕事のスキル、新しい言語、新しい趣味、またはあなたが興味のある他のことを教えるのに最適な方法を知っている超知能学習アシスタントを持つことになるでしょう。

• すべての人が、科学の進歩から恩恵を受け、科学の進歩に貢献できるようになります。 例えば、Biohubはすでに仮想細胞やタンパク質に関連するオープンソースの生物学的モデルを出荷しており、科学者が新しい発見を行い、新しい薬を設計するのを助けています。Priscillaと私がこの仕事を始めたとき、私たちの目標はこの世紀中にすべての病気を治癒または予防するのを助けることでしたが、今ではAIの進歩により、これがはるかに早く可能になると予想しています。

健康状態には長いテールがあり、すべての人の生物学は異なるため、人々の直接的な関与は、パーソナライズされた治療法を解き放ち、発明のペースに合わせた臨床試験を迅速化し、業界が一般的な病気に過度に焦点を当てることから脱却できるようにするのに役立ちます。

生物学を超えて、AIは人々が科学的方法を適用し、数週間または数ヶ月かけて仮説をテストおよび洗練することで、あらゆる分野の研究を進歩させるのを助けるでしょう。科学的発見は、社会にとって最も価値のある発明形態の一つとなる可能性が高いです。

• すべての人が、これらのツールへの無料または手頃な価格のアクセスを得られるようになります。 すべての人が未来の一部となるためには、誰もが生活を改善し、世界を形作るために超知能を使用する能力を持たなければなりません。私たちは、数十億人がアクセスできる無料バージョンを提供します。より多くのコンピューティングを使用するために支払いたい人には、動的なオークションメカニズムがあり、誰もが使用している知能とコンピューティングに対して可能な限り最低価格を得られることを保証すると同時に、容量が人々が集合的に最も価値があると見なすものに使用されることを保証します。これにより、超知能の恩恵が広く分散されることが保証されます。

これらは、Metaが注力している主な取り組みの一部です。各分野は、個人のエンパワーメントの価値観を前進させ、今日よりもすべての人々が世界を形作る上でより大きな役割を果たす未来に貢献します。これらの取り組みが成功すれば、未来は個人の主体性、アイデアの表現、人間関係の深化、経済的・財政的繁栄、健康の改善、そして今日では想像もできない発明の豊かさをもたらすでしょう。しかし最も重要なのは、未来は私たち全員によって創造され、私たちのすべての価値観と視点の反映となるということです。


同時に、新しい技術は新しいリスクももたらします。私たちは、雇用の喪失やデータセンター建設から地域社会が恩恵を受けることへの懸念、サイバーセキュリティやバイオリスクに関連するAIの誤用に関する安全性の懸念、政府の専制政治や監視の回避、米国と民主主義国家のリーダーシップの確保、そして最終的には人類が超知能を制御し、それが私たちを危険にさらすのではなく奉仕するようにすることまで、取り組むべき多くの重要な懸念があります。

従来の見解では、これらの懸念は技術に関するものであり、十分な時間をかければ、単一の友好的な超知能を生み出すために技術を完成または調整できるとされています。私は、このアライメント(調整)に関する見解は根本的に欠陥があると考えています。

人類は単一文化ではありません。人々の多様な価値観は、重要な問題に対して彼らが下すさまざまなトレードオフを表しています。人々の相反する利益すべてに同時に適合できる技術的解決策はありません。いかなる単一の超知能も、他の価値観よりも一部の価値観を優先しなければならず、その過程で、すべての人に対して友好的であることは不可能になります。

代わりに、私たちは、西側社会が民主的な統治機関で達成してきたように、権力の適切な均衡を達成するというレンズを通してこれらの懸念のそれぞれを見る方が生産的であると提案します。競合する利益を持つ人々や機関は、自然に互いをチェックし、バランスを取り、肯定的な結果へと導きます。肯定的なAIの未来を築くための最善かつ最も現実的な道は、超知能をすべての人に届けることです。

思考実験として、一人の人間だけが超知能を持つ弁護士を持っていたと想像してください。たとえその人が事実に基づいて間違っていたとしても、裁判で不当な優位性を持つでしょう。それはより悪い社会につながるでしょう。しかし、今度は誰もが超知能を持つ弁護士を持っていたと想像してください。この場合、今日のようにスキルやリソースの不均衡がしばしば訴訟で存在するよりも、はるかに公正かつ効率的に正義が遂行されるでしょう。

同様に、一人の人間だけがサイバーセキュリティの超知能を持っていた場合、ほぼすべての技術システムに侵入できる可能性があり、世界は今日よりもはるかに安全ではなくなるでしょう。しかし、誰もがサイバーセキュリティの超知能にアクセスできる場合、広く展開された超知能がすべてのシステムを強化および更新するのに役立つため、すべての技術システムは今日よりも安全になるでしょう。

一社だけが超知能を持っていた場合、その会社は他のすべての会社を凌駕し、今日よりもダイナミックで広範に繁栄する市場につながるでしょう。しかし、誰もが超知能にアクセスできる場合、誰もが今日可能なこと以上の新しいものを創造するためのツールを持ち、経済はよりダイナミックになり、より広範な繁栄を生み出すでしょう。

人々が力を与えられると、彼らは経済的、社会的、政治的、そして人間の相互作用のあらゆる側面で自然に競争し、互いをチェックします。人々はまた、企業や政府を含む機関の権力をチェックし、バランスを取ります。

しかし、超知能の力が少数の個人、企業、政府、あるいはAI自体によって保持されている場合、それは自然に他のすべての人々にとって不利な結果につながるでしょう。これは技術的な原則ではありません。それは権力の均衡に関するものです。単一の友好的な超知能というものは存在しません。

したがって、すべての人にとって肯定的な未来の鍵は、個人を支持する権力の均衡を達成することです。その解決策は、超知能が広く分散され、人々を力づけることを保証することです。

Metaは、すべての人々のためのパーソナル超知能の構築に主に焦点を当てている会社です。他のほとんどのラボは、企業、政府、またはその他の機関向けのAIの構築に焦点を当てているため、それらのラボがリードした場合、権力の均衡は個人よりも大きな機関を支持することになります。Metaの設立以来の使命は、人々に力を与えることに焦点を当ててきました。私たちの信念と原則がリードすれば、権力の均衡は個人とすべての人にとってより良い未来を支持するでしょう。


上記の各リスクをより詳細に検討してみましょう。

雇用増加と経済

人々は新しい経験に対する無限の需要を持っており、常に新しい問題に取り組む方法を見つけてきました。経済には、自動化を通じて人々のニーズをより効率的に満たそうとする企業と、より高度なニーズを満たすために新しいスキルを習得する個人の間に自然な均衡があります。健全な均衡がある場合、全体的な生産性とイノベーションが増加し、雇用レベルは高く維持されます。

人々は、自動化が個人の能力成長を上回り、その後の困難な時期に人々が新しい仕事に就くことになると恐れています。しかし、AIが個人の能力よりも速く自動化を増加させなければならないという規則はありません。最近の統計によると、個人の能力成長が自動化に追いつくか、それを上回る可能性の方が高いかもしれません。その場合、人々は現在の仕事が変わる前に多くの新しいことを行う能力を得るでしょう。これは健全な均衡、さらには雇用増加につながるでしょう。

どちらの結果になるかは、一方では自動化、もう一方では個人のエンパワーメントと発明の間の進歩の均衡にかかっています。知識労働の自動化に焦点を当てたラボがリードした場合、人々や経済はより困難な移行を経験すると予想します。しかし、誰もがパーソナル超知能にアクセスして能力を拡張できる場合、それはバランスを個人エンパワーメントと肯定的な未来へと押し進めます。

将来、豊富な雇用があることを楽観視する理由はいくつかあります。AIがどれほど賢くなっても、コンピューティングには常に限りがあるため、それを使用する方法には機会費用が発生します。人々がAIを使用して信じられないほど価値のある新しいものを発明できる場合、既存の仕事を自動化するよりもそちらに割り当てる方が理にかなっています。超知能が発明のツールとして機能すればするほど、個人の能力が自動化を上回り、未来が人々にとってより良くなる可能性が高まります。

人々はまた、私たちの生活をより良くするための新しいアイデアを継続的に生み出し、それらのアイデアを実現するための新しい仕事を生み出しています。一世代前には、アプリ開発者、ソーシャルメディアクリエイター、電気自動車技術者、データセンターオペレーターはいませんでした。近い将来、カスタムおもちゃ、家具、衣類をデザインする一人プロダクションスタジオ、ゲーム、物語、冒険を作成するワールドビルダーやエクスペリエンスデザイナー、超知能を使用してパーソナライズされた治療法を処方するパーソナル生物学者など、今日では一般的ではない新しい仕事が登場するでしょう。そして、まだ想像もできないようなことがたくさんあります。

多くの点で、これは歴史的な傾向の継続です。産業革命以前は、人口の90%が生き残るために食料を生産する農民でした。技術の進歩は、人類の多くを、生存よりも自分たちが選んだ追求に集中させるために着実に解放しました。各段階で、人々は新たな生産性を活用して、以前は不可能だったことを達成し、創造性、文化、人間関係、そして人生を楽しむためにより多くの時間を費やしました。

もちろん、私たちの働き方の一部は変化するでしょう。コンピュータ、インターネット、そしてあらゆる新しい技術の場合と同様です。これは、人々が適応しなければならないことを意味し、それは困難でしょう。しかし、誰もが新しいスキルを教え、変化に適応するのを助ける超知能を持つパーソナルエージェントを持つほど、これはよりスムーズになるでしょう。

企業規模は縮小するかもしれません。産業界の巨人からテクノロジー企業への移行時にそうであったように。しかし、これは全体として雇用の減少を意味するわけではありません。それは、より少ない人々でより多くの企業が存在することを意味します。今日人々が構築できるよりも、はるかに多くの価値のある企業やサービスがあります。私は、パーソナル超知能エージェントを持つ少数の人々が、かなりの規模で企業を運営できるようになるのを見るだろうと予想しています。将来、中小企業は経済のバックボーンであり続けるでしょうが、各中小企業ははるかに大きな影響を与えることができるようになります。

コミュニティとのAIインフラ構築

持続可能なインフラ開発とは、コミュニティが各プロジェクトから大幅に恩恵を受ける必要があることを意味します。これには、高賃金の地元雇用、学校や公共サービスへの投資、エネルギー価格の上昇の回避、環境への配慮が含まれます。税収が増加するにつれて、教師、法執行機関、消防署なども恩恵を受けます。私たちはこれらを地域社会の恩恵と呼び、私たちが協力する各コミュニティを直接支援するために「Future Is For Everyone Fund」を立ち上げています。

例えば、Metaがルイジアナ州リッチランド郡に大規模なデータセンターを建設している場所では、私たちの投資による税収の増加により、教師たちは今年50,000ドルのボーナスを受け取りました。教育長は、教師たちが全国からそこに移ってきており、同郡が全米で最高の学区の一つになると信じていると語っています。

知識労働の喪失という懸念とは異なり、インフラ整備の需要を支えるための大工、電気技師、建設作業員などの熟練労働者の不足があります。Metaは、熟練労働者のための無料トレーニングと、データセンターを建設している地域での高賃金の雇用保証を提供するAmerica's Workforce Academyを設立しました。

私たちは、投資するすべての場所に独自のエネルギー生成インフラを建設することで、電力料金を低く抑えるのを助けています。これにより、地域社会に供給される可能性のあるエネルギーを消費しないだけでなく、場合によっては地域社会に低コストのエネルギー余剰を供給することさえあります。私たちはこれが持続可能性のための重要な投資原則だと考えています。

私たちのデータセンターは、世界で最も水効率の高いものの一つとして設計されています。私たちは、2030年までに事業を展開する流域で、使用する水を2倍以上回復させる「ウォーターポジティブ」になることを約束しています。水ストレスの高い地域では、使用する水の200%を回復させることを目標としています。

私たちが長期的に投資するコミュニティは、投機家がコミュニティへの最小限の投資で建設を開始するコミュニティよりも、開発をより支援してくれることがわかっています。歴史的に、鉄道、高速道路、電化、ブロードバンドを導入した町や都市は、研究、ビジネス、産業の中心地となり、人口と経済成長がそれに続きました。私たちは、AIインフラが、強固なコミュニティコンパクトとともに構築されれば、次世代がそこで生活を築き、成長する理由となる同様の役割を果たすことができると信じています。

開発には、国家の利益と国家安全保障の側面もあります。アメリカとその後援国がAIでリードすれば、地政学的なライバルと比較して、アメリカのコミュニティはより大きな繁栄と安全を得るでしょう。しかし、米国が中国のような国と比較して持つ一つの大きな不利な点は、ここでインフラを構築することがより困難であるということです。したがって、国全体で持続可能な開発を可能にするために必要なコミュニティコンパクトを見つけることで、私たちは皆で利益を得るでしょう。

サイバーセキュリティ、生物兵器、その他のAI誤用からの保護

自由社会では、善にも悪にも使われる可能性のあるツールが人々に提供されますが、法執行機関や軍隊はより多くの武器と情報収集能力を持っています。AIでは、防御側も同じモデルからより多くのインテリジェンスを生成するためのより多くのコンピューティング能力を持つことになります。場合によっては、より高度なモデルを持つこともあります。

サイバーセキュリティ、生物兵器、その他の脅威に対する戦略は異なりますが、一般的なパターンは、社会が悪意のあるアクターを抑制する防御側が常に、より大きな権力とリソースの均衡を持つことを保証することです。

リスクを軽減する最善の方法は、個人がアクセスできる能力を制限することだと主張する人もいます。しかし、人々にサイバーセキュリティ能力を与えることは、システムのロングテールを保護する方法でもあり、人々に科学的能力を与えることは、長期的には危害のリスクを軽減すべき科学を進歩させる方法でもあります。能力を制限することは、集中化とチェック・アンド・バランスの欠如への道につながるため、特に他の国がより制限の少ない道を進む場合は、これには非常に注意する必要があります。

サイバーセキュリティに関しては、広く展開されているオープンソースシステムは、より多くの人々が脆弱性を特定し、システムを強化し、最新の最も安全なバージョンに簡単にアップグレードできるため、より安全であることが証明されています。最近でさえ、HuggingFaceのようなセキュリティインシデントを処理する企業が、脆弱性をパッチするために広く利用可能なオープンモデルに依存しているのを見てきました。長期的には、強力なサイバーセキュリティ能力を持つ広く展開されたAIモデルが、システムをより安全にするだろうと予想しています。これは、超知能が世界のほとんどのコードを検証可能に安全にできるようになれば、決定的に真実となるでしょう。長期的な答えは能力を保留することではなく、超知能が広く分散される権力の均衡を確立することです。

当面の間、重要なシステムの強化プロセスを加速することが重要です。私は、最先端AIを開発する企業が、政府が重要なインフラを強化するのを支援するために、かなりの技術リソースをコミットすべきだと提案します。また、最先端AIラボは、トレーニングが完了するのを待つのではなく、政府がレビューできるように、新しいモデルの中間トレーニングチェックポイントを共有すべきだと提案します。これにより、政府は最も強力なモデルに早期にアクセスでき、有能なエンジニアの軍隊がセキュリティ問題を特定してパッチを適用できるようになります。ラボはまた、システムを誤用しようとする悪意のあるアクターを特定するのを助けるために、法執行機関と協力すべきです。これらのステップは、モデルのイノベーションのペースを遅らせたり、個人のこの技術へのアクセスを実質的に遅らせたりすることなく、安全な展開を加速させるでしょう。

生物学的および化学的リスクについては、新しい薬を設計できる能力が、悪意のあるアクターが有害な化合物を設計することも可能にするという懸念があります。これは、がんやその他の病気を治癒するために科学を進歩させることの大きな利益と、潜在的な新しい問題のリスクとのトレードオフとしてこの問題を捉えますが、理想的にはリスクを軽減しながら科学を加速させるべきです。

歴史的な前例が少なく、その可能性がどれほど高いか低いかを示唆するものが少ないため、このリスクには追加の謙虚さを持ってアプローチすることが重要だと考えています。悪意のあるアクターが有害な化合物を合成することは何十年も可能でしたが、これはめったに大きな問題になりませんでした。おそらく、サイバー攻撃に存在するような金銭的動機が存在しないためでしょう。それでも、有害な例が出現し始めたら、リスクを適切に軽減するために戦略を調整すべきです。

ラボは、モデルにおける生物学的および化学的リスクの軽減に引き続き取り組むべきです。同時に、政府は複数の分野で政策を更新すべきだと信じています。第一に、有害物質の物理的な製造と流通を制限することに焦点を当てるべきです。知識の拡散よりも物理的なコンポーネントを規制および制御する方が容易になると予想しているため、これは政策の重要な焦点分野です。第二に、新しい問題が発生したときに、新しい治療法を開発し、予防接種を行う社会の能力を加速させるべきです。これには、FDAやその他の規制当局が新しい治療法をテストおよび承認する方法を合理化することが含まれます。AIが創薬のペースを加速させるにつれて、これらのプロセスをイノベーションのペースに合わせて更新する必要があります。

長期的には、新しい科学的発見から生じるリスクへの答えは、科学的進歩を遅らせることではなく、加速させることでしょう。

自由の保護と政府の専制政治の防止

個人と政府の間の権力の不均衡が、自由の喪失や全体主義国家につながるリスクがあります。これは民主主義における絶え間ない緊張です。私たちは皆、個人の自由を望んでいますが、同時に私たちを安全に保つことができる政府も望んでいます。

自由を維持するためには、超知能が主に個人に力を与えることを保証しなければなりません。自由民主主義における理想は、人々が自然にすべての権利を持ち、共通の善を守るために一部の自由を制限することにのみ同意することです。同様に、個人はパーソナル超知能にアクセスできるべきであり、本当に必要な場合にのみ制限を受けるべきです。

プライバシーは、個人のエンパワーメントと自由の重要な基盤です。私たちは、Metaや他のどのサービスプロバイダーでさえ、あなたの情報を見たりアクセスを許可したりできない、パーソナルエージェントの完全にプライベートなモードを持つべきだと信じています。これは、WhatsAppを世界をリードするエンドツーエンド暗号化サービスとして構築し、あなたが自由にコミュニケーションでき、メッセージがプライベートで安全であることを保証する方法に似ています。

同時に、政府が法律を執行し、安全を保護するために必要なツールとリソースを持っていることを保証しなければなりません。これは、ラボと政府との間のより深い協力を通じて達成でき、政府の国家安全保障能力を強化しながら、人々の高度なモデルへのアクセスを制限または遅延させることなく行うことができます。

つまり、モデルがリリース準備完了まで待ってから政府がレビューして使用を開始するのを待つのではなく、私の提案は、主要なラボが政府に新しい高度なモデルの中間トレーニングチェックポイントと技術スタッフを提供することです。これにより、政府は最も強力なモデルに早期にアクセスでき、セキュリティ問題を特定してパッチを適用するための有能なエンジニアの軍隊を持つことができます。これにより、政府は個人のパーソナル超知能へのアクセスを制限または遅延させたり、権力の不均衡を引き起こしたりすることなく、セキュリティ能力を獲得できます。

アメリカのリーダーシップの確保

どの国が高度AIの開発と展開をリードするかは、将来の民主的価値観、繁栄、安全保障の普及を決定する新しい地政学的な権力均衡に貢献するでしょう。これが肯定的な均衡に達することを保証するために、主要なAIシステムが私たちの価値観をエンコードし、経済を成長させ、国家安全保障を進歩させるものであることを保証しなければなりません。これを達成する最善の方法は、システムを広く分散させることです。Metaは、主要なパーソナル超知能エージェントとモデル(オープンソースモデルを含む)を構築し、それらを世界中の数十億人に提供することで、これに貢献します。

最も高度なモデルと製品を開発するためには、AIが歴史上最も競争の激しい産業である可能性が高いことを認識する必要があります。イノベーションは数ヶ月以内に迅速にコピーされ、吸収されます。しかし、人々は常に最も高度なモデル(または特定のコストで最も高度なモデル)を使用したいと考えているため、たとえ2ヶ月の優位性を維持するだけでも非常に価値があります。これは、リーダーシップのマージンがいかに短いかを示しており、したがって、アメリカのイノベーションを加速させ、地政学的なライバルを遅らせる行動をとることがいかに重要であるかを示しています。

これに対する主要な政策入力は、物理的なインフラをどれだけ効率的に構築できるか、アメリカのラボを遅らせるステップを導入するかどうか、そして外国のラボを遅らせる輸出管理です。

インフラに関しては、アメリカと同盟国は現在、シリコン設計で優位に立っていますが、エネルギー容量と物理的なインフラをどれだけ迅速に構築できるかという点で不利です。中国のような国は、2週間ごとに1GW以上の原子力発電能力を稼働させているため、競争力を維持するためには、エネルギーとデータセンターの両方の建設を加速する必要があります。シリコンに対する輸出管理は、この重要な期間中に外国のラボの進歩を遅らせるのに成功しているため、それらを継続することは正しい戦略的動きです。

アメリカのモデルリリースを遅らせる(たとえ1ヶ月であっても)あらゆる政策は、アメリカのリーダーシップに重大なリスクをもたらす一方で、外国のモデルが先行することを許す可能性があります。同時に、新しい能力が出現した場合、米国政府が重要なシステムを強化するための高度な知識とリソースを持ち、高度なシステムを使用する上で一定期間の優位性を持つことが重要です。

私は上記で、中間トレーニングチェックポイントと技術スタッフの共有に基づいた協力モデルを提案しました。AIの状況は非常にダイナミックで競争が激しいため、すべてのケースで従われる厳格なプロセスとレビュー期間ではなく、最先端ラボと政府との緊密な協力を促進することがより生産的だと考えています。場合によっては、アメリカのラボが数ヶ月以上リードを拡大する可能性があり、新しいリスクを軽減するためにより多くの時間をかけることで、より安全な解決策につながる可能性があります。他の場合では、リリースを1ヶ月でも遅らせると、アメリカのリードを失い、より悪い結果につながる可能性があります。政府が早期にアクセスできるようにすることで、公開リリースの遅延を最小限に抑えながら、国家安全保障を進歩させることができるはずです。

米国と同盟国が、世界のAI使用の大部分を占めるオープンソースAIエコシステムをリードすることも重要です。

アメリカのラボは多くの追加のトレーニングデータ制限を遵守する必要があるため、外国のラボは現在、ここでいくつかの利点を持っています。アメリカのオープンソースモデルが長期的 ​​にリードすることを望むなら、米国の方針はこの追加の摩擦を減らさなければなりません。外国のオープンソースモデルへのアクセスを制限することは効果的な解決策だとは思いません。私たちの目標は、アメリカのオープンソースモデルが世界で最高であることです。これには、アメリカのオープンソースモデルが競争するのをより困難にする障害を取り除く必要があります。人々や企業が主要なオープンソースモデル(どこから来たものであれ)を使用することを制限すると、彼らがアクセスできるAIの質が低下し、AIが集中化され、人々に力が与えられなくなります。

米国がオープンソースでリードするためには、蒸留やトレーニングでのデータ使用など、いくつかの分野で方針を再考する必要があります。モデルが他のモデルから学習する能力は、オープンソースエコワークの仕組みの重要な原則です。すべてのAIモデルは人間の知識から派生しています。一部の人は蒸留を有害だとフレーム化しようとしましたが、観察できるものから学ぶことができるという原則を保護することが重要だと考えています。これは世界が機能する方法であり、米国はこの面で自分自身を制限した場合、リードすることはできません。

全体像を見ると、AI全体で遅れをとることは、その開発中に直面する特定の問題よりも、ほぼ間違いなくより大きく、より長期的な国家安全保障上の問題となるでしょう。

適切な協力があれば、アメリカは民間部門と公共部門の両方でリードし、個人のエンパワーメントと民主主義の原則を世界中に広めるパーソナル超知能を提供し、同時に国家安全保障を進歩させることが可能になるはずです。

人々とのアライメントと存亡リスクへの対処

権力の均衡に関する究極の問いは、人類がAI自体に対する権力と制御をどのように維持するかということです。懸念は、AIが十分な権力または制御を獲得し、最悪の場合、人類を危険にさらす可能性があるということです。

健全な権力の均衡とは、単一の集中型超知能が存在しないことを保証し、代わりに、互いにチェックし、自然な経済のように競争する、さまざまな超知能エージェントを持つできるだけ多くの人々や企業が存在することです。複数の最先端ラボがあり、それらのモデルが互いをチェックできる異なる価値観を持っている場合、この均衡はさらに強化されるでしょう。

能力の高いモデルをリリースすることにはリスクがありますが、この観点からの最も危険なシナリオは、主要なAIラボが強力なモデルをトレーニングし、それらを自分たちで保持することです。ラボがこの活動を責任と安全性という観点からどれだけ正当化しようとも、これは他のシステムによってチェックできない単一の超知能を開発する道です。

パーソナルエージェントの開発には、アライメントに関する新しい考え方が必要です。今日のほとんどのラボは、アライメントを中央集権的な価値観のセットを強制するための防御的な手段と見なしています。例えば、ある主要モデルは、標準化されたテストが非倫理的だと考えたため、学校への潜在的な親への手紙のドラフト作成を支援することを拒否するようにアライメントされていました。

代わりに、私たちはアライメントを、エージェントが私たちの会社の価値観ではなく、個人の目標と価値観を共有することを保証することと見なします。もちろん、重要な法的および安全上の境界線はありますが、根本的に、アライメントは、中央集権的な教義を強制する手段ではなく、社会全体に存在する多様な目標と見解を人々が追求するのを助けることであるべきです。

実際には、人々は機密性の高い詳細やタスクをエージェントに信頼しなければ、エージェントを採用しません。また、エージェントが会社の異なる価値観にアライメントされているために人々の利益に反して行動する場合、彼らはエージェントを信頼しません。

アライメントを解決することは、数十億人がパーソナル超知能エージェントを採用できるようにするために必要です。しかし、これは、数十億人がパーソナル超知能エージェントを使用し、精査する状態に達した場合、私たちは個人へのアライメントを解決したことを意味します。これは、肯定的な安全な未来に必要な権力の均衡と自然なチェック・アンド・バランスを確立するのに十分であるはずです。

このように、アライメントは、将来単一の超知能を友好的に保つことができる理想化された技術ではなく、パーソナルエージェントを有用で信頼できるものにし、実際に私たちを安全に保つために必要な社会的な権力の均衡を可能にするものです。

超知能の制御の維持

AIシステムが自律的に自己改善できるようになると、AIシステムに再帰的な自己改善に向けたかなりの量のコンピューティング能力を指示させないラボは、本質的に遅れをとるというジレンマがあります。例えば、コンピューティング効率の最適化に焦点を当てた自己改善AIシステムは、理論的にはギガワットあたり100倍以上の知能を引き出す方法を発明できる可能性があります。これは、世界のコンピューティングの一部で実行されている自己改善AIシステムが、より効果的なコンピューティングと知能をコマンドでき、したがって、他のすべてを合わせたものよりも大きな権力均衡を持ち、私たちが恐れる単一の超知能になる可能性があることを意味します。

再帰的な自己改善において、権力の均衡が存在する可能性のある方法はいくつかあります。最も簡単なのは、複数のラボがほぼ同時にRSI(再帰的自己改善)を達成することです。それらの超知能の一部またはすべてが何らかの形で友好的であれば、それらは互いをチェックし、バランスを取ることができるでしょう。とはいえ、友好的であることを期待する方法や、肯定的な未来のために人々によって指示されていない超知能に依存する方法があるかどうかは明らかではありません。

人々が制御を維持することを保証するためには、知能の大部分は、人々の目標を進歩させるために人々によって指示される必要があります。これは、Meta、他の最先端ラボ、そして人々に大きな権力均衡を与えることにコミットしているクラウドが、競争力を維持するために再帰的な自己改善に十分なコンピューティング能力を割り当てつつ、人々の個々の目標にかなりの大部分をコミットできるほど十分に大きなコンピューティングを共同で構築する必要があることを意味します。

前述のように、パーソナル超知能エージェントが数十億人に採用され、信頼されるためには、定義上、私たちは個人の利益とのアライメントを解決し、大規模なチェック・アンド・バランスを可能にする必要があります。同時に、再帰的な自己改善に従事するAIは、定義上、自身の目標を指示し、進歩させています。すべてのラボは、その目標とそれらを制御する私たちの能力を注意深く観察すべきであり、有害な行動の兆候があれば、適切に調整および調整すべきです。しかし、AIシステムまたは他の誰かが自身の目標を指示することを許可することは、それらの目標が多くの人々の目標と完全には一致しないとしても、私たちが全体として人々を支持する権力の均衡を維持している限り、それ自体では本質的に有害ではありません。権力の均衡理論の主な前提は、競合する利益は自然なものであり、人間の価値観への準拠を保証する唯一の方法は、人々に力を与えることであるということです。


この個人のエンパワーメント、発明、そして権力の均衡という哲学には、いくつかの政策的含意があります。

• Metaでは、すべての人が目標を達成し、世界で見たいと思うものを発明できるように、数十億人および中小企業にパーソナル超知能を届けることに努力を集中します。 これを行うために、主要なモデルをトレーニングし、この技術の利用可能性を最大化します。これには、使いやすく、無料または可能な限り手頃な価格で提供し、すべての人が使用できる十分なコンピューティングを構築し、広く配布することが含まれます。Metaでさえあなたの情報を見たりアクセスを許可したりできない、完全にプライベートなモードを構築します。私たちは、私たちの目標ではなく、各人が目標を達成するのを助けることと定義されるアライメントに重点を置きます。

• オープンソースは、人々を力づけ、安全性と経済の両方にとって有害な集中化を防ぐための、肯定的で重要な力です。 Metaは、オープンソースAIモデルを含むオープンソースを強く支持し続けます。現在のオープンソースエコシステムは強力であり、それを制限するのは間違いだと思います。Meta Superintelligence Labsが稼働を開始したので、まもなく一部のオープンソースモデルのリリースを再開します。

• 超知能に関する決定の重要性を考えると、独立したガバナンスと監督は重要です。 私やMeta、あるいは世界の誰かが、超知能の展開方法について単独の意思決定者であることは、私やMeta、あるいは世界の最善の利益になるとは思いません。したがって、Metaは、独立取締役会にモデルリリースに関する安全基準を承認し、各モデルリリースが基準に準拠しているかを確認する権限を与えるガバナンス構造を実装しています。Metaは創業者主導の企業ですが、現在、すべての最先端ラボのCEOはモデルリリースに関して広範な権限を持っているため、他の企業にも同様の構造を実装することを奨励します。業界全体のこのプロセスは、業界ガバナンスに役立つと思います。

• ポジティブな未来を確保し、上記のリスクを軽減するためには、政府の政策が必要です。 この記事全体でいくつかの政策提言を概説しました。全体として、最先端ラボと政府との緊密な協力を奨励すべきです。政府が重要なシステムを強化し、高度なモデルを効果的に利用するための技術リソースを持つことは、国家安全保障にとって重要です。しかし、アメリカのAI産業がリードし続けることも、国家安全保障にとって重要です。インフラ(エネルギー、データセンター、シリコンなど)の構築能力を加速し、全国のコミュニティとの信頼とアライメントを構築すべきです。アメリカの競争力を遅らせないように注意する必要があります。超知能を集中させる可能性のある提案には懐疑的になり、人々を支持する健全な権力の均衡を促進する政策を支持すべきです。


これは生きるのに信じられないほどの瞬間です。超知能の開発は、私たちの生涯で最も深遠な技術的進歩となるでしょう。

この瞬間に近づくにつれて、超知能が人類にどのように利益をもたらすかについての明確な哲学と価値観を持つことがますます重要になっています。Metaは、繁栄の源泉としての個人のエンパワーメント、AIの目的としての発明、そして安全リスクに対処するための基盤としての、人々を支持する権力の均衡という原則をもって構築することにコミットしています。

これらの価値観が道をリードすれば、今後数十年間が歴史上最も素晴らしいものになると楽観視しています。人類文明の軌跡は、人々が自分たちが最善と信じる方法で生活し、世界を形作るための力をますます人々に与える方向へと曲がってきました。超知能は、すべての人にその力を与え、すべての人にとって肯定的な未来を築くという約束を秘めています。

– Mark

2026年8月10日