David Sacks: OpenAIとAnthropicはフロンティアモデルのペースを規制する必要はない

ログインまたはサインアップしてXにアクセス

［画像: @DavidSacks］(https://x.com/DavidSacks)

Darioは「フロンティアをペースダウンさせる必要がある」と書き、Samもそれに同意した。私の返答に人々は驚くかもしれない：どうぞ進めてください。君たちがフロンティアなのだ。合理的な指標――市場シェア、収益成長、モデル能力――のいずれを見ても、君たち二社はフロンティア知能のデュオポリを築いている。再帰的な自己改善によってそのリードは拡大していると主張してきた。私はラボで君たちが見ているものを見ていない。もし未公開のモデルが、君たちがペースダウンすべきだと考えるほど恐ろしいのであれば、君たちの責任ある決断を支持する。しかし、他人の許可を求めるのはやめなさい。カルテルを形成するために独占禁止法を停止する必要があるかのように見せかけるのはやめなさい。製品責任に優先する規制承認プロセスが必要であるかのように見せかけるのはやめなさい。METRがAnthropicの投資家やスタッフと絡み合っているのに、独立しているかのように見せかけるのはやめなさい。フロンティアにすら到達していない競合他社を監視するために、同じ評価者が必要であるかのように見せかけるのはやめなさい。そして何よりも、ペースダウンする動機が純粋に利他的であるかのように見せかけるのはやめなさい。君たちの製品が真に破壊的なサイバー攻撃を可能にした場合、君たちは莫大な製品責任にさらされることになる。市場はすでに、予測不能または不正な方法で動作するモデルを罰している。Hugging Faceの件の後、OpenAIとAnthropicが一部の生のパワーを信頼性と予測可能性と交換するのは、単に良いビジネスなのだ。それをアライメントと呼ぶならそうすればいい。それは顧客が望むものを顧客に与えることでもある。フロンティアをペースダウンさせることは、バーニー・サンダースの「すべてをシャットダウンしろ」というような、より賢明な規制に関する会話のための余地も生み出すだろう。君たちも知っているように、中国が世界的な合意に参加する可能性は非常に低い。そのことも考慮に入れなければならない。だから、フロンティアをペースダウンさせるなら、そうしなさい。君たちがそれを設定しているのだ。超知能を構築しない最も簡単な方法は、君たちがそれを構築しないことに同意することだ。その代償として君たちが望む規制の枠組みを要求することは、公衆と政治システムに対する脅迫のように見えるだろう。だから、ただやりなさい。もしそうすれば、次の会話のために好意を買うことになるだろう。もしそうしなければ、これが単なる規制獲得のための入札――あるいは選挙シーズンの心理作戦――であったことがわかるだろう。