Garry Tan氏は、米国のオープンウェイトAIラボにもフロンティアモデルを「蒸留」するよう求めている

中国のAIラボが蒸留技術を用いてフロンティアモデルメーカーから知識を抽出することに関して、Y CombinatorのCEOであるGarry Tan氏は、規制当局が介入しないことを望んでいます。実際、彼は米国のAIラボも同様のゲームをプレイすべきだと考えています。「私は何もすべきではない」と彼は今週初めのCNBCのインタビューで語りました。「アメリカ版の蒸留体制があるべきだと議論することもできる。」彼はTechCrunchに対し、これはアメリカの小規模なオープンウェイトAIラボが、アメリカのフロンティアAIラボに対して同じ種類のトレーニング技術を使用し、米国が中国製ではない、より堅牢なオープンウェイトの選択肢を持つことを意味すると説明しました。 蒸留とは、モデルメーカーが、モデルの仕組みや推論方法を学ぶために、別のモデルに広範なプロンプトを与えることです。これは、AIラボが新しいモデルのトレーニングを支援するために、一般的に合法的に使用されています。Anthropicは今週、中国のラボが「不正な蒸留攻撃」に関与しており、許可なく蒸留するために身元を隠し、詐欺や盗難された認証情報に依存していると主張する2回目のレポートを発表しました。AnthropicのCEOであるDario Amodei氏は以前、米国の規制当局に対し、蒸留の取り締まりを求めるよう公に呼びかけていました。シリコンバレーの著名で多作なスタートアップアクセラレーターの司令官が同意しないことは注目に値します。 明確にしておくと、Tan氏はアメリカのAIラボが盗難された認証情報を使用して蒸留することを推奨しているわけではありません。彼は、それらが正面玄関から自由に入ってこれるようにすることを望んでいます。実際、彼の議論は二重です。彼は、AIラボがモデルが顧客に共有する情報に対して、顧客が何ができるかを指示することは、過剰な干渉だと感じています。また、彼は、プロプライエタリなAIラボが、モデルをトレーニングするために可能な限り多くの人間の知識を収集した際に、許可を求めなかったと指摘しています。彼らは、知的財産権所有者の許可なく、多くの著作権で保護された資料を摂取したことで有名です。「クローズドウェイトモデルへのAPIコールでユーザーや顧客が何をするかを制御することは、制約的だと感じており、政府が、広範な公開データでトレーニングされた知能へのアクセスが、それ自体が制限的な利用規約の背後にあるものよりも、むしろ公共財としての性質を持つべきであるという事実を正常化する上で役割を果たすことができる」と彼は、アメリカのラボも同様に蒸留する自由を持つべき理由を尋ねられた際にTechCrunchに語りました。 自身も熱心なAIユーザーであり、かつてはサイバー精神病だと自らを表現したTan氏は、オープンウェイトAIラボとフロンティアラボの間のバランスを見たいと考えています。「それらはフロンティアであり、それを前進させています。私たちはそれが資金調達可能であり、継続的に素晴らしいビジネスモデルであることを望んでいます」と彼はCNBCに語りました。「オープンウェイトモデルが人々に自由とアクセスを与えることを望んでいます。」彼にとって、真のAIの終末シナリオは、フロンティアAIの計り知れない力が、単一の強力なプロプライエタリプロバイダーの手にすべて収まってしまうことです。「悪夢のシナリオ、AIの終末シナリオは、企業が一つしかないということだ」と彼は言いました。「それは最高の資本へのアクセスを持ち、最高のAI研究者を持っています。それを持って逃げ出し、突然、一枚岩の企業ができてしまう。それは悪いことでしょう。」