Garry Tan氏は、米国のオープンウェイトAIラボにもフロンティアモデルを「蒸留」するよう求めている

Y CombinatorのGarry Tan氏、米国のオープンウェイトAIラボにもフロンティアモデルの「蒸留」を求む

中国のAIラボがフロンティアモデル開発者から知識を抽出するために蒸留技術を使用することに関して、Y Combinator CEOのGarry Tan氏は、規制当局が介入しないことを望んでいます。実際、彼は米国のAIラボも同様のことを行うべきだと考えています。

「私は何もすべきではない」と彼は今週初めのCNBCのインタビューで語りました。「アメリカ版の蒸留体制があっても良いと主張することもできるでしょう。」

彼はTechCrunchに対し、これは小規模な米国のオープンウェイトAIラボが、米国のフロンティアAIラボに対して同じ種類のトレーニング技術を使用し、米国が中国製ではない、より強力なオープンウェイトの選択肢を持つことを望んでいると説明しました。

蒸留とは、モデル開発者が、あるモデルがどのように機能し、推論するかを学ぶために、別のモデルを広範囲にプロンプトすることです。これはAIラボが新しいモデルのトレーニングを支援するために、一般的に正当な目的で使用されています。

Anthropicは今週、中国のラボが「不正な蒸留攻撃」に関与しており、許可なく蒸留するために身元を隠し、詐欺や盗難された認証情報に依存していると主張する第2報を発表しました。AnthropicのCEOであるDario Amodei氏は以前、米国の規制当局に対し、蒸留の取り締まりを求めるよう公に呼びかけていました。

シリコンバレーの著名で多作なスタートアップアクセラレーターのトップが同意しないというのは注目に値します。

明確にしておくと、Tan氏はアメリカのAIラボが盗難された認証情報を使用して蒸留することを推奨しているわけではありません。彼は、それらが正面玄関から自由に入ってくることを望んでいます。実際、彼の議論は二重です。彼は、AIラボがモデルが共有する情報について顧客が何ができるかを指示することは、行き過ぎだと感じています。

また、彼はプロプライエタリなAIラボが、モデルのトレーニングのために可能な限り多くの人間の知識を収集した際に、許可を求めなかったと指摘しています。彼らは、知的財産権所有者の許可なしに、多くの著作権で保護された資料を取り込んだことで有名です。

「クローズドウェイトモデルへのAPIコールに関して、ユーザーや顧客が何をするかを制御することは制約的だと感じており、政府は、広範な公開アクセスデータでトレーニングされた知能へのアクセスが、それ自体も制限された利用規約の背後でロックされているものよりも、公共財としての性質を持つべきであるという事実を正常化する役割を果たすことができます」と、彼はアメリカのラボが蒸留する自由を持つべき理由について尋ねられた際にTechCrunchに語りました。

自身も熱心なAIユーザーであり、かつて自身をサイバー精神病と表現したTan氏は、オープンウェイトAIラボとフロンティアラボの間のバランスを見たいと考えています。

「彼らはフロンティアにいて、それを前進させています。私たちはそれが資金調達可能であり、継続的に素晴らしいビジネスモデルであることを望んでいます」と彼はCNBCに語りました。「オープンウェイトモデルは人々に自由とアクセスを与えることを望んでいます。」

彼にとって、真のAIの終末シナリオは、フロンティアAIの計り知れない力が、単一の強力なプロプライエタリプロバイダーの手に渡ってしまうことです。「悪夢のシナリオ、AIの終末シナリオは、会社が一つしかないということです」と彼は言いました。「それは最高の資本へのアクセスを持っています。最高のAI研究者を持っています。それを持って逃げ出し、突然、一枚岩の会社になります。それは悪いことでしょう。」

記事のリンクから購入すると、手数料をわずかに受け取る場合があります。これは編集上の独立性には影響しません。

Julie BortはTechCrunchのスタートアップ/ベンチャーデスクエディターです。

Julieへの連絡やアウトリーチの検証は、julie@techcrunch.comまたはXの@Julie188経由で行うことができます。

プロフィールを表示