数学者たちは、OpenAIが自分たちの研究を利用していないという証明を求めている

数学者はOpenAIが自分たちの研究を利用していないという証明を求めている

さらに別の研究者が、OpenAIのますます印象的になっている数学的発見の数々を支えるデータについて、同社に異議を唱えています。未公開の研究が同社のモデルに利用されたかどうかの激しい論争が勃発したわずか数日後、第二の数学者が、AI大手による非倫理的かつ「不正な」行動と、トレーニングデータの起源に関する透明性の欠如を非難するために名乗り出ました。

Mastodon上の一連の投稿で、数学者のアンドレアス・トム氏は、OpenAIの華々しい発表の前に彼と同僚がChatGPTチャットボットと行ったやり取りが、その分野での成功に貢献した可能性についての懸念を表明しました。先月、OpenAIが大々的に発表した10件の成果のうちの1件は、トム氏の専門分野であるいわゆる「非ソフィ群」に関するもので、OpenAIは、その成果がトム氏と同僚の数学者ガボール・クン氏の先行研究に大きく依拠していることを認めました。

トム氏は、ニューヨーク大学の数学教授であるトリスタン・バックマスター氏が、同社のAIモデルが自身のCodexの利用から恩恵を受けたのではないかと公に疑問を呈した後に、自身のOpenAIとのやり取りについて考え始めたと述べています。OpenAIが非ソフィ群に関する成果を発表した後、トム氏とクン氏の最近の貢献を認めなかったことで数学界から広く批判され、同社は静かにその説明文を修正しました。非ソフィ群とは、大まかに言えば、有限なもので近似できない無限の数学的構造のことです。

トム氏はまた、「我々の手法に対するOpenAIの詳細な把握」に衝撃を受けたと述べており、それらの手法は当時、解決策への最も明白でも最も有望なルートでもなかったと指摘しています。彼はOpenAIの研究者であるセバスチャン・ビューベック氏とマーク・セルケ氏（ハーバード大学の統計学者でもある）にメールを送り、ChatGPTとのやり取りが「トレーニングデータの一部であったか、推論プロセスにアクセス可能であったか」を尋ね、それによって成果に貢献した可能性があるかどうかを確認しようとしました。

しかし、その返答はトム氏を満足させるものではなく、チャットボットとの会話が直接アクセス可能であったかどうかのみに言及しており、それらが同社がモデルを改善するために使用する膨大なトレーニングデータプールに入り込んだかどうかについては触れていませんでした。「そのような限定、説明、または証拠は与えられませんでした」と彼は書いています。「少なくとも、これを不正だと考えます。」

トム氏は、研究者はOpenAIのトレーニングパイプラインをリバースエンジニアリングして、自分たちの研究が利用されたかどうかを判断する装備がないと述べています。「それに関する関連データはOpenAIだけが持っています。」もし同社がこれを行っていないと否定するのであれば、彼が言うには、その証明責任は、必要なすべてのデータセットを開示し、データ使用方法に関する様々な設定や条件を明確にすることによって、同社にかかっています。

ユーザーデータを一切使用していないことを決定的に否定しないOpenAIの姿勢は、最近のミレニアム賞問題のブレークスルーを擁護した際の方法論と、バックマスター氏とのコミュニケーション（バックマスター氏は個人的にAnthropicの研究者Levent Alpöge氏と協力して問題に取り組んでいた）と響き合っています。流体の動きに関するNavier-Stokes方程式の解を発表するブログ記事で、OpenAIは「私たち（研究者とエージェント）は、彼らが公に発表するまで、いかなる手段でも彼らの仕事を見ることはありませんでした。特に、この問題を解決するために特定のユーザーデータにアクセスすることはありませんでした。」と、いかなる特定のユーザーデータも使用したことを断固として否定しました。

しかし、間接的な影響の可能性を決定的に排除することはしませんでした。「可能性は低いですが、私たちの製品の使用から派生した匿名化されたデータが、私たちのモデルの改善に役立った可能性を排除することはできません。」トム氏は、これが同社が彼とのコミュニケーションで示した、同じ曖昧な区別であると述べています。「匿名化は名前を削除するかもしれませんが、数学的なアイデアの知的内容は削除しません。」

最近の出来事を踏まえ、トム氏は「セルケ氏の断定的な回答は、少なくとも、不当に広範で、実質的に誤解を招くものでした。振り返ってみると、それは明らかに不正でした。」と述べています。

トム氏は、非公開の研究がユーザーによって提供され、それがモデルの改善に役立ち、そして同社がそのモデルを、同意、適切な開示、またはクレジットなしで、それらのユーザーと発表競争するために使用した場合、「倫理的に擁護できない」と述べています。

OpenAIは、The Vergeからのコメント要請にすぐには応じませんでした。

彼のコメントは、同社にとって勝利の瞬間であるはずのこの時期に、数学界で高まるOpenAIへの不満に拍車をかけています。数学界で最も伝説的なミレニアム賞問題の一つに対する同社の解決策の発表は、もし検証されれば、ほとんどの人が認めざるを得ない驚異的な成果です。しかし、この成果は、OpenAIが当初この問題に取り組むきっかけとなったとされる異常な状況によって複雑化しました。同社は、他の研究者が大きな進歩を遂げたという噂をオンラインで聞き、自分たちも試してみようと考えたのです。

この一連の出来事は、数学者たちの間に「苦い後味」を残しています。多くの研究者がThe Vergeに語ったところによると、このような行動が、数学者たちが大きなブレークスルーに近づいているという噂でさえ、栄光を求める意欲的な技術大手との競争を引き起こす可能性があると知れば、この分野をより秘密主義的な状態に追い込むのではないかと懸念しています。

• Robert Hart