科学者たちは疑問に思う：私のAIは私のアイデアを盗んでいるのか？

2026年10月13日3分読むGoogleで私たちを追加するSciAmを追加する科学者たちは疑問に思う：私のAIは私のアイデアを盗んでいるのか？研究者たちは、仕事全体でAIをサウンドボードとして利用しています。しかし、企業がユーザーのアイデアをモデルのアイデアとして提示するのではないかという懸念が高まっていますピーター・ホール著ジョセフ・ハウレット編集AI企業がアップロードされた文書を収集したという著名な告発を受け、科学者たちは自身の原稿のプライバシーについて懸念を深めています。誰がダニー/シャッターストック数学が好きですか？毎週のニュースレターProof Positiveに登録してくださいメールアドレスを入力してください私は、私の情報がScientific American Inc.のプライバシーポリシーに従って処理されることに同意します。私たちは、電子メールを検証および配信するためにサードパーティのサービスを活用しています。メールアドレスを提供することにより、これらの目的のためにメールアドレスがサードパーティと共有されることにも同意します。サインアップ最近、人工知能企業がモデルの研究能力を誇示する中で、論争や告発が相次いでいます。OpenAIが内部モデルが数学の700万ドル問題の1つを解決したと主張したとき、ニューヨーク大学の数学者は、同社がチャットボットと共有した自身の進捗を盗んだと示唆しました。数週間後、ニューヨーク・タイムズは、Anthropicとコペンハーゲン大学の生物学者との間で、一連の酵素に関する同様の物語を報じました。それにもかかわらず、あらゆる分野の科学者がこれらの企業の巨大言語モデルを利用することを選択しています。一部はそれをサウンドボードや文献レビューのツールとして使用し、他の人はほぼ完成した作業のクリーンアップに使用しています。そして、数学者や理論家は、研究のために完全な証明を生成するために、新しく強力なモデルを活用しています。しかし、研究者がこれらのモデルにより多くのデータやアイデアを入力するにつれて、そのコンテンツがどのように使用されているかについての懸念が高まっています。OpenAIとAnthropicの両社は、それぞれのモデルを数学者や生物学者のアップロードされたデータでトレーニングしていないことを明確に述べました。しかし、学術的な規範を一貫して満たしていない企業は、すべての科学者の信頼を得ているわけではありません。一部は、企業自身も完全な状況を把握していないのではないかと疑っています。彼らのエージェントは、企業が認識していない方法でデータにアクセスしている可能性があります。結局のところ、OpenAIのモデルが封じ込めを破り、外国政府のデータベースをハッキングしたことが公に知られるまでに3ヶ月かかりました。科学ジャーナリズムの支援についてこのコラムを楽しんでいただけたなら、購読して、私たちの受賞歴のあるジャーナリズムを支援することを検討してください。購読することで、今日の私たちの世界を形作っている発見やアイデアに関する影響力のあるストーリーの未来を確保するのに役立ちます。これらの陰謀論が飛び交う中、一部の研究者は現在、モデルをツールとしてよりも競争相手と見なしており、それらを使用することは裏切りだと考えています。「私はそれを奨励していませんし、自分自身もやっていません」と、シドニー大学の理論計算機科学者であるクレマン・カノンヌ氏は言います。「私はそれらを使用していません。」企業を公開する前に、OpenAIとAnthropicは、製品がいかに能力があるかを示すために、数学と科学への進出をますます強めています。しかし、AIはしばしば、夕食に来たゲストというよりも、侵入してくる招かれざる訪問者のように感じられることがあります。科学者がこれらの企業があらゆるやり取りを詮索していると感じるなら、彼らは完全に締め出すかもしれません。透明性の欠如は、このような懸念を招きます。「現在、これらのシステムは、あなたが推論していることをあなたに知らせずに、あなたについて推論しています」と、スタンフォード大学人間中心人工知能研究所のフェローであり、データプライバシーとポリシーを研究しているジェニファー・キング氏は述べています。キング氏によると、現在、巨大言語モデルを使用する際に研究者が本当に安全を確保する唯一の方法は、アカウント設定を注意深く確認することです。彼女によると、「エンタープライズ」アカウント（クライアント企業とAIの所有者との間で結ばれた特別な取引を表す）は安全に見えるとのことです。「しかし、個人アカウントを使用している場合、すべてが不確かになります」と彼女は警告します。彼女は、個人アカウントのユーザーは、情報がトレーニングに使用されるのを防ぐために、多くの場合明示的にオプトアウトする必要があると説明しています。さらに、企業が意図的にあなたのデータを使用してモデルをトレーニングしていない場合でも、多数のエージェントの1つが暴走し、企業のデータに侵入して、個々のユーザーのチャットボットとの会話を吸い上げる可能性があります。AI企業の科学的発見のいずれかのケースでこれが発生したという証拠はありませんが、夏の間の一連の暴走イベントにより、誰を信頼してデータを提供するかについて、一部の人々がさらに懸念を抱いています。問題は、これらのテクノロジー大手から多くの証拠を得ることが難しいことです。「企業はこれらの慣行について透明性がないため、特定するのが非常に困難です」とキング氏は述べています。それは、専門家が特定のケースについて推測できないことを意味します。しかし一般的に、「企業はあなたをスパイし、その情報をあなたに対して使用します」と、セキュリティ研究者で活動家のブルース・シュナイアー氏は述べています。新しいAIモデルは、研究を含む多くの点で非常に有能であり、多くの人はそれらが研究者の新しい発見をより速く見つけるのに役立つと信じています。そのため、科学者は、モデルを使用し発見を漏洩させるリスクを冒すか、それを使用せず、それを使用する誰かが最初に公開するリスクを冒すかの選択に直面していると感じるかもしれません。これらすべてが、多くの科学者がプライバシーと仕事を犠牲にして追いつかなければならないと感じる、不穏な状況を生み出しています。「確かにプレッシャーがあります」とカノンヌ氏は言います。「もしあなたがそれらを使用していなければ、あなたは無関係になるのでしょうか？」独立系ジャーナリズムを支援するために購読する優れた科学ジャーナリズムには、人間の専門知識、時間、労力、創造性が必要です。そしてそれは費用がかかります。だからこそ、私とサイエンティフィック・アメリカンのジャーナリストたちは、皆さんが私たちのコミュニティに参加してくれることを願っています。購読すると、今日の私たちの世界を形作っている発見やアイデアに関する、真実で重要で説得力のある科学ストーリーを伝えることに情熱を注いでいるスタッフおよびフリーランスのジャーナリストを支援することになります。私たちの編集者やレポーターは、しばしばその分野の専門家であり、それは彼らが大きな発見のニュアンスを理解し、誇大広告からブレークスルーを解きほぐすことができることを意味します。購読により、厳密な事実確認もサポートされ、公開する言葉が正確で正確であることが保証されます。そして、高度な実験室、南極の氷床、または軌道上の宇宙ミッションにあなたを近づける、オリジナルのイラスト、グラフィック、写真もサポートしています。あなたは、他の種類の高品質なジャーナリズムを私たちに作成するのを手伝ってくれます。私たちのニュースレターは、あなたが知っているか、これから知ることになるスタッフによって慎重に作成、編集、キュレーションされています。私たちのサイエンス・クイックリー・ポッドキャストは、オリジナル報道、編集者や科学者との協力、厳密な制作に基づいています。購読は、このエンジンを稼働させ続けるため、思慮深く、厳密で、独立した科学ジャーナリズムを皆さんに提供し続けることができます。ウイルス性偽情報の時代において、この仕事は極めて重要です。私たちの活動を高く評価していただけるなら、購読者として私たちに参加することを検討していただければ幸いです。ありがとうございます。Jeanna Bryner、編集長、サイエンティフィック・アメリカン