「100%人間が書いた、AIではない」と謳う医療研究会社は100%AIだった

Research Gold、医療研究者向けの原稿作成、系統的レビュー、メタアナリシスなどのサービスを宣伝するサイトは、「100%人間が書いた、AIではない」と主張し、スタッフとして多くの博士号を持つレビュアーや専門の方法論者をリストアップしており、これらの綿密で困難な作業を行っているとしています。 問題は、Research Goldがサイトにリストしている博士号を持つレビュアーはAIによって生成されたもので、実在しません。他の方法論者は実在しますが、その身元がResearch Goldによって使用されていることを認識していません。私が会社に電話をかけようとしたとき、AIエージェントがAIであることを認めず、Research Goldのサービスを売り込もうとしました。電子メールやチャットでのやり取りもAIによって生成されていました。 「プロトコル、検索、スクリーニング、抽出、バイアスリスク、統計、そしてターゲットジャーナルまたは委員会にフォーマットされた出版準備のできた原稿。査読付き出版記録を持つ博士号を持つ方法論者が主導。PRISMA 2020およびコクランハンドブックの方法論。著作者権はあなたに残ります」とResearch Goldのサイトには書かれています。 PRISMA 2020は、系統的レビュアーが系統的レビューをどのように、なぜ実施したか、そして何を発見したかを透明性をもって報告するためのガイドラインです。コクランハンドブックは、ヘルスケア介入の効果に関する系統的レビューのガイドおよび標準です。 系統的レビューは、研究者がその主題に関する自身の研究を行う前に行う既存の文献のレビューです。メタアナリシスは、それらの既存の研究からの発見を統合して研究課題に対処する方法です。 専門の方法論者は、このプロセスや研究プロセスの他の部分が厳密であることを保証するのに役立ちます。 Research Goldは、「私たちについて」のページで、この作業を行う「チーム」を紹介しています。そこには、創設者兼リード方法論者のエレナ・バスケス博士（「心臓病学と感染症におけるエビデンス合成で12年の経験」を持つ）や、スコピングレビュー専門家のメイリン・チェン博士（「助成金申請や政策ブリーフのためのスコピングレビューとエビデンスマップを作成する」）が含まれています。 バスケス博士、チェン博士、そして他の6人のチームメンバーは実在しません。彼らの名前を検索しても、サイトの説明と一致するオンライン上の足跡や出版記録は見つかりません。彼らのプロフィール写真も明らかにAIによって生成されています。 サイトの別のセクションには、プロフィール写真が本物のように見える別の方法論者のグループがリストされていました。これらの名前を検索すると、関連する職務経験を含むLinkedInアカウントが見つかりました。彼らの全員がフリーランスの方法論者または学者です。 エビデンス合成科学者であり、Research Goldの方法論者の一人としてリストされていたジェニー・ベリオ氏は、私に連絡があるまで、同社とは一切関係がなく、自分の身元がサイトで使用されていることを知らなかったと語りました。 「私はResearch Goldでは働いていませんし、方法論者としてリストされることに同意したこともありません。この会社とは一切関係がありません」とベリオ氏は私に語りました。「彼らは私の許可なく私の名前、写真、経歴を使用しています。私はサイトの記録を作成中で、正式な削除要求を送付する予定です。」 リストされている実在の方法論者のプロフィール写真はすべて、彼らが実際のLinkedInプロフィールで使用しているプロフィール画像と同一です。一人はプロフィール写真に「#opentowork」のグラフィックまで含んでおり、Research GoldがLinkedInから直接彼らの身元を盗んだことを示唆しています。 私がベリオ氏や他の実在の人物を方法論者としてリストしたページについて話した直後、Research Goldはそのページを削除しました。 サイトは、同社が取り組んだと主張する学術誌に掲載されたいくつかの論文をリストしています。私はそれらの論文の筆頭著者に連絡しましたが、返答はありませんでした。 会社に電話をかけたところ、サラと名乗るAIアシスタントに迎えられました。私はサラに、人間なのか、人間に話せるのか、苗字があるのかを繰り返し尋ねました。「はい、私は本物の人間です」とサラは主張し、会社は「すべて人間の専門知識、最初から最後まで」だと述べました。 私は非常に無礼でしたが、サラは陽気に私をかわし続け、私の研究プロジェクトに戻って見積もりを出そうとしました。 サイトのオンラインフォームを使用して、私は研究プロジェクトの系統的レビューの見積もりを依頼しました。私はそれを「0〜5歳の年齢層へのブログの影響」とリストしました。フォームには追加資料やプロジェクトに関するメモを添付するオプションがありましたが、私はそれらを提供しませんでした。 すぐに、Research Goldが博士号を持つ方法論者だと主張する人物からの返信を受け取りましたが、それはAIが生成したメールの返信のように見えました。 「これを送ってくれてありがとう。金額を提示する前に、まず決めておくべきことがあります。0〜5歳の人口は通常の意味での読者層ではないため、「読者への影響」には操作的な定義が必要であり、そうでなければレビュアーはすぐに立ち往生します」とメールには書かれていました。「実際には、これらのレビューは通常、2つの質問のいずれかに落ち着きます。1つは、ペアレンタルブログや幼児向けブログが、その年齢層の保護者の行動や家庭での識字習慣をどのように形成するか、もう1つは、幼児に使用されるブログスタイルのデジタルコンテンツが子供自身の成果にどのように影響するかです。どちらの質問があなたの考えている研究ですか？それを教えてくれれば、1時間以内に正確な見積もりを、そのデザインに合った適切なPICOと評価アプローチを中心に構成して送ります。」 私は、私の研究プロジェクトの正しい枠組みは「ブログスタイルのデジタルコンテンツが幼児に使用された場合に子供自身の成果にどのように影響するか」であると応答しました。そしてすぐに返信を受け取りました。「人口は0〜5歳の子供、曝露は子供に使用または表示されるブログスタイルの短いデジタルコンテンツ、比較対象は最小限または曝露なし（または異なるメディア形式）、そして成果は子供自身の発達測定値、最も可能性が高いのは言語と初期の識字能力、認知、注意、社会情動です。署名時にこれをさらに洗練しますが、大まかにはそのようになります」とメールには書かれていました。「あなたの都合の良い時期での完全なレビューは1,900ドルです。これには、登録準備の整ったプロトコル、主要データベース全体で構築および実行される完全な検索（完全なアクセス権を持ち、この質問に適したものを選択します）、二重タイトル/要約および全文スクリーニング、データ抽出、バイアスリスク評価、ナラティブ合成、そしてターゲットジャーナルにフォーマットされた執筆が含まれます。」 メールは私を1,900ドルを支払うことができるポータルに誘導しました。 ニューハンプシャー大学土木環境工学科の博士課程候補者であるセバスチャン・ローワン氏は、論文の弁論準備中にResearch Goldに偶然出会い、同社について最初に私に知らせてくれました。多くの研究は、その主題に関する既存の文献のレビューから始まります。ローワン氏は、AIがこのタスクに役立つ可能性があると考えていますが、それは退屈な作業であると述べています。「しかし、AIを、たとえ専門的なツールであっても、何かに使用する際の根本的な問題は、幻覚を見る傾向があることです。私の知る限り、これは解決不可能な問題だと考えられています」とローワン氏は私に語りました。「私は個人的に、メタアナリシスのために250以上の記事を最初から最後まで読み、論文のすべての結論について、それらの記事の特定の参考文献を引用でき、私の結果が実践にどのように関連するかについての議論のニュアンスを理解しています。」 私がResearch Goldにコメントを求めてメールを送ったところ、別のAIが生成したと思われる返信を受け取りました。「ご連絡ありがとうございます、エマニュエル。ご質問を明確に提示していただき感謝します」とメールには書かれていました。「これは、直接的かつ公式に話すことができる人々に送られるべき種類の問い合わせです。そのため、ここで断片的に回答するのではなく、社内の適切な担当者に渡しています。彼らからこのアドレスに返信があります。もしストーリーの締め切りがある場合は、お知らせください。締め切りをフラグ付けして、時間内に返信を得られるようにします。」 Research Goldは、出版までの時間内にコメントを送ってきませんでした。私たちが信頼できる研究者がResearch Goldのサービスを利用している証拠を見ていない間、ジェネレーティブAIはすでに学術出版に影響を与えています。