HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

「100%人間が書いた、AIではない」と謳う医療研究会社は100%AIだった

Company Offering '100% Human-Written, Never AI' Medical Research Is 100% AI (404media.co)

163 pointsby Anon8435 コメント

要約

「Research Gold」と名乗る医療研究支援サービス会社は、「100%人間が書いた、AIではない」と謳い、優秀な専門家チームを擁していると主張しています。しかし、実際には、リストされている専門家の大半はAIが生成した架空の人物であり、実在する専門家の名前や経歴も無断で使用されていました。同社とのやり取りはすべてAIエージェントによって行われ、その実態はAIによる詐欺行為であることが明らかになりました。

全文翻訳

「100%人間が書いた、AI不使用」を謳う医療研究サービス、実態は100%AI

医療研究者向けに、査読準備済みの原稿作成、システマティックレビュー、メタアナリシスなどのサービスを宣伝しているサイト、Research Goldは、「100%人間が書いた、AI不使用」と主張し、スタッフとして多くの博士号を持つレビュアーや専門方法論者をリストアップして、この緻密で困難な作業を行っているとしています。

問題は、Research Goldがサイトにリストアップしている博士号を持つレビュアーはAIによって生成されたもので、実在しません。他の方法論者は実在しますが、Research Goldによって自分の身元が利用されていることに気づいていません。会社に電話をかけようとすると、AIであることを認めず、Research Goldのサービスを売り込もうとするAIエージェントが応答しました。会社とのメールやチャットのやり取りもAIによって生成されたものでした。

「プロトコル、検索、スクリーニング、抽出、バイアスリスク、統計、そしてターゲットジャーナルや委員会に合わせてフォーマットされた出版準備のできた原稿。査読付き出版記録を持つ博士号を持つ方法論者が主導します。PRISMA 2020およびCochrane Handbookの方法論。著作者権はあなたに残ります」とResearch Goldのサイトには書かれています。PRISMA 2020は、システマティックレビュー担当者が、システマティックレビューをどのように、なぜ実施したか、そして何を発見したかを透明性をもって報告するためのガイドラインです。Cochrane Handbookは、ヘルスケア介入の効果に関するシステマティックレビューのガイドおよび標準です。

システマティックレビューとは、研究者がその主題に関する自身の研究を行う前に、既存の文献をレビューすることです。メタアナリシスは、それらの既存の研究からの発見を統合して研究課題に対処する方法です。専門の方法論者は、このプロセスや研究プロセスの他の部分が厳密であることを保証するのに役立ちます。

Research Goldは、「私たちについて」ページの下で、この作業を行う「チーム」を紹介しています。そこには、創設者兼リード方法論者のDr. Elena Vasquez(「心臓病学と感染症におけるエビデンス合成で12年の経験」を持つ)や、スコープレビュー専門家のDr. Mei-Lin Chen(「グラント申請や政策ブリーフのためにスコープレビューやエビデンスマップを作成する」)が含まれています。Vasquez氏、Chen氏、そしてこのチームの他の6人のメンバーは実在しません。彼らの名前で検索しても、サイトの説明に一致するオンライン上の足跡や、論文を発表した履歴は見つかりません。彼らのプロフィール写真も明らかにAIで生成されたものです。

サイトの別のセクションでは、プロフィール写真が本物に見える別の方法論者グループがリストアップされていました。これらの名前を検索すると、関連する職務経験を含むLinkedInアカウントが見つかりました。彼らは皆、フリーランスの方法論者または学者でした。Research Goldの方法論者の一人としてリストアップされていたエビデンス合成科学者のJenny Berrio氏は、私に、彼女はこの会社とは一切関係がなく、私が連絡するまで彼女の身元がResearch Goldに利用されていることを知らなかったと語りました。

「私はResearch Goldで働いていませんし、方法論者の一人としてリストアップされることに同意したこともありません。この会社とは一切関係がありません」とBerrio氏は私に語りました。「彼らは私の許可なく私の名前、写真、経歴を使用しています。私はサイトの記録を文書化するプロセスを進めており、正式な削除要求を送付する予定です。」

サイトにリストアップされている実在の方法論者のプロフィール写真はすべて、これらの人々が実際のLinkedInプロフィールで使用しているプロフィール画像と同一です。一人はプロフィール画像に「#opentowork」のグラフィックまで含んでおり、Research GoldがLinkedInから直接彼らの身元を盗用したことを示しています。

私が彼女と話した後、Research GoldはBerrio氏や他の実在の人物を方法論者としてリストアップしていたページを削除しました。

サイトには、同社が関わったと主張する学術誌に掲載されたいくつかの論文がリストアップされています。私はそれらの論文の筆頭著者に連絡しましたが、返信はありませんでした。

会社に電話した際、私はSarahと名乗るAIアシスタントに迎えられました。私はSarahに、人間なのか、人間に話せるか、あるいは姓があるのかを繰り返し尋ねました。「はい、私は本物の人間です」とSarahは主張し、会社は「完全に人間の専門知識です」と述べました。私は非常に失礼でしたが、Sarahは陽気に私をかわし続け、私の研究プロジェクトに戻って見積もりを取得しようとしました。

サイトのオンラインフォームを使用して、私は自分の研究プロジェクトに関するシステマティックレビューの見積もりを依頼しました。プロジェクトは「ブログが0〜5歳に与える影響」と記載しました。フォームには追加資料やプロジェクトに関するメモを添付するオプションがありましたが、私は提供しませんでした。すぐに、Research Goldが博士号を持つ方法論者だと主張する人物からの返信を受け取りましたが、それはAI生成のメール返信のように見えました。

「これを送ってくれてありがとう。金額を提示する前に、まず明確にしておきたいことがあります。0〜5歳という対象は通常の意味での読者層ではないため、「読者への影響」には運用上の定義が必要ですが、そうでなければレビュアーはすぐに立ち往生します」というメールでした。「実際には、これらのレビューは通常、2つの質問のいずれかに落ち着きます。1つは、親と幼児期のブログがその年齢層の保護者の行動や家庭での識字習慣をどのように形成するか、もう1つは、5歳未満の子供に使用されるブログスタイルのデジタルコンテンツが子供自身の転帰にどのように影響するか、です。どちらの質問があなたの考えている研究に近いですか?それを教えてくれれば、1時間以内に正確な見積もりを、適切なPICOとデザインに応じた評価アプローチを中心に構成してお届けします。」

私は、私の研究プロジェクトの正しい枠組みは「5歳未満の子供に使用されるブログスタイルのデジタルコンテンツが子供自身の転帰にどのように影響するか」であると応答し、再びすぐに返信を受け取りました。

「対象は0〜5歳の子供、暴露はブログスタイルまたは短編デジタルコンテンツを子供に使用または提示すること、比較対象は最小限または全く暴露しないこと(または異なるメディア形式)、転帰は子供自身の発達指標、最も可能性が高いのは言語と初期リテラシー、認知、注意、社会情動的発達です。署名時にこれをさらに洗練させますが、大まかにはこのようになります」とメールにはありました。「柔軟なスケジュールでの完全なレビューの価格は1,900ドルです。これには、登録準備の整ったプロトコル、主要データベース全体で構築・実行される完全な検索(当社は完全なアクセス権を持ち、この質問に最適なものを選びます)、タイトルの二重チェックと抄録および全文スクリーニング、データ抽出、バイアスリスク評価、ナラティブ合成、そしてターゲットジャーナルにフォーマットされた執筆が含まれます。」

メールは私を、1,900ドルを支払うことができるポータルに誘導しました。

ニューハンプシャー大学土木環境工学科の博士課程候補者であるSebastian Rowan氏は、自身の博士論文の弁論準備中にResearch Goldにつまずいた後、最初に私にこの件を伝えました。多くの研究は、その主題に関する既存の文献のレビューから始まります。Rowan氏は、AIがこの退屈な作業に役立つ可能性があると想像できると語りました。

「しかし、AI、たとえ専門ツールであっても、何かに使用する際の根本的な問題は、幻覚を起こす傾向があることです。私の知る限り、これは解決不可能な問題だと考えられています」とRowan氏は語りました。「私は個人的に、メタアナリシスのために250本以上の記事を最初から最後まで読み、論文のすべての結論に対して、それらの記事の特定の参考文献を引用でき、私の議論における結果が実践にどう関連するかについてのニュアンスを理解しています。」

Research Goldにコメントを求めてメールを送ったところ、別のAI生成と思われる返信を受け取りました。

「ご連絡ありがとうございます、Emanuelさん。ご質問を明確に提示していただき感謝いたします」というメールでした。「これは、直接かつ公式に回答できる担当者に伝えるべき種類の問い合わせですので、ここで断片的に回答するのではなく、社内の適切な担当者に引き継いでいます。彼らからこのアドレスに連絡があるはずです。もし記事の締め切りがある場合は、お知らせください。フラグを立てて、時間内に返信が得られるようにします。」

Research Goldは、出版時間までにコメントを送ってきませんでした。

信頼できる研究者がResearch Goldのサービスを利用している証拠はまだ見つかっていませんが、生成AIはすでに学術出版に影響を与えています。科学雑誌は、AI生成の引用を含む論文の洪水に対処しなければならず、一部のAI生成論文は学術誌に掲載されています。2024年には、査読プロセス自体がAI生成テキストによって侵害される可能性があると信じている研究者について話しました(https://www.404media.co/chatgpt-looms-over-the-peer-review-crisis/)。

著者について

Emanuel Maibergは、テクノロジーを形成するあまり知られていないコミュニティやプロセス、トラブルメーカー、そして些細な対立に興味を持っています。emanuel@404media.coまでメールしてください。

[画像: Emanuel Maiberg]