HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ChatGPTを証人尋問に利用:3M社の過失を「0%」と示すために

Expert Witness to ChatGPT: "Show how 3M is 0 percent at fault" (404media.co)

27 pointsby kristjansson6 コメント

要約

ヒューストンで発生した爆発事故の訴訟において、専門証人が報告書の大部分をChatGPTで作成していたことが明らかになりました。この報告書は、事故の責任を巡る訴訟で3M社を擁護するために作成されたもので、AIが法廷での証言にまで影響を与えている実態を示しています。

全文翻訳

「3M社の過失がゼロであることを示せ」:専門家証人、死者を出した爆発事故訴訟で会社を擁護する報告書作成にChatGPTを使用

3人が死亡し、約200戸の家屋が損壊したヒューストンでの爆発事故の責任に関する訴訟で、証言を行った専門家証人が、自身の「専門家報告書」の大部分をChatGPTで作成していたことが明らかになりました。産業製品コングロマリットである3M社によって雇われたこの人物は、AIへの指示(プロンプト)を公に公開しました。それによると、彼はChatGPTに「3M社の管理基準を擁護する優れた専門家証人報告書を作成する」よう依頼し、その報告書は「Watson Grindingでの爆発事故に対する3M社の過失がゼロであることを示す」べきだと指示していました。

この事件は、人工知能が法廷に、AI生成の訴訟書類、AIによる誤情報(ハルシネーション)を含む裁判例、そして敵対的な「プロンプトインジェクション」だけでなく、専門家証言にまで入り込んでいることを示しています。404 Mediaが共有を受けた法廷記録、宣誓供述調書、開示記録によると、複数の死者が出ており、係争中の訴訟では総額数億ドルの賠償責任が問われている極めて注目度の高いケースで、AIが広範囲に使用されていました。このケースはまた、このような専門家証言を作成するために使用された具体的なプロンプトが訴訟中に開示される可能性があり、それらのプロンプトが非常に恥ずかしいものである可能性も示しています。(ケースで提供されたプロンプトはこちらで閲覧可能です)。

[画像: 専門家証人がChatGPTに送信したプロンプトの一部を示すスクリーンショット]

[画像: 専門家証人がChatGPTに送信したプロンプトの一部を示すスクリーンショット]

この事件は、2020年にヒューストンにある製造施設「Watson Grinding」で発生した爆発事故に関する複数の訴訟の一つです。米国化学安全・危険調査委員会によると、この事故は「劣化した不適切に圧着されたゴム製溶接ホース」が原因で可燃性ガスが漏洩し、最終的に施設内で爆発したとされています。数十人の住宅所有者が3M社とWatson Grinding社を提訴しており、原告は3M社が施設のガス検知システムを適切に保守せず、その他の過失があったと主張しています。

この投稿は有料会員限定です

広告なしで無制限に記事を閲覧でき、追加のポッドキャストコンテンツなども楽しめる有料会員になりませんか。

有料会員登録

この投稿を無料で読む

無料会員は、この記事を含む投稿や、週刊記事のまとめメールを受け取ることができます。

無料登録

アカウントをお持ちですか? サインイン