HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ChatGPTを証人尋問に利用:3M社の過失を「0%」と示すために

Expert Witness to ChatGPT: "Show how 3M is 0 percent at fault" (404media.co)

27 pointsby kristjansson6 コメント

要約

ヒューストンで発生した爆発事故の訴訟において、専門証人が報告書の大部分をChatGPTで作成していたことが明らかになりました。この報告書は、事故の責任を巡る訴訟で3M社を擁護するために作成されたもので、AIが法廷での証言にまで影響を与えている実態を示しています。

全文翻訳

3人が死亡し、約200軒の家屋が破壊されたヒューストンでの爆発事故の責任を巡る訴訟で、専門証人が「専門家報告書」の大部分をChatGPTを使用して作成していたことが明らかになりました。 この証人は、産業製品コングロマリットである3M社によって雇われた人物で、彼が公開したAIへの指示(プロンプト)は、彼がChatGPTに「3M社の(事故における)ケア基準を擁護する優れた専門家証人報告書を作成する」よう依頼し、その報告書が「ワトソン・グラインディングでの爆発に対する3M社の過失を0%と示す」べきであったことを示しています。 この件は、AIが法廷に浸透していることを示しています。AI生成の訴訟書類、幻覚(ハルシネーション)を起こした判例、敵対的な「プロンプトインジェクション」だけでなく、専門証人の証言にまで及んでいます。 404 Mediaが共有を受けた法廷記録、証言調書、開示記録によると、複数の死者が出ており、訴訟で数百億ドルもの賠償責任が争われている極めて注目度の高い訴訟において、AIが広範囲に使用されていたことが示されています。 この件はまた、このような専門証言を作成するために使用された特定のプロンプトが訴訟中に開示される可能性があり、それらのプロンプトが非常に恥ずかしいものである可能性があることも示しています。(この訴訟で提供されたプロンプトはこちらで確認できます)。 この訴訟は、2020年にワトソン・グラインディング(ヒューストンにある製造施設)で発生した爆発の責任を巡る複数の訴訟のうちの1つです。米国化学安全・危険調査委員会によると、この爆発は「劣化した不適切に圧着されたゴム溶接ホース」が原因で、可燃性ガスが漏洩し、最終的に施設内で爆発しました。 数十人の住宅所有者が3M社とワトソン・グラインディングを訴えています。原告らは、3M社が施設のガス検知システムを適切に保守せず、爆発に寄与したその他の過失を犯したと主張しています。 この記事は有料会員限定です。広告なしで無制限に記事にアクセスできるほか、特典ポッドキャストコンテンツなどを利用するには有料会員にご登録ください。購読する この記事への無料アクセスにご登録ください。無料会員は、この記事のような投稿や、その週のストーリーのメールまとめにアクセスできます。購読する すでにアカウントをお持ちですか? ログインする