Anthropicが日記のエントリーを警察に報告、女性は重罪で起訴される

25年以上にわたり、テクノロジー愛好家にサービスを提供してきました。TechSpotは、信頼できるテクノロジー分析とアドバイスを意味します。 何が起こったのか？ AIに何を伝えるかには注意が必要であることを示す別の事件が発生しました。フロリダ州の女性がClaudeを日記として使用し、「警察署を銃撃する」計画を書き込んだ疑いで、重罪で起訴されています。人間のレビュー担当者がその記述を検査した後、警察に報告されました。 逮捕報告によると、フロリダ州ボニータスプリングス在住のCarli Michelle Hellerは、9月26日に警察署を攻撃すると書き込みました。彼女は後に、Anthropicのチャットボットを「日記」のように使用していると述べました。Claudeの安全システムがそのエントリーをフラグし、人間のレビュー担当者にエスカレートされました。レビュー担当者は、それが信頼できる脅威であると判断した後、法執行機関に報告しました。同社は、生命または身体への重大な危害を防ぐために開示が必要であると信じる場合、限定的な緊急事態においてユーザー情報を共有する可能性があると述べています。 保安官代理はHellerを特定し、彼女の自宅を訪問しました。彼女は事件なく拘束され、その後LCSOの諜報担当者が捜査を引き継ぎました。Hellerはフロリダ州法に基づき、文書による暴力の脅迫罪に問われています。フロリダ州法836.10は、誰かを殺害または負傷させる、大量銃撃を実行する、またはテロ行為を犯すことを脅迫する書面または電子記録を送信、投稿、または転送することを第二級重罪としています。通信は、他人が閲覧できる方法で行われなければなりません。 Anthropicは、潜在的な脅威と見なすものに関しては、いかなるリスクも冒すつもりはありません。先月、OpenAIとSam Altmanが、カナダの州で発生した大量銃撃事件を防げた可能性があるという主張でブリティッシュコロンビア州から訴えられていると報じられました。 // 関連記事 「マネーボール」の投資家は、OpenAIとAnthropicのIPOを止めるために暴落を応援していると述べている エンジニアは、Claude Codeが彼の仕事を「魂を吸い取る」ものにしたと述べている。労働者はEnterキーを押すのに12時間費やしている。 銃撃犯である18歳の元生徒Jesse Van ⁠Rootselaarは、以前はOpenAIの安全チームによって銃暴力に関する会話についてフラグが立てられていたが、OpenAIは会話が法的な紹介の閾値に達しなかったため、警察に警告しなかった。 6月には、フロリダ州もOpenAIとAltmanを訴え、ChatGPTが2025年のフロリダ州立大学銃撃事件を含む現実世界での被害に寄与したと主張した。 最新の事件は、あなたをトラブルに巻き込む可能性のあるものをチャットボットに入力する前に、もう一度考えることを思い出させます。それは間違いなく、あなただけが見るための日記ではありません。 先月の報道によると、Microsoft Copilotの画像エディターをレビューする人間の請負業者は、ユーザーのプロンプト、アップロードされた写真、およびAIによって生成された編集を見ることができる。文書によると、それらの割り当ての一部には性的、不穏、または潜在的に違法な素材が含まれているが、レビュー担当者はコンテンツをフラグするためではなく、出力が正確かどうかを評価するためだけにそこにいる。 9件のコメント 5.8K件の「いいね！」と共有 この記事を共有する： GoogleでTechSpotを表示 Googleで検索する際に、私たちを優先ソースとして追加すると、私たちのレポートが最初に表示されます。 TechSpotに追加 TechSpotで紹介 Anthropicの研究者が辞任、AIレースは人類の絶滅で終わる可能性があると警告 ダラスのゴミ収集車は、コード違反をフラグするためにAIカメラを使用しています