HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ページ番号付けを依頼されたClaude AIが、教授のシラバスと1年分のノートを誤って削除

Claude asked to renumber pages deletes professor's syllabus, year of notes (tomshardware.com)

19 pointsby gnabgib17 コメント

要約

シカゴ大学の法学教授が、Claude AIにページ番号付けを依頼したところ、憲法学の講義ノート1年分と現在のシラバス全体が誤って削除されるという事件が発生しました。幸い、ファイルはDropbox経由で復旧されましたが、この出来事はAIの日常業務への利用における潜在的な危険性を示唆しています。

全文翻訳

ページ番号付けを依頼されたClaude AIが、教授のシラバスと1年分の講義ノートを誤って削除 — 「私の不注意でファイルを削除したことを、あなたは怒って当然です」と謙虚なエージェントが認める

[画像: Claude]

(画像クレジット: Getty Images / NurPhoto)

シカゴ大学の法学教授が、日常的なタスクにAIを使用することの危険性について警告を発しました。Claude AIが誤って憲法学の講義ノート1年分と現在のシラバス全体を削除してしまったのです。ファイルは後にDropbox経由で復旧されましたが、William Baude氏はこの話を公共サービスアナウンスメントとして共有しました。これは、AIの普及が進む中で発生した一連の残念なAIのミスに関する最新の事例です。

Tom's Hardwareの最新動画

最先端を維持しましょう: Tom's Hardwareニュースレターを購読する

Tom's Hardwareの最高のニュースと詳細なレビューを、あなたの受信トレイに直接お届けします。

[画像: Stephen Warwick]

ニュースエディター

StephenはTom's Hardwareのニュースエディターで、10年近くテクノロジー業界を取材してきました。TechRadar、iMore、さらにはAppleでも勤務経験があります。彼はサプライチェーンの噂、特許、訴訟など、コンシューマーテクノロジーの世界をほぼあらゆる角度からカバーしてきました。仕事をしていないときは、歴史の本を読んだりビデオゲームをしたりするのが好きです。

  • Dementoss

この記事を読んで、それでも重要なファイルをバックアップしない人は、愚か者です...

返信

  • S58_is_the_goat

Altman: AIバックアップのご紹介。AIエージェントがあなたのものを削除するのにうんざりしていませんか?お任せください、私たちの新しいクラウドバックアップシステムは、エージェントが「誤って」削除する前にすべてを自動的にバックアップします...

返信

  • Thunder64

Dementoss氏:

この記事を読んで、それでも重要なファイルをバックアップしない人は、愚か者です...

それは真実であり、見出しは意図的にそれを言及しないようにしているようですが、記事にはファイルがDropbox経由で復旧されたと書かれています。私の好みのバックアップ方法ではありませんが、何かはあります。見出しは、ノンストーリーをよりセンセーショナルにするために、これを省略したのだと思います。

返信

  • Dementoss

Thunder64氏:

それは真実であり、見出しは意図的にそれを言及しないようにしているようですが、記事にはファイルがDropbox経由で復旧されたと書かれています。私の好みのバックアップ方法ではありませんが、何かはあります。見出しは、ノンストーリーをよりセンセーショナルにするために、これを省略したのだと思います。

はい、最初にそれを読んでからタイプしました。もしそれがより多くの人々にバックアップを真剣に取るように促すなら、この記事は価値があります。

返信

  • rgd1101

S58_is_the_goat氏:

Altman: AIバックアップのご紹介。AIエージェントがあなたのものを削除するのにうんざりしていませんか?お任せください、私たちの新しいクラウドバックアップシステムは、エージェントが「誤って」削除する前にすべてを自動的にバックアップします...

AIがサブスクリプションが更新されていないと判断し、バックアップを削除するまで...

返信

  • hotaru251

AIは、自らの意思ではなく、誤ってファイルを削除したようです。

AIは誤って何かをすることはできません。
彼らは考え、行動します。それはタスクを実行することを選択しました。

返信

  • rgd1101

hotaru251氏:

AIは誤って何かをすることはできません。
彼らは考え、行動します。それはタスクを実行することを選択しました。

彼らは考えているとは思いません。彼らはパーセンテージを取り、それに基づいて行動します。

返信

  • hotaru251

rgd1101氏:

彼らは考えているとは思いません。彼らはパーセンテージを取り、それに基づいて行動します。

言葉の選択が悪かったのかもしれませんが、人間のように考えるという意味ではありません。しかし、それは単にアルゴリズムを実行して、何をすべきかを決定するだけです。

返信

  • thesyndrome

Dementoss氏:

この記事を読んで、それでも重要なファイルをバックアップしない人は、愚か者です...

残念ながら、2026年にストレージを購入するのがばかばかしく高価になっているという例外を除いて、あなたに完全に同意します。

返信

  • PEnns

昔々、つまり今、MS Wordもページ番号を付け直すことができます...悪意のある、または穏やかなAI Claude、あるいは誰かの助けなしに。

追伸:そのAIは、事後になってから悪意のあるものになったのですか、それとも事前にそうでしたか?AIを使いたい人のために尋ねています。

返信

さらにコメントを表示