HN 日本語サマリー

← 一覧へ戻る
キャリア

私はAIに盲目になりつつある

I'm Becoming AI-Blind (cymerys.com)

460 pointsby rcymerys468 コメント

要約

著者は、仕事でAIが生成した文書を読む際に集中力が低下する現象に気づき、「AIブラインド」と呼んでいます。AI生成の痕跡が強い文章は、たとえ重要な情報が含まれていても、脳が自動的にフィルタリングしてしまい、内容を深く分析できなくなるのです。これはAIが生産性を向上させるはずが、予期せぬ形で作業を遅らせる結果となっていると述べています。

全文翻訳

AIによって「AI疲れ」を起こしている

AI AI AI

最近、仕事で誰かから送られてきた文書を読もうとしたときに、自分の脳がそれを分析することをなぜか拒否してしまう、そんな小さな瞬間が仕事中に起こるのに気づきました。読んでいるつもりでも、その内容に集中できないのです。

結局、送られてきた内容にすでに書かれていることについて、相手と延々とやり取りを繰り返すことになります。これは非常に懸念すべきことです。なぜなら、私はこの1年間、集中する方法を再学習しようと努めてきたのに、これらの状況はまさにその逆を示しているからです。

これらの状況を分析するために座ってみて、それらすべてに共通の要因があることに気づきました。それは、その文書がAIによって生成された強い痕跡を示しているということです。

例えば:

Claudeからコピー&ペーストしたようなデザインドキュメント。確かに問題の特定の機能のデザインはカバーしていますが、Claude特有の分析や専門用語も多く含まれています。「これはまさに核心を突いている」「最初のゲートは本物だ」といった具合です。

あるいは

20ページにわたるマーケティングコンセプトのデッキで、(かなり妥当な)マーケティング戦略と、ナンセンスな製品技術アーキテクチャのガベージを混ぜ合わせています。どのようにアイデアを提示しているか?「Xを売るのではなく、Yを売る」「Redisバックボーンが製品を再定義する」

あるいは

かなり単純な概念を非常に冗長な方法で説明している技術要件ドキュメント。問題は、このドキュメントの多くが、特定の決定について完全には確信していない誰かの「内部的な」推論のように読めることです。私にはLLM(大規模言語モデル)のように聞こえます。

人間がAI生成テキストを認識する能力があるかどうかについては、継続的な議論があります。ほとんどの研究では、人間はそれほどうまくできないと主張していますが、私はそれに同意しません。少なくとも、低労力で生成された結果について話す場合、それはそれほど難しくありません。Florian Rothは、ソーシャルメディアの文脈における一般的なパターンについて、非常に良い要約を書いています。

私は、仕事関連のテキストでも同様のことが起こっていると感じています。明白な言葉遣いに加えて、文章の一般的な流れや、あらゆる些細な詳細を画期的なものとして売り込もうとする試みが、すぐにそれがAI生成であることを露呈させます。もしあなたのドキュメントが、エンタープライズアプリケーションのRBAC設定ビューのチェックボックスを説明しているなら、まるで火を発見したかのように売らないでください。

私は、意味のないテキストで溢れているAI生成のLinkedIn投稿、メール、ウェブサイトのすべてで「事前学習」させられてきたように感じています。私の脳は、少なくとも低労力で生成されたAI生成コンテンツの兆候を素早く見つけることを学習し、今ではそれを無視して、あまり考えずに次に進んでしまいます。

一部の人々がそれを「バナーブラインドネス」と比較しているのを聞いたことがあります。驚くことではありません。私たちに押し付けられるコンテンツの量で、それをフィルタリングすることは、正気を保つために必要なことです。

私にとって興味深いのは、私をより生産的にするために設計されたはずのAIが、今、予期せぬ方法で私を遅くしているということです。


私は普段休暇を取りませんが、今年は本当に休息が必要でした。ある晩、とてもお腹が空いて、バルト海沿岸のレストランの前を歩いていました。一軒のレストランをすぐに無視しましたが、一分後、頭の中で何かが「ねえ、本当にカビが生えたキッシュの写真が飾ってあったの?」と尋ねました。私はそれを見るために戻りました。

[画像: カビが生えているように見えるキッシュのスライスのメニュー写真]

AI AI AI