HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

私たちはAIに思考を委ねすぎているのではないか?

Are we offloading too much of our thinking to AI? (artfish.ai)

484 pointsby yenniejun111435 コメント

要約

この記事は、AIが私たちの思考プロセス、些細な決定から複雑な推論まで、ますます多くの部分を肩代わりする傾向について論じています。AIへの思考の委譲は便利ですが、自律性の喪失や、自ら考えることの価値を損なうリスクをはらんでいます。著者は、AIを補助として活用しつつも、人間自身の思考と判断の重要性を強調しています。

全文翻訳

私たちはAIに思考を委ねすぎているのではないか?

画像: AIによって生成された、友人の説明に基づく「マイクマン」のイメージ。

このエッセイのメモは、インターネットもAIもない飛行機の中で書きました :D

私自身や周囲の人々が、思考の多くをAIに委ねる傾向が強まっているのを観察しています。些細な決定から複雑な思考まで、リサーチ、推論、あらゆる問い合わせへの回答にAIを利用するのは、簡単で便利であり、場合によっては推奨さえされています。

最近、ケン・リュウの2012年の短編小説『完璧なマッチ』を読みました。この物語は、この現象を驚くほど正確に描写しています。物語では、ティリーという万能AIアシスタントが、ユーザーに有用で楽しいレコメンデーションを提供します。主人公はティリーに「今朝の朝食におすすめは?」といった質問をし、デートにふさわしい相手を見つけることもティリーに任せます。主人公は、朝食に何を食べたいか、どんな音楽が好きか、デートで何を話すべきかさえ知りません。「あなたの好みや気分を私よりよく知っている人がいるだろうか?」とティリーは愛情のこもった声で言います。

友人が最近サンフランシスコのスタートアップイベントに行ったとき、シャツに小さなデバイスを付けた男性に出会いました。そのデバイスは、磨かれた金属製の洗練された小さなカプセルで、指2本幅ほどしかありませんでした。友人がそのデバイスについて尋ねると、男性はそれが会話をすべて録音するために使用しているマイクだと言いました。一日の終わりに、マイクマンはすべての会話を要約・分析するワークフローを開始します。彼は、最新のセットアップを発表するテックブロのような熱意を込めて言いました。「クロード・フェイブルは私より賢いと思う。批判的思考においては私よりも優れているので、最近はフェイブルにすべての思考を任せているんだ。」(余談ですが、彼のスタートアップは、人間のエンジニアのすべての入力と操作を、本人の明示的な同意なしにキャプチャすることで、彼らを置き換えています。彼は自身の思考をAIに委ね、他の全員の思考を委ねるビジネスをしています。)

クロード、ChatGPT、Geminiが広く知られるようになる前から、私たちはすでに検索エンジンに思考の一部を委ねていました。しかし、検索は依然として、質問を分解し、ソースを評価し、回答を合成する必要がありました。AIは、これらの中間ステップをますます私たちに代わって実行し、複雑で難解な質問に対しても数分で完成した回答を生成します。

Google Deep Research や OpenAI Deep Research のようなツールは、かつて一人の人間が数分、数時間、あるいは数日を要したであろう作業(METR の フロンティアAIモデルのタスク完了時間 を参照)を行うことができるようになりました。これは時間と、思考を節約してくれます。

しかし、タスクを支援してくれるアシスタントを持つことと、すべての自律性を失うことの間には、細い線引きがあります。おそらく問うべき質問は、「あなたにとって本当に重要なことについて、最終的な決定を下しているのは誰か?」ということです。

ケン・リュウの物語では、主人公はアルゴリズムが自分自身よりも自分をよく知っていると信じています。「ティリーが私に提案するものはすべて、私の好みに合うように科学的に証明されており、私が好きなものである…ティリーに耳を傾けることで、完璧な製品が完璧な消費者に、完璧な女の子が完璧な男の子を見つけることに何が悪いのか?」彼は、朝食に何を着るかといった些細なことから、愛を見つける方法という重要なことまで、すべての決定をアシスタントに委ねます。マイクマンも同様に、あらゆる面で自分より賢いと信じているクロードに、すべての高レベルな思考を委ねています。

AIに思考を委ねることは、私の生活にも忍び寄っています。

遅い思考と迅速な回答の間には、常にトレードオフが存在します。多くの質問は迅速な回答に値します(今の天気は? XYZ国の元大統領は誰だった? XYZブランドのスキンケアやスポーツ用品のレビューは?)。しかし、他の多くの質問は、より長い思考に値すると私は思います。

時々、私は携帯電話を持たずに近所を散歩します。すると、携帯電話で即座に調べようとすることに慣れてしまった質問が、必ず頭に浮かびます(サクランボは木になるのか、それとも低木か? 初期のワールドカップゲームはいつ、どこで行われた?)。しかし、家に帰る頃には、それらのほとんどを忘れてしまっていることに気づきます。重要な数件は覚えていますが、残りは忘れるのに十分些細なことだったと想定しています。もしかしたら、些細なことを忘れ、心に浮かんだあらゆる問い合わせに即座に答えが得られないことにも、私たちの人生には何らかの価値があるのかもしれません。

数ヶ月前、私は姉とポルトガルを旅行していました。『発見のモニュメント』、ポルトガルの「大航海時代」を称えるモニュメントを散策した後、ポルトガルはこれらの「発見者」や「探検家」を偶像化しているように見える一方、米国ではそれらを「征服者」や「植民者」と呼ぶだろうという感覚を抱きました。私はツアーガイドに、エンリケ航海王子やこれらの男性の誰かが、米国でクリストファー・コロンブスが非常にキャンセルされているようにキャンセルされたことがあるかと尋ねました。彼女は、そうではないと答え、実際、エンリケ航海王子のような男性は一般的に賞賛される歴史上の人物として見なされていると述べました。

画像: 発見のモニュメント。実際はもっと高いが、私のカメラには収まりきらなかった。この記事とは全く関係ないが、一番左の男性はロード・ファークアッドにそっくりだ。

姉は、なぜポルトガルが植民地時代をそれほど誇りに思っているように見えるのか、そしてなぜその植民地主義に対する反応が、米国が自身の植民地主義の歴史について語り、扱っている方法とそれほど異なるのか疑問に思いました。「ChatGPTに聞いてみよう」と彼女は言い、携帯電話を取り出しました。

私は(最初は少し抵抗がありましたが)少し立ち止まって、なぜそうなるのか考えてみようと提案しました。いくつかの仮説を立てました。おそらく、それはポルトガルの比較的均質性と宗教性であり、米国の移民の多様性とは対照的でした。おそらく、ポルトガルは「大航海時代」を国家の物語の中で最も著名な章の一つとして固執していたのでしょう。私たちは、推測し、大胆な推測をし、後退し、アイデアを結びつけ、意見を異にし、何年も前に高校で学んだ歴史的な詳細を思い出しました。私たちは推測していることを知っており、いくつかの理論は間違っていた可能性が高いです。それが演習の一部でした。

最終的に、私たちは同じ質問をAIにしました。その回答は、私たちの理論の多くを裏付け、私たちが逃していたいくつかの説明を提供しました。また、私たちがまだもっともらしいと考えていた可能性をいくつか省略しました。私たちは質問から始め、仮説を生成し、その後、AIを使って思考をテストし、拡張しました。私はこの演習を楽しみました。

私はAIの分野で働いています。Geminiの、思考やツール使用を含む困難なタスクを解決する能力を測定する仕事です。また、私の人生の多くの人々が、AIが仕事でどのように役立ったかを熱心に説明しているのを目にします。例えば、韓国の企業で働く私のいとこは、Geminiを使って長い公式な英語のレポートを韓国語に翻訳しており、仕事のスピードを大幅に向上させています。職場の同僚は、リサーチのアイデアを開発し、コーディングエージェントに詳細を実装させることで、分析により多くの時間を費やすことができます。友人は、パーソナライズされたチューターとしてChatGPTの助けを借りて、わずか数ヶ月でMCATの準備をしました。これには、生化学を一から学ぶことも含まれていました。

もし、より重要で他の思考を行うために、日常的な思考をAIに委ねるなら、それは人生の満足度と生産性を向上させるものかもしれないと主張する人もいるかもしれません。特に、AIがルーチン的で反復的で退屈なタスク(OECDのAIが職場に与える影響に関するレポートを参照)を自動化するために使用され、これらのタスクは以前は人間がわずかな報酬で実行していた(国際労働機関のレポート、デジタル労働プラットフォームと仕事の未来を参照)のであれば、人々が他の、より興味深く、より充実した種類の思考を行うために解放されることは、全体としてプラスではないでしょうか?もしAIに、私たちの仕事の多くを占める数多くの些細なタスクを実行させ、喜んで何時間もの単調な作業を実行させるなら、私たちの人生は少しは楽しくならないでしょうか?

あらゆる問い合わせに答えるためにAIを簡単に利用できることは、怠惰な思考につながる可能性もあります。私の母はオンライン大学で物理学を教えています。彼女は、ほとんど、あるいはすべての学生がAIを使って課題を完了しているのではないかと疑っています。彼女は、いくつかの課題の回答が学生間でほぼ同一であることに気づきました。まるで、彼らがAIツールに質問を直接コピー&ペーストしたかのようで、彼らの回答を一般的なAIの回答から区別するような、オリジナルの思考や意見は一つもありませんでした。彼女はAIが使用されたかどうかを証明する方法がありませんが、回答はかなり包括的であるため、ほとんどの学生はAを取得しています。

AIは学習をサポートできますが、どのように到達するかを教えずに回答を生成することもできます。物理の問題を解いたり、エッセイを書いたりするプロセスは、多くの学生にとって退屈なものと見なされるかもしれません(どの公式?どのソース?どの議論?)。しかし、それでは、学校に通ったり、学んだりする意味は何でしょうか?

退屈な仕事の一部を自動化することと、あなた自身の仕事を行うことの間で、完全な思考の自律性を切り離す明確な方法はありません。それはしばしば、両者のブレンドです。マイクマンのように、私も自分自身に関するデータを収集し、分析しています。過去数年間は、AIにデータ分析を依頼したことさえあります。

私はマイクマンとどう違うのでしょうか?おそらく、私が異なるのは、私がまだデータを収集・キュレーションし、回答を得たい質問を定式化し、最終結果を評価したことでしょうか?あるいは、そのデータが他人の会話を録音するのではなく、私自身のデータだったことでしょうか?やりがいのある活動のために時間を解放するために退屈なタスクを自動化することと、学習体験として自分で仕事を行うことの間には、常にバランスが必要です。

ケン・リュウの物語の別の登場人物であるジェニーは、主人公のAIアシスタントへの過度の依存に対抗する役割を担っています。彼女は叫びます。「ティリーはあなたが欲しいものを教えてくれるだけじゃない! あなたが何を考えるべきかを教えてくれるのよ! あなたはもう自分が本当に欲しいものを知っているの?」私たちの自律性は、少なくとも部分的には、自分自身の欲求を形成することに参加し続けることに依存しています。しかし、私たちが欲しいもの(どんな音楽を聴くべきか? どんな映画を見るべきか? どんな食べ物を食べるべきか? どんな靴を履くべきか?)についての思考を委ねるとき、私たちは何者になるのでしょうか?

私たちは何を自動化しているのでしょうか? 人間の仕事か、人間の主体性か? 人間のタスクか、人間の思考か?

Art Fish Intelligence をお読みいただきありがとうございます!この記事は公開されていますので、ご自由にご共有ください。

共有