HN 日本語サマリー

← 一覧へ戻る
キャリア

LLMを功労者としない

Don't credit the LLM (isaacsu.com)

10 pointsby isaacsu7 コメント

要約

この記事は、LLM(大規模言語モデル)を使用した際の功績の帰属に関する奇妙な習慣について論じています。著者は、LLMの使用を開示することが、インポスター症候群の軽減、ツールの能力への過信、あるいは単に怠慢の言い訳として機能する可能性を指摘しています。著者は、功績と説明責任は表裏一体であり、ツールの使用を開示することで自身の説明責任が希薄になるため、成果の全てを自分で引き受けるべきだと主張しています。

全文翻訳

LLMにクレジットを与えないでください

最近、私の同僚の間で、LLM(大規模言語モデル)を使って何かを行った際に、奇妙な習慣が広まっているようです。

「新機能Xに関するサポートリクエストはいくつありましたか?」と尋ねられたとき、彼らは「[LLMツール]によると、リリース以来17件のリクエストがありました」と答えます。ピッチ資料やプルリクエストを投稿する際には、「この文章は[LLMツール]に書いてもらいました」とか「[LLMツール]が単体テストを作成しました」と自ら進んで申告します。

奇妙です。まるで作家が、使用したスペルチェッカーを毎回開示しているかのようです。あるいは、パイロットが滑走路をタキシング中に機内アナウンスで、使用しているアビオニクスソフトウェアのバージョンを発表しているかのようです。

なぜ私がこれを知る必要があったのでしょうか?

最初は、単なる目新しさや興奮のせいだと思っていました。しかし、これが続くにつれて、なぜ人がLLMの使用を公言する必要があると感じるのか疑問に思い始めました。

おそらく:

  1. あなたは、功績は功績があったところに帰属させるべきだと信じている。LLMの使用はズルをしているように感じられるため、それを開示することで、素晴らしいものを生み出したことに対するインポスター症候群を軽減できる。
  2. LLMのパフォーマンスがあなたの想像をはるかに超えたため、その成果は関連性によって印象的である。それがまだ80パーセントしか完成しておらず、どの20パーセントが欠けているのか誰も知らないということはさておき。
  3. あなたはLLMに作業をアウトソースし、送信ボタンを押す前にレビューする手間を省いた。間違いがあるかもしれないが、それを見つけることは受信者の演習に委ねられている。
  4. LLMの使用は上層部によって義務付けられている。たとえ実際には使用していなくても、それを使用したと主張することで、あなたは自身の早期の解雇を促進しているため、いい加減さに対する許容度が高まる。

2から4については、私は「残念です」としか言えませんし、あなたの状況がうまくいくことを願っています。

しかし、最初の理由については、ツールとクレジットを共有するという考え、ましてやそれを使ったことでズルをしていると感じることに異議を唱えたいと思います。クレジットと説明責任はコインの裏表です。ツールは、説明責任を負うことができる限りのクレジットしか受け取れません。そのため、それをクレジットすることは、意図せずしてあなたの仕事に対する説明責任を希薄化させます。

もしあなたが何か深遠なものや注目に値するものを作り上げたなら、そのすべてを自分で引き受けてください。もしそれが的外れであったり、まったくのガラクタであることが判明した場合も、同様に全責任を負い、そこから改善してください。「AIは間違いを犯す可能性がある」という言葉が登場するずっと前から、そして「AI」の有無にかかわらず、意味のある、あるいは価値のあるものはすべてこのようにして創造されてきました。