責任は正当に帰属させるべき

クレジットは正当に帰属されるべき

2026年10月14日

この夏、ダートマス大学の学長であるサンティアゴ・シュネル氏は、ワシントン・ポスト紙に「大学はAIによる不正行為と戦っている。しかし、より深い問題がある。」と題した記事を寄稿しました。署名欄には、シュネル氏単独の執筆とありました。

8月26日、Semaforはレポートを公開し、主要新聞のゲスト寄稿記事310件に対しAI検出ツールPangramを実行したところ、50件がLLMによって書かれた可能性が高いと判明しました。シュネル氏の記事もその一つでした。ダートマスの学生新聞であるThe Dartmouthは、数週間後にフォローアップ調査を行い、同じツールがシュネル氏の最近の著作9件をほぼ完全にLLMによって生成されたものとして特定したことを発見しました。

Pangramにフラグが立てられたことをLLM使用の決定的な証拠とみなすべきではありません。LLM生成テキストは回避がますます困難になっており、たとえ自身が使用していなくても、その特徴があなたの文章に埋め込まれる可能性が高いです。また、それらの影響を示すとされる、タイポグラフィの特徴や言い回しを特定するいたちごっこにも我慢できません。LLMはインターネット上のテキストで学習しますが、インターネットコンテンツの広大な範囲は、非ネイティブ英語話者によって書かれたマーケティングコピーであり、多くのLLMの「兆候」は、例えばケニア英語の特徴でもあります。

しかし、このケースでは、シュネル学長（ベネズエラ生まれで育ち）のような非ネイティブスピーカーに対してPangramが持つ潜在的な偏見は無関係です。なぜなら、シュネル氏自身が執筆プロセスでLLMを広範に使用していることを認めているからです。彼自身の言葉を借りれば、

9月18日のThe Dartmouthへのメール声明で、シュネル氏は、AIを「言語の洗練、コピー編集、明確さと構成の改善、執筆プロセスの効率化」のために使用しているが、「最終的なテキストを確認し、その内容に責任を負う」と述べています。

「アイデアや議論を開発し、調査を行い、証拠と情報源を評価し、構成を決定し、草稿を作成し、最終的なテキストに何を含めるかを決定するのは私です」とシュネル氏は書いています。

あるいは、少なくとも私が彼のものだと想定した言葉でした。これは、The Dartmouthの誰かが確認するという洞察力を持ったことによるものです。

シュネル氏の9月18日のThe Dartmouthへのメール声明自体が、Pangramのテストによると「100% AIによって書かれた」ものでした。

メール作成に関するその後の声明で、シュネル氏は「メールの要点を作成し、草稿を書いた」後、「言語と明確さのためにAIツールを使用して、いくつかの提案（言い換えられた文を含む）を取り入れ、それを読み直し、軽微な変更を加えて署名とともに送信した」と述べています。

「私の署名の下にあるいかなるテキストについても、私は全責任を負います」とシュネル氏は付け加えています。

LLMに過度に依存していないと主張するメールを、LLMを使って書くということがどれほど驚くべきことかはさておきましょう。私が焦点を当てたいのは、シュネル氏が示唆する暗黙の論点です。つまり、記事のどれだけを彼が実際に書いたかなど気にするべきではない、彼がそれに署名する意思がある限り、ということです。

---

私は最近、プログラミングコミュニティで全く同じ議論に遭遇しました。

自身のブログの投稿で、ソフトウェアエンジニアのIndradhanush Gupta氏は、AnthropicのClaudeをコード変更の共同執筆者として追加することをやめたと述べています。なぜなら、LLMを共同執筆者として追加すると、間違いに対する責任を回避する方法ができてしまうからです。コメントで、これがLLMの使用を隠すための口実のように聞こえると指摘された後、Gupta氏はそれが意図ではないと主張しています。彼は、LLMが関与したことをプロジェクト全体で広く免責事項として表示し、個々の変更は、自身が行った作業とLLMエージェントとの作業を反映している場合は単独の執筆者としていますが、その作業内容を理解するのに十分な速度で進めた場合に限り、と説明しています。

LLM生成で人間が承認したコンテンツが許容される分野があるとすれば、それはソフトウェアエンジニアリングです。ほとんどの人は、コードを詩のような人間の表現形式とはみなしません。もしコンピューターがコードの記述を自動化できるなら、なぜそうしないのでしょうか？社会は、感動を与えるソフトウェアを求めているのではなく、機能するソフトウェアを求めています。

さらに、ソフトウェアエンジニアリングはすでに複数の破壊的な変革を経ており、困難で手作業のコード記述プロセスが、より便利で自動化されたプロセスに置き換えられています。プログラミング言語自体がその例です。以下は、数値を二乗するルーチンを宣言し、それを使って数値4を二乗するx86アセンブリのサンプルです。

"square":
        push    rbp
        mov     rbp, rsp
        mov     DWORD PTR [rbp-4], edi
        mov     eax, DWORD PTR [rbp-4]
        imul    eax, eax
        pop     rbp
        ret
.LC0:
        .string "%d\n"
"main":
        push    rbp
        mov     rbp, rsp
        sub     rsp, 16
        mov     edi, 4
        call    "square"
        mov     DWORD PTR [rbp-4], eax
        mov     eax, DWORD PTR [rbp-4]
        mov     esi, eax
        mov     edi, OFFSET FLAT:.LC0
        mov     eax, 0
        call    "printf"
        nop
        leave
        ret

アセンブリ命令はCPUへの生の入力です。「push」、「mov」、「pop」操作は個々のバイトメモリを制御します。アセンブリを書くことは、本質的にコンピューターを直接制御するため、非常に強力です。しかし、複雑なタスクにとっては非常に不便です。

代わりに、コンピューター科学者は、読み書き、編集、推論が容易な言語を発明しました。コンパイラと呼ばれるソフトウェアプログラムが、高水準コードをプロセッサが理解できるアセンブリ命令に変換します。以下は、Compiler Explorerの協力によるCプログラミング言語のスニペットで、上記のアセンブリ命令を生成します。

#include <stdio.h>

int square(int num) {
    return num * num;
}

void main() {
    int result = square(4);
    printf("%d\n", result);
}

Cコードを書いてコンパイラで実行した後、生成されたアセンブリの「作者」になったと主張する人を私は見たことがありません。人々は時々、自分のコードが生成したアセンブリを調べます。望ましい結果を得るために調整することさえあります。しかし、それは彼らが作成したものではありません。彼らが作成したのはCコードです。

プログラム作成における自分の役割を適切に区別することは、正しいソフトウェアを書くことを容易にします。コンパイラエラーはまれです。プログラマーが自分のコードではなくコンパイラを非難する本能が、よくあるジョークになるほどまれです（特に、それが真実であることが判明した場合）。しかし、コンパイラにバグがある場合、人間が書いたものとコンピューターが生成したものとの違いを知ることは非常に役立ちます。もし私たちがGupta氏がLLMに対して提案していること、つまりステッカーを剥がして製品は自家製だと主張すること、をコンパイラに対して行ったとしたら、問題の根源を特定するのに far more 困難な時間を費やすことになるでしょう。

LLMの導入は、プログラマーが依存関係を非難することによって責任を回避しやすくなる、新しい心理的な罠ではありません。プログラマーは常にそうしてきましたし、それは常に間違っていました。StackOverflowの創設者であるJeff Atwood氏は、2008年にプログラミングの第一法則：常にあなたのせいでこのことについて書いています。

コード所有権の裏側には、コードの責任があります。あなたのソフトウェアにどんな問題があっても、たとえそれがあなたのコードではなかったとしても、常に問題はあなたのコードにあると仮定し、それに応じて行動してください。もしあなたが世界にあなたのソフトウェアを公開するなら、その失敗に対して全責任を負ってください。たとえ、技術的に言えば、あなたがそうする必要がないとしても。それが尊敬と信頼を得る方法です。

ロボットの功績を盗む必要はありません。あなたはただ…それに責任を持つことを選べばいいのです。

私の友人であるモンタナ州立大学のコンピューターサイエンス教授、Carson Gross氏は最近、より堅牢な実践を提案しました。LLMを使用するソフトウェアエンジニアは、生成されたコードとともに、ソフトウェアを説明するキュレーションされた文章ドキュメントを保存すべきです。これは、人間が意図したこと（プロンプトで捉えられる）、人間がレビュー・編集したLLM生成物（両方が変更にクレジットされる）、そしてLLMが単独で生成したもの（LLMが単独の作者である場合）を効果的に分離します。理論的には、同じプロンプトに基づいてコードを再生成することも可能ですが、より優れたモデルを使用します。

物事を生成するために機械の支援に依存することの影響から逃げるのではなく、それを適切に文書化することによって、機械と私たち自身を改善することができます。

---

LLM支援の著者がLLM支援の著者とラベル付けされたくない場合、彼らの仕事におけるLLMの役割を省略するのを正当化するために様々なアナロジーを展開します。あるメールで、シュネル学長は次のように書いています。「私はこれらの技術を支援ツールと見なしています。それらは私の研究、知的判断、または著述を代替するものではありません。」2日後、別の声明で彼は、プロの編集者、ゴーストライター、またはソフトウェアエディタ（機械学習またはAIベース）が使用された場合、それらは出版物で認められないだろうと主張しました。

第一に、LLMがあなたの執筆プロセスで果たす役割は、支援ツールとプロの編集者の両方と同時にアナロジー化することはできません。それらは、自律的に動作しないペンや辞書のような機能をするか、あるいはあなたの仕事を見直し、独立した判断を行使し、新しいアイデアを提供し、最終製品に影響を与える可能性のある第二者として機能します。後者は、シュネル氏が自身のLLM使用を説明する方法、つまり明確さの向上、テキストの整理、アイデアの表現方法の提案と一致しています。

シュネル氏の混在する比喩は、彼自身がAIが生成する仕事の範囲にどれほど影響を与えているかについて、確固たる把握をしていないことを示唆しています。彼の信頼性を損なうことに、これは広く共感できる感情です。私たちの大半はこれらの製品を使った経験があり、それらがどれほど熱心にテキストを生成するかを知っています。LLMはあなたの著述や判断を代替するのに非常に積極的です。それらをそうさせないためには、かなりの努力と個人的な自制が必要です。

あなたの未開示のLLM使用が慎重であると主張することは、あなたの秘密の核開発計画がエネルギー生産のためだけであると主張することに似ています。それが真実かもしれませんが、ではなぜ施設を隠したのですか？検査できますか？たくさんの遠心分離機を持っているように見えます。

仮に、LLMをプロの編集者が行うような支援のみを提供するように制限することが比較的簡単だったとしましょう。シュネル氏は、クレジットなしの編集者やゴーストライターを雇用することが、非ネイティブスピーカーの科学者や学者が従うべき経験則であると主張しています。同じようにLLMを使用すること、つまりクレジットなしで、は許容されるでしょうか？

私は反対を提案します。学者が低品質でLLM生成された作品を提出しているかもしれないという懸念は、既存の学術出版の規範がその意図された目的を果たしているかどうかを再評価する機会を与えてくれます。どれだけの学術作品が実際にゴーストライターによって書かれているかは分かりませんが、プロの編集者やライターが論文の制作に関与している場合、それは少なくとも謝辞で言及する価値があると思います。

多くの分野で、出版された作品に大きく貢献した人々が正当なクレジットを与えられていません。連邦判事は、しばしば書記官によって大部分が書かれた決定を自分の名前で出版します。秘書は上司のアドレスからメールを送信します。空港フィクションの巨匠ジェームズ・パターソンは、トップビルに載らない協力者の集団を誇らしげに雇っています。これは、かつてのオランダの巨匠レンブラントも同様でした。

これらの誤った帰属のいずれも、道徳の法則からの公認された例外ではありません。それらは、ほとんどの場合、マーケティングのギミックです。あまり権威のない協力者の貢献を省略することは、作品の魅力をその固有のメリットを超えて高めようとします。それは誠実さとは別の目的を果たします。

一部の分野では、創造的な作品を生み出すのに役立ったすべての人物を文書化することが期待されています。映画には広範なクレジットがあり、制作の複雑さを明らかにし、関わったすべての人に認識の瞬間を与えます。新聞記事はめったに編集者をクレジットしませんが、小説は時々クレジットし、翻訳は通常、表紙での表現に値する解釈的な行為と見なされます。新進のタイポグラファーは、本がしばしば印刷された書体について言及していることを発見するでしょう。間接的な意味で、出版社は実際に彼らのペンを認めています。

どのような創造的な作品も、その制作をさらに文書化することによって貧しくなることはありません。これは、すべての記事が必ずしも映画のクレジットを必要とするという意味ではありませんが、既存の規範が重要な何かを捉えきれていない可能性のあるこのようなケースでは、協力者（人間または機械）により多くのクレジットを与えることは素晴らしい第一歩です。

コードと同様に、散文の出所を明確な鎖で確立することは、お互いと私たちが生み出す作品をより良く理解するのに役立ちます。企業の受信トレイでは、代理で誰かに代わってメールを送信できます。オランダ政府は、レンブラントの絵画のうちどれが実際に彼の生徒に帰属されるべきかを特定する取り組みに資金を提供しました。ジェームズ・パターソンでさえ、現在では定期的にゴーストライターを表紙に載せています（ただし、小さい文字で）。LLMによる編集が一般的になった場合、その役割を認めることも同様に理にかなっています。特に、LLMは人間よりもはるかにあなたの仕事を完全に書き直すことをいとわないからです。

---

シュネル氏の作品を彼の terms で見てみましょう。彼が全責任を負うと主張するその論説記事には何が見つかるでしょうか？

ダートマス大学の教授であるAndrew Levin氏とMicheal Herron氏は、実質的な誤りと省略…著名な人間の専門家が書いたコラムでは事実上考えられないようなものを主張しています。シュネル氏は学術研究の方法論を誤って伝えており、要約しか読んでいないかのように示唆しています。彼の議論を支持するより最近の研究を省略しており、彼の研究が表面的であったことを示唆しています。教室でのAIの展開について説明する際、彼はダートマス大学のプレスリリースからそのままの文を再現していますが、節を入れ替えたり同義語を置き換えたりしており、まさに高校生がする盗用のような方法です。

Levin氏とHerron氏の分析に、私自身の分析を加えます。この記事は単純に悪いものです。洞察を与えず、ただ陳腐な言葉と決まり文句だけです。「大学はAIによる不正行為と戦っている。しかし、より深い問題がある。」は、そのタイトルを正当化することさえできず、ましてや説得力のある見解を提供することもできません。私が理解できる限り、「より深い問題」とは、AIの広範な展開が学生の能力を判断することを困難にしているということです。それは不正行為の根本的な問題であり、より深い問題ではないように思われます。

当然ながら、シュネル氏には問題提起に対する解決策がありません。彼は、大学は対面試験を「超える」必要があると言っていますが、ダートマス大学が学生の理解をどのように保証しているかの例はすべて対面試験です。彼は、大学は学位が独立した習熟度をどれだけ反映するか、それともAIのインテリジェントな使用を反映するかを決定すべきだと言っていますが、それらを分離する方法についての提案は何も提供していません。彼は引用された研究が、学生は完成した回答を供給するためではなく、質問、フィードバック、追加練習のためにAIを使用すべきであることを示していると要約しています。これは、シュネル氏がこの記事を生成するためにAIを使用した方法を反映しており、同様に具体性に欠けます。

シュネル氏のLLMへの依存の実際の範囲がどうであれ、彼はそれらのコア機能をうまく再現しました。それは、人々がすでに知っていることを、何も新しいことが言われていないことを隠すのに十分なほど読みにくい文章で繰り返すことです。多くの論説記事は悪い見解を持っていますが、少なくともそれらは人間の視点からの悪い見解です。少なくとも、デビッド・ブルックスが友人の手に負えないと考えているデリミートが何であるかは分かります。少なくとも、トム・コットンが軍隊をどこに送りたいかは分かります。

シュネル氏の論説記事は、彼のボスであるダートマス大学学長のSian Beilock氏が、その1週間後にアトランティック誌に「なぜ私はダートマス大学にもっとAIを導入したいのか」というキャッチーな見出しで寄稿した記事と比較して、特に劣っています。Beilock氏は、他の学校がLLMの使用を抑制するために取った様々な措置に言及していますが、シュネル氏とは異なり、それらについて明確な見解を提示しています。Beilock氏は、AIへの恐怖は技術への不慣れによって引き起こされると主張し、それをカリキュラムに深く統合することが、卒業後の就職市場に備えるダートマス大学の学生をより良く準備すると述べています。彼女の記事には、学校でこのアプローチをどのように奨励してきたかを示す多くの適切な例が含まれています。

私はBeilock氏の戦略には同意しませんが、それが哲学的に首尾一貫していることは認められます。この記事は彼女の世界観を明確に表現しており、テキストに含まれる証拠によって裏付けられています。それは議論を持っています。私の時間を無駄にしません。

---

私の人生で最も深い学術体験の2つは、ダートマス大学の学部生時代に起こりました。どちらも同じ教訓を教えてくれました。最高レベルでは、問題を十分に考えていないことを言葉でごまかすことはできません。

2年生の冬、私はPrasad Jayanti教授のCS31: Algorithmsを受講しました。私の予想とは異なり、コースは主にアルゴリズムを学ぶことではなく、それらを証明することでした。最初のいくつかの課題で私はかなり成績が悪かったのです。なぜなら、何かを証明する方法が本当に分からなかったとき、私はそれを理解したと自分に思い込ませ、十分近いと思われる証明を書いてしまったからです。私がアルゴリズムを実際に証明するための鍵となる洞察を欠いていることが、私の文章から明白であり、私の成績もそれを反映していました。

このクラスの期末試験は、5つの問題だけの持ち帰り課題でした。1週間かけて完了できました。クラスメートと協力することは許可されていませんでした。

週が過ぎ去るにつれて、私はますます絶望的になりました。図書館の3階をうろうろと歩き回り、クラスメートを悲しげに見つめ、時折「まだできた？」と尋ねるだけでした（通常、彼らもできていませんでした）。私は、恐ろしい量の甘いアイスカプチーノを飲みながら、深夜をはるかに過ぎていました。鍵となる洞察は得られませんでしたが、少なくともそれについて自分自身を騙すのをやめることを学び、それを理解するまで甘いアイスカプチーノを飲み続けるつもりでした。

そしてついに、私はそれを理解しました。

4年生の時、私は政府学で栄誉論文を書くために登録しました。William Wohlforth教授が指導教官でした。2年前に彼のシニアセミナーであるGov85: Grand Strategyで満点を取っており、彼の研究助手としても働いていたので、私たちは素晴らしい関係を築いていると思っていました。私は、説得力があり、少し生意気な議論をまとめ、証明しようとしていた国家行動を示すと思われるいくつかの基本的な例を添えました。秋の論文ワークショップを順調に進み、彼に作業中のドラフトを送りました。

彼からの返信はもうありませんが、それを読んだ時の私の気持ちは鮮明に覚えています。彼は基本的に、私が何を話しているのか全く分からないと言いました。私の議論は形がなく、証拠は薄く、彼は私が期待していたよりもかなり遅れていました。私が検出した圧倒的な感情は失望でした。

その時、数学的証明に費やさなければならなかった徹底さが、社会科学でも私に期待されていることに気づきました。実際、それはどこでも私に期待されていました。どんなに優れた文章力をもってしても、私が本当に何を知っているのか、識別の厳しい目から隠すことはできませんでした。そして、最高の最高の仲間と仕事をしたいのであれば、何を知っているかを知るには、途方もない努力が必要でした。

シュネル学長がAI支援を認めなかったのは、その記事が耐えられないような精査を招くことを恐れていたからだと信じています。彼は大学におけるAIについてどうすべきか分かっていません。ただ、それについて意見を持つべきだと知っているだけです。もし彼がその問題についていくらか考えていたとしても、それは彼の文章には反映されておらず、新しい洞察を生み出すには十分ではありませんでした。LLMは、家主がいくつかの信頼できるベージュの缶でアパートを塗り替えるように、その穴を塗りつぶすのに非常に積極的です。

---

The Dartmouthが調査結果を発表してから4日後、シュネル学長はAIと学術的誠実性について学んだことと題した返信を発表しました。それは次のように締めくくられています。

私がダートマス大学に呼ばれた理由の一つは、このコミュニティが困難な問題に取り組む意欲があり、他者が困難な仕事を最初に行うのを待たないからです。私はコミュニティとキャンパスライフ担当のシニアバイスプレジデント兼学生担当最高責任者のJennifer Rosales氏と協力し、授業課題、公開執筆、学術研究においてAIをいつ使用すべきか、あるいは使用すべきでないかについて、間もなくコミュニティと対話する方法を考えています。これらは、一人の個人や一つの学術分野のメンバーだけでは答えられない質問ではありません。この共同の取り組みに参加していただくことを invitation します。皆様の input は重要であり、高く評価されます。

誇り高い卒業生であり、生涯にわたるコミュニティメンバーとして、私はこの共同の取り組みに参加するという invitation を受け入れたいと思います。議論の出発点として、以下の提案を提示します。

1. いかなるコースワークまたは出版物に対してもAI製品の使用は、それらがどのように使用されたかの簡単な説明とともに開示されなければなりません。疑わしい場合は開示してください。過度に明示的であることによる罰はありません。
2. 翻訳目的でのLLMの使用は、英語の文章の作成や編集のためのLLMの使用とは区別されません。辞書の使用を開示する必要はありませんが、より長いテキスト文字列を翻訳するために使用されるツールは開示する必要があります。
3. LLMを研究目的で使用することは許可されており、LLMが引用を検索するために使用され、要約するためではない限り、必ずしも開示する必要はありません。テキストを読んだと示唆するような方法で、LLMによるテキストの要約を引用することはできません。
4. Google Docsのような多くのWebサービスには、あなたの仕事の読み取りや編集の提案を行う組み込みのLLM機能が搭載されています。これらの機能の使用は、Claudeのようなスタンドアロンツールの使用と同じ方法で開示する必要があります。
5. LLM支援で作成されたメールには、LLMがメール作成に関与したことを示す開示を含めるべきです。これがあなたの標準的な慣行である場合、開示はメール署名に含めることで自動化できます。

これらは私の個人的なLLM使用の原則ではなく、明日私が大学の学長になったとしたらダートマス大学のために選ぶであろう原則でもありません。私は、ダートマス大学が、私がそこで受けた最高のコースでの深い学習のためのスペースを作り出すような規則を施行することを望みます。そのスペースは、現時点では、学界と職場両方でますます希少になっています。それがない場合でも、これらの提案は現実的であり、Beilock学長のビジョンに沿っており、多くの良いことをもたらすと信じています。

これらの原則の目標は、LLMの採用を制限することではなく、単にそれを明らかにすることです。これらの製品の広範な使用が実際に優れた仕事とより有能な学生を生み出すのであれば、完全な開示はそれを強調するだけです。ダートマス大学は、学術的誠実性の道を切り開き、LLMの貢献の範囲についての透明性を要求することによって、それらの能力をより良く理解するのを助けることができます。

そうすれば、私たちは皆、それらが本当にどれほど役立つかを評価できます。

– Alex Petros ’19

この投稿のドラフトに対するフィードバックをくれたParker Richards ′18とKatie Petrosに感謝します。［画像: 浮遊大陸の画像］