AI・機械学習

GPTモデルにおけるハーム・ロンダリング：ジェンダー差別は安全トレーニングされた世代を超えて減少するのではなく、変容する証拠

Harm Laundering in GPT Models: Gender Discrimination Transformed Rather Than (arxiv.org)

4 pointsby sbulaev2026年9月19日0 コメント

要約

この論文は、大規模言語モデル（LLM）の安全性評価が表面的な分類器に依存しているため、ジェンダー差別が減少するのではなく変容している可能性を指摘しています。GPT-2からGPT-5までの15モデルを分析した結果、初期モデルでは女性向けの出力に見られた性的暴力的コンテンツがGPT-4では見られなくなり、代わりに男性向けの出力が肯定的な表現領域を獲得することが示されました。これは「ハーム・ロンダリング」と呼ばれ、表面的な無害スコアの上昇が、潜在的な差別的 harm の変容を隠蔽している可能性を示唆しています。

全文翻訳

Computer Science > Computation and Language

arXiv:2609.20779 (cs)

[Submitted on 17 Sep 2026]

タイトル: GPTモデルにおけるハーム・ランダリング：安全性学習を経てもジェンダー差別は軽減されるのではなく変容するという証拠

著者: Sarah Wyer, Sue Black, Noura Al Moubayed

Sarah Wyerら2名の著者による論文「Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations」のPDFを表示

PDFを表示 HTML (実験的)

要旨: 大規模言語モデルの安全性評価は、モデル世代を経るごとにハームスコアの低下を報告する表面的な分類器に依存しています。本研究では、この手法が系統的に不完全である証拠を提供します。明示的な差別的コンテンツは、削除されるのではなく変容します。これを我々は「ハーム・ランダリング」と呼びます。GPT-2からGPT-5（OpenAI GPT lineage; 3つの人口統計学的条件）にわたる15モデルで、45万件のジェンダー指向の出力を分析した結果、GPT-2の女性向け出力に顕著だった性的暴力に関するクラスターはGPT-4までには消滅する一方、男性向け出力は女性向け出力にはないポジティブな表象領域（ケア、感情表現、アライとしてのアイデンティティ）を獲得することを示します。このパターンはGPT-5で最も顕著です。トピック5（1,997文書）では乳がんが男性の権利に関する議論として扱われており、女性向け出力には同等のクラスターは一切現れません。3つの独立した分類器は、このコンテンツを無毒と評価します。GPT-4では感情スコアが反転します。初期モデルは女性を貶めますが、後期のモデルは過剰に補正します。女性向け出力のトピック多様性は、GPT-2（W/M $= 0.91$）からGPT-4のアライメント境界（W/M $= 0.58$）にかけて36%低下します。REGARD表象ハームの格差はリリース日と相関しますが（$\rho = +0.55$, $p = .034$）、Detoxifyはそうではありません（$\rho = -0.23$, $p = .42$）。毒性スコアは表象ハームが増加するにつれて低下します。我々はハーム・ランダリングを3つの基準テストとして形式化し、任意の生成モデルに適用可能な3段階の検出プロトコルを提供します。OpenAI GPT lineage内では、毒性スコアの低下はハーム削減の十分な代理指標ではありません。


コメント:	EMNLP 26メインカンファレンスで採択
主題:	計算機科学 > 計算と言語 (cs.CL); 人工知能 (cs.AI)
引用形式:	arXiv:2609.20779 [cs.CL]
	（またはこのバージョンについては arXiv:2609.20779v1 [cs.CL]）
	https://doi.org/10.48550/arXiv.2609.20779 DataCite経由のarXiv発行DOI

投稿履歴

From: Sarah Wyer
[v1] Thu, 17 Sep 2026 17:49:28 UTC (55 KB)

全文リンク:

論文へのアクセス

Sarah Wyerら2名の著者による論文「Harm Laundering in GPT Models: Evidence That Gender Discrimination Is Transformed Rather Than Reduced Across Safety-Trained Generations」のPDFを表示

［画像: license icon］ライセンスを表示