AI採用ツールが人種的偏見と体系的な不採用を生み出す; 黒人26%、アジア人15%

現場での採用アルゴリズムに関する初の大規模調査により、システムが候補者を拒否する際の懸念すべきパターンが明らかになりました。 卒業シーズンを迎え、2026年卒業生はここ数年で最も厳しい労働市場に参入しています。エントリーレベルの採用は鈍化しています。同時に、AIツールは求職者がかつてないほど簡単に応募書類を提出できるようにしました。求人の減少と応募の増加が相まって、企業は現在、2022年と比較してエントリーレベルの職種に対し、約3倍もの応募を受け取っています。 AIは、企業が採用するかどうかだけでなく、どのように採用するかをも変えています。米国の雇用主の90%がAIスクリーニングツールを使用して求職者を分類・ランク付けしており、ほとんどが同じ数社のサードパーティベンダーに依存しています。一つのアルゴリズムが多くの雇用主に影響を与えるとき、求職者への影響はどうなるでしょうか。 私たちは、150の雇用主と11の産業セクターにわたる1,700の求人に対して、400万件の応募を提出した340万人の人々を追跡しました。各応募は、単一のサードパーティベンダーによって構築されたAI採用ツールによって評価されました。私たちの新しい論文は、アルゴリズムによる採用の「ブラックボックス」の内部を稀に見る形で示しており、これらのツールが人種的偏見を増加させ、同じ人々が応募する場所すべてで職から排除されることを明らかにしています。 採用AIのパイプライン：求職者が応募を提出し、その応募が採用AIベンダーに送られ、ベンダーの機械学習モデルが予測を行い、その結果としての「推奨」または「非推奨」のラベルが雇用主に送られ、意思決定に役立てられます。 大規模な人種的偏見の浮上 AIベースの候補者選考において、人種間のかなりの格差を発見しました。悪影響を測定するために、EEOCの「4/5ルール」を適用しました。これは、あるグループが最も推奨されるグループ（通常は白人応募者）の80%未満の割合で推奨される場合に、そのポジションを問題ありと判断するもので、関連する米国の雇用法（公民権法第7章）に準拠しています。私たちは、26%の黒人応募者と15%のアジア人応募者が、AIシステムが彼らの人種グループに対して差別を行った職種に応募していることを発見しました。これを別の視点から見ると、もしAIが黒人およびアジア人の候補者を、最も優遇されるグループ（通常は白人応募者）と同じ割合で推奨していたならば、彼らの応募はさらに4万件も次の採用段階に進んでいたでしょう。悪影響の測定方法が重要です。私たちが研究したベンダーは、多くの雇用主の多くの異なる職種で応募者をスクリーニングします。もしその推奨をすべて一緒にプールし、ベンダーを一つの巨大な採用プロセスとして扱った場合、悪影響は見つかりませんでした。しかし、各職種を個別に見た場合（悪影響の評価で一般的な方法）、多くの職種で悪影響が露呈しました。例えば、AIツールが倉庫作業員として黒人応募者を頻繁に推奨する一方で、金融関連の職種ではめったに推奨しないと想像してください。もしすべての職種を平均すると、これら二つのパターンが相殺され、差別がないように見えてしまいます。全体的な平均は、職種ごとに実際に起こっている差別を隠してしまいます。 私たちの研究は、黒人およびアジア人応募者に対する重大な悪影響を発見しました。 アルゴリズムのモノカルチャーは体系的な不採用を引き起こす可能性がある 私たちはまた、単一の採用ベンダーへの共有された依存によって引き起こされる新たな懸念についても研究しました。以前の研究で、多くの雇用主が同じアルゴリズムの推奨に依存する「アルゴリズムのモノカルチャー」が、一部の人々を職から排除する可能性があると理論化しました。実際の採用AI推奨の大規模なデータセットを使用して、この仮説を検証しました。その結果、同じアルゴリズム採用ベンダーによってスクリーニングされる職種に複数応募した人々は、企業が統計的に互いに独立して意思決定を行った場合よりも、応募したすべての職種から不採用になる可能性が高いことがわかりました。4つの応募を提出した応募者の10%は、応募したすべての場所から不採用になっています。 私たちの研究はまた、このパターンが他の状況では見られないことも発見しました。私たちは、私たちの研究と同じ期間中に108のフォーチュン500企業に83,000件の応募を送った、採用決定に関する以前の最大規模の研究データを分析しました。この研究はAIが意思決定に使用されたかどうかに焦点を当てていませんでした。このデータにおいて、応募者が応募したすべての企業から不採用になる割合は、各企業が互いに独立して決定した場合に予想されるよりも高くありませんでした。これは市場集中が重要であることを示唆しています。単一の採用ベンダーが業界全体のスクリーニングを支配するようになると、候補者が排除される可能性が高まるかもしれません。 応募者は、各職種が統計的に独立した意思決定を行うというベースラインによって予測されるよりも、応募したすべての職種から不採用になる可能性が高いことを見出しました。 私たちは、採用結果に関するこれまでの最大規模の研究データを分析し、応募者が応募したすべての職種から不採用になる割合が、統計的に独立した意思決定のベースラインによって実質的に予測されることを発見しました。 AIスクリーニングツールは、重要な意思決定において共存すべきではない3つの特性を兼ね備えています。それらは広く普及しており、非常に影響が大きく、そして一般には不透明です。私たちの研究は、AI採用ツールの結果を明らかにする上で進歩を遂げましたが、このテクノロジーの多くの影響はいまだ不明確です。新しいツールが言語モデルやエージェントを使用して構築されるにつれて、この分野は急速に進化しています。この研究からの重要な教訓は、アルゴリズムによる採用に関する独立した研究の価値と必要性です。独立した研究がなければ、個人の就職の見通しと全体的な労働力構成に対するAIの影響を統治するためのエビデンスに基づいたAI政策を追求することは困難になるでしょう。