Дослідження Стенфорда: AI-інструмент для найму співробітників дискримінує 26% темношкірих кандидатів на роботу

Стэнфордський університетський інститут штучного інтелекту, орієнтований на людину (Stanford HAI), у червні опублікував донині найбільше в світі польове дослідження алгоритмів найму за допомогою ШІ. Воно виявило, що 26% темношкірих претендентів і 15% претендентів азійського походження подали заявки на посади, де система ШІ-пербору демонструє дискримінацію щодо відповідних расових груп, яка відповідає визначенню дискримінації за «правилом чотирьох п’ятих» Комісії зі забезпечення рівних можливостей у сфері працевлаштування США (EEOC). Найбільш бажаною зазвичай виявлялася група білих претендентів.

Дослідження відстежує 3,4 млн претендентів, 4 млн заявок і охоплює 150 роботодавців у 11 індустріях

Дослідження охоплює 3,4 млн претендентів, 4 млн заявок, 1 700 посад, 150 роботодавців і 11 індустрій — це наразі найбільше у світі польове дослідження алгоритмів найму за допомогою ШІ. Контрольну групу становили 108 компаній зі списку Fortune 500 і 83 000 заявок; ці компанії не використовували ШІ-фільтрацію, і системного сценарію «масово відхиляють усіх» у контрольній групі майже не спостерігалося.

Згідно з «правилом чотирьох п’ятих» EEOC, якщо показник рекомендацій під час найму для певної групи нижчий за 80% від показника групи з найвищою рекомендаційністю, це створює юридичний поріг «негативного впливу». Дослідження, спираючись на цей стандарт, зазначає: якщо рекомендувати темношкірих і азійських претендентів у справедливій пропорції, то додатково 40 тис. заявок могли б потрапити на етап ручного розгляду.

Дослідження також розкриває «цифрові механізми приховування» дискримінації: якщо обчислити змішану середню рекомендованість по всіх посадах, дискримінація в цифрах майже зникає. Наприклад, якщо конкретний ШІ-сегмент віддає перевагу рекомендаціям темношкірих для складської та логістичної роботи, але не рекомендує їх для фінансових посад, то в підсумку середнє значення наближається до справедливого орієнтиру. І лише за умови аналізу за кожною посадою та за кожною групою дискримінація стає видимою.

Концентрація проблеми в алгоритмах: 90% американських роботодавців використовують ШІ-фільтрацію, Workday стикається з колективним позовом

Серед 4 компаній, що користуються одним і тим самим постачальником ШІ, 10% претендентів подають заявки в усі ці чотири компанії, але отримують відмову всюди; у контрольній групі без ШІ-фільтрації таке явище майже не трапляється. Дослідники пояснюють це «алгоритмічною одноманітністю»: одна й та сама упередженість алгоритмів одночасно впроваджується в сотнях компаній, через що конкретні расові групи претендентів системно виключаються з усього ринку праці, при цьому претенденти зазвичай узагалі нічого не знають про це.

Дослідники визначили три типи високоризикових властивостей уже наявних інструментів ШІ-фільтрації:

Широко застосовується (Pervasively Adopted): близько 90% роботодавців у США використовують це в процесі найму

Високі наслідки (Highly Consequential): безпосередньо визначає, чи потрапить претендент у стадію ручного розгляду

Непрозорість для громадськості (Opaque): претенденти не можуть дізнатися, чи їх відсіяла система алгоритмів, а роботодавці також можуть не мати чіткого уявлення, як саме інструмент працює на різних категоріях посад

Наразі інструмент ШІ-фільтрації Workday перебуває під колективним позовом. Його звинувачення охоплюють расову, вікову та дискримінацію за інвалідністю.

AI Act у Колорадо набирає чинності в червні; стандарт «належної обачності» досі не визначений

AI Act штату Колорадо набирає чинності в червні 2026 року: це одна з небагатьох у США законодавчих ініціатив на рівні штатів, які прямо встановлюють вимоги щодо відповідності для інструментів найму на базі ШІ. Вони зобов’язують розробників вживати заходів «належної обачності», щоб запобігати дискримінації. Водночас конкретний зміст «належної обачності» та механізми її виконання ще належить розробити.

Дослідницька команда зазначає, що передумовою для таких досліджень є доступ до даних, тоді як дані про найм зазвичай контролюють постачальники та роботодавці. Команда також додає: у 2026 році випускники вже стикаються з одним із найскладніших за останні роки ринків праці. Кількість заявок на стартові вакансії в компаніях становить 3 рази більше, ніж у 2022 році, а частка використання інструментів ШІ-фільтрації зростає паралельно.

Поширені запитання

Що таке «правило чотирьох п’ятих» EEOC, і як це дослідження визначає дискримінацію за його допомогою?

«Правило чотирьох п’ятих» передбачає, що якщо показник рекомендацій під час найму для певної групи нижчий за 80% від показника групи з найвищою рекомендаційністю, це досягає юридичного порогу «негативного впливу». Дослідження Stanford HAI застосовує цей стандарт для покрокового аналізу даних ШІ-фільтрації — окремо за кожною посадою та окремо за групами. Воно встановило, що у 26% заявок темношкірих претендентів на посади та в 15% заявок претендентів азійського походження на посади система ШІ виявляє дискримінацію щодо відповідної групи в межах визначення, зазначеного вище.

Чому дискримінація в ШІ-наймі раніше була складною для виявлення?

Ключова причина — «зникнення» дискримінації в статистиці. Якщо змішано усереднити показники рекомендацій по всіх посадах, то вищі показники рекомендацій для однієї категорії посад і нижчі для іншої взаємно компенсуються, через що загальна середня величина наближається до справедливого орієнтиру. Саме завдяки детальному аналізу Stanford HAI — окремо за кожною посадою та за кожною групою — дискримінація проявляється з цифр.

Які саме положення AI Act у Колорадо стосуються інструментів ШІ-найму?

AI Act штату Колорадо набрав чинності в червні 2026 року. Він зобов’язує розробників інструментів ШІ-найму вживати заходів «належної обачності», щоб запобігати дискримінації; це одна з небагатьох ініціатив на рівні штатів у США щодо ШІ-найму, які вже набрали чинності. Наразі конкретні стандарти «належної обачності» в законі та відповідні механізми виконання ще потребують подальшого уточнення з боку відповідних органів.