Один искусственный интеллект для всех работодателей оказался не так опасен, как считалось
Если десятки компаний используют один и тот же алгоритм найма, первый отказ не обязательно закрывает человеку дорогу ко всем остальным работодателям. Исследователи проверили этот сценарий на математических моделях и выяснили, что главный риск единой системы кроется в другом: рынок начинает хуже замечать кандидатов, которых общий рейтинг недооценил.
Алгоритмической монокультурой называют ситуацию, когда разные организации принимают решения с помощью одного алгоритма или очень похожих систем. Для найма проблема выглядит очевидно: программа отклонила резюме в одной компании, значит тот же механизм может повторить отказ и в остальных. Чем чаще бизнес использует одинаковые модели машинного обучения, тем сильнее этот страх.
Но модель показала важную деталь. Если число вакансий фиксировано, работодатели всё равно должны их заполнить. Когда все компании одинаково ранжируют кандидатов, одна нанимает первого в списке, следующая выбирает из оставшихся, затем очередь доходит до следующих претендентов. Поэтому единый рейтинг сам по себе не увеличивает число людей, которые останутся без работы.
Меняется другое: кто именно получит место. При разных алгоритмах работодатели оценивают людей по-разному, поэтому кандидат, который не понравился одной системе, может оказаться сильным выбором для другой. Единый алгоритм лишает рынок этого разнообразия и чаще повторяет одну и ту же ошибку.
В некоторых сценариях общий рейтинг даже усиливал позиции лучших кандидатов. Несколько работодателей начинали бороться за одних и тех же людей, те получали несколько предложений и могли требовать более высокую зарплату. Авторы, однако, не утверждают, что реальный рынок труда обязательно поведёт себя так же: модель сильно упрощает процесс найма.
Главная проблема проявилась, когда исследователи посмотрели не на число трудоустроенных, а на качество выбора. Независимые алгоритмы ошибаются по-разному и поэтому чаще находят людей, которых другие системы пропустили. Один общий алгоритм снова и снова смотрит на кандидатов одинаково и хуже исследует альтернативы.
Исследователи проверили ещё один вариант: объединили оценки нескольких независимых алгоритмов в одну итоговую систему. В симуляции с 1000 кандидатами такой подход показал лучший результат. Модель получала несколько независимых оценок человека, усредняла ошибки и принимала решение уже на основе общей картины.
На практике построить такую систему намного сложнее. Компании собирают разные данные, по-разному проводят тесты и используют собственные критерии отбора. Чтобы объединить оценки, работодателям пришлось бы свести эти данные и методы в одну инфраструктуру, что может оказаться слишком дорого или неудобно.
Работа не доказывает, что единый искусственный интеллект безопасен для найма. Она показывает более важную вещь: проблема не сводится к формуле «один алгоритм плохо, много алгоритмов хорошо». Единая система может не увеличить безработицу, но заставить рынок смотреть на людей слишком одинаково. В долгосрочной перспективе именно потеря независимых оценок может оказаться опаснее массовых автоматических отказов.