В наше время искусственный интеллект все чаще становится первым, кто просматривает резюме кандидатов на работу, еще до того, как их увидит человек. Это ускоряет процесс найма, но вызывает серьезные вопросы о справедливости оценки. Новое исследование, опубликованное в MIT Tech Review AI, поднимает тревожную тему: ИИ может быть более склонен к формированию предубеждений при найме, чем его человеческие коллеги.
Исследователи уже давно знают, что большие языковые модели (LLM) способны перенимать человеческие предубеждения из данных, на которых они обучаются. Это означает, что если в обучающих данных присутствовали дискриминационные паттерны, ИИ, скорее всего, воспроизведет их, возможно, даже усилит. Например, если исторически на определенные должности нанимали преимущественно мужчин, LLM может отдавать предпочтение мужским резюме, даже если женские кандидаты обладают аналогичной или лучшей квалификацией.
Однако новое исследование идет дальше, предполагая, что LLM могут не только перенимать, но и развивать свои собственные предубеждения. Хотя детали того, как именно ИИ формирует эти «собственные» предубеждения, в кратком обзоре не раскрываются, сам факт их возникновения вызывает серьезные опасения. Это означает, что даже при попытке очистить обучающие данные от явных предубеждений, риск несправедливой оценки со стороны ИИ все равно остается высоким.
Для соискателей это означает, что их шансы на справедливую оценку могут быть ниже, чем они ожидают, когда их резюме попадает в руки алгоритма. Работодателям же следует с большой осторожностью подходить к внедрению ИИ в процессы найма, постоянно аудируя его решения и, возможно, сохраняя человеческий контроль на критически важных этапах. Вопрос о том, как обеспечить беспристрастность ИИ, остается одним из ключевых вызовов в развитии технологий искусственного интеллекта.
Подробнее: technologyreview.com