Разве этот человек не берет у вас интервью? Нью-Йорк планирует ограничить искусственный интеллект “ интервьюеров ”

«Мы не можем дать конкретный отзыв о результатах вашего собеседования».

В Соединенных Штатах все больше и больше работодателей используют искусственный интеллект (ИИ) для ускорения процесса найма. Но соискатели редко знают, почему инструменты найма ИИ отклоняют их резюме или как анализировать свои видео-интервью. Когда они проигрывают выборы, они часто могут получить только такое холодное письмо, не зная, почему они проиграли выборы.

Это беспокоит. Какую власть в принятии решений играет ИИ в нашей карьере?

Ассошиэйтед пресс сообщило, что в начале ноября городской совет Нью-Йорка 38 голосами против 4 принял законопроект : если система найма ИИ не пройдет ежегодный аудит, она будет запрещена. Ежегодный аудит будет проверять систему приема на работу ИИ на предмет расовой или гендерной дискриминации, позволяя соискателям вакансий выбирать альтернативы, такие как ручная проверка, а разработчикам ИИ необходимо будет раскрыть более подробную информацию, которая в прошлом была непрозрачной.

Интересно, что именно разработчики ИИ несут ответственность за ежегодный аудит, но работодатель будет наказан.Если они используют систему найма ИИ, которая не проходит ежегодный аудит, максимальный штраф за каждое нарушение составляет 1500 долларов.

Сторонники считают, что законопроект откроет окно для сложных алгоритмов. Алгоритмы часто ранжируют навыки и личности в зависимости от того, как соискатели говорят или пишут, но сомнительно, что машина сможет точно и справедливо судить о характеристиках личности и эмоциональных сигналах. В будущем этот процесс будет более прозрачным.

По крайней мере, имеет смысл знать, что «алгоритм отвергается, потому что он предвзят». Сандра Вахтер, профессор технического права в Оксфордском университете, однажды сказала:

В основе закона о борьбе с дискриминацией лежат жалобы. Если они не знают, что с ними случилось, никто не может жаловаться на то, что им отказали в возможности трудоустройства.

Начинающая компания Pymetrics также очень поддерживает этот закон. Они выступают за использование ИИ для проведения собеседований с помощью игр и других методов и считают, что это соответствует требованиям справедливости. В то же время устаревшие программы собеседований с ИИ будут выброшены на помойку. Компания HireVue, поставщик системы набора персонала с искусственным интеллектом, в начале этого года начала поэтапно отказываться от инструмента для сканирования лиц. В академических кругах этот инструмент называется «псевдонаукой», что напоминает френологическую теорию расизма.

Большинство возражений против законопроекта основано на том, что «этого далеко не достаточно». Александра Гивенс, председатель Центра демократии и технологий, отметила, что предложение фактически требует от работодателей только выполнения существующих требований Закона США о гражданских правах, запрещающего прием на работу, который имеет различные последствия в зависимости от расы, этнической принадлежности или пола. но игнорирует предубеждения против инвалидности или возраста.

Некоторые эксперты в области искусственного интеллекта и активисты движения за цифровые права обеспокоены тем, что закон позволяет разработчикам ИИ только самостоятельно подтверждать соответствие основным требованиям и устанавливает лишь слабые стандарты для федеральных регуляторов и законодателей. Конкретная «предвзятость аудита» очень серьезна. нечеткий.

Стоит отметить, что предубеждения на собеседованиях не редкость. Основная проблема заключается в алгоритме выборочного кормления, но они часто помещаются в «черный ящик», который обычным соискателям трудно обнаружить.

Несколько лет назад Amazon прекратил выпуск инструмента для сканирования резюме, потому что он отдавал предпочтение мужчинам на технических должностях. Частично причина в том, что он сравнивает условия соискателей работы с квалифицированной рабочей силой мужчин в компании; аналогично, если алгоритм черпает пищу из отраслей, в которых расовые и гендерные различия уже широко распространены, то он просто усиливает предубеждения.

Это предубеждение не только при найме на работу. В апреле этого года новое исследование Университета Южной Калифорнии показало, что Facebook показывает рекламу способами, которые могут нарушать Закон о борьбе с дискриминацией. Мужчины с большей вероятностью увидят объявления о найме водителя-доставщика пиццы, а женщины – с большей вероятностью. увидеть покупки. рекламировать.

По сути, дискриминация ИИ культивируется человеческим обществом, а предвзятое поведение отдельных людей даже подсознательно, и мы можем не осознавать этого сами. Если вы сравниваете компанию с меньшими предрассудками с компанией с серьезными предрассудками, как правило, есть две причины: первая лучше преднамеренно устраняет предрассудки, а вторая – лучше собирает необоснованный статус-кво и увековечивает их.

Таким образом, нейтральное мнение считает, что лучшая часть предложения Нью-Йорка – это требования о раскрытии информации, чтобы люди знали, что их оценивает ИИ, как их оценивает ИИ и куда направляются их данные.

# Добро пожаловать, чтобы подписаться на официальный аккаунт Aifaner в WeChat: Aifaner (идентификатор WeChat: ifanr), более интересный контент будет предоставлен вам как можно скорее.

Ai Faner | Исходная ссылка · Посмотреть комментарии · Sina Weibo