Пользователи Twitter обнаруживают потенциальные расовые предубеждения в алгоритме автоматической обрезки

Twitter пытается определить, почему его функция предварительного просмотра фотографий показывает признаки расовой предвзятости. Несколько пользователей обнаружили, что черные лица с большей вероятностью будут обрезаны при предварительном просмотре фотографий, чем белые лица.

Когда вы видите изображение в Twitter, это всего лишь предварительный просмотр – вам нужно щелкнуть по нему, чтобы увидеть все изображение. Twitter использует алгоритм для обрезки фотографий, определяющий, что вы увидите при предварительном просмотре изображений.

В 2018 году Twitter анонсировал функцию интеллектуальной автоматической обрезки в своем сообщении в блоге Twitter . Эта функция использует «заметность», чтобы отточить наиболее заметные части фотографий, а затем соответствующим образом обрезает изображения для предварительного просмотра.

Пользователи Twitter обнаружили, что нейронная сеть платформы может иметь расовые предубеждения. Один из пользователей опубликовал фотографию сенатора США Митча МакКоннелла и бывшего президента США Барака Обамы.

Предварительный просмотр изображения явно вырезает лицо Обамы, даже когда его лицо помещено вверху фотографии. Когда тот же пользователь попытался инвертировать цвета изображения, лицо Обамы наконец появилось на превью изображения.

Другие пользователи начали проводить собственные эксперименты. Снова и снова пользователи обнаруживали, что алгоритм последовательно предпочитает белые лица черным.

Лиз Келли, член команды по связям с общественностью Twitter, разослала твит в ответ на выводы пользователей Twitter. Она отметила, что, хотя команда Twitter уже проверила алгоритм на предмет предвзятости, ей необходимо провести дальнейшее расследование.

Все эти открытия произошли из твита пользователя о проблеме с вызовом Zoom . Zoom постоянно не мог обнаружить лицо своего черного друга, когда он пытался использовать виртуальный фон. Когда пользователь обратился в Твиттер, чтобы опубликовать скриншоты проблемы, Твиттер вырезал его черного друга из превью изображения.

Хотя все эти эксперименты носят неформальный характер, они, кажется, высвечивают реальную проблему. Твиттеру определенно придется поближе взглянуть на свою функцию автоматического кадрирования и посмотреть, есть ли в ней укоренившиеся расовые предубеждения.

Тем не менее, алгоритм автоматического кадрирования Twitter – не единственная функция Twitter, которую критиковали. В конце концов, многие пользователи также не являются поклонниками алгоритма платформы, который автоматически организует вашу ленту.