Twitter сообщает, что отказался от обрезки искусственного интеллекта из-за расы и гендерных предубеждений
Впервые мы услышали идею о том, что алгоритм обрезки изображений Twitter может иметь некоторые предубеждения, произошел в сентябре 2020 года. Криптографический инженер Тони Арьери загрузил два изображения с изображением лидера большинства в Сенате Митча МакКоннелла и бывшего президента Барака Обамы, и оба раза ИИ обрезал лицо МакКоннелла. .
Когда споры в конце концов дошли до людей в Twitter, компания пообещала проанализировать свою модель. Наконец, мы можем прочитать эти выводы.
Twitter поделился результатами анализа алгоритмов
В начале мая Twitter наконец-то представил полноразмерные превью изображений на своих мобильных устройствах. Сообщение в блоге Twitter показало, что приложение отказалось от алгоритма обрезки изображений после того, как анализ показал, что в нем присутствуют расовые и гендерные предубеждения.
Платформа начала использовать алгоритм заметности в 2018 году для обрезки изображений. Twitter говорит, что модели значимости обучаются на данных отслеживания взгляда человека, которые затем используются алгоритмом для оценки того, какие предметы / элементы изображения, по его мнению, наиболее важны для большинства людей.
Затем алгоритм будет вычислять оценку значимости для всех частей изображения, прежде чем выбрать точку с наивысшей оценкой в качестве центра кадрирования.
Проведя количественный тест для проверки потенциальных предубеждений, команда обнаружила, что алгоритм заметности, похоже, отдает предпочтение женщинам над мужчинами и белым людям над чернокожими.
Twitter также проверил алгоритм на «мужской взгляд», но никаких доказательств предвзятости объективации обнаружено не было.
Даже если алгоритм заметности был скорректирован, чтобы отразить полное равенство между расами и гендерными подгруппами, мы [Twitter] обеспокоены репрезентативным вредом автоматизированного алгоритма, когда людям не разрешается представлять себя на платформе так, как они хотят. Важность также несет в себе другой потенциальный вред, выходящий за рамки этого анализа, включая нечувствительность к культурным нюансам.
Рассматривая компромисс между скоростью и согласованностью автоматической обрезки и связанными с ней рисками, Twitter говорит, что его команда осознала, что решение о том, как кадрировать изображение, лучше всего принимают люди, а не алгоритмы.
Twitter избавился от автоматической обрезки изображений
Twitter больше не использует алгоритм заметности и теперь полностью отображает фотографии со стандартным соотношением сторон как на iOS, так и на Android. Создавая твит, вы обнаружите, что новое обновление также включает настоящий предварительный просмотр загруженных изображений, чтобы вы знали, как все будет выглядеть после публикации.
Если вам интересно прочитать научную статью об исследовании, вы можете найти ее на arXiv.org . Вы также можете найти код Twitter для анализа на GitHub .