Barnes & Noble использовал A.I. сделать классические книги более разнообразными. Не очень хорошо
В течение «Месяца черной истории» Barnes & Noble создали обложки классических романов с главными героями, которых снова считают цветными людьми. Затем он быстро отменил запланированные « Разнообразные издания» из 12 книг, в том числе « Эмму» , «Тайный сад» и « Франкенштейн», на фоне критики, что он неуклюже изменял книги преимущественно белыми авторами вместо того, чтобы продвигать цветных писателей. В проекте использовался искусственный интеллект для сканирования 100 книг на предмет описания основных персонажей, а художники создавали обложки с изображением Алисы, Ромео и капитана Ахабса разных национальностей.
«Мы признаем голоса, которые выразили озабоченность по поводу проекта Diverse Editions в нашем магазине Barnes & Noble Fifth Avenue, и решили приостановить эту инициативу», — говорится в заявлении Barnes & Noble. Компания сотрудничала с Penguin Random House и рекламным агентством TBWA / CHIAT / DAY для создания книг.
Не ясно, насколько глубоко изменения вышли за пределы обложки. Автор Бенджанун Сридуангкаев написал в Твиттере изображение с описанием проекта : «Мы использовали искусственный интеллект для анализа текста по 100 наиболее известным заголовкам при поиске в тексте, чтобы определить, не указана ли в нем этническая принадлежность первичных символов. Используя речевые и лингвистические паттерны, наши алгоритмы обработки естественного языка (NLP) учитывали тот факт, что когда авторы описывают персонажа, они редко прямо заявляют о своей расе, но часто используют более поэтический и описательный язык. Среди классиков, которые не указывали расу или этническую принадлежность, вот 12, которые мы переосмыслили для разнообразных изданий: приключения Алисы в стране чудес , граф Монте-Кристо , Эмма , Франкенштейн , доктор Джекилл и мистер Хайд , Моби Дик Питер Пэн , Тайный сад , Три мушкетера , Остров сокровищ , Ромео и Джульетта , Чудесный волшебник из страны Оз ».
Даже современные авторы часто прямо не заявляют о расе или этнической принадлежности определенных персонажей. Вместо этого они будут полагаться на другие способы их различения, описывая их «мокко» или «кофейную» кожу, как указал писатель Джастин Ирландия в Twitter. Любой, кто вырос, читая «Клуб нянь», знает, что Клаудия Киши — американка японского происхождения, и ее всегда описывают как «миндалевидные глаза», неточную и часто используемую фразу, обозначающую характер азиатского происхождения.
Многие авторы и библиотекари привели ряд причин, по которым проект был ошибочным . «Если бы Barnes & Noble серьезно отнеслись к празднованию #BlackHistoryMonth, они бы продемонстрировали и выдвинули« классику », написанную черными авторами», — написал LL McKenny . Ее книга A Blade So Black — это пересказ Алисы в Стране Чудес , смешанная с некой Баффи, истребительницей вампиров .
Неясно, подхватил ли ИИ подсказки за пределами описания (или отсутствия) цвета кожи. Например, социальный класс или богатство персонажей в течение соответствующего исторического периода может подразумевать только белизну. Или они могут словесно очернить людей цвета. Писатель Амита Найт писала о главном герое в «Тайном саду» : «Если вы собираетесь сказать« вы можете поместить себя в любую книгу! » Я говорю тебе, ты не можешь. Мэри Леннокс не хотела быть индийкой ». В книге Мэри рассказывает другой девушке :« Вы думали, что я родная! Вы посмели! Вы ничего не знаете
о туземцах! Они не люди — они слуги, которые должны приветствовать вас ». Однако, она была изображена на трио обложек Diverse Editions , это не изменит того факта, что Мэри была дочерью чиновника английского правительства, живущего и работающего в колониальная индия. « Секретный сад — это книга, основанная на предположении, что Мэри Леннокс — роскошная белая девушка, родившаяся и выросшая в Индии британскими родителями-колонизаторами», — пишет твиттер писательница Ханна Алькаф .
TBWA создала AI, сообщает Fast Company . Непонятно, какие именно слова и дескрипторы он искал, но доктор Дебби Риз сказал в электронном письме Digital Trends, что, похоже, он пропустил некоторые важные слова с Питером Пэном . Тигровую лилию называют грязью, а «храбрецы» называют Питера «Великим Белым Отцом». Риз — автор блога « Американские индейцы в детской литературе» и говорит, что при сканировании книг будет пропущен важный контекст за пределами страниц. , «Анализ не нашел бы проблемы в отношении коренных народов в Волшебнике страны Оз », — написала она. «Родные обеспокоены этой книгой не с ее содержанием, а с ее автором (который призвал к уничтожению коренных жителей)».
По словам Риса, если учитель использует в классе такую книгу, как Питер Пэн, и попытается критиковать изображения «Тигровой лилии», то это будет сделано за счет некоторых студентов. «Во время таких уроков родным или цветным ученикам приходится иметь дело с оскорблениями слуха и чтения, унизительными пассажами и т. Д. — вещами, которые они уже испытывают — в классе, чтобы их белые сверстники пришли к большему пониманию расизма», — сказала она. , «Это ставит родных / цветных учеников в невыгодное положение, чтобы белые сверстники могли« учиться »». Она рекомендует Синтия Лейтих Смит « Несломанные сердца» в качестве примера того, как коренной автор критиковал классика «Волшебник страны Оз» .
Риз добавил, что «Характеризация коренных народов как« цветных людей »стирает наш суверенный национальный статус. Ни одна из других культурных групп в США не имеет статуса национальности, правительств, юрисдикции над землями (хотя это ограниченная юрисдикция, это существенная разница) ». Этот нюанс находится за пределами того, с чем может сканировать ИИ в данный момент, особенно для многих команды, создающие такие системы, часто не очень разнообразны .
Digital Trends обратились в Barnes & Noble и Penguin Random House за комментариями и обновят их, когда они ответят нам.