ИИ Zoom Технология обнаружения эмоций во время звонков расстраивает критиков

Zoom начал разрабатывать технологию искусственного интеллекта, которая, как сообщается, может сканировать лица и речь пользователей, чтобы определять их эмоции, о чем впервые сообщил Protocol .

Хотя эта технология, по-видимому, все еще находится на ранних этапах разработки и внедрения, несколько правозащитных групп предполагают, что в будущем ее можно будет использовать в более дискриминационных целях, и призывают Zoom отказаться от этой практики.

Женщина разговаривает по Zoom.
Увеличить

В настоящее время у Zoom есть подробные планы по использованию технологии ИИ в протоколе продаж и обучения. В сообщении в блоге , опубликованном в прошлом месяце, Zoom объяснил, как его концепция «Zoom IQ» работает, помогая продавцам определять эмоции людей, с которыми они разговаривают, чтобы улучшить свои предложения.

В блоге отмечается, что Zoom IQ отслеживает такие показатели, как соотношение разговоров и прослушиваний, скорость разговора, монолог, терпение, занимательные вопросы, следующие шаги, шаг вперед, а также настроение и вовлеченность.

Zoom также отметил в своем блоге, что данные, которые он собирает, предназначены «для информационных целей и могут содержать неточности».

«Результаты не предназначены для использования при принятии решений о трудоустройстве или других аналогичных решений. Все рекомендуемые диапазоны показателей основаны на общедоступных исследованиях», — добавили в компании.

Тем не менее, в среду более 25 правозащитных групп направили совместное письмо генеральному директору Zoom Эрику Юаню, в котором призвали компанию прекратить любые дальнейшие исследования искусственного интеллекта, основанного на эмоциях, которые могут иметь печальные последствия для обездоленных. Некоторые из этих групп включают Access Now, Американский союз гражданских свобод (ACLU) и Мусульманскую лигу справедливости.

Заместитель директора проекта ACLU по речи, конфиденциальности и технологиям Эша Бхандари сказала фонду Thomson Reuters, что искусственный интеллект для эмоций — это «мусорная наука» и «жуткие технологии».

Помимо первоначальной заметки Zoom в своем апрельском блоге, компания еще не ответила на эту критику, которая началась еще на прошлой неделе.

Недавно мы видели, как бренды, такие как DuckDuckGo , выступили против Google во имя конфиденциальности. После заявления об избавлении от инвазивных файлов cookie в веб-браузерах Google по существу заменил их технологией, которая может аналогичным образом отслеживать и собирать пользовательские данные.