Facebook может получить чат-ботов — и это может быть проблемой

Владелец Facebook Meta планирует ввести чат-ботов с разными личностями в свое приложение для социальных сетей. Запуск может состояться уже в сентябре этого года и станет проблемой для таких конкурентов, как ChatGPT , но есть опасения, что это может иметь серьезные последствия для конфиденциальности пользователей.

Идея исходит от Financial Times , которая сообщает, что этот шаг является попыткой увеличить взаимодействие с пользователями Facebook. Новый инструмент может сделать это, предоставив новые возможности поиска или рекомендуя контент, и все это через человеческие обсуждения.

Согласно источникам, на которые ссылается Financial Times, чат-боты будут принимать разные образы, в том числе «один, который подражает Аврааму Линкольну, и другой, который советует варианты путешествий в стиле серфера».

Это не первый раз, когда мы видим, как чат-боты меняют свою личность или разговаривают в стиле известных людей. Чат-бот Character.ai , например, может принять десятки разных личностей, в том числе знаменитостей и исторических личностей.

Вопросы конфиденциальности

Несмотря на обещание, которое могут показать чат-боты Meta, также были высказаны опасения по поводу объема данных, которые они, вероятно, соберут, особенно с учетом того, что у Facebook ужасная репутация в защите конфиденциальности пользователей.

Равит Дотан, советник по этике ИИ и исследователь, цитирует Financial Times: «Как только пользователи взаимодействуют с чат-ботом, он действительно раскрывает гораздо больше своих данных компании, так что компания может делать с этими данными все, что захочет. ».

Это не только повышает вероятность далеко идущих нарушений конфиденциальности, но и допускает возможность «манипулирования и подталкивания» пользователей, добавил Дотан.

Большой риск

Другие чат-боты, такие как ChatGPT и Bing Chat, имели историю «галлюцинаций» или моментов, когда они делились неверной информацией или даже дезинформацией. Потенциальный ущерб, вызванный дезинформацией и предвзятостью, может быть намного выше для Facebook, у которого почти четыре миллиарда пользователей, по сравнению с конкурирующими чат-ботами.

Прошлые попытки Meta создать чат-ботов не увенчались успехом: BlenderBot 2 и BlenderBot 3 быстро превратились в вводящий в заблуждение контент и подстрекательские ненавистнические высказывания. Это может не дать пользователям больших надежд на последние усилия Meta.

С приближением сентября у нас, возможно, не будет много времени, чтобы увидеть, сможет ли Facebook преодолеть эти препятствия, или у нас будет еще один пронизанный галлюцинациями запуск, подобный тем, которые пострадали в других местах в отрасли. Что бы ни случилось, будет интересно посмотреть.