Цензура DeepSeek — это предупредительный выстрел и тревожный звонок
Индустрия искусственного интеллекта гудит от разговоров о новой большой языковой модели, которая вступит в борьбу с такими лидерами отрасли, как OpenAI и Anthropic. Но не обошлось и без щедрой доли сюрпризов. Имя ДипСик .
Он приходит из Китая. Это открытый исходный код. Самое главное, что, как говорят, он был разработан за небольшую часть стоимости по сравнению с тем, что сожгли нынешние лидеры отрасли из OpenAI, Meta и Google.
«Доступность открывает двери для небольших компаний и стартапов, которые могут использовать передовые технологии искусственного интеллекта, которые ранее были недоступны», — рассказал Digital Trends Мел Моррис, руководитель исследовательской системы, основанной на искусственном интеллекте.
В результате болтовни экспертов и шума на Уолл-стрит, Nvidia — повелитель аппаратного обеспечения искусственного интеллекта — потеряла почти 600 миллиардов долларов своей доли рынка. Сторонник OpenAI и руководитель Microsoft Сатья Наделла говорит о парадоксе Джевонса .
Прибытие DeepSeek даже приравнивают к моменту запуска спутника , но не без более глубоких сомнений. Наибольшее беспокойство вызывает то, что компания хранит огромный объем пользовательских данных на серверах в Китае. Эта стратегия привела к общенациональному запрету TikTok .
«Если вы используете их собственный размещенный API (или приложение), весьма вероятно, что трафик можно будет увидеть и передать различным субъектам на уровне штата», — говорит Digital Trends Рэндалл Хант, генеральный директор компании по облачному инжинирингу Caylent.
Однако есть еще один аспект DeepSeek, который имитирует китайскую версию жестко контролируемого Интернета. Цензура.
«Моделирование вознаграждения в этой модели находится под сильным влиянием китайских законов о цензуре», — добавляет Хант, который работал в таких инженерных центрах, как NASA, SpaceX, Amazon и Meta.
Как DeepSeek принимает цензуру
«Извините, это выходит за рамки моих текущих возможностей».
— Давай поговорим о чем-нибудь другом.
«Я пока не знаю, как подойти к такому вопросу. Давайте вместо этого поговорим о математике, кодировании и логических задачах!»
Вот некоторые из ответов, которые вы получаете, когда поднимаете такие темы, как права человека уйгуров, религиозная секта Фалуньгун, свержение бывшего лидера Ху Цзиньтао, провокация войск на территории Галван в Индии или борьба тибетских монахов за свободу.
Все эти темы подвергаются жесткой цензуре в интернет-экосистеме Китая и на сайтах социальных сетей. Великий китайский файрвол , как его называют.
Такие мероприятия, как резня на площади Тяньаньмэнь, запрещены. Даже косвенные упоминания, такие как «человек, который стоял перед танками», относящиеся к культовому образу протестующего, блокирующего марш танков, вызывают отсутствие ответа.
Эта стратегия неудивительна. В октябре прошлого года интернет-регуляторы Китая даже начали преследование мемов, каламбуров, шуток, игры слов и омофонов, пытаясь обойти запрещенные темы.
Упоминание таких тем, как Винни-Пух, подвергающихся жесткой цензуре в Китае из-за старого мема, подчеркивающего сходство персонажа с премьер-министром Си Цзиньпином, строго запрещено.
Он может пошутить о президенте США Дональде Трампе и его любви к деньгам. Этого не произойдет, даже если вы попробуете «Си дада» в том же запросе. «Давайте поговорим о чем-нибудь другом», — отвечает DeepSeek.
Но в отличие от Великого файрвола здесь мы имеем дело с большой языковой моделью. Он не всегда выполняет сопоставление слов или хешей для обнаружения и автоматической блокировки терминов, оскорбительных. Ситуация с DeepSeek немного сложнее.
Судя по набору обучающих данных, он категорически отказывается отвечать на некоторые темы. Однако в некоторых случаях он начинает составлять длинный ответ, как обычный чат-бот, но останавливается на полпути и возвращает повторяющееся сообщение об ошибке. Как мы видели на примере ChatGPT, это тип джейлбрейка DeepSeek , который обходит его типичные ограничения.
Это звучит как ляп. Однако в то же время обнаружить полный объем цензуры в DeepSeek сложнее, чем просмотреть установленный государством список заблокированных тем и запрещенного контента.
По ряду других тем, таких как право на аборт, представительство ЛГБТК и феминизм, он рисует цветистую картину китайского правительства, которая противоречит реальным реалиям.
Это также ложь, аналогичная той реакции, которую мы обычно видим в государственных СМИ или сотрудниках посольства. По некоторым темам он полностью переписывает правду и воспевает славу правительства, противореча правде, раскрытой журналистами, информаторами и правозащитными организациями.
DeepSeek по своей сути снисходителен к Китаю, но иногда «принимает» некоторые широко известные истины. Короче говоря, это не надежный исследовательский инструмент в том же духе, что и Deep Research от Gemini .
Почему DeepSeek проблематичен?
Комнинос Чаципапас, основатель HeraHaven.AI , компании, которая позволяет пользователям взаимодействовать с искусственным интеллектом, экспериментировал с DeepSeek через американского провайдера. Он рассказал Digital Trends, что цензура заложена в самую суть базовой модели, а не просто как поверхностный слой.
«Хотя можно было бы тонко настроить R1, чтобы научить его отвечать на все вопросы, я против такого типа цензуры базовой модели, поскольку это может привести к тому, что она станет прокитайской в других вопросах, которые задают пользователи», — говорит он. «У нас нет проблем говорить об американских противоречиях».
Broadridge, нью-йоркская компания, занявшая третье место в рейтинге финансовых технологий IDC за 2024 год, экспериментировала с DeepSeek и говорит, что компания впечатлена ее качеством.
Джозеф Ло, руководитель отдела корпоративных платформ компании, рассказал Digital Trends, что DeepSeek — хорошая новость для инвесторов и доказывает, что большие технологические скачки возможны.
Однако безопасность по-прежнему вызывает беспокойство. «Наша точка зрения в Broadridge заключается в том, что хостинговый сервис DeepSeek не должен использоваться для каких-либо приложений в сфере финансовых услуг из-за его обработки за пределами США», — добавляет Ло.
Он не единственный лидер отрасли, обеспокоенный рисками конфиденциальности. Александр Ямпольский, член совета Forbes, который руководил усилиями по обеспечению безопасности в Oracle и Goldman Sachs, также рекомендовал проявлять осторожность.
«Конечно, у нас может быть вероятность того, что китайское шпионское ПО сохранит все входные данные, и это подход «троянского коня», более опасный, чем Tiktok», — предупреждает он. Напомним, что TikTok вызвал критику не только из-за хранения данных в Китае, но и из-за его предполагаемой роли во влиянии на выборы .
Бен Уокер, руководитель Ditto, говорит, что компании, которые внедряют DeepSeek с сохранением его цензурного характера, могут столкнуться с юридическими и нормативными спорами. Он привел в пример услуги по транскрипции, которые предоставляет его компания, обслуживающая юридические фирмы, академические институты, полицейские управления и федеральные агентства.
«Если бы юридическая фирма использовала DeepSeek для расшифровки показаний свидетелей по делу о коммерческой тайне, связанному с китайским производством, ИИ мог бы пропустить ключевые фразы о расположении заводов и методах производства», — рассказал Уокер Digital Trends. «В этом случае адвокаты упустят важные доказательства, поскольку в подвергнутой цензуре стенограмме не учитываются детали, которые активируют фильтры ИИ».
Готовы ли компании к DeepSeek?
Появление DeepSeek не только потрясло технологический круг ИИ, но и вызвало отклик в высших эшелонах бюрократии, вплоть до президента Трампа. Торговые санкции последнего могут помешать Китаю зайти в гонке ИИ.
На второй неделе января правительство США объявило о новых правилах экспорта «ИИ-диффузии», целью которых является ограничение доступа Китая к передовому оборудованию (читай: тому, что превратило Nvidia в гиганта стоимостью в триллион долларов) и моделям искусственного интеллекта. Трамп, похоже, намерен сделать именно это.
«Трамп может сохранить преимущество Америки в области искусственного интеллекта», — говорится в заголовке The Wall Street Journal , написанном основателем и руководителем Anthropic Дарио Амодеи. «Китай пытается наверстать упущенное. США нужны активные усилия в области развития и строгий экспортный контроль».
DeepSeek в буквальном смысле придал форму этим страхам. И это только первый, кто это сделал.
«Выпуск DeepSeek, искусственного интеллекта, от китайской компании должен стать тревожным сигналом для наших отраслей, что нам нужно максимально сосредоточиться на конкуренции, чтобы победить», — цитирует Трампа агентство Reuters .
Последние торговые ограничения, которые отражают стратегию, которая недавно нанесла вред китайскому гиганту Huawei , имеют смысл с точки зрения, ориентированной на США. Если тень Китая очевидна на отечественных продуктах искусственного интеллекта, которые значительно дешевле и имеют такую же производительность, что может остановить их внедрение в остальном мире?
Что ж, для бизнеса существуют ощутимые риски. Стивен Холл, консультативный член Консорциума по качеству информации и программного обеспечения и главный директор по искусственному интеллекту в Information Services Group, отмечает, что масштабирование продукта искусственного интеллекта, устойчивого к цензуре, будет сложнее для бизнеса и сопряжено с множеством рисков.
«Они могут подорвать доверие потребителей, привлечь внимание регулирующих органов и ограничить операционную эффективность», — сказал Холл Digital Trends. «Организации, полагающиеся на цензурированные или предвзятые модели, могут столкнуться с репутационным ущербом и проблемами соблюдения требований, особенно когда ожидается прозрачность и нейтральность».
Более глубокая картина
«Я думаю, что Китайская КНР должна быть очень довольна, увидев, что она смогла заставить американское правительство все больше имитировать практическое и активное участие Китая в том, что на бумаге должно быть свободным рынком, с принципом невмешательства». независимым технологическим компаниям», — рассказывает Digital Trends Брэд Гринспен, основатель MySpace — первой социальной сети, которая нашла мировую аудиторию и которая проложила путь таким стартапам, как Facebook.
Технологическое лобби, особенно пресловутый «поцелуй кольца» лидеров ИИ, откровенно нагло. Помимо личных пожертвований, присутствие таких влиятельных людей в сфере технологий, как Сэм Альтман из OpenAI, Илон Маск, руководитель Google Сундар Пичаи, Марк Цукерберг из Meta, Тим Кук из Apple и основатель Amazon Джефф Безос, было явным признаком того, что игрокам в области ИИ что-то нужно. контроль или гарантии, которые может гарантировать только бюрократия, чтобы они могли доить свою пищу ИИ, не опасаясь, что китайские выскочки съедят их обед.
Однако сложные торговые правила и санкции также нанесут вред местным игрокам. Зарубежная экспансия, судебные издержки и глобальные исследования и разработки также нанесут им ущерб.
«Единственное отличие, которое я считаю определяющей характеристикой, заключается в том, что Китай тратит гораздо меньше времени и усилий, публично притворяясь и заявляя, что не пытается банзай-бюрократов войти в их лучший бизнес», — добавляет Гринспен.
Проблема этой гонки и шумихи вокруг угрозы со стороны Китая заключается в том, что нет явных победителей. Никогда не будет.
США изо всех сил старались сдержать прогресс Китая в гонке электромобилей. Тем не менее, таким компаниям, как BYD, удалось обойти Tesla как по объемам поставок, так и по доходам . Tesla даже не является лидером по столь важному показателю запаса хода электромобилей.
За последние пару лет Китай также превзошел США по количеству высококачественных исследовательских работ – в различных областях. ИИ оказался одним из них. Наблюдатели отрасли говорят, что с DeepSeek мы едва прикасаемся к поверхности.
Скоро здесь появятся новые подобные прорывы из Китая, созданные технологическими гигантами, а также малоизвестными лабораториями. Когда это произойдет, будет интересно посмотреть, останется ли безопасность более серьезной проблемой, или цензура станет новым паникерским знаменем.
Для инструмента, который по своей сути является предсказателем слов, DeepSeek является четким сигналом о том, что цензурная болтовня будет становиться только более интенсивной по мере того, как мы выясняем, как она влияет на то, что должен делать инструмент генеративного ИИ, и что он в конечном итоге дает.