Греться фото и болтать, почему некоторые люди думают, что я собираюсь совершить преступление?

Кино- и телевизионные произведения, такие как «Minority Report» и «Suspect Tracking», могут появиться только в последние несколько лет. Если это будет фильм и работа на телевидении в последние годы, публика будет очень «растерянной».

Предупреждение преступности, модели прогнозирования, используйте систему, чтобы рассуждать о том, что не произошло … Это означает, что будет собрано много информации, и это также означает, что неизвестная система будет судить о вас, есть ли угроза. Чувство вверения судьбы неизвестному, наверное, не многим нравится.

Но может не быть способа не любить это, потому что, прежде чем вы это узнаете, все больше и больше компаний уже собирают вашу общедоступную информацию, чтобы судить о возможности вашего преступления на основе ежедневного контента вашей социальной сети.

Социальные сети превратились в главных информаторов. Это самоотчет?

Voyager, Kaseware, Aura, PredPol, Palantir – это некоторые компании, которые пытаются выявлять потенциальные угрозы через социальные сети, большая часть из них также сотрудничает с местным полицейским управлением и находится в авангарде прогнозирования преступлений.

Получение необходимой информации из всех социальных сетей является ядром компаний этого типа. Они используют контент, размещенный пользователями в социальных сетях, для оценки вероятности совершения преступления другой стороной. Алгоритмы этих компаний не одинаковы, но они в основном используют искусственный интеллект для расшифровки строки пользователя, судя по контенту, предоставленному пользователем, независимо от того, совершил ли субъект преступление, может ли он совершить преступление или придерживается определенного опасного идеология.

На самом деле это не новая разработка, ведь в 2012 году некоторые люди превратили социальные сети в «пульс города». Трудно увидеть пространство и продукт, которые могли бы вместить столько пользователей одновременно и заставить их делиться всем о себе.

Характеристики социальных сетей создают условия для поиска людьми целей: студенты ищут собеседников в социальных сетях, статистические агентства прогнозируют результаты выборов в социальных сетях, а детективы с искусственным интеллектом хотят найти преступников в социальных сетях.

Поскольку все используют социальные сети, социальные сети часто могут отражать реальную ситуацию человека. Представитель Тайрон Картер из штата Мичиган в США считает, что поиск полицией публичных социальных сетей не нарушал никаких законов и не ущемлял права пользователей, поэтому такой прогноз вполне осуществим.

В тот момент, когда вы нажимаете кнопку «Отправить» на общедоступной странице, сообщение больше не ваше. Люди попадают в неприятности из-за того, что они публикуют, потому что социальные сети – это самый большой «самоинформатор», который я когда-либо видел.

Но секрет откроется только тогда, когда им руководят. Компания Voyager Labs, которая сотрудничала с Департаментом полиции Лос-Анджелеса, сыграла роль лидера в этом процессе. Только некоммерческая организация Brennan Center обнаружила через публичную информацию, предоставленную полицейским управлением Лос-Анджелеса, что работа «Вояджера» также подозревалась в расовой дискриминации и нарушении конфиденциальности.

То, как работают такие компании, как «Вояджер», не сложно. Он собирает всю общедоступную информацию в социальных сетях человека, включая сообщения, контакты и даже часто используемые смайлы. В некоторых особых случаях он будет использовать общедоступную и непубличную информацию для перекрестных ссылок для дальнейшего анализа и индексации.

С помощью службы «Вояджер» полиция может четко видеть социальные отношения человека. Каковы их связи и как они взаимодействуют на социальных платформах. Более того, Voyager может даже определить, существует ли косвенная связь между двумя пользователями (у обоих есть как минимум четыре одинаковых друга).

Похоже, это просто просмотр того, что пользователи делают в социальных сетях, что используется в качестве дополнительной информации для опросов. Но на самом деле «Вояджер» не только собирает и отображает информацию, но и выносит суждения.

"Вояджер" упомянул случай нападения в официальном документе, представленном в Департамент полиции Лос-Анджелеса. Этот случай конкретно продемонстрировал подход платформы: ИИ автоматически проверяет содержание сообщений людей в социальных сетях без вмешательства человека. цвета синий, оранжевый и красный).

В одном конкретном случае Адам Альсахли, подозреваемый в стрельбе, был расценен системой как «сильное чувство гордости и отождествление с арабскими традициями» из-за его фотографий на исламскую тематику, размещенных в Facebook и Instagram. Таким образом, Адам Альсали был отмечен оранжевым цветом с помощью инструмента искусственного интеллекта Voyager перед тем, как начать конкретную атаку.

Это может быть случай успешного прогнозирования потенциальных преступников, но также и случай, полный «предрассудков».

Данные предсказывают преступность? Но данным нельзя полностью поверить

Действительно ли эти выводы заслуживают доверия? На каком основании они выносят суждения? Как каждый может доказать свою невиновность в условиях больших данных?

Действительно, существует множество данных, подтверждающих корреляцию между предвзятостью контента в социальных сетях и фактами преступлений, но это не данные 100% -ной корреляции.

Инженерная школа Тандена и Школа глобального здравоохранения и общественного здравоохранения Нью-Йоркского университета опубликовали результаты исследований, которые показывают, что в городах, где в Твиттере больше высказываний на почве расовой ненависти, выше уровень преступности; исследования, проведенные в Финляндии, также показывают, что, согласно данным за два десятилетия, For при повышении температуры на 1 ° C преступная активность будет увеличиваться на 1,7%; американские исследования показали, что количество краж транспортных средств ночью в выходные дни резко возрастает; также было доказано, что, когда местная футбольная команда случайно проигрывает, насилие в семье возрастает. на 10%.

Но они ничего не могут доказать, потому что вероятность и факт разные.

Даже при подтверждении соответствующих данных он не может доказать, что в городах с наиболее распространенными проявлениями расовой ненависти автомобили необходимо угонять в летние выходные. В жаркую погоду, когда местная команда проигрывает 100%, будет происходить больше случаев домашнего насилия.

Подобные системы прогнозирования преступлений меняются местами на основе существующих фактов преступлений и результатов исследований. Другая проблема, которую это создает, заключается в том, что они полны «стереотипов».

Лауреат премии Тьюринга Ян Ликунь однажды сказал, что когда данные предвзяты, системы машинного обучения становятся предвзятыми. В единственном случае, когда информация, полученная с помощью машинного обучения, состоит в том, что чернокожие пользователи-мужчины в тюрьмах составляют значительную долю, такая система может сделать вывод, что темнокожие мужчины более склонны к совершению преступлений.

Для машинного обучения «чернокожие мужчины с большей вероятностью совершают преступления» может быть фактом анализа данных, но на самом деле это будут расовые предрассудки и дифференцированное отношение.

Тайная оценка пользователей, определение того, какие из них более опасны, а также отслеживание и предотвращение тех, кому угрожает больше, – это операционная логика всей системы.

Подобные стартапы будут использовать алгоритмы и искусственный интеллект для объяснения процесса, который они обрабатывают, и анализа информации для принятия решений. Хотя в настоящее время нет доказательств, подтверждающих, что этот прогноз эффективен, и есть много сомнений со стороны общественности, полицейское управление по-прежнему хочет сотрудничать с аналогичными платформами.

Для полиции этот тип инструментов очень привлекателен.Обнаружение таких платформ, как Voyager, в социальных сетях может оказать эффективную помощь в профилировании пользователей, не упуская из виду тонкие онлайн-подсказки. Если это всего лишь вспомогательное расследование, это будет очень действенный инструмент. Однако, когда инструмент перерастет в более позднюю стадию и начнет играть роль в прогнозировании преступлений, он также станет оружием для ранения.

После энтузиазма предыдущих лет финансирования многие продукты ИИ вошли в стадию применения. Но в некоторых сферах они по-прежнему играют вспомогательную роль.

Медицинское обслуживание – это область, в которой осторожно подходят к вмешательству ИИ. Даже в самой быстро продвинутой области медицинской визуализации ИИ сегодняшняя технология ИИ по-прежнему не может гарантировать 100% точность и требует вмешательства врачей-людей. Ведь всем известно, что медицинское обслуживание – это отрасль, требующая почти стопроцентной точности. Любое отклонение или ошибка может привести к серьезным последствиям.

Поле полицейского контроля – это также поле, которое стремится быть на 100% правильным, и любые предположения и умозаключения, не подкрепленные доказательствами, также приведут к серьезным последствиям. Человек, который публикует различные дискриминационные и насильственные высказывания в социальных сетях, может быть отмечен как потенциальный преступник с 90% вероятностью совершения насильственного преступления, но до того, как он действительно совершит преступление, он будет обычным человеком.

В общем наборе данных мы никогда не можем игнорировать тот факт, что каждый является независимым человеком.

# Добро пожаловать, чтобы подписаться на официальную учетную запись Aifaner в WeChat: Aifaner (идентификатор WeChat: ifanr), более интересный контент будет предоставлен вам как можно скорее.

Ai Faner | Исходная ссылка · Посмотреть комментарии · Sina Weibo