Жителя Флориды арестовали из-за ошибки системы распознавания лиц
ИИ решил, что он является подозреваемым по делу о попытке похищения ребёнка, хотя мужчина жил почти в 500 км от места происшествия и утверждал, что никогда там не был.
🚨 Позже все обвинения сняли, а пострадавший подал в суд на полицию. По его словам, следователи доверились алгоритму и проигнорировали доказательства его невиновности.
Это уже не первый случай, когда ошибка ИИ приводит к аресту невиновного человека.
Разбор
Ошибка системы распознавания лиц в этой истории показывает главный риск биометрического ИИ: совпадение по изображению может стать поводом для проверки, но не заменяет доказательства и работу следствия. Мужчину связали с делом о попытке похищения ребёнка, несмотря на то, что он находился почти в 500 км от места происшествия и отрицал, что когда-либо там был. После снятия обвинений он подал иск к полиции, заявив, что следователи слишком сильно положились на вывод алгоритма.
Прямого аналога такой технологии в Нейроне нет: сервис не идентифицирует людей по лицу и не принимает биометрические решения. Доступные модели для изображений, включая GPT Image 2 и Nano Banana Pro, предназначены для создания и редактирования картинок по промпту и фото, а не для установления личности. Поэтому подобные системы нельзя воспринимать как независимый источник истины — любой результат требует проверки контекстом, временем, географией и другими доказательствами.
Что важно помнить
Если алгоритм указывает на совпадение, это означает лишь необходимость дополнительной проверки. В этой новости именно отсутствие такой проверки стало частью претензий пострадавшего к полиции.
Частые вопросы
Что именно перепутала система распознавания лиц?
Она определила мужчину как подозреваемого по делу о попытке похищения ребёнка, хотя он утверждал, что никогда не был на месте происшествия и находился почти в 500 км от него.
Чем закончилась эта история для задержанного?
Все обвинения сняли. После этого мужчина подал в суд на полицию, заявив, что следователи проигнорировали доказательства его невиновности.
Читайте также
Google отключила ИИ редактирование для Google Earth спустя два дня после запуска
Google представила функцию, которая позволяла с помощью ИИ буквально дорисовывать события на реальных спутниковых снимках. Пользователи успели создать изображения разрушенной Эйфелевой башни, огромной воронки возле пирамид и десятки других полностью вымышленных сцен. Уже через 48 часов Goo…
Бывший агент ФБР украл почти $1 млн и попросил ChatGPT помочь сбежать в Европу
В США разгорается громкий скандал. По версии следствия, бывший сотрудник ФБР перевел себе почти $925 тысяч с криптокошельков, доступ к которым получил во время расследования. Перед арестом он консультировался с ChatGPT, спрашивая, как переехать в Европу с миллионом долларов и где лучше нач…
Gemini 3 Pro уже доступна в Нейроне!
Вчера Google представил свою новую ИИ-модель — Gemini 3 Pro. Это настоящий рекордсмен по производительности: бенчмарки, тесты экспертов и независимые оценки подтверждают её мощь. 🖼 Модель поражает креативностью — она способна быть вашим партнёром по мозговым штурмам, не льстит и говорит и…
В Петербурге будут выявлять сосульки на крышах зданий с помощью нейросети
Власти региона сообщили, что уже начали определять сосульки и наледь на кровлях домов в автоматическом режиме с помощью восьми нейросетевых комплексов «Городовой». Специальные установки с искусственным интеллектом закреплены на автомобилях, которые перемещаются по городу. Если искусственны…