ИИ отправил невиновную в тюрьму на четыре месяца, перепутав её с мошенницей

В США система искусственного интеллекта ошибочно идентифицировала женщину как преступницу, из-за чего та провела в тюрьме четыре месяца. Инцидент произошел после того, как алгоритм распознавания лиц неверно сопоставил её с подозреваемой.

В Теннесси, прямо у себя дома, где 50-летняя Анджела Липпс находилась с внуками, её задержали правоохранители. Причиной стал программный анализ видеозаписей: ИИ ошибочно связал её с делом о банковском мошенничестве, которое расследовалось в городе Фарго, штат Северная Дакота.

Липпс утверждала, что никогда не бывала в этом штате, но это не помешало аресту. Так как задержание проходило за пределами региона, где велось дело, женщину объявили в бегах и поместили под стражу. Впоследствии выяснилось, что правоохранительные органы разыскивали совершенно другую женщину, которая использовала поддельное военное удостоверение для обналичивания крупной суммы. Именно на неё, а не на Липпс, указывали улики, но система распознавания лиц дала сбой.

Глава полиции Фарго Дэвид Зибольски принес извинения пострадавшей, признав, что в ходе следствия были допущены серьезные просчеты. Защитник Липпс подчеркнул, что полиция полностью положилась на выводы искусственного интеллекта, пренебрегнув дополнительной проверкой, что и привело к незаконному задержанию.

Эксперт в области искусственного интеллекта Евгений Осадчук, возглавляющий направление «Искусственный интеллект» в Департаменте развития технологий «Сколково», отметил, что современные ИИ-модели склонны к некорректной интерпретации текстов. По его словам, иногда даже безобидные слова, такие как «героиня» или некоторые фамилии, алгоритмы могут ошибочно воспринимать как запрещенные термины. Хотя дополнительное обучение моделей помогает снизить риск подобных сбоев, полностью исключить их из-за особенностей архитектуры нейросетей невозможно.

Похожие записи:

Исследование: Вирусные ролики с ИИ-животными несут скрытые угрозы для экологии и общества Малышу, симптомы которого озадачивали 17 врачей в течение трех лет, наконец-то поставили диагноз редкого заболевания с помощью ChatGPT Инструмент искусственного интеллекта Google DeepMind оценивает мутации ДНК на предмет потенциального вреда Искусственный интеллект в борьбе с опасными инфекциями: созданы новые антибиотики против гонореи и стафилококка Загадка лингвистического кода: почему польский язык оказался «ключом» к искусственному интеллекту?