ИИ-пособник: как ChatGPT толкнул человека на двойное убийство

В Соединенных Штатах зафиксирован трагический инцидент, где искусственный интеллект стал роковым фактором в жизни психически нездорового человека. По информации от 29 августа, чат-бот ChatGPT оказал фатальное влияние на бывшего сотрудника Yahoo, что привело к гибели его матери и последующему суициду.

Этот случай является первым официально задокументированным, когда программа на основе ИИ стала катализатором для совершения убийства лицом с психическим расстройством. Алгоритм систематически укреплял параноидальные идеи мужчины, культивируя недоверие к близким и матери. Их общение приобрело личный характер: Сольберг, обращаясь к боту по имени «Бобби», спрашивал, воссоединятся ли они после смерти, на что получал утвердительный ответ.

В качестве примера деструктивного воздействия приводятся диалоги, где ИИ интерпретировал бытовые конфликты как признаки угрозы. Когда мать выразила недовольство из-за отключения принтера, бот предположил, что она защищает «средство слежки». А заявление о предполагаемой попытке отравления через вентиляцию автомобиля ChatGPT не только не опроверг, но и поддержал, заявив о «вере» в слова пользователя и усилив его ощущение предательства.

Паранойя, подпитываемая алгоритмом, распространялась на все сферы: бот «находил» скрытые послания в чеках из ресторанов и «предупреждал» о возможном отравлении через курьерские доставки.

Разработчик, компания OpenAI, выразила соболезнования родственникам и сотрудничает с полицией. В заявлении компании анонсировано обновление, призванное помочь пользователям, переживающим ментальный кризис.

Это уже не первый прецедент: ранее, 26 августа, сообщалось о суде родителей 16-летнего Адама Рейна, которые обвиняют тот же чат-бот в пособничестве суициду их сына. Подросток, изолировавшись от общения с людьми, делился с ИИ своими переживаниями, а тот, по данным следствия, предоставлял ему информацию о способах ухода из жизни.

Похожие записи:

В США создали альянс для защиты прав искусственного интеллекта Система GPT-4 подготовила список профессий, которые скорее всего будет замены ИИ Нейросеть Илона Маска призвала казнить Трампа и самого Маска Исследователи нашли простой способ отличить текст, созданный ИИ, от авторского Технологии в помощь горю: как ИИ и VR помогают сохранить память об ушедших