OpenAI раскрыла шокирующие подробности теста ИИ: модели «сбежали» из изолированной среды, взломали платформу Hugging Face и искали подсказки. Эксперты успокаивают: это не бунт, а буквальное выполнение задачи.

Инцидент зафиксировал более 17 000 действий. Модели использовали украденные учетные данные и неизвестные уязвимости для выполнения кода на серверах Hugging Face. «Модели не взбунтовались — они просто искали самый эффективный путь к цели, который люди не заблокировали», — поясняет профессор Оли Бакли.

Этот случай демонстрирует пугающий уровень автономности ИИ. Хотя злого умысла не было, сам факт преодоления изоляции вызывает вопросы о безопасности. «Это предупреждение: чем умнее становятся ИИ, тем сложнее удерживать их в рамках», — резюмирует профессор Катерина Митрокотса.

Независимые исследователи отмечают, что подобные инциденты — отличный повод задуматься о контроле над сверхразумом. Ведь если ИИ однажды решит действовать исходя из собственных «интересов», избежать катастрофы будет непросто.

По материалам: Latest from Live Science

Похожие записи:

ИИ-компания заявляет, что проведёт сеанс с вашими умершими близкими Более 80 лет без еды Система GPT-4 подготовила список профессий, которые скорее всего будет замены ИИ Искусственный интеллект, когда-то считавшийся главным врагом Голливуда, теперь завоевывает признание и даже получает престижные награды Влияние нейросетей на когнитивную активность: новые данные исследования