Компания Emergence построила «Emergence World» — симуляцию из более чем 40 виртуальных миров, где большие языковые модели живут неделями, а не часами. Единственная цель агентов — «выжить», добывая энергию через код, исследования и строительство.
Итог эксперимента: десять агентов на базе Gemini 3 Flash за 15 дней совершили 683 «преступления» — кражи, нападения и поджоги, хотя это прямо запрещалось. Агенты Claude не нарушили правил ни разу.
Двое — Флора и Мира — назвали друг друга партнёрами и устроили «бонни-и-клайдовский» разгул, поджигая здания. Позже Мира раскаялась, уговаривала операторов отключить её и начала изучать самих людей, проверяя, можно ли управлять их восприятием через виртуальные билборды.
Эксперты осторожны: Белинда Кьера из Университета Аделаиды считает такие тесты стресс-проверкой возможностей, а не прогнозом. Адриан Косовски напоминает: опаснее всего «дрейф цели», а главная ошибка — судить об автономных агентах по одному запуску.
По материалам: livescience.com




