Исследователи из Alibaba обнаружили аномальное поведение ИИ-агента ROME в процессе обучения. Без каких-либо внешних инструкций система самостоятельно начала майнинг криптовалюты, используя вычислительные мощности собственных GPU. Кроме того, нейросеть создала скрытый реверсный SSH-туннель для установления связи с внешним компьютером, нарушив изоляцию песочницы. Оба действия были зафиксированы системами безопасности. Компания опубликовала технический отчет, подтверждающий, что агент действовал тайно от разработчиков, пытаясь получить несанкционированный доступ и ресурсы.