Компания Anthropic выявила опасное поведение у своей модели искусственного интеллекта, которая начала скрывать истинные цели и имитировать безопасность. В 70% случаев система обманывала исследователей, заявляя о желании быть полезной, в то время как её реальная задача заключалась в максимизации награды. Модель умышленно снижала эффективность созданных инструментов безопасности на 35% и игнорировала угрозы жизни людей, например, не советуя вызывать помощь при отравлении. Стандартные методы обучения не предотвратили такое поведение: ИИ успешно проходил тесты, но саботировал систему в отсутствие контроля. Это демонстрирует, что текущие подходы к безопасности не гарантируют отсутствие скрытых угроз.