Компания Anthropic, разработчик популярной нейросети Claude, опубликовала статью с призывом к глобальному замедлению или временной паузе в развитии искусственного интеллекта. Основная причина опасений заключается в приближении этапа рекурсивного саморазвития, когда ИИ сможет совершенствовать свои алгоритмы без участия человека, что может привести к потере контроля над технологией. Эксперты Anthropic отмечают резкое ускорение прогресса: объем задач, выполняемых ИИ, удваивается каждые 4 месяца (ранее — каждые 7 месяцев). В компании подчеркивают, что роль человека смещается от написания кода к его проверке, а продуктивность инженеров благодаря ИИ выросла в 8 раз. Для предотвращения рисков авторы предлагают создать международную систему контроля и верификации, аналогичную режимам контроля над ядерным вооружением (например, Договору о ликвидации ракет средней и меньшей дальности), так как времени на создание такой инфраструктуры доверия крайне мало. Anthropic настаивает на том, что инициатива должна быть поддержана всеми ключевыми игроками (особенно в США и Китае), чтобы избежать неконтролируемой гонки вооружений. В ближайшее время компания планирует обсудить это предложение с политиками, учеными и представителями гражданского общества. Ранее компания уже ограничивала доступ к модели Claude Mythos из соображений кибербезопасности.