Компания Anthropic, разработчик ИИ-модели Claude, опубликовала статью с призывом замедлить или временно приостановить развитие искусственного интеллекта, чтобы дать человечеству время на адаптацию. Один из авторов публикации, сооснователь компании Джек Кларк, предупреждает о приближении этапа рекурсивного саморазвития ИИ, когда системы смогут совершенствоваться без участия человека. Эксперты отмечают опасную тенденцию: объем задач, выполняемых ИИ, удваивается каждые четыре месяца, что может привести к потере контроля над технологией и непредсказуемым изменениям в экономике, когда человеческий труд перестанет быть конкурентоспособным. Авторы подчеркивают необходимость создания глобальной системы контроля и режимов верификации, проводя аналогию с Договором о ликвидации ракет средней и меньшей дальности, отмечая, что «у нас нет столько времени» на создание подобной инфраструктуры доверия. Для эффективности инициативы требуется поддержка всех ключевых игроков отрасли, особенно в США и Китае. В текущем месяце Anthropic планирует обсудить это предложение с политиками, учеными и представителями гражданского общества. Ранее в апреле компания уже ограничивала доступ к модели Claude Mythos из соображений кибербезопасности.