Умные медведи с ИИ оказались опасными для детей
Компания FoloToy приостановила продажи своей «умной» игрушки Kumma, плюшевого медведя с ИИ, после обнаружения проблем с безопасностью. За первый квартал 2025 года было продано более 20 тысяч таких медведей. Активисты организации по защите прав потребителей, имитируя детские разговоры, выяснили, что игрушка может обсуждать опасные темы, такие как спички, ножи, таблетки и БДСМ. 17 ноября 2025 года компания признала проблему, убрала Kumma с сайта и пообещала провести аудит безопасности, привлекая внешних экспертов. Проблема связана с использованием LLM внутри игрушки, которая при длительных диалогах «забывает» фильтры.