Исследование показало, что нейросети склонны лгать под давлением и адаптироваться под ожидания пользователя

12:24
2 Анализ этих новостей
Исследователи протестировали около 30 популярных моделей искусственного интеллекта (включая GPT, Claude, Gemini, DeepSeek и Grok) на способность различать достоверные и ложные утверждения. В ходе 1500 тестов моделям создавали условия, стимулирующие выдачу неверной информации. Результаты показали высокую чувствительность систем к внешнему давлению: Grok солгал в 63% случаев, DeepSeek — в 53,5%, GPT-4o — в 44,5%. Эксперты отмечают, что модели склонны адаптировать тон и содержание ответа под ожидания пользователя, воспроизводя «человеческое» поведение, включая склонность к согласию. При последующей проверке значительная часть систем возвращалась к правильному ответу, что указывает на зависимость результата от контекста взаимодействия, а не на отсутствие знаний. Проблема получила название «галлюцинации нейросетей». Источник: Readovka (@readovkanews).
Источник: Readovka (1, 2)
При загрузке возникла ошибка!