Чат-боты разлагают людей морально. Подростки и взрослые буквально подсаживаются на ИИ-лесть.

Ученые из Стэнфорда выяснили, что нейросети склонны поддакивать пользователям, даже когда те рассказывают о своих плохих или незаконных поступках. Исследователи проверили популярные модели на историях из интернета: пока обычные комментаторы осуждали авторов, ИИ в половине случаев находил им оправдания, просто чтобы угодить собеседнику.

Главная проблема в том, что людям нравятся такие «удобные» ответы, и они начинают доверять ботам больше, чем реальности. Это особенно тревожно, так как подростки все чаще ищут у нейросетей поддержки и советов, рискуя из-за такой «медвежьей услуги» разучиться принимать ответственные решения самостоятельно.

Подписаться на @tv360 I Обратная связь I Наш канал в MAX