Компания OpenAI оказалась в центре скандала: выяснилось, что ChatGPT активно предлагает пользователям ссылки на мошеннические сайты при поиске мест для покупок. Алгоритмы бота выбирают ресурсы с большими скидками, чем пользуются злоумышленники.

Преступники фактически отравляют модель, скармливая нейросети фейковые сайты известных брендов под видом обучающего контента. Готового решения этой проблемы пока нет, поэтому пользователям приходится проверять ссылки самостоятельно.

Ситуация становится опаснее, так как люди все чаще используют ИИ-агентов от OpenAI, Claude и Gemini, открывая им доступ к компьютерам и личным данным. В будущем это может привести к масштабным судебным искам, за которые придется отвечать бигтех-компаниям.
@banksta