ИИ приняли вымышленное заболевание за реальность: эксперимент показал уязвимость систем
Исследователь создал вымышленное заболевание «биксонимания» и разместил фальшивые статьи на академическом сервере с указанием вымышленных источников финансирования и благодарностей. Несмотря на прямые указания в тексте о вымысле, крупные ИИ-системы, включая Google Gemini, Perplexity и ChatGPT, несколько недель представляли болезнь как реальную. Фальшивое исследование было процитировано в рецензируемом журнале, который отозвал номер после вмешательства Nature. Этот случай демонстрирует, что люди и ИИ часто цитируют сгенерированный контент без проверки фактов, что особенно опасно в контексте внедрения искусственного интеллекта в медицину и регуляторные процессы.