Глоссарий / ИИ и данные
Галлюцинация ИИ
Галлюцинация — когда ИИ-модель с полной уверенностью утверждает ложное: выдуманную статистику, несуществующее судебное дело, правдоподобно звучащий неверный ответ. Это происходит потому, что языковые модели предсказывают вероятный текст, а не проверенную истину. Рабочие системы сдерживают это привязкой к источникам (RAG с цитатами), ограничением формата ответов и проверкой человеком там, где ставки высоки; поставщик, обещающий ноль галлюцинаций, галлюцинирует сам.
Строите что-то, где это нужно? Поговорите с инженером: Форма связи