Hallucination
Также: Галлюцинация
Галлюцинация — это ситуация, когда искусственный интеллект уверенно выдает выдуманную или неверную информацию за правду.
Галлюцинация в работе ИИ похожа на ситуацию, когда вы спрашиваете дорогу у очень вежливого, но рассеянного прохожего. Он так хочет вам помочь, что вместо того, чтобы признаться в незнании, придумывает маршрут на ходу, называя несуществующие улицы и ориентиры с самым серьезным видом.
Технически это происходит потому, что модель предсказывает следующее слово, основываясь на вероятностях, а не на реальных фактах. Она не «знает» правду, а просто составляет текст, который звучит логично и убедительно, даже если факты внутри него полностью вымышлены.
Зачем это нужно
Для вайбкодера галлюцинации — главный враг при написании кода. Если ИИ выдумает несуществующую функцию библиотеки или ошибется в логике, ваш проект просто не запустится. Понимание этого явления учит проверять каждый совет нейросети и не доверять ей слепо.