Галлюцинация
Галлюцинация — это когда языковая модель уверенно выдаёт неточную или полностью выдуманную информацию, не сигнализируя о неуверенности. В коде это может быть вызов несуществующей функции или библиотеки; в тексте — несуществующая статистика или факт. Поэтому код и утверждения, сгенерированные ИИ, стоит проверять, а не принимать как данность.
В коде галлюцинация обычно проявляется как вызов библиотеки или метода, которых не существует — проект не собирается, и причину не всегда легко найти по тексту ошибки.
Обновлено: