ШІ та машинне навчання

Що таке галюцинації AI?

Галюцинація AI (hallucination) — це відповідь мовної моделі, яка звучить упевнено і правдоподібно, але насправді хибна: вигадана цитата, неіснуюча функція бібліотеки, придуманий номер закону чи посилання, яке нікуди не веде.

Причина — у самому принципі роботи моделі. Вона передбачає правдоподібне продовження тексту, а не перевіряє його за джерелом. Якщо точного факту в навчальних даних не було, модель однаково видасть варіант, «схожий на правду», бо промовчати для неї не природніше, ніж відповісти.

Ризик можна зменшити, але не прибрати повністю: додавати перевірені джерела через RAG, просити модель посилатися на конкретні фрагменти, дозволяти відповідь «не знаю» і залишати важливі рішення на перевірку людині.

Де трапляються галюцинації

З галюцинаціями стикається кожен, хто використовує моделі в роботі: вигадана функція бібліотеки в коді, неіснуючий пункт закону в юридичній довідці, придумане посилання в добірці джерел, неправильна цифра в переказі звіту.

Тому в робочих процесах галюцинації не «лікують», а обмежують. Моделі дають конкретні документи замість опори на пам’ять, просять вказувати джерело кожного твердження, додають автоматичні перевірки формату і фактів, а на відповідальних етапах залишають підтвердження людиною.

Приклад

Типова ситуація: модель упевнено називає метод бібліотеки, якого не існує. Код виглядає правильним і падає тільки під час запуску. Тому результат роботи AI завжди варто перевіряти.

Часті запитання

Чому мовні моделі вигадують факти?

Бо модель передбачає правдоподібне продовження тексту, а не перевіряє факти. Вона не знає, чого саме не знає, тому заповнює прогалину найімовірнішим за формою варіантом — упевненим і граматично правильним.

Як зменшити кількість галюцинацій?

Передавати моделі вихідні документи і вимагати відповідати лише за ними, просити посилання на конкретні фрагменти, дозволяти відповідь «у наданих матеріалах цього немає», знижувати температуру і перевіряти важливі дані автоматично або вручну.

Чи можна повністю позбутися галюцинацій?

Ні, це наслідок самого принципу роботи моделі, а не помилка, яку можна виправити. Правильні підходи значно зменшують кількість галюцинацій, але не до нуля. Тому в медицині, праві та фінансах перевірка людиною залишається обов’язковою.

Як розпізнати галюцинацію?

Насторожувати мають конкретні деталі, які легко перевірити: точні цитати, номери, посилання, назви методів і параметрів. Саме вони найчастіше виявляються вигаданими. Упевнений тон нічого не гарантує — він однаковий і в правильних, і в хибних відповідях.

Навчання програмуванню в OWU

Опануйте професію в IT на практичних курсах із менторами та реальними проєктами.

Обрати курс