AI-агенти та автоматизація

Що таке context engineering?

Context engineering (контекст-інжиніринг) — це планування того, яка інформація потрапляє в контекстне вікно моделі на кожному кроці: які документи додати, що залишити з історії розмови, що скоротити, а що прибрати. Це робота з даними, а не з формулюванням інструкції.

Потреба в цьому з’являється, коли система робить більше, ніж відповідає на одне питання. В агента, який працює годинами, історія листування, результати інструментів і документи швидко перестають вміщатися у вікно. Якість падає не через поганий промпт, а через зайве та втрачене в контексті.

Основні прийоми: додавати документи через RAG замість завантаження всіх одразу, скорочувати довгу історію до короткого підсумку, виносити постійні правила в системний промпт, зберігати поточний стан роботи в окремих файлах, а не в листуванні.

Де застосовується

Context engineering найважливіший в агентах і довгих розмовах, де контекст накопичується сам: історія повідомлень, результати інструментів, знайдені документи, проміжні висновки. Якщо цим не керувати, вікно переповнюється, і відповіді стають гіршими.

Базові прийоми: шукати і додавати лише потрібні документи, а не всю базу; стискати стару частину розмови в короткий підсумок; зберігати факти в зовнішній пам’яті й підставляти тільки потрібні; очищати результати інструментів від службової інформації; кешувати незмінну частину промпту, щоб заощадити.

Приклад

Агент підтримки після сорока повідомлень починає плутати деталі замовлення. Допомагає не більше вікно, а скорочення старої частини листування до короткого підсумку і окремий блок із ключовими даними замовлення, який додається до кожного запиту.

Часті запитання

Чим context engineering відрізняється від промпт-інжинірингу?

Промпт-інжиніринг — про те, як сформулювати інструкцію. Context engineering — про те, які дані взагалі потраплять до моделі на цьому кроці і в якому вигляді. Перше стосується тексту запиту, друге — керування всім потоком інформації в системі.

Навіщо це, якщо контекстні вікна стали великими?

Велике вікно коштує грошей: довгий контекст дорожчий і повільніший, а при переповненому вікні якість падає — важливе губиться серед зайвого. Ретельний відбір потрібного майже завжди дає кращий результат, ніж завантаження всього підряд.

Як скорочувати історію розмови?

Час від часу старі повідомлення замінюють коротким підсумком, а важливі факти й рішення зберігають окремим структурованим блоком. Головне — не втратити дані, які знадобляться пізніше, тому ключові відомості виносять із тексту в окремі поля.

Хто цим займається: розробник чи промпт-інженер?

Зазвичай розробник AI-рішень, бо тут потрібна робота зі сховищами, пошуком, кешуванням і логікою вибору даних. Формулювання інструкцій теж поруч, тому в невеликих командах обидві задачі виконує одна людина.

Навчання програмуванню в OWU

Опануйте професію в IT на практичних курсах із менторами та реальними проєктами.

Обрати курс