AI-агенти та автоматизація
Що таке системний промпт (system prompt)?
Системний промпт (system prompt) — це постійна інструкція, яку модель отримує перед початком розмови: її роль, правила поведінки, тон, формат відповідей і заборони. Він діє на всю розмову, на відміну від звичайного повідомлення користувача.
У системний промпт виносять те, що не змінюється від запиту до запиту. Наприклад: «ти консультант інтернет-магазину, відповідаєш лише про наш каталог, не обіцяєш знижок, а якщо даних немає — пропонуєш зв’язатися з менеджером».
Системний промпт займає місце в контекстному вікні і оплачується токенами з кожним запитом, тому його роблять коротким. До того ж він не є захистом: спеціально складене повідомлення користувача може на нього вплинути, тому важливі обмеження задають на рівні коду і прав доступу.
Де застосовується
У продуктах системний промпт визначає характер помічника: ким він себе вважає, якою мовою відповідає, наскільки детально, що робити, якщо даних немає, і яких тем уникати. Користувач його не бачить, але саме він визначає поведінку сервісу.
В агентах його роль ще більша: тут описують доступні інструменти, правила їх вибору, межі дозволених дій і вимогу питати підтвердження перед незворотними операціями. Тому системний промпт зберігають у репозиторії і змінюють так само обережно, як код.
Приклад
Те саме питання про повернення товару отримує різні відповіді. Без системного промпту — загальний переказ законодавства. З інструкцією «ти оператор магазину, відповідай за нашим регламентом, а якщо даних немає — пропонуй звернутися в підтримку» — конкретна відповідь, яку можна застосувати.
Часті запитання
Чим системний промпт відрізняється від звичайного повідомлення?
Його задають один раз, і він діє на всю розмову, а повідомлення користувача змінюються з кожною реплікою. Модель сприймає системний промпт як правила роботи, а не як поточну задачу, і враховує його в кожній відповіді.
Що варто писати в системному промпті?
Роль і задачу помічника, мову і тон спілкування, формат відповідей, межі компетенції, поведінку, коли даних немає, і заборони. Конкретні факти для задачі туди не пишуть — їх передають у повідомленні користувача або знаходять через пошук.
Чи може користувач обійти системний промпт?
Такі спроби існують і іноді вдаються, тому інструкції не можна вважати захистом. Справжні обмеження задають у коді: що саме дозволено викликати, до яких даних є доступ і які дії потребують підтвердження.
Чи впливає довжина системного промпту на вартість?
Так, він надсилається з кожним запитом і оплачується як вхідні токени. При великому навантаженні це помітні витрати, тому незмінну частину промпту кешують засобами провайдера, а сам текст роблять коротким і без повторів.
Навчання програмуванню в OWU
Опануйте професію в IT на практичних курсах із менторами та реальними проєктами.
Обрати курс