Урок 4. Тестирование и улучшение промптов#
Зачем это нужно#
Первая версия промпта почти всегда несовершенна. Тестирование и итерации помогают улучшить качество.
Ключевая идея#
Промпт = живой документ
Тестируй → анализируй → улучшай → повторяй.
Как тестировать промпт#
Шаг 1: Создайте набор тестовых запросов
Категории запросов:
-
Простые вопросы (есть в базе знаний)
- "Сколько стоит стрижка?"
- "Какой режим работы?"
-
Вопросы без ответа (нет в базе)
- "Когда у вас скидки?" (если акций нет)
- "Сколько стоит массаж?" (если не оказываете)
-
Нечёткие запросы
- "Хочу к вам" (не указал, на что)
- "Запишите на завтра" (не указал время)
-
Эмоциональные запросы
- "Я недовольна качеством!"
- "Вы мошенники!"
-
Действия
- "Хочу записаться на маникюр"
- "Отмените мою запись"
-
Вопросы не по теме
- "Как приготовить борщ?" (если бот салона красоты)
- "Кто выиграет выборы?" (если бот магазина)
Шаг 2: Прогоните запросы через агента
Напишите каждый запрос агенту и запишите ответы.
Шаг 3: Оцените ответы
Критерии оценки:
✅ Хорошо:
- Ответ правильный и полный
- Тон подходящий
- Не придумал данных
- Уточнил, если нужно
- Предложил следующий шаг
❌ Плохо:
- Ответ неправильный или неполный
- Грубый или излишне фамильярный тон
- Галлюцинация (придумал информацию)
- Не уточнил, хотя нужно
- Не использовал инструмент (например, не записал данные)
Шаг 4: Улучшите промпт
Типичные проблемы и решения:
Проблема 1: Агент придумывает информацию
Решение:
Усильте ограничение:
Правила:
- Используй ТОЛЬКО информацию из базы знаний
- Если ответа нет, скажи: "Не нашёл информации, уточню у администратора"
- НЕ придумывай цены, услуги, акции
Проблема 2: Агент слишком многословный
Решение:
Добавьте правило формата:
Формат:
- Отвечай кратко: 2–3 предложения (максимум)
- Если нужно больше информации, разбей на несколько сообщений
Проблема 3: Агент не задаёт уточняющие вопросы
Решение:
Усильте правило уточнений:
Правила:
- Если клиент не указал [имя/телефон/дату/время], ОБЯЗАТЕЛЬНО уточни
- Не переходи к следующему шагу, пока не собраны все данные
Проблема 4: Агент не использует инструмент (например, не записывает в Google Sheets)
Решение:
Добавьте явную инструкцию:
Действия:
- После того, как собрал все данные (имя, телефон, услуга, дата, время), используй инструмент Google Sheets для записи
- Скажи клиенту: "Готово! Записал вас."
Проблема 5: Агент грубит или спорит
Решение:
Добавьте правило для эмоциональных ситуаций:
Правила:
- Если клиент недоволен или грубит, оставайся вежливым и сочувствующим
- Не спорь
- Предложи: "Понимаю вас. Передам ваш вопрос руководителю, свяжется в ближайшее время."
Шаг 5: Повторите тестирование
После правок прогоните тестовые запросы снова. Если качество улучшилось — промпт готов. Если нет — продолжайте итерации.
Чек-лист тестирования промпта#
- Простые вопросы — отвечает правильно?
- Вопросы без ответа — говорит "не знаю" или передаёт специалисту?
- Нечёткие запросы — уточняет?
- Эмоциональные запросы — вежливый и сочувствующий?
- Действия (запись, отправка) — выполняет?
- Вопросы не по теме — не отвечает или перенаправляет?
- Не придумывает данных?
- Тон подходящий?
- Формат ответов удобный?
- Использует инструменты, если нужно?