Модуль 01Урок 5

Урок 5. Реалистичные ожидания и риски

Теория

Урок 5. Реалистичные ожидания и риски#

Безопасность и риски AI-агентов
Безопасность и риски AI-агентов

Зачем это нужно#

AI-агенты — не волшебство. Они ошибаются, требуют настройки и контроля. Честность с клиентом и понимание ограничений помогают строить долгосрочные отношения.

Ключевая идея#

AI-агент — это инструмент, а не замена человеку

Агент отлично справляется с типовыми задачами, но для сложных ситуаций нужен человек. Успех = правильный выбор задач + настройка + контроль.

Что может агент#

Хорошо справляется:

  • типовые вопросы с понятными ответами

  • сбор и структурирование данных

  • выполнение действий по правилам

  • быстрая реакция 24/7

  • работа с большим объёмом запросов

Примеры:

  • ответить на вопрос по FAQ

  • записать клиента на услугу

  • квалифицировать заявку по критериям

  • отправить напоминание

  • заполнить таблицу из формы

Что агент делает плохо#

Плохо справляется:

  • нестандартные ситуации

  • конфликты и эмоциональные запросы

  • задачи, требующие экспертизы

  • принятие решений вне правил

  • работа с неполными данными

Примеры:

  • клиент жалуется и требует компенсацию

  • нужно оценить уникальный проект

  • задача требует креатива

  • данные противоречивые

Типичные риски и как их снизить#

1. Агент ошибается

Риск: модель может "придумать" ответ (галлюцинация) или неправильно понять запрос

Как снизить:

  • давать агенту базу знаний, а не полагаться на "общие знания"

  • ограничивать ответы: "если не знаешь — скажи, что не знаешь"

  • тестировать на типовых запросах

  • добавить кнопку "связаться с человеком"

2. Утечка данных

Риск: агент может "запомнить" чувствительные данные или показать их другому пользователю

Как снизить:

  • не передавать агенту персональные данные без необходимости

  • использовать анонимизацию

  • настроить правила безопасности

  • выбирать платформы с защитой данных

3. Зависимость от платформы

Риск: платформа может подорожать, измениться или закрыться

Как снизить:

  • выбирать стабильные платформы (Coze от ByteDance, Zapier, n8n)

  • делать документацию и бэкапы

  • не привязываться к одной платформе намертво

4. Агент "не понимает" пользователя

Риск: пользователь пишет нестандартно, агент теряется

Как снизить:

  • добавлять примеры формулировок в промпт

  • тестировать на реальных запросах

  • обучать пользователей ("пишите чётко")

  • иметь кнопку "не понял → человек"

Как говорить с клиентом о рисках#

Плохо:

"Всё будет отлично, агент всё сделает"

Хорошо:

"Агент обработает 70–80% типовых запросов. Остальные 20–30% — это нестандартные ситуации, их лучше передавать вам. Мы настроим агента так, чтобы он понимал, когда нужен человек."

Этика и правила (2026)#

В 2026 году важно:

  • Прозрачность: пользователь должен знать, что общается с агентом

  • Контроль: клиент должен иметь возможность связаться с человеком

  • Данные: соблюдать правила обработки персональных данных (GDPR, 152-ФЗ)

  • Честность: не обещать того, что агент не умеет

Чек-лист "подходит ли задача"#

Задача подходит для агента, если:

  • выполняется регулярно (10+ раз в неделю)

  • есть чёткие правила или база знаний

  • не требует глубокой экспертизы

  • эффект измерим (время/деньги/качество)

  • есть план Б (что делать, если агент ошибся)

Задача НЕ подходит, если:

  • слишком сложная и уникальная каждый раз

  • данные конфиденциальные и критичные

  • нет чётких правил

  • эффект непонятен

Проверьте себя#

  1. Что агент делает хорошо, а что — плохо?

  2. Какие типичные риски есть при работе с агентами?

  3. Как снизить риск ошибок агента?

  4. Почему важно быть честным с клиентом про ограничения?

  5. Какие этические правила важны в 2026?


Практика модуля 1#

Задание 1: Карта возможностей#

Выберите 3 ниши (например: салон красоты, интернет-магазин, агентство) и выпишите для каждой по 2–3 задачи, где агент даст эффект.

Формат:

НишаЗадачаКто делает сейчасЭффект от агента
СалонЗапись клиентовАдминистратор-40% звонков, +20% записей
............

Задание 2: Мини-оценка эффекта#

Возьмите одну задачу из таблицы выше и посчитайте эффект:

  • сколько раз в день/неделю выполняется

  • сколько времени занимает

  • стоимость времени

  • процент автоматизации

  • итоговая экономия

Задание 3: Описание себя#

Напишите короткое описание себя как исполнителя (3–5 предложений):

  • кто вы

  • чем помогаете

  • какие задачи решаете

  • почему клиент должен с вами работать

Пример:

"Я помогаю малому бизнесу автоматизировать рутину с помощью AI-агентов. Собираю ботов для поддержки, записи клиентов и квалификации лидов. Без кода, быстро, с гарантией результата. За 3 месяца запустил 12 проектов, средняя экономия клиента — 15 000 руб./месяц."


Проверочные вопросы#

  1. Чем агент отличается от обычной автоматизации?

  2. Какие задачи лучше всего подходят для агента?

  3. Какие метрики эффекта вы знаете?

  4. Кто принимает решение о внедрении в малом бизнесе?

  5. Почему "магии" нет и где границы возможностей?

  6. Как объяснить пользу агента без техно-слов?

  7. Что такое "процесс" простыми словами?

  8. Почему первые проекты должны быть маленькими?

Правильные ответы:

  1. Агент выполняет действия (записывает, отправляет, анализирует), а не просто работает по сценарию

  2. Повторяемые, типовые, с чёткими правилами, приносящие измеримый эффект

  3. Время, деньги, качество

  4. Владелец бизнеса или руководитель отдела

  5. Агент — инструмент, требует настройки, ошибается в нестандартных ситуациях

  6. "Агент — это помощник, который работает 24/7 и берёт на себя рутину, экономя ваше время и деньги"

  7. Последовательность шагов для достижения результата

  8. Быстрее результат, понятнее эффект, меньше рисков


Итоги модуля#

Вы изучили:

  • что такое AI-агенты и чем они отличаются от ботов

  • где их применяют и какие задачи решают

  • как считать и показывать эффект

  • кто участвует в проектах и как с ними общаться

  • какие риски есть и как их снижать

Следующий шаг: Модуль 2 — узнаете, как работает AI изнутри (без математики!) и научитесь писать правильные промпты.


Проверь свои знания#

Квиз: Основы AI-агентов#

Карточки для запоминания#


Материалы для сайта#

Проверка знаний: Введение в AI-агентовВопрос 1 из 5

Чем AI-агент отличается от обычного чат-бота?

Ключевые термины модуля1 / 8
Известно: 0 (0%)
Вопрос

AI-агент

👆 Нажмите, чтобы перевернуть

Ответ

Программа, которая понимает задачу, использует инструменты и выполняет действия. Агент = цель + контекст + инструменты + действия.

👆 Нажмите, чтобы вернуть