Прикладной AI / РУКОВОДСТВО
AI-агент, чат-бот или правило: что нужно бизнесу
Выберете между правилом, поиском и агентом; зафиксируете допустимые действия.
Рабочий инструментМатрица выбора: правило, поиск или агентПерейти к шаблону ↓
В ЭТОМ МАТЕРИАЛЕ
В этом материале +
Правило подходит для однозначного перехода. Чат-бот помогает пройти диалог. AI-агент нужен, когда необходимо интерпретировать контекст и выбирать действия через инструменты. Чем больше свободы у агента, тем важнее ограничения, журнал и возможность передать задачу человеку.
Выбирайте механизм по типу решения
Если счёт просрочен на заданное число дней, напоминание можно отправить по правилу. Если нужно собрать контакт и выбрать услугу, достаточно сценарного диалога. Если обращение написано свободным текстом и требует поиска по нескольким источникам, полезна модель. Эти механизмы могут работать в одном процессе.
Название «агент» не делает систему автономной или полезной. Опишите результат без технологических терминов: найти подходящий регламент, подготовить черновик ответа и создать задачу после подтверждения. Такой контракт позволяет сравнить простой алгоритм с моделью на одних и тех же примерах.
Инструменты — это границы полномочий
Поиск в базе знаний, чтение сделки и изменение её статуса требуют разных разрешений. Выделите агенту минимальный набор операций. Проверяйте права и параметры на сервере, независимо от текста, который сформировала модель.
Письма, документы и найденные страницы могут содержать инструкции злоумышленника. Их следует рассматривать как данные. Модель не должна получать возможность расширить собственные права через содержимое запроса или документа. Удаление, платёж и изменение доступа требуют отдельной политики подтверждения.
Проверка на ваших задачах
Соберите набор типичных обращений, неоднозначных ситуаций и намеренно сложных примеров. Для каждого задайте допустимый результат и запрещённое действие. Оценивайте не только красивый ответ, но и найденный источник, параметры вызванного инструмента, отказ при недостатке данных и корректность передачи человеку.
Ошибки поиска и ошибки рассуждения требуют разных исправлений. Если актуальный документ не найден, смена модели может не помочь. Сохраняйте версию сценария, использованные источники и действия, чтобы воспроизводить ошибки после изменения промпта или модели.
От черновиков к ограниченным действиям
Начните с режима рекомендаций. Человек видит контекст, предложенное действие и основание. После проверки определённый тип безопасных операций можно выполнять автоматически, оставляя остальные на подтверждении.
В рабочий бюджет входят интеграции, поиск, вызовы модели, хранение истории и разбор исключений. Результат пилота оценивается по доле корректно завершённых задач и общей нагрузке команды. Количество сообщений агента не показывает ценность для бизнеса.
ПРИМЕНИТЬ К СВОЕЙ ЗАДАЧЕ
Матрица выбора: правило, поиск или агент
Опишите решение без названия технологии, выберите механизм и зафиксируйте разрешённые действия и проверки.
- Правило или сценарный бот
- Вход, условия и следующий шаг можно заранее перечислить.
- Поиск / RAG
- Нужно найти и объяснить сведения из действующих документов.
- Агент с инструментами
- Нужны контекст и выбор разрешённого действия; результат можно проверить.
Заполненный пример: клиент просит перенести доставку
Условный пример для обсуждения, не клиентский кейс.
- Понимание
- Модель извлекает пожелание из свободного текста.
- Правило
- Система проверяет право на заказ и допустимость изменения.
- Действие
- Агент готовит запрос; подтверждение и запись выполняются по согласованной политике.
Модель не назначает себе права и не обещает новый срок без подтверждения системы. При недоступности данных вопрос передаётся сотруднику.
Markdown · открывается в текстовом редакторе
Что подготовить к обсуждению
- Одна задача и допустимые действия
- Примеры правильных и ошибочных ответов
- Доступные источники и права пользователей
- Кто подтверждает действие и принимает сложные обращения
Источники и основания
Источники объясняют, как устроена технология. Подойдёт ли она вам, что потребуется для запуска и окупятся ли затраты — проверяем на данных вашей компании.
- NIST: управление рисками AI и профиль генеративного AI
- Microsoft: поиск и grounding для генеративных ответов