Где заканчивается автоматизация клиентского сервиса: матрица решений для ИИ-агента и человека

Леон Сокиркин

Основатель и генеральный директор AiHummer

Хороший ответ еще не дает права на действие

Обычный чат-бот в основном работает с репликами. ИИ-агент, подключенный к CRM, биллингу, системе заказов или сервис-деску, способен менять реальные данные: создавать заявку, переносить доставку, блокировать доступ, запускать возврат. Здесь полезно разделить три разных полномочия – понять запрос, предложить решение и выполнить действие. Надежность на первом уровне ничего автоматически не доказывает про третий.

Показательный результат получен в полевом исследовании, опубликованном в The Quarterly Journal of Economics: у 5 172 специалистов поддержки доступ к ИИ-подсказкам увеличил число решенных вопросов в час в среднем на 15%. Но система работала именно как помощник: оператор видел рекомендацию, мог ее изменить или проигнорировать и сохранял ответственность за разговор. Самый надежно подтвержденный эффект здесь – не «замена человека», а ускорение человека и распространение практик сильных сотрудников.

Российские пользователи уже привыкли к автоматизации, но привычка не равна доверию. По опросу НАФИ 2025 года с выборкой 6 213 человек, с ИИ-ботами сталкивались 88% респондентов, а положительно их работу оценили 33%. Плохая автоматизация перестала удивлять – и именно поэтому стала особенно заметна.

Матрица: цена ошибки × определенность ситуации

Для каждого сценария я сначала оцениваю два параметра. Первый – цена ошибки: может ли неверный ответ привести к деньгам, потере доступа, нарушению обязательств, утечке данных или публичному конфликту. Второй – определенность: есть ли подтвержденный источник, полный набор данных и однозначное правило.

Обратимость – дополнительный фильтр: если действие нельзя быстро и полностью отменить, режим автономности снижается на один уровень.

Есть и накопительный риск. Небольшая ошибочная компенсация одному клиенту может казаться безобидной, но при тысячах повторений превращается в существенный убыток. Значит, нужны лимиты не только на одну операцию, но и на сумму за период, частоту действий и сегмент клиентов.

Как матрица работает на реальных запросах

1. «Где мой заказ?» – автономный сценарий

Агент может закрыть запрос сам, если клиент идентифицирован, найден ровно один заказ, статус получен из актуальной учетной системы, а ответ не содержит обещаний, которых нет в источнике. Если система недоступна, найдено несколько совпадений или клиент оспаривает факт доставки, правильный результат – признать, что данных недостаточно, и передать обращение. Умение не отвечать без оснований важнее умения сформулировать правдоподобную версию.

Разрешено: проверить статус, сообщить подтвержденный интервал, создать заявку при просрочке.

Запрещено: угадывать дату, менять адрес или назначать компенсацию без отдельного правила.

2. «Списали дважды» – подготовка с подтверждением

ИИ может сопоставить транзакции, заказ и политику возвратов, собрать доказательства и подготовить операцию. Но финансовое решение должно опираться на детерминированные условия: подтвержден ли дубль, нет ли открытого спора, входит ли сумма в лимит, допускает ли способ оплаты автоматический возврат. Языковая модель извлекает факты; право провести деньги задает обычная бизнес-логика или сотрудник с полномочиями.

3. «Дайте скидку, иначе уйдем» – решение человека

Короткая фраза может быть сложнее длинного технического вопроса. Ответ зависит от договора, маржинальности, истории отношений и эффекта прецедента. Агент полезен как аналитик: собирает контекст, показывает допустимые варианты, готовит резюме и черновик ответа. Исключение из правил и переговорную позицию определяет человек.

4. Негатив, безопасность и доступ – немедленная эскалация

Не каждое резкое сообщение требует оператора. Но угрозы жизни и здоровью, признаки мошенничества, запросы на удаление данных, изменение критичных прав, заявление о суде или надзорном органе, требование признать ответственность и повторные безуспешные обращения – это красные флаги. Агент может подтвердить получение сообщения, поставить приоритет и сохранить контекст, но не должен признавать вину или обещать результат за пределами утвержденной процедуры.

Почему одной «уверенности модели» недостаточно

Распространенная логика проста: уверенность выше порога – отвечаем, ниже – зовем оператора. Для промышленного процесса этого мало. NIST отдельно называет риск confabulation – уверенно сформулированного, но ошибочного содержания – и риск чрезмерного доверия человека к системе. Даже идеально распознанное намерение клиента еще не означает, что действие разрешено.

В полевом эксперименте с 758 консультантами ИИ улучшал результат на задачах внутри его возможностей, но на специально выбранной задаче за этой границей пользователи ИИ на 19 процентных пунктов реже приходили к правильному решению. Это исследование не о контакт-центрах, однако вывод для сервиса прямой: похожие по форме обращения могут требовать принципиально разного режима контроля.

Автономное действие должно запускаться только после всех обязательных проверок:

• клиент и объект обращения однозначно идентифицированы;

• обязательные данные полны и не противоречат друг другу;

• ответ опирается на разрешенный и актуальный источник;

• бизнес-правило применимо, а сумма и полномочия входят в лимит;

• нет красных флагов, а действие можно отследить и при необходимости откатить.

Если обязательная проверка не пройдена, агент задает уточняющий вопрос либо передает обращение. Порог вероятности может быть одним из сигналов, но не заменяет разрешительную логику.

Передача человеку – часть сервиса, а не аварийный выход

Плохая эскалация выглядит так: бот сдается, оператор подключается без контекста, клиент повторяет все сначала. Исследование 27 674 диалогов с коммерческим виртуальным ассистентом показало, что после передачи человеку клиентам в среднем требовалось примерно на полтора дополнительных сообщения больше, чем в диалогах, начатых сразу с сотрудником; авторы связывают разницу с неиспользованным контекстом. Работа опубликована в материалах SIGDIAL.

Поэтому вместе с диалогом сотрудник должен получить:

• краткое резюме проблемы и цель клиента;

• проверенные факты со ссылками на системы-источники;

• уже выполненные шаги и их результат;

• причину эскалации и выявленные риски;

• нерешенный вопрос и допустимые следующие действия.

В интерфейсе стоит явно показать, что подключился человек. Слишком гладкая передача без такого сигнала может выглядеть как продолжение разговора с ботом – особенно после неудачного автоматического ответа.

Настраивать нужно процесс, а не только промпт

Фраза в инструкции «не возвращай больше установленной суммы» слабее технического лимита. Для каждого сценария нужна короткая карточка: триггер, обязательные данные, разрешенные источники, допустимые действия, лимит одной операции и периода, признаки эскалации, маршрут и срок передачи, состав журнала, способ отката и владелец бизнес-правила.

Внедрение лучше вести по ступеням: сначала теневой режим, когда агент анализирует обращения, но ничего не отправляет; затем режим помощника с подтверждением сотрудника; после – автономность для одного узкого сценария; и только потом расширение полномочий на основании накопленной статистики. Если сотрудники сами по-разному решают одинаковую ситуацию, автоматизировать ее рано: сначала нужно договориться о правиле.

Метрика должна учитывать не только скорость

Доля обращений без оператора полезна, но ее легко улучшить, просто усложнив клиенту путь к человеку. После негативного опыта лишь 27% участников опроса Gartner были готовы попробовать чат-бот снова. Ошибочная автономность экономит минуты сегодня и увеличивает недоверие завтра.

Я бы оценивал каждый сценарий по набору показателей:

• доля безопасно завершенных автономных обращений;

• ошибочные действия с весом по тяжести последствий;

• повторные обращения по той же проблеме;

• отмены и исправления решений агента;

• время до человека при красном флаге;

• необязательные эскалации и исправления черновиков оператором;

• удовлетворенность отдельно по автономным, смешанным и человеческим сценариям.

Статус заказа и изменение договора не должны попадать в одну статистическую корзину. Граница автоматизации всегда сценарная: она может сдвигаться по мере улучшения данных и правил, но только после проверки качества на конкретном типе решения.

Человек – не запасной вариант

В зрелом сервисе человек не подменяет «не справившийся» ИИ. Он выполняет другую работу – принимает решения, где нужны полномочия, переговоры, эмпатия и ответственность. Агент берет на себя повторяемые операции, сбор фактов и контроль полноты. Хорошая автоматизация – не та, где осталось меньше всего людей. Она устроена так, что стандартный запрос решается сразу, а человек подключается именно в тот момент, когда его решение действительно меняет результат.