Ошибки внедрения ИИ-бота в поддержку: почему нейросеть обещает клиентам лишнее

Типичная ситуация. Магазин запускает бота с нейросетью, первую неделю все довольны: ответы быстрые, менеджеры выдохнули. А потом в магазин приходит покупатель с телефоном в руке и показывает переписку, где бот пообещал ему скидку 15% и доставку завтра. Ни скидки, ни такой доставки у магазина нет.

Кто виноват? Не нейросеть. Её так запустили.

Мой собственный ассистент в Telegram в сентябре принял соискателя за клиента и ответил ему про работу, которой у меня нет. После этого я поставил проверки на каждый шаг. Ниже ошибки, которые я вижу чаще всего, и что с ними делать.

Пять ошибок, из-за которых бот начинает сочинять

1. Бот отвечает «из головы». Модель подключили, написали ей «ты консультант магазина» и отпустили к клиентам. Про ваши цены, сроки и условия она ничего не знает, поэтому пишет правдоподобно. Правдоподобно для нейросети значит так, как бывает у других магазинов.

2. Нет списка запретных тем. Цены, скидки, сроки доставки, гарантия, возврат. Если бот отвечает на это сам, рано или поздно он ошибётся. Цифры должны браться из таблицы или прайса, а не придумываться.

3. Нет выхода на живого человека. Клиент пишет «хочу поговорить с менеджером», а бот в третий раз предлагает посмотреть каталог. Человек уходит, и вы даже не узнаёте почему.

4. Запуск сразу на всех. Бота включают в пятницу вечером на весь поток. Проверить его на реальных вопросах никто не успел.

5. Логи никто не читает. Первые две недели самые важные: именно тогда всплывают странные вопросы, которых не было в тесте. Если переписки не открывать, об ошибках вы узнаете от злых клиентов.

Что делаю я, чтобы бот не выдумывал

Запуск бота с ИИ в поддержке я разбиваю на шаги. Никакой магии, обычная дисциплина.

  1. Собираю базу знаний. Прайс, условия доставки, возврат, частые вопросы. Бот отвечает только по ней. Нет ответа в базе — честно говорит «уточню у менеджера».
  2. Выношу цифры в отдельный источник. Цены и сроки бот берёт из таблицы через запрос, а не из текста промпта. Поменяли цену в таблице — бот сразу отвечает новую.
  3. Ставлю жёсткие стоп-слова. «Скидка», «гарантия», «компенсация», «возврат денег»: такие диалоги сразу уходят менеджеру с пометкой.
  4. Проверяю каждый ответ перед отправкой. Вторая короткая проверка смотрит: нет ли в ответе цифр, которых нет в базе, служебных пометок, обещаний. Если есть — ответ не уходит, диалог получает человек.
  5. Прогоняю историю. Беру 100–200 реальных вопросов из старых переписок и смотрю, что бот ответил бы. Обычно это день работы, и он экономит недели разборов.
  6. Запускаю на части потока. Сначала ночные часы или один канал. Через неделю, если ошибок мало, расширяю.
  7. Две недели читаю логи. Каждый день по 15–20 минут. Всё странное превращается в новое правило или ответ в базе.

Сколько стоит ошибка и сколько стоит защита

Давайте посчитаем на условном примере. Допустим, магазин получает 150 обращений в день, бот закрывает большую часть. Если в 2% ответов он придумывает цифру, это 3 спорных ответа в день, около 90 в месяц.

Пусть из них только каждый десятый доходит до конфликта. Это 9 случаев в месяц. Дальше выбор: либо дать обещанную скидку, либо потерять клиента и получить плохой отзыв. При среднем чеке 5 000 ₽ и скидке 15% уступка стоит 750 ₽. Отзыв на картах стоит дороже, его видят все следующие покупатели.

Защита стоит несравнимо меньше. По моему опыту, база знаний, стоп-слова, проверка ответа и тест на истории добавляют к проекту 3–5 рабочих дней. В деньгах это ориентировочно 20–50 тыс. ₽ сверху к самому боту, зависит от объёма базы и числа каналов. Один раз.

Есть и менее заметная цена. Когда бот ошибся пару раз, менеджеры перестают ему доверять и начинают перепроверять каждый ответ. Экономия времени, ради которой всё затевалось, исчезает, а подписка на модель и сервер продолжают списываться.

Где бот с ИИ вообще не нужен: если у вас 10–15 обращений в день и все одинаковые. Там хватит обычного меню с кнопками и шаблонов ответов. Дешевле и предсказуемее.

Короткий чек-лист перед запуском

Если хотя бы одного пункта нет, бот будет ошибаться. Вопрос только в том, как скоро вы об этом узнаете.

Я автоматизирую бизнес с помощью ИИ: Telegram-боты, чат-боты, интеграции и сайты под ключ. Если у вас уже работает бот и вы не уверены, что он пишет клиентам, или только собираетесь его запускать, напишите мне в Telegram @galich_co. Бесплатно разберём вашу задачу, и я предложу решение.