ИИ и нейросети 4 мин чтения

ИИ-консультант для сайта за 3 дня: что внутри и где он ошибался

Клиент пишет на сайт в 23:40. Менеджер отвечает утром. За ночь клиент успевает написать ещё трём компаниям и выбрать ту, что ответила первой.

Я закрыл эту дыру у себя в компании по бухгалтерскому аутсорсингу. Собрал ИИ-консультанта, который отвечает клиентам на сайте в любое время, берёт телефон и сам заводит заявку в Битрикс24. От решения до работы на живом сайте прошло 3 дня: 4 августа выбрали стек и сервер, 6 августа бот уже отвечал клиентам.

Рассказываю, как он устроен, сколько стоит один ответ и где он ошибался, пока я его не прижал.

Что умеет консультант

  • Отвечает по базе сайта. В базе 159 страниц живого сайта: услуги, цены, статьи, условия. Если ответа в базе нет, предлагает оставить контакт, и вопрос разберёт специалист.
  • Берёт телефон или Telegram и сам заводит заявку в Битрикс24 со всей перепиской. Команде в Telegram приходит уведомление, менеджер открывает лид и сразу видит, о чём говорили.
  • Знает рабочее время. Если клиент просит звонок ночью или в выходные, бот не отказывает. Говорит, что специалист перезвонит в рабочее время, и уточняет, удобнее звонок или мессенджер.
  • Держится темы. На просьбу написать стихи или перевести текст вежливо возвращает разговор к услугам компании.

Из чего он собран

Без конструкторов вроде Chatbase и Salebot. Я хотел сам решать, где лежат данные и что бот имеет право говорить, поэтому всё своё:

  1. Виджет на сайте. Небольшой скрипт, окно чата справа внизу.
  2. Сервер. Принимает сообщение, хранит переписку, отдаёт заявки в CRM.
  3. Поиск по базе сайта. Сайт разрезан на 1 610 фрагментов. Модель, которая ищет подходящие куски текста, работает прямо на нашем сервере.
  4. Языковая модель. Получает вопрос и найденные фрагменты и пишет ответ. Ответ печатается по словам, как в ChatGPT, первое слово появляется примерно через 2 секунды.
  5. Фильтры. Проверяют ответ до того, как его увидит клиент. Про них ниже, это самое важное.

Почему модель работает в России

Сначала я подключил бесплатный зарубежный шлюз к сильным моделям. Ответ шёл от 6 до 24 секунд, иногда запрос отваливался по таймауту. Клиент столько ждать не будет.

Перенёс на открытую модель GPT OSS 120B в облаке Timeweb, в том же дата-центре, где стоит наш сервер. Полный ответ стал приходить за 4–5,5 секунды, стабильно.

Второй плюс важнее скорости. Переписка с телефонами клиентов это персональные данные. Теперь они не уходят за границу, и в политике конфиденциальности это написано прямо. Для компании, которая сама ведёт чужую бухгалтерию, это не мелочь.

Сколько стоит один ответ

Модель стоит 68 ₽ за миллион токенов. На практике это около 0,25 ₽ за ответ. Тысяча ответов клиентам обходится примерно в 250 ₽.

Основные деньги уходят на запуск: собрать базу, настроить правила, проверить, подключить CRM. Сама работа бота почти ничего не стоит.

Где он ошибался

Перед запуском я провёл ночь, задавая боту неудобные вопросы. Около 25 проверок: налоги, разные отрасли, возражения, попытки увести разговор в сторону. Вот что вылезло.

  • Выдумал цену. На вопрос про услугу финансового директора ответил: от 80 000 ₽. Такой цены в базе нет, он её сочинил.
  • Называл налоговые ставки. Для бухгалтерской компании это риск: ставка из ответа бота может оказаться неактуальной, а клиент примет её за консультацию.
  • Обещал запись раньше времени. Писал, что записал клиента на звонок, хотя тот ещё не оставил телефон.
  • Мелочи, которые раздражают: здоровался в каждом сообщении, дважды просил согласие на обработку данных, переводил русские термины на латиницу.

Главный вывод: инструкции модель слушает не идеально. Сколько ни пиши в промпте, что нельзя называть цены, которых нет в базе, время от времени она всё равно назовёт. Поэтому всё, что касается денег, ставок и обещаний, у меня проверяют жёсткие фильтры в коде. Нет цены в базе, значит клиент увидит фразу: рассчитаем на диагностике. Что бы модель ни придумала.

Что с безопасностью

Раз в базе телефоны клиентов, я отдельно проверил сервер. Файлы с перепиской закрыты от посторонних, каждый день делается зашифрованная резервная копия, в админку можно войти только через Битрикс24 сотрудникам с доступом. Тестовые заявки помечаются, чтобы менеджеры не звонили самим себе.

Кому это нужно

ИИ-консультант окупается, если:

  • заметная часть заявок приходит вечером и в выходные;
  • клиенты задают на сайте одни и те же вопросы про цены, сроки и условия;
  • менеджеры не успевают ответить быстро, и заявки остывают.

Если на сайт заходит пара человек в день, начинать лучше с трафика. Бот удерживает тех, кто уже пришёл, новых клиентов он не приводит.

Прикинуть, сколько заявок консультант может удержать именно у вас, можно в калькуляторе окупаемости на главной. Как я внедряю такого консультанта в других компаниях, сколько это стоит и что входит в работу, описал на странице ИИ-консультант для сайта. Если хотите обсудить свою задачу, разберу её на бесплатном созвоне.

По теме статьиВнедрение ИИ в бизнес: решения и цены
Смотреть услугу →
Максим Бондаренко
Максим Бондаренко

Основатель агентства, Екатеринбург. Внедряю ИИ в бизнес, в маркетинге с 2016 года. Всё, о чём пишу, сначала пробую на своих компаниях. Разобрать мою задачу →

Созвон бесплатно

Хотите так же у себя? Разберу задачу

30 минут онлайн. Скажу, есть ли смысл внедрять ИИ, примерную цену и срок.

или сразу напишите мне в Telegram

Заявка ушла. Напишу в течение рабочего дня и предложу время для созвона.
Разобрать мою задачу