The post has been translated automatically. Original language: Russian
In a previous post, I talked about how easy it is to confuse a raw prototype with a real product. Let's see what it looks like in the world of contact center automation.
For more than two years now, we have been developing AI agents that fully answer calls and correspond on WhatsApp, Telegram and Instagram. Under the hood, we have complex integrations with CRM, telephony, RAG, and advanced AI models.Naturally, we are not the only ones on the market. There are many vendors, especially in the chatbot world, that offer "the same thing" on paper. They have luxurious landing pages, well-honed presentations and an army of sales people.
Recently, I decided to conduct an analysis of such services, and here are a few critical points that are worth paying attention to. The first is the delay during the call. A year ago, our first version had a delay of several seconds. This is tolerable for correspondence, but for voice calls it is a no-go. Over the course of a year, we have done a lot of engineering work and reduced latency to just over 1 second. This is the gold standard of the world. Most of the services tested had a delay of 3-4 seconds, and the longer the call lasted, the longer it became.The second is the cost. Novice "startups" often use expensive APIs from third-party providers. This is absolutely normal for a start and is even welcome. But when scaling, it becomes economically impractical. We've come this far. Switching to developing and training proprietary models (LLM, ASR, and TTS) is a 100 times more difficult task that requires a serious R&D team. Therefore, always ask whose models the vendor is working on.
There are quite serious problems further along the chatbots.
Grey (unofficial) integration with WhatsApp. Almost all of them. At the moment, it seems convenient and cheap. But as a former Meta engineer, I know that they are reacting more and more harshly to workarounds. Plus, you actually log into your WhatsApp from someone else's server. The supplier can read your dialogues at any time or write to anyone on your behalf. Be careful: do not trust your main number to such integration.Instagram password request directly on the supplier's website. In fact, you are asked to give full access to your account and "take your word for it" that the data will not leak.
Lack of customization for the client's processes. The whole setup boils down to one system prompt. "As a result, the business gets a "stupid" bot that talks about non-standard issues.Zero data protection. Correspondence is not encrypted. Any employee of the supplier with access to the database can read your customers' conversations. In fact, your data can be safely transferred to a competitor.
AI needs to be implemented carefully. Before you give access from your social networks and pay money to another startup, make sure that you have a reliable tool in front of you.
В прошлом посте я рассказывал, как легко спутать сырой прототип с реальным продуктом. Давайте посмотрим, как это выглядит в мире автоматизации контакт-центров.
Мы уже больше двух лет разрабатываем AI-агентов, которые полноценно отвечают на звонки и ведут переписки в WhatsApp, Telegram и Instagram. Под капотом у нас сложные интеграции с CRM, телефонией, RAG и продвинутые AI-модели.Естественно, мы не единственные на рынке. Появилось множество поставщиков, особенно в мире чатботов которые на бумаге предлагает "то же самое". У них роскошные лендинги, отточенные презентации и армия продажников.
Недавно, я решил провести анализ таких сервисов, и вот несколько критических моментов на которые стоит обратить внимание. Первое это задержка во время звонка. Ещё год назад наша первая версия имела задержку в несколько секунд. Для переписки это терпимо, но для голосовых звонков — это no-go. За год мы проделали огромную инженерную работу и снизили latency до чуть более 1 секунды. Это золотой мировой стандарт. У большинства тестируемых сервисов задержка была на уровне 3-4 секунд, и чем дольше длился звонок, тем больше она становилась.Второе это себестоимость. Начинающие "стартаперы" часто используют дорогие API сторонних провайдеров. Это абсолютно нормально для старта и даже приветствуется. Но при масштабировании это становится экономически нецелесообразным. Мы прошли этот путь. Переход к разработке и обучению собственных моделей (LLM, ASR, TTS) — это задача в 100 раз сложнее, требующая серьезной R&D команды. Поэтому всегда спрашивайте, на чьих моделях работает вендор.
Дальше по чатботам довольно серьезные проблемы.
Серая (неофициальная) интеграция с WhatsApp. Почти у всех. В моменте это кажется удобным и дешевым. Но я, как бывший инженер Meta знаю что они всё жестче и жестче реагируют на обходные пути. Плюс, вы фактически логинитесь в свой WhatsApp с чужого сервера. Поставщик в любой момент может прочитать ваши диалоги или написать кому угодно от вашего имени. Будьте осторожны: не доверяйте свой основной номер такой интеграции.Запрос пароля от Instagram прямо на сайте поставщика. По сути вас просят отдать полный доступ к аккаунту и «поверить на слово», что данные не утекут.
Отсутствие кастомизации под процессы клиента. Вся настройка сводится к одному системному промпту. В итоге бизнес получает «глупого» бота, который сыплется на нестандартных вопросах.Нулевая защита данных. Переписки не шифруются. Любой сотрудник поставщика с доступом к базе данных может читать диалоги ваших клиентов. По сути ваши данные могут спокойно передать конкуренту.
AI нужно внедрять аккуратно. Прежде чем отдавать доступы от своих соцсетей и платить деньги очередному стартапу, убедитесь, что перед вами надежный инструмент.
Share
