The post has been translated automatically. Original language: Russian
Top 10 cyber threats for business in 2026: what every IT department should already understand
1. Phishing using AI
2. Corporate email attacks
3. Weak passwords and repeated use of credentials
4. Errors in the cloud infrastructure
5. Ransomware
6. Leaks through employees
7. Attacks on the API
8. Vulnerabilities in the network infrastructure
9. Supply chain attacks
10. Risks when using AI tools
Когда компания ставит AI-бота на первую линию общения с клиентами, она фактически дает ему право говорить от имени бизнеса. И здесь начинается зона риска.
Бот может неправильно понять запрос, выдать устаревшую информацию, придумать несуществующее правило или уверенно подтвердить то, чего компания не обещала.
Кейс 1. Air Canada: чат-бот придумал правило, суд обязал компанию платить
Пассажир Air Canada спросил у чат-бота про bereavement fare — специальный тариф в связи со смертью родственника. Бот сообщил, что скидку можно запросить после покупки билета. На сайте авиакомпании была другая политика. Когда пассажир попросил компенсацию, Air Canada попыталась заявить, что чат-бот фактически сам несет ответственность за свой ответ. Трибунал не согласился: чат-бот — часть сайта компании, значит, компания отвечает за информацию. Air Canada обязали выплатить компенсацию.
Бизнес не может сказать клиенту: “это не мы, это бот ошибся”. Если бот отвечает на сайте компании, он становится частью официальной коммуникации.
Кейс 2. McDonald’s: AI drive-thru не выдержал реальной среды
McDonald’s тестировал AI-заказы в drive-thru более чем в 100 ресторанах США вместе с IBM. В 2024 году компания решила завершить тест и убрать систему. В СМИ попадали ошибки вроде неправильных заказов, лишних напитков и странных комбинаций. McDonald’s при этом не отказался от идеи voice ordering в будущем, но текущий эксперимент завершил.
AI хорошо работает в демо, но реальная операционная среда сложнее: шум, акценты, нестандартные фразы, раздраженный клиент, спешка, ошибки в меню, человеческий фактор.
Кейс 3. Deloitte: AI-ошибки в отчете для государства
Deloitte Australia согласилась частично вернуть оплату австралийскому правительству после того, как в отчете за 440 000 австралийских долларов нашли ошибки, включая несуществующие источники и фальшивую цитату из судебного решения. В обновленной версии отчета уже раскрыли, что при подготовке использовался Azure OpenAI GPT-4o.
AI-галлюцинации особенно опасны там, где текст выглядит экспертно: юридические документы, госотчеты, аналитика, комплаенс, медицина, финансы, образование.
Для казахстанского бизнеса это не абстрактная история. AI-боты уже можно поставить на сайт, в WhatsApp, Instagram, Telegram, CRM, call center. Но перед запуском нужно ответить на несколько вопросов:
- какие ответы бот имеет право давать сам;
- где он обязан передать клиента человеку;
- кто проверяет базу знаний;
- как часто обновляются тарифы, условия, договоры, расписания;
- что будет, если бот пообещает клиенту неправильную цену, скидку или срок;
- где хранятся переписки и персональные данные.
AI в клиентском сервисе стоит внедрять не как замену ответственности, а как управляемый инструмент. Чем ближе бот к деньгам, договору, персональным данным и юридическим обещаниям, тем жестче должен быть контроль.
Главный урок Air Canada, McDonald’s и Deloitte: проблема начинается не тогда, когда AI ошибся. Проблема начинается тогда, когда компания заранее не решила, кто отвечает за эту ошибку.
Share
