The post has been translated automatically. Original language: Russian
Why will the next fines, lawsuits, and reputational scandals be related not to hackers, but to artificial intelligence?
While businesses are admiring the new capabilities of artificial intelligence, regulators around the world are preparing a completely different scenario.
Today, the question is no longer whether to use AI or not.
The question is different:
Can I trust your AI?
It is around this issue that a new global economy of trust is beginning to take shape.
We call her:
AI Trust Index
The AI Trust Index is an integral assessment of the level of trust in an AI system, an AI product, or a company developing and implementing artificial intelligence.
In fact, it is an indicator of how safe, transparent, manageable and legitimate artificial intelligence works within an organization.
Just as banks evaluate borrowers by credit rating, governments, customers, and investors are beginning to evaluate AI providers by the level of trust in their technology.
In the coming years, the AI Trust Index will become the new maturity standard for companies working with artificial intelligence.
Kazakhstan has already started. Many companies didn't even notice it.
On November 17, 2025, the President of the Republic of Kazakhstan signed the Law of the Republic of Kazakhstan No. 230-VIII "On Artificial Intelligence", which entered into force on January 18, 2026. For the first time, the law has created a full-fledged legal framework for the development, implementation and use of AI systems in the country.
Many entrepreneurs still believe that the new law applies exclusively to large IT companies.
This is a dangerous misconception.
If your company:
- uses ChatGPT, Claude, Gemini or other models;
- introduces AI assistants;
- uses voice agents;
- implements recommendation systems;
- automates decision-making;
- sells its own AI solutions;
that regulation concerns you directly.
The law introduces requirements for transparency, security, risk management, data protection, and responsibility of AI system owners.
Kazakhstan is not alone
What is happening in Kazakhstan is part of a global trend.
The European Union is implementing a risk-based approach to AI regulation.
South Korea has already introduced its own comprehensive law on the trusted use of artificial intelligence and high-risk AI systems.
AI management standards are gaining popularity all over the world:
- ISO/IEC 42001;
- NIST AI Risk Management Framework;
- AI Governance Framework;
- industry standards for responsible AI.
The reason is simple.
The deeper AI penetrates into business processes, the higher the cost of error.
The main mistake of startups
Today, a huge number of startups are developing AI solutions based on the principle of:
"Let's get started first, then we'll figure out the security."
Information security was once treated exactly the same way.
Then they appeared:
- GDPR;
- ISO 27001;
- personal data requirements;
- multimillion-dollar fines.
With artificial intelligence, history repeats itself.
Only much faster.
What risks already exist?
Most companies don't even know that they carry the following risks.
Legal risks
- violation of the legislation on personal data;
- lack of consent to data processing;
- illegal model training;
- lack of labeling of AI content;
- violation of industry requirements.
Reputational risks
- generating false information;
- discriminatory algorithm solutions;
- toxic AI responses;
- publication of confidential information;
- loss of customer trust.
Financial risks
- penalties;
- lawsuits;
- loss of contracts;
- Investor rejection;
- refusal of large customers from cooperation.
Technological risks
- hallucinations of models;
- lack of response quality control;
- unauthorized access to data;
- Prompt Injection;
- Data Leakage;
- compromise of corporate knowledge.
Management risks
- absence of an AI system owner;
- lack of logging of actions;
- lack of control over model changes;
- lack of audit procedures;
- lack of human control.
ISO 42001 — The new ISO 27001 for the AI era
In 2023, ISO/IEC 42001 was published, the first international standard for artificial intelligence management systems. It defines the requirements for AI management, risk assessment, transparency, responsibility, and lifecycle control of AI systems.
It is important to understand:
ISO 42001 does not evaluate the model itself.
He evaluates the company's ability to manage artificial intelligence risks.
That is why many experts believe that in the coming years, the presence of ISO 42001 elements will become the same expected requirement as ISO 27001 for information security is today.
Why the AI Trust Index will become the new currency of trust
Very soon, customers will be asking AI suppliers no questions.:
"What's your model?"
And the question:
"How do you manage the risks of your AI?"
Companies will be evaluated according to the following criteria:
- transparency of algorithms;
- risk management;
- audit of AI solutions;
- Data protection;
- Quality control;
- logging of actions;
- human control;
- compliance with legal requirements;
- compliance with ISO 42001;
- readiness for regulatory checks.
It is the combination of these indicators that forms the AI Trust Index of the company.
What is BizDNAi doing today?
At BizDNAi, we do not consider artificial intelligence as a toy or a marketing tool.
We consider it as a management object.
Therefore, when developing our own AI solutions, we are already implementing elements of AI Governance and AI Trust Index.:
- AI risk management;
- audit of AI processes;
- data access control;
- logging of agents' actions;
- AI lifecycle monitoring;
- assessment of potential threats;
- preparation for legal requirements;
- preparation for the requirements of ISO 42001.
What we are ready to offer the business
BizDNAi provides consulting services in the field of AI Governance and AI Trust Index:
- audit of AI systems;
- risk analysis;
- developing an AI usage policy;
- preparation for the requirements of the Law of the Republic of Kazakhstan "On Artificial Intelligence";
- preparation for ISO/IEC 42001;
- implementation of AI management processes;
- assessing the maturity of AI in an organization;
- development of a compliance roadmap.
It can no longer be ignored.
Companies used to ask:
"Do we need artificial intelligence?"
Now the right question sounds different.:
"Can we prove that our artificial intelligence can be trusted?"
It is the answer to this question that will determine in the coming years who will become the market leader, and who will be the source of another scandal, fine, or trial.
Почему следующие штрафы, судебные споры и репутационные скандалы будут связаны не с хакерами, а с искусственным интеллектом
Пока бизнес восхищается новыми возможностями искусственного интеллекта, регуляторы по всему миру готовят совсем другой сценарий.
Сегодня вопрос уже не в том, использовать ИИ или нет.
Вопрос в другом:
Можно ли доверять вашему ИИ?
Именно вокруг этого вопроса начинает формироваться новая глобальная экономика доверия.
Мы называем ее:
AI Trust Index
AI Trust Index — это интегральная оценка уровня доверия к ИИ-системе, ИИ-продукту или компании, разрабатывающей и внедряющей искусственный интеллект.
По сути, это показатель того, насколько безопасно, прозрачно, управляемо и законно работает искусственный интеллект внутри организации.
Так же, как банки оценивают заемщиков по кредитному рейтингу, государства, заказчики и инвесторы начинают оценивать поставщиков ИИ по уровню доверия к их технологиям.
В ближайшие годы именно AI Trust Index станет новым стандартом зрелости для компаний, работающих с искусственным интеллектом.
Казахстан уже начал. Многие компании этого даже не заметили.
17 ноября 2025 года Президент Республики Казахстан подписал Закон РК №230-VIII «Об искусственном интеллекте», который вступил в силу 18 января 2026 года. Закон впервые создал полноценную правовую основу для разработки, внедрения и использования ИИ-систем в стране.
Многие предприниматели до сих пор считают, что новый закон касается исключительно крупных IT-компаний.
Это опасное заблуждение.
Если ваша компания:
- использует ChatGPT, Claude, Gemini или другие модели;
- внедряет ИИ-ассистентов;
- использует голосовых агентов;
- внедряет рекомендательные системы;
- автоматизирует принятие решений;
- продает собственные ИИ-решения;
то регулирование касается вас напрямую.
Закон вводит требования к прозрачности, безопасности, управлению рисками, защите данных и ответственности владельцев ИИ-систем.
Казахстан не одинок
То, что происходит в Казахстане, является частью глобального тренда.
Европейский Союз внедряет риск-ориентированный подход к регулированию ИИ.
Южная Корея уже ввела собственный комплексный закон о доверенном использовании искусственного интеллекта и высокорисковых ИИ-системах.
Во всем мире набирают популярность стандарты управления ИИ:
- ISO/IEC 42001;
- NIST AI Risk Management Framework;
- AI Governance Framework;
- отраслевые стандарты ответственного ИИ.
Причина проста.
Чем глубже ИИ проникает в бизнес-процессы, тем выше цена ошибки.
Главная ошибка стартапов
Сегодня огромное количество стартапов разрабатывают ИИ-решения по принципу:
«Сначала запустимся, потом разберемся с безопасностью.»
Ровно так же когда-то относились к информационной безопасности.
Потом появились:
- GDPR;
- ISO 27001;
- требования по персональным данным;
- многомиллионные штрафы.
С искусственным интеллектом история повторяется.
Только гораздо быстрее.
Какие риски уже существуют?
Большинство компаний даже не знают, что несут следующие риски.
Юридические риски
- нарушение законодательства о персональных данных;
- отсутствие согласия на обработку данных;
- незаконное обучение моделей;
- отсутствие маркировки ИИ-контента;
- нарушение отраслевых требований.
Репутационные риски
- генерация ложной информации;
- дискриминационные решения алгоритмов;
- токсичные ответы ИИ;
- публикация конфиденциальной информации;
- потеря доверия клиентов.
Финансовые риски
- штрафы;
- судебные иски;
- потеря контрактов;
- отказ инвесторов;
- отказ крупных заказчиков от сотрудничества.
Технологические риски
- галлюцинации моделей;
- отсутствие контроля качества ответов;
- несанкционированный доступ к данным;
- Prompt Injection;
- Data Leakage;
- компрометация корпоративных знаний.
Управленческие риски
- отсутствие владельца ИИ-системы;
- отсутствие журналирования действий;
- отсутствие контроля изменений моделей;
- отсутствие процедур аудита;
- отсутствие человеческого контроля.
ISO 42001 — новый ISO 27001 для эпохи ИИ
В 2023 году был опубликован ISO/IEC 42001 — первый международный стандарт системы управления искусственным интеллектом. Он определяет требования к управлению ИИ, оценке рисков, прозрачности, ответственности и контролю жизненного цикла ИИ-систем.
Важно понимать:
ISO 42001 оценивает не саму модель.
Он оценивает способность компании управлять рисками искусственного интеллекта.
Именно поэтому многие эксперты считают, что в ближайшие годы наличие элементов ISO 42001 станет таким же ожидаемым требованием, каким сегодня является ISO 27001 для информационной безопасности.
Почему AI Trust Index станет новой валютой доверия
Очень скоро заказчики будут задавать поставщикам ИИ не вопрос:
«Какая у вас модель?»
А вопрос:
«Как вы управляете рисками своего ИИ?»
Компании будут оцениваться по следующим критериям:
- прозрачность алгоритмов;
- управление рисками;
- аудит решений ИИ;
- защита данных;
- контроль качества;
- журналирование действий;
- человеческий контроль;
- соответствие требованиям законодательства;
- соответствие ISO 42001;
- готовность к проверкам регуляторов.
Именно совокупность этих показателей и формирует AI Trust Index компании.
Что делает BizDNAi уже сегодня
В BizDNAi мы рассматриваем искусственный интеллект не как игрушку или маркетинговый инструмент.
Мы рассматриваем его как объект управления.
Поэтому при разработке собственных ИИ-решений мы уже внедряем элементы AI Governance и AI Trust Index:
- управление рисками ИИ;
- аудит ИИ-процессов;
- контроль доступа к данным;
- журналирование действий агентов;
- контроль жизненного цикла ИИ;
- оценку потенциальных угроз;
- подготовку к требованиям законодательства;
- подготовку к требованиям ISO 42001.
Что мы готовы предложить бизнесу
BizDNAi оказывает консультационные услуги в области AI Governance и AI Trust Index:
- аудит ИИ-систем;
- анализ рисков;
- разработка политики использования ИИ;
- подготовка к требованиям Закона РК «Об искусственном интеллекте»;
- подготовка к ISO/IEC 42001;
- внедрение процессов управления ИИ;
- оценка зрелости ИИ в организации;
- разработка дорожной карты соответствия.
Игнорировать это уже нельзя
Раньше компании спрашивали:
«Нужен ли нам искусственный интеллект?»
Теперь правильный вопрос звучит иначе:
«Можем ли мы доказать, что нашему искусственному интеллекту можно доверять?»
Именно ответ на этот вопрос в ближайшие годы будет определять, кто станет лидером рынка, а кто окажется источником очередного скандала, штрафа или судебного разбирательства.
Share
