The post has been translated automatically. Original language: Russian
The employee uploads the contract to the AI service to quickly find the risks. The developer sends a fragment of the private code to the assistant to find the error. The manager asks the model to analyze the client table, and the recruiter asks them to compile a resume based on the interview records.
In all cases, the goal is clear.: get the job done faster. However, if the company has not verified these tools and does not control the transmitted data, Shadow AI arises — employees use unapproved AI services and personal accounts for work tasks.
This is not a rare exception. Back in 2024, a study by Microsoft and LinkedIn showed that 78% of AI users surveyed brought their own tools to work. The reason is usually not the desire to break the rules. Employees need a convenient tool, and the company's internal processes are not keeping pace with technology development.
The problem is that after sending information to an external service, the company may lose control over it. The requests may include:
- personal data of clients and employees;
- contracts and financial indicators;
- source code and API keys;
- commercial offers;
- internal research;
- meeting recordings;
- trade secrets and intellectual property.
The user does not always know where requests are stored, how long they are stored, whether they are used to improve the model, and which third-party services access them.
The risk is not theoretical. In an IBM 2025 study of 600 organizations facing leaks, one in five reported an incident involving Shadow AI. At the same time, 63% of the organizations in the sample did not have an AI management policy or were just developing it.
Banning AI completely seems like a simple solution, but in practice banning it often only makes its use less visible. Employees switch to personal accounts, mobile devices, or new services that the security service doesn't know about yet.
Therefore, the company's task is not to ban a useful technology, but to provide a safe and fairly convenient way to use it.
This requires several steps.
- Provide approved AI tools. If the official service is inconvenient or unavailable, employees will continue to look for alternatives. An enterprise solution should have clear data storage conditions, access control, and a ban on using company information to train public models.
- Divide the data by sensitivity level. The employee must understand what information can be transmitted to AI, which can be used only after depersonalization, and which cannot be uploaded to external services under any circumstances.
- Formulate short and clear rules. A policy with dozens of pages rarely helps in real work. Concrete examples are much more effective: is it possible to send a contract, candidate's resume, code snippet, financial report or a list of clients to the model.
- Detect Shadow AI. It is important for a company to know which AI services are being used, which files are being uploaded to them, and where access is coming from. But monitoring should be transparent to employees and comply with the requirements of personal data protection.
- Minimize the transmitted information. Before sending a request, you can automatically delete names, contacts, banking details, secrets and other sensitive data. For particularly important processes, it is worth using local models or a controlled corporate AI gateway.
- Prepare a response plan. If an employee accidentally gave the model private data, they should be able to report it quickly without fear of immediate punishment. After that, the company will be able to revoke keys, change passwords, delete data where possible, and assess the consequences.
The local model alone does not solve the problem. If it has redundant access, does not keep a log of actions, or is used without rules, the risks remain. Security depends not only on the location of the model, but also on the management of data, permissions and responsibilities.
Controlling corporate AI usage is becoming not only a technical issue, but also part of the responsibility of the owners and users of such systems.
Before implementing AI, companies should answer several questions:
- What AI services are employees already using?
- What data are they allowed to transmit?
- Is there a safe official alternative?
- Is it possible to detect a leak and identify its source?
- What should an employee do if the data has already been sent?
Shadow AI is primarily not a problem of undisciplined employees, but a sign that technology is developing faster than corporate processes.
If a company does not create a convenient and secure way to use AI, employees create it on their own — already beyond its control.
Сотрудник загружает договор в AI-сервис, чтобы быстро найти риски. Разработчик отправляет фрагмент закрытого кода помощнику для поиска ошибки. Менеджер просит модель проанализировать таблицу с клиентами, а рекрутер — составить резюме по записям собеседований.
Во всех случаях цель понятна: выполнить работу быстрее. Но если компания не проверяла эти инструменты и не контролирует передаваемые данные, возникает Shadow AI — использование сотрудниками неутверждённых AI-сервисов и личных аккаунтов для рабочих задач.
Это не редкое исключение. Ещё в 2024 году исследование Microsoft и LinkedIn показало, что 78% опрошенных пользователей AI приносили собственные инструменты на работу. Причина обычно не в желании нарушить правила. Сотрудникам нужен удобный инструмент, а внутренние процессы компании не успевают за развитием технологий.
Проблема в том, что после отправки информации во внешний сервис компания может потерять контроль над ней. В запросах могут оказаться:
- персональные данные клиентов и сотрудников;
- договоры и финансовые показатели;
- исходный код и API-ключи;
- коммерческие предложения;
- внутренние исследования;
- записи совещаний;
- коммерческая тайна и интеллектуальная собственность.
Пользователь не всегда знает, где хранятся запросы, как долго они сохраняются, используются ли для улучшения модели и какие сторонние сервисы получают к ним доступ.
Риск не является теоретическим. В исследовании IBM 2025 года, охватившем 600 организаций, столкнувшихся с утечками, каждая пятая сообщила об инциденте, связанном с Shadow AI. При этом 63% организаций из выборки не имели политики управления AI или ещё только разрабатывали её.
Полностью запретить AI кажется простым решением, но на практике запрет часто только делает его использование менее заметным. Сотрудники переходят на личные аккаунты, мобильные устройства или новые сервисы, о которых служба безопасности ещё не знает.
Поэтому задача компании — не запретить полезную технологию, а предоставить безопасный и достаточно удобный путь её использования.
Для этого необходимы несколько шагов.
- Предоставить утверждённые AI-инструменты. Если официальный сервис неудобен или недоступен, сотрудники продолжат искать альтернативы. Корпоративное решение должно иметь понятные условия хранения данных, управление доступом и запрет на использование информации компании для обучения публичных моделей.
- Разделить данные по уровню чувствительности. Сотрудник должен понимать, какую информацию можно передавать AI, какую можно использовать только после обезличивания, а какую нельзя загружать во внешние сервисы ни при каких обстоятельствах.
- Сформулировать короткие и понятные правила. Политика на десятки страниц редко помогает в реальной работе. Гораздо эффективнее конкретные примеры: можно ли отправлять модели договор, резюме кандидата, фрагмент кода, финансовый отчёт или список клиентов.
- Обнаруживать Shadow AI. Компании важно знать, какие AI-сервисы используются, какие файлы в них загружаются и откуда происходит доступ. Но мониторинг должен быть прозрачным для сотрудников и соответствовать требованиям защиты персональных данных.
- Минимизировать передаваемую информацию. Перед отправкой запроса можно автоматически удалять имена, контакты, реквизиты, секреты и другие чувствительные данные. Для особо важных процессов стоит использовать локальные модели или контролируемый корпоративный AI-шлюз.
- Подготовить план реагирования. Если сотрудник случайно передал модели закрытые данные, он должен иметь возможность быстро сообщить об этом без страха немедленного наказания. После этого компания сможет отозвать ключи, сменить пароли, удалить данные там, где это возможно, и оценить последствия.
Локальная модель сама по себе не решает проблему. Если она имеет избыточный доступ, не ведёт журнал действий или используется без правил, риски сохраняются. Безопасность зависит не только от места размещения модели, но и от управления данными, разрешениями и ответственностью.
Контроль корпоративного использования AI становится не только техническим вопросом, но и частью ответственности владельцев и пользователей таких систем.
Перед внедрением AI компаниям стоит ответить на несколько вопросов:
- Какие AI-сервисы уже используют сотрудники?
- Какие данные им разрешено передавать?
- Есть ли безопасная официальная альтернатива?
- Можно ли обнаружить утечку и установить её источник?
- Что должен сделать сотрудник, если данные уже были отправлены?
Shadow AI — это прежде всего не проблема недисциплинированных сотрудников, а признак того, что технологии развиваются быстрее корпоративных процессов.
Если компания не создаёт удобный и безопасный способ использования AI, сотрудники создают его самостоятельно — уже за пределами её контроля.
Share
