The post has been translated automatically. Original language: Russian
We used to design the API like this:
User → authorization → rights verification → API → operation.
But what happens if an AI agent appears instead of the user?
Let's imagine:
"Check the unpaid bills and send a reminder to the customers."
For a human, these are several actions.
For an AI agent, this is potentially a whole chain.:
Get clients
↓
Check the arrears
↓
Get contact information
↓
Generate a message
↓
Send a message
↓
Record the resultAnd an interesting architectural problem arises.
An agent should not be given just "access to everything."
You need to understand:
- what data can it read?;
- which APIs can be called;
- what operations can it perform;
- which user is he acting on behalf of;
- what actions require confirmation?;
- what needs to be recorded in the audit log;
- what to do in case of an agent error.
In corporate systems, this is especially important: an AI agent becomes not just an interface, but a potential executor of business operations.
That is why a separate layer of governance is now emerging around agentic AI: identity, permissions, monitoring, audit, and action control.
It seems to me that this is one of the main architectural challenges of AI.
For a long time we have been teaching systems to distinguish:
user → role → permission → action.
Now we'll have to add another participant.:
AI Agent → identity → permissions → tools → action → audit.
And the question is no longer just how smart the model is.
The question is, what is she allowed to do?
Мы привыкли проектировать API примерно так:
Пользователь → авторизация → проверка прав → API → операция.
Но что происходит, если вместо пользователя появляется AI-агент?
Представим:
«Проверь неоплаченные счета и отправь напоминание клиентам».
Для человека это несколько действий.
Для AI-агента — потенциально целая цепочка:
Получить клиентов
↓
Проверить задолженность
↓
Получить контактные данные
↓
Сформировать сообщение
↓
Отправить сообщение
↓
Записать результатИ возникает интересная архитектурная проблема.
Агенту нельзя давать просто «доступ ко всему».
Нужно понимать:
- какие данные он может читать;
- какие API может вызывать;
- какие операции может выполнять;
- от имени какого пользователя он действует;
- какие действия требуют подтверждения;
- что необходимо записывать в audit log;
- что делать при ошибке агента.
В корпоративных системах это особенно важно: AI-агент становится не просто интерфейсом, а потенциальным исполнителем бизнес-операций.
Именно поэтому вокруг agentic AI сейчас появляется отдельный слой governance: identity, permissions, monitoring, audit и контроль действий.
Мне кажется, в этом и заключается один из главных архитектурных вызовов AI.
Мы долго учили системы различать:
пользователь → роль → разрешение → действие.
Теперь придется добавить еще одного участника:
AI Agent → identity → permissions → tools → action → audit.
И вопрос уже не только в том, насколько умная модель.
Вопрос в том, что ей разрешено делать.
Share
