The post has been translated automatically. Original language: Russian
Regulation has already learned how to classify AI by risk. The next task is more difficult: to manage systems whose abilities change faster than procedures.
On July 14, 2026, Demis Hassabis, co-founder and CEO of Google DeepMind, published an essay on the approximation of general artificial intelligence. He defines AGI as a system that has all the cognitive abilities of the human brain, and writes that it is probably only a few years away.
This is a more compressed horizon than in his forecasts from last year. In an interview with Axios in May 2026, Hassabis said that he still expects AGI by about 2030, but already assumes 2029. No one knows the exact date. Hassabis himself admits that even experts disagree on the future development.
Something else is more interesting. In the same essay, the head of one of the leading AI labs suggests creating a separate body to test frontier models before they enter the market. The forecast of the AGI approach and the proposal of a new regulatory mechanism appeared in the same text.
In previous articles in this series, I looked at AI from the company level: what task a single use case solves, what data it receives, what role the result plays, and who is responsible for the next step. Separately, we analyzed shadow AI applications that have already entered the work, but have not yet come to the attention of the organization.
This logic assumes that the company can return to the system, evaluate it again, and change the terms of use. But what happens if the capabilities of the system itself change faster than the next review takes place?
A few years is a common time for a large management system.
For a research laboratory, four years can include several generations of models. For the state, during this time, the law is being developed, discussed, adopted, issued by-laws and the first cycles of law enforcement. In a large company, a transformation program can take a comparable period of time: from the first policy to operational processes, training, technical constraints, and internal audit.
Therefore, even Hassabis' erroneous forecast cannot be assessed only as a bet for a specific year. It sets the planning horizon. If AGI or similar systems do appear around 2030, then the mechanisms that companies and governments will meet them with are already being designed.
At the same time, the transition is unlikely to look like one official release with the inscription "AGI is ready." We are likely to see a sequence of new abilities: more sustainable planning, working with tools, long chains of actions, independent research, managing other agents, and accelerating AI development itself.
Each such ability individually may look like another product update. Together they change the nature of control.
What is no longer stable
Let's introduce an AI assistant in customer support.
First, he prepares a draft response. The person checks the facts and presses Send. The assistant then gets access to the customer's knowledge base and history. The next update allows him to change the card in the CRM, issue a refund or select compensation. Later, he plans the sequence of actions and turns to other systems without a separate command for each step.
The name of the service may not change. Even the stated goal of "helping support" will remain the same. But autonomy, access, and possible consequences will be different.
In such an environment, three familiar assumptions quickly become obsolete.
The function of the system is known in advance. The general-purpose model is capable of performing tasks that were not in the original description. The real purpose is increasingly being formed at the point of implementation — through prompt, data, integrations, tools, and user solutions.
Human control remains the same. You can check the draft before sending it. Tracking hundreds of agent actions is more difficult. If the system works faster than a human, the old formula of human in the loop can turn into a formal observation without a real opportunity to intervene.
The assessment is valid until the next scheduled review. A new model, an expanded context window, memory, or a connection to the tool may change the use case earlier than this date. The company did not develop or release anything, and the actual system has already become different.
Here the corporate problem meets the regulatory one. The law must also understand at what point a change in ability, autonomy, or access creates a new object of evaluation.
Regulation has already started to look at frontier AI
The current system does not start from scratch. It already has elements that can survive the next technological leap.
The EU AI Act separately regulates general-purpose AI models and identifies models with systemic risk among them. Risk assessment and mitigation, reporting of serious incidents, and cybersecurity measures are provided for their suppliers. One of the criteria — the amount of calculations for training over 102⁵ FLOP — is already under review. The very fact of the revision is indicative: the technical threshold should move along with the capabilities of the models.
The NIST AI Risk Management Framework is built around a continuous cycle of government, map, measure, and manage. He recommends testing AI before implementation and regularly during operation, monitoring new risks, and testing the system in a real-world application context. This is a strong operational logic, although the framework itself remains voluntary.
The current Law on Artificial Intelligence in Kazakhstan It already distinguishes between systems based on the level of risk and autonomy. Risk management is described as a continuous process throughout the lifecycle, and the assessment should take into account the intended purpose and predictable misuse. The risks must be updated at least once a year; if a serious threat is identified, the owner or owner must take immediate action, including suspending the system.
This is a good foundation. Frontier AI will probably need a shorter and more event-driven rhythm to it: a meaningful update of the model, the emergence of a new ability, increased access or autonomy should trigger a revision regardless of the calendar.
In July 2026, the UN's Independent International Scientific Panel on AI formulated the problem even more bluntly.: Existing safeguards are not keeping up with the growth of AI capabilities. Politicians have an unpleasant choice. If we wait for complete scientific certainty, the moment for preventive action may pass. If you act too early and without evidence, regulation risks fixing misconceptions about the technology.
Where does the gap remain
At the level of principles, regulation looks noticeably better than it did a few years ago. There is already a risk-based approach, requirements for responsibility, documentation, human oversight, security, and lifecycle management.
The gap lies in speed, measurability, and the ability to apply these principles to frontier models.
The regulator needs to technically verify what until recently could only be evaluated by the developers themselves. This requires independent specialists, computing resources, closed tests, and access to the model before public release. The usual legal expertise is not enough here.
Information asymmetry also persists. Frontier Laboratory knows about the new capability ahead of customers, the government and society. After the release, one model is rapidly distributed across different products and jurisdictions. The national regulator controls the consequences on its territory, but does not necessarily see the development process and all the conditions of the model.
Finally, the old categories begin to overlap. One general-purpose model can simultaneously participate in education, programming, medicine, hiring, and critical infrastructure management. The risk arises not only from the model and not only from the industry. It is created by a combination of ability, data, access, autonomy, and possible consequences.
Which way will AI Governance develop?
Predicting specific norms is more difficult than seeing the general vector. Several directions are already being considered.
Abilities will become more important than names
Regulators don't have to wait for the industry to agree on which system deserves the word AGI. The rules of practice will increasingly be tied to measurable capabilities: conducting complex cyber attacks, dealing with biological threats, bypassing safeguards, self-planning, or the ability to accelerate AI development.
This is how Google DeepMind's Frontier Safety Framework already works: stronger The measures are activated when certain capability levels are reached, and not after assigning a new marketing name to the model.
Pre-release verification will become a separate feature.
In his July essay, Hassabis suggests creating a standards body in the United States with independent technical experts. Frontier labs would first voluntarily submit models for review 30 days before release. After working out the procedure, successful completion of the tests could be a condition for the model's admission to the American market.
The specific design will still be discussed. But the direction looks plausible: the most powerful models will be evaluated not only within the development company and not only after the damage occurs.
The planned review will complement the event review
The annual assessment will remain useful for the overall management system. Frontier AI will require additional triggers: a new critical ability, a change in the model, the connection of tools, increased autonomy, an expansion of the user group, a serious incident or a discovered way to circumvent control.
Governance is gradually becoming a change monitoring system, rather than an archive of previously granted permissions.
Control will shift from response to action
The more independent the AI is, the less its risk can be assessed only by the quality of the text. You will need to control permissions, runtime, data access, sequence of actions, rollback capability, and stop conditions.
In Google's AI Control Roadmap, DeepMind suggests considering a highly capable agent as a potential internal threat: grant access gradually, monitor behavior, and move from subsequent analysis to real-time blocking where the cost of error is high.
Incidents will become a common early warning system
An individual organization sees only its own part of the picture. Recurring errors, ways to circumvent restrictions, and unexpected abilities can be noticed sooner if developers, companies, and governments use comparable incident reporting categories.
The OECD is already developing a common approach to describing AI incidents that countries can adapt to their legislation. The UN is creating an international scientific infrastructure to assess opportunities and risks. Enforcement of the rules will remain national, and the evidence base will become more general.
What does this change in practice now?
Companies do not need to announce their own AGI program. Most of them do not develop frontier models and will not directly participate in their preliminary testing.
But it is companies that turn the general model into a specific system: they give it data, connect it to processes, assign a role, and authorize actions. The same frontier model can remain a draft tool or become a participant in a decision affecting money, security, and human rights.
Therefore, the maturity of AI Governance will be less and less determined by the volume of policy. More important is the organization's ability to see change:
- the model has received a new opportunity;
- the previous human control no longer matches the speed of the system;
- integration gave access that was not available during approval;
- a reversible draft has turned into an automatic action;
- the consequences have gone beyond a single user or team.
In a previous article about shadow AI, I wrote that a company cannot manage an application that it does not see. Frontier AI adds the next layer: it's not enough to see the system once, you need to notice the moment when it stopped being the same.
The forecast may not come true. Time is already ticking anyway
AGI may appear later than 2030. Its development may slow down due to technical limitations, economics, energy, or lack of necessary scientific breakthroughs. Perhaps the very word AGI will remain a matter of dispute, and real abilities will come gradually.
But governance does not lose out from preparing for stronger systems.
Today's AI agents need independent testing, event-based review, action control, transparent boundaries of authority, and incident information exchange. If Hassabis' forecast turns out to be too bold, these mechanisms will improve the management of what exists now. If the technological leap really happens within a few years, they will become the foundation that it will be too late to design after the release.
We don't know yet which system will be called AGI first. It is much more important whether we will have time to build a management that can notice that the system has become stronger, more independent and closer to real action — and the previous control conditions are no longer enough.
Регулирование уже научилось классифицировать AI по риску. Следующая задача сложнее: управлять системами, способности которых меняются быстрее процедур.
14 июля 2026 года сооснователь и CEO Google DeepMind Демис Хассабис опубликовал эссе о приближении общего искусственного интеллекта. Он определяет AGI как систему, обладающую всеми когнитивными способностями человеческого мозга, и пишет, что до неё, вероятно, осталось всего несколько лет.
Это более сжатый горизонт, чем в его прошлогодних прогнозах. В интервью Axios в мае 2026 года Хассабис говорил, что по-прежнему ожидает AGI примерно к 2030 году, но уже допускает 2029-й. Точную дату никто не знает. Сам Хассабис признаёт, что даже эксперты расходятся в оценках дальнейшего развития.
Интереснее другое. В том же эссе руководитель одной из ведущих AI-лабораторий предлагает создать отдельный орган для проверки frontier-моделей до их выхода на рынок. Прогноз о приближении AGI и предложение нового механизма регулирования появились в одном тексте.
В предыдущих статьях этой серии я смотрела на AI с уровня компании: какую задачу решает один use case, какие данные получает, какую роль играет результат и кто отвечает за следующий шаг. Отдельно мы разбирали shadow AI — применения, которые уже вошли в работу, но ещё не попали в поле зрения организации.
Эта логика предполагает, что компания может вернуться к системе, снова её оценить и изменить условия использования. Но что произойдёт, если способности самой системы будут меняться быстрее, чем проходит следующий review?
Несколько лет — обычный срок для большой системы управления
Для исследовательской лаборатории четыре года могут включать несколько поколений моделей. Для государства за это время закон проходит разработку, обсуждение, принятие, выпуск подзаконных актов и первые циклы правоприменения. В крупной компании сопоставимый срок может занять программа трансформации: от первой политики до работающих процессов, обучения, технических ограничений и внутреннего аудита.
Поэтому даже ошибочный прогноз Хассабиса нельзя оценивать только как ставку на конкретный год. Он задаёт planning horizon. Если AGI или близкие к нему системы действительно появятся около 2030 года, то механизмы, с которыми их встретят компании и государства, проектируются уже сейчас.
При этом переход вряд ли будет выглядеть как один официальный релиз с надписью «AGI готов». Мы, скорее всего, увидим последовательность новых способностей: более устойчивое планирование, работу с инструментами, длинные цепочки действий, самостоятельное исследование, управление другими агентами и ускорение самой AI-разработки.
Каждая такая способность по отдельности может выглядеть как очередное обновление продукта. Вместе они меняют природу контроля.
Что перестаёт быть стабильным
Представим AI-ассистента в клиентской поддержке.
Сначала он готовит черновик ответа. Человек проверяет факты и нажимает Send. Затем ассистент получает доступ к базе знаний и истории клиента. Следующее обновление позволяет ему изменять карточку в CRM, оформлять возврат или выбирать компенсацию. Позже он уже планирует последовательность действий и обращается к другим системам без отдельной команды на каждый шаг.
Название сервиса может не измениться. Даже заявленная цель — «помощь поддержке» — останется прежней. Но автономность, доступ и возможные последствия станут другими.
В такой среде быстро устаревают три привычных предположения.
Функция системы известна заранее. General-purpose model способна выполнять задачи, которых не было в первоначальном описании. Реальное назначение всё чаще формируется в месте внедрения — через prompt, данные, интеграции, инструменты и решения пользователя.
Человеческий контроль остаётся одинаковым. Проверить черновик можно до отправки. Проследить за сотнями действий агента сложнее. Если система работает быстрее человека, прежняя формула human in the loop может превратиться в формальное наблюдение без реальной возможности вмешаться.
Оценка действует до следующего планового пересмотра. Новая модель, расширенный context window, память или подключение к инструменту могут изменить use case раньше этой даты. Компания ничего не разрабатывала и не выпускала, а фактическая система уже стала другой.
Здесь корпоративная проблема встречается с регуляторной. Закон тоже должен понимать, в какой момент изменение способности, автономности или доступа создаёт новый объект оценки.
Регулирование уже начало смотреть на frontier AI
Нынешняя система не начинает с нуля. В ней уже появились элементы, которые могут пережить следующий технологический скачок.
EU AI Act отдельно регулирует general-purpose AI models и выделяет среди них модели с системным риском. Для их поставщиков предусмотрены оценка и снижение рисков, сообщение о серьёзных инцидентах и меры кибербезопасности. Один из критериев — объём вычислений при обучении свыше 10²⁵ FLOP — уже находится на пересмотре. Сам факт пересмотра показателен: технический порог должен двигаться вместе с возможностями моделей.
NIST AI Risk Management Framework строится вокруг непрерывного цикла govern, map, measure и manage. Он рекомендует тестировать AI до внедрения и регулярно во время эксплуатации, отслеживать новые риски и проверять систему в реальном контексте применения. Это сильная операционная логика, хотя сама рамка остаётся добровольной.
В Казахстане действующий Закон «Об искусственном интеллекте» уже различает системы по уровню риска и автономности. Управление рисками названо непрерывным процессом на всём жизненном цикле, а оценка должна учитывать предполагаемое назначение и предсказуемое нецелевое использование. Риски требуется обновлять не реже одного раза в год; при выявлении серьёзной угрозы собственник или владелец должен принимать незамедлительные меры, вплоть до приостановки системы.
Это хорошая основа. Для frontier AI к ней, вероятно, понадобится более короткий и событийный ритм: значимое обновление модели, появление новой способности, расширение доступа или автономности должны запускать пересмотр независимо от календаря.
В июле 2026 года Независимая международная научная панель ООН по AI сформулировала проблему ещё прямее: существующие safeguards не успевают за ростом возможностей AI. У политиков возникает неприятный выбор. Если ждать полной научной определённости, момент для предупреждающих действий может пройти. Если действовать слишком рано и без доказательств, регулирование рискует зафиксировать неверные представления о технологии.
Где остаётся разрыв
На уровне принципов регулирование выглядит заметно лучше, чем несколько лет назад. Уже есть риск-ориентированный подход, требования к ответственности, документации, human oversight, безопасности и управлению в течение жизненного цикла.
Разрыв находится в скорости, измеримости и способности применять эти принципы к frontier-моделям.
Регулятору требуется технически проверить то, что ещё недавно могли оценивать только сами разработчики. Для этого нужны независимые специалисты, вычислительные ресурсы, закрытые тесты и доступ к модели до публичного выпуска. Обычной юридической экспертизы здесь недостаточно.
Сохраняется и информационная асимметрия. Frontier-лаборатория знает о новой способности раньше клиентов, государства и общества. После релиза одна модель быстро распространяется по разным продуктам и юрисдикциям. Национальный регулятор контролирует последствия на своей территории, но не обязательно видит процесс разработки и все условия модели.
Наконец, прежние категории начинают пересекаться. Одна general-purpose model может одновременно участвовать в образовании, программировании, медицине, найме и управлении критической инфраструктурой. Риск возникает не только из модели и не только из отрасли. Его создаёт комбинация способности, данных, доступа, автономности и возможных последствий.
По какому пути будет развиваться AI Governance
Прогнозировать конкретные нормы сложнее, чем увидеть общий вектор. Несколько направлений уже просматриваются.
Способности станут важнее названий
Регуляторам не обязательно ждать момента, когда индустрия договорится, какая система заслуживает слова AGI. Практические правила будут всё чаще привязываться к измеряемым возможностям: проведению сложных кибератак, работе с биологическими угрозами, обходу safeguards, самостоятельному планированию или способности ускорять AI-разработку.
Так уже устроен Frontier Safety Framework Google DeepMind: более сильные меры включаются при достижении определённых capability levels, а не после присвоения модели нового маркетингового названия.
Проверка до релиза станет отдельной функцией
В своём июльском эссе Хассабис предлагает создать в США standards body с независимыми техническими экспертами. Frontier-лаборатории сначала добровольно передавали бы модели на проверку за 30 дней до релиза. После отработки процедуры успешное прохождение тестов могло бы стать условием допуска модели на американский рынок.
Конкретная конструкция ещё будет обсуждаться. Но направление выглядит правдоподобно: самые мощные модели будут оцениваться не только внутри компании-разработчика и не только после появления ущерба.
Плановый review дополнит событийный
Ежегодная оценка останется полезной для общей системы управления. Frontier AI потребует дополнительных триггеров: новая критическая способность, изменение модели, подключение инструментов, увеличение автономности, расширение группы пользователей, серьёзный инцидент или обнаруженный способ обхода контроля.
Governance постепенно становится системой наблюдения за изменениями, а не архивом когда-то выданных разрешений.
Контроль сместится от ответа к действию
Чем самостоятельнее AI, тем меньше его риск можно оценить только по качеству текста. Понадобится контролировать разрешения, среду выполнения, доступ к данным, последовательность действий, возможность отката и условия остановки.
В AI Control Roadmap Google DeepMind предлагает рассматривать высокоспособного агента как потенциальную внутреннюю угрозу: выдавать доступ постепенно, наблюдать за поведением и переходить от последующего анализа к блокированию в реальном времени там, где цена ошибки высока.
Инциденты станут общей системой раннего предупреждения
Отдельная организация видит только собственную часть картины. Повторяющиеся ошибки, способы обхода ограничений и неожиданные способности можно заметить раньше, если разработчики, компании и государства используют сопоставимые категории incident reporting.
OECD уже разрабатывает общий подход к описанию AI-инцидентов, который страны смогут адаптировать к своему законодательству. ООН создаёт международную научную инфраструктуру для оценки возможностей и рисков. Исполнение правил останется национальным, а доказательная база будет становиться всё более общей.
Что это меняет в практике уже сейчас
Компаниям не нужно объявлять собственную AGI-программу. Большинство из них не разрабатывает frontier-модели и не будет напрямую участвовать в их предварительном тестировании.
Но именно компании превращают общую модель в конкретную систему: дают ей данные, подключают к процессам, назначают роль и разрешают действия. Один и тот же frontier model может остаться инструментом для черновика или стать участником решения, затрагивающего деньги, безопасность и права людей.
Поэтому зрелость AI Governance будет всё меньше определяться объёмом политики. Важнее способность организации увидеть изменение:
- модель получила новую возможность;
- прежний человеческий контроль больше не соответствует скорости системы;
- интеграция дала доступ, которого не было при согласовании;
- обратимый черновик превратился в автоматическое действие;
- последствия вышли за пределы одного пользователя или команды.
В предыдущей статье о shadow AI я писала, что компания не может управлять применением, которого не видит. Frontier AI добавляет следующий слой: недостаточно однажды увидеть систему — нужно заметить момент, когда она перестала быть прежней.
Прогноз может не сбыться. Время всё равно уже идёт
AGI может появиться позже 2030 года. Его развитие может замедлиться из-за технических ограничений, экономики, энергетики или отсутствия необходимых научных прорывов. Возможно, само слово AGI так и останется предметом спора, а реальные способности будут приходить постепенно.
Но governance не проигрывает от подготовки к более сильным системам.
Независимое тестирование, событийный пересмотр, контроль действий, прозрачные границы полномочий и обмен информацией об инцидентах нужны уже сегодняшним AI-агентам. Если прогноз Хассабиса окажется слишком смелым, эти механизмы улучшат управление тем, что существует сейчас. Если технологический скачок действительно произойдёт в течение нескольких лет, именно они станут основой, которую уже поздно будет проектировать после релиза.
Мы пока не знаем, какая система первой получит название AGI. Гораздо важнее, успеем ли мы построить управление, которое способно заметить: система стала сильнее, самостоятельнее и ближе к реальному действию — и прежних условий контроля уже недостаточно.
Share
