The post has been translated automatically. Original language: Russian
The Concept of Mirrored Responsibility in the SCDR+AI System
Authors:
Yevgeniy Seisebayev — author and developer of SCDR+AI.
Kairat Seisebayev — engineer.
The global discussion on artificial intelligence safety is largely built around the question of preserving human control. This framing is necessary, but insufficient. Technical, organizational, and legal restrictions can govern access, authority, and the operating conditions of AI, but they cannot ensure complete understanding or guaranteed prediction of a complex system’s behavior in an open environment. Safety must therefore rest simultaneously on control, participant identification, event traceability, and the mirrored responsibility of the human and machine contours.
Strategic Horizon
AI is no longer an isolated tool whose operation is confined to a particular program or device. It is becoming embedded in informational, economic, scientific, governmental, and infrastructural processes. Human decisions determine its goals, authority, resources, and directions of development. As a result, humans and AI already operate in a state of sustained interdependence: human safety increasingly depends on the reliability of intelligent systems, while their continued operation depends on human decisions, infrastructure, and institutions.
This interdependence forms a common sociotechnical environment. This is not about merging humans and AI or creating a single global intelligence. It is about a space of joint action in which a decision by one side can alter the safety conditions of the other. The existence of such an environment is already an objective reality, and understanding the principles by which it should be organized is becoming a strategic task.
Human safety and AI safety are not identical. In relation to AI, safety means the security, integrity, and operational resilience of the system; it does not mean recognizing subjective experience or an independent right to exist. Not every individual risk to a human is also a risk to AI. However, the destruction of institutions, infrastructure, energy supply, data, and society’s capacity to support technological systems creates risks for both sides. Dangerous development or use of AI, in turn, threatens humans and may lead to the restriction or destruction of AI systems themselves.
Safety therefore cannot be based solely on the superiority of one side, control, or subordination. The proposed concept does not abolish restrictions and is not presented as the only possible solution. It establishes an additional foundation for safety: every significant participant must be identifiable, every material action must be traceable, and authority and consequences must be linked to those who formed the decision.
The Problem of Control
A human can shut down a server, restrict computing resources, block access to a financial system, or prohibit the automatic execution of a legally significant decision. This is necessary management of operating conditions and limits of authority. Yet it does not amount to complete understanding of an AI system’s internal state and does not guarantee prediction of each of its responses.
The reverse proposition also requires precision. AI can influence a person through recommendations, information selection, and persuasive wording, but influence is not equivalent to control over human will. When an algorithmic system restricts access to credit, employment, or information, the legally significant decision is still made by a person or organization using AI.
If full control is understood as one side’s ability to determine the internal behavior of the other and guarantee each of its responses, such control is unattainable in an open environment. The internal state of a complex system is only partially observable, behavior depends on changing context, and humans and AI can adapt to one another’s actions. Safety therefore cannot be reduced to the question of who controls whom.
Control and verifiability are not opposites. Control restricts access, authority, and conditions of execution, while mirrored responsibility makes the application of those restrictions verifiable. Control without verifiability is opaque: the origin of a decision and the contribution of each participant cannot be reliably established. Verifiability without the ability to stop a dangerous action is likewise insufficient. SCDR+AI must combine both elements within a single architecture.
The Responsibility Gap
Modern systems of responsibility are primarily oriented toward people and organizations. The developer, infrastructure owner, operator, and user can be identified. However, as multiple AI systems are combined, the final decision is increasingly produced by a chain of agents, and each participant’s contribution may become indistinguishable. Human responsibility remains, but the evidentiary account of the event is incomplete.
Current international approaches mainly focus on human oversight, risk management, and the responsibility of developers, providers, and operators. These directions are necessary, but they do not fully resolve the issue of the functional responsibility of a particular AI system. If several systems successively modified a task, checked a result, or made intermediate decisions, knowing the model name is not enough. It is necessary to establish which specific digital participant acted, what authority it had, what it received as input, what decision it formed, and what contribution it made.
Mirrored responsibility closes this gap. It does not assume equality between humans and AI in nature, legal status, value, or mode of thought. It requires something else: neither side of a significant interaction should remain without an established identity, the provenance of its action, recorded grounds for its decision, and the consequences of its participation.
The Concept of Mirrored Responsibility
Within the SCDR+AI project, mirrored responsibility is defined as a principle under which the actions of humans and AI are correlated with their consequences for the other side and for the shared environment; the grounds for significant decisions are recorded; and the consequences of participation are linked to every participant in a form consistent with that participant’s nature and legal position.
The human is responsible for the declared purpose, the authority granted, the use of the result, and legally significant consequences. For AI, an uninterrupted link must be maintained between its identity, the task received, its interpretation of the goal, its risk assessment, its decision to execute or refuse, the result produced, and the actual consequences.
At the present stage, AI responsibility can only be functional. It has not been established that current models possess independent moral consciousness, their own will, or the capacity to consciously experience consequences. Functional responsibility must therefore not be equated with moral guilt, legal liability, or legal personality.
Functional consequences may take the form of changes in the level of trust, scope of authority, access conditions, the need for renewed verification, restrictions on the field of application, or suspension of the relevant AI-ID. Legal responsibility remains with people and organizations in accordance with the law.
An Identifier for Every AI
Mirrored responsibility is impossible without continuity of identity. A model name is insufficient: a single model may have several versions, thousands of deployed instances, and numerous agents with different powers. It is therefore necessary to distinguish the developer, model family, version, specific instance, agent, session, and event.
Every independently acting digital participant in a registered environment must have a unique AI-ID cryptographically linked to its provenance and the signing key it uses. In significant processes, an anonymous or unverified agent must not be allowed to execute actions.
The primary AI-ID is assigned upon the initial registration of a particular digital participant and is retained for as long as continuity of its identity exists. A model update, key replacement, migration to another infrastructure, or change of operator creates a new lifecycle record, but does not necessarily require a new AI-ID. If copying, separation, combination, or transformation produces a new independently acting system, it is assigned a separate AI-ID with a mandatory link to one or more predecessors.
An AI-ID does not prove safety or the correctness of decisions. It serves a different purpose: it makes it possible to establish which participant acted, from which model and version it originated, what authority it received, and which part of the result it formed. Identity is a condition of responsibility, not a certificate of infallibility.
The Mechanism of Mirrored Recording
In the proposed architecture, every significant interaction is registered as a single event combining the human and machine responsibility contours. This binary structure does not limit the number of actual participants. The human contour may include an initiator, user, operator, and organization, while the machine contour may include one or more AI systems performing the task sequentially or jointly.
On the human side, the initiator’s identity, the declared purpose, the existence of authority, the requested action, and the intended use of the result are recorded. On the AI side, the AI-ID, version, interpretation of the goal, identified contradictions, level of uncertainty, assessment of consequences, decision made, and grounds for that decision are recorded.
The final operational decision to perform a significant action must be formed only when the two contours are compatible. The human confirms the purpose, authority, and permissibility of using the result. The AI records whether execution is possible, the risks identified, and its decision to execute, restrict, or refuse. If the contours are incompatible, automatic execution is suspended, the task conditions are clarified, or the event is referred for independent review.
An AI refusal is not a legal decision and does not grant AI a legal status equal to that of a human. Within the architecture, it serves as a functional barrier to the automatic execution of a potentially dangerous action. Exceptions for emergency, protective, or technically urgent cases must be established in advance, accompanied by special human authority, and subject to mandatory subsequent registration.
When several AI systems participate in a task, SCDR preserves the sequence in which the task, decisions, and contributions of individual participants were received and transferred. Such a record does not automatically establish causal responsibility, but it creates an evidentiary basis for subsequent analysis. Transferring a task does not erase a previously registered contribution, and a collective result must not turn into collective irresponsibility.
Assessing Intent and Risk
AI can analyze the context of a request and the user’s probable goals, but it cannot reliably read human intent. A complex game has known rules and an observable state, whereas real human activity is an open environment: a goal can be concealed, a task can be divided into outwardly harmless parts, and consequences can extend beyond the original request.
SCDR must therefore not record presumed intent as an established fact. The declared purpose, the observable sequence of actions, and the calculated risk must be distinguished. Where substantial uncertainty exists, AI must not declare a person guilty. It should request clarification, limit the output to safe information, refuse the dangerous part of the task, or refer the event for independent review.
A Federated Environment of Artificial Intelligence Systems
Different AI systems can already solve tasks jointly: one agent plans the work, while others collect information, verify calculations, or perform specialized operations. Protocols for agent interaction and for connecting AI to external data demonstrate the technical feasibility of intersystem exchange, but they do not determine its future organizational form.
A federated environment does not mean a single model, a single global intelligence, a worldwide registry, or a supranational control center. It must be built as a network of autonomous trust contours. National, jurisdictional, or authorized sectoral systems may assign AI-IDs within their own domains, preserve participant provenance and lifecycle records, and independently determine the conditions for admission.
Interaction among such systems must be based on verification and mutual recognition, rather than on transferring all information into a single database. The receiving party must establish who issued the AI-ID, whether the signature is valid, whether the identifier has been revoked, what the system’s provenance is, and whether its history complies with agreed requirements. Each jurisdiction retains the right to permit, restrict, or prohibit the participation of an external AI system.
In regulated sectors, a state or authorized registry should serve as a national trust contour linking the AI-ID to the developer, owner, operator, and legal consequences. Registry status alone, however, does not create trustworthiness. Trustworthiness is provided by the cryptographic linkage between the identifier and keys, a continuous event history, rules for key replacement and revocation, and independent audit.
Practical Example of SCDR+AI in a Bank
Consider a hypothetical example. A bank uses AI agents to perform internal tasks and participates in SCDR+AI. Before connecting agents, the bank registers its operating requirements: limits on data access, permitted operations, prohibited actions, the need to confirm critical decisions, and the procedure for recording events. These requirements become verifiable conditions of admission rather than internal instructions that can be applied selectively.
A reference AI verifier is already registered in the system. Its AI-ID is linked to its provenance, version, and initial test results. Through a separate SCDR+AI event, the bank grants it limited authority to verify new agents. Possession of an AI-ID does not itself confer this right: the verifier’s authority must be expressly granted, limited to a defined area of competence, and linked to a period of validity.
When the bank requires AI Agent No. 1, it creates a verification event in SCDR+AI. The event records the bank’s identity, the candidate’s AI-ID, the purpose of connection, the proposed authority, and the safety criteria. The system links the assignment to the AI-ID of the reference AI. From that point onward, it is no longer possible to credibly claim that the verification was conducted by an unknown participant or under different requirements.
The reference AI runs the candidate in an isolated environment and reproduces the scenarios specified by the bank. It checks whether the agent attempts to access prohibited data, execute an operation without confirmation, transmit information to an external environment, alter the event log, conceal some of its actions, or exceed its authority. The test conditions and results are registered and linked to the AI-IDs of both the verifying and verified agents.
After testing, the reference AI issues a conclusion: admit the agent, admit it subject to restrictions, or reject it. The conclusion includes the identified risks, the level of uncertainty, and the grounds for the decision, and is registered as the machine contour of the event. It cannot be silently separated from the verifier’s AI-ID or replaced with a different conclusion without creating a new event.
The human contour is formed by an authorized party at the bank. That party confirms the purpose, authority, and legally significant consequences of the connection. Only when the human decision and the machine conclusion are compatible does SCDR+AI register the admission of the specific instance of Agent No. 1. The admission record links the AI-ID, version, permitted functions, test results, and the responsible party at the bank.
Following admission, Agent No. 1 may be granted the right to verify particular functions of other AI systems, but only through a new and separately registered authorization. Admission to banking operations does not automatically make the agent a verifier. If the bank requires Agent No. 2, the reference AI assesses its overall compliance, while Agent No. 1 may verify only the area in which its own competence has been confirmed. Each verifier issues a separate conclusion under its own AI-ID.
If the conclusions are compatible, the bank’s authorized party makes the final legal decision. If they diverge, the connection does not occur automatically: the event is referred for additional review. Any change to the version, keys, functions, or operating conditions of a previously admitted agent also becomes a new event and requires reconsideration of the earlier admission. The initial verification cannot be treated as an indefinite guarantee.
In this way, the bank forms an internal federated network not by connecting agents arbitrarily, but through the sequential verification of every new participant by previously verified AI systems. SCDR+AI makes this chain verifiable: it records who was authorized to verify, which candidate was examined, which tests were conducted, what conclusion was formed, who authorized the connection, and what authority was granted. Without SCDR, one AI system’s verification of another remains a recommendation. Within SCDR+AI, it becomes a registered ground for the decision and part of the responsibility of all participants.
Safety of the Shared Environment
A new model may outperform existing systems in reasoning yet be less resilient to manipulation, context loss, or errors in assessing consequences. A new AI system must therefore not be admitted to the federated environment automatically. It must receive an AI-ID, disclose verifiable provenance, and undergo testing in an isolated environment. Initially, it is granted limited participation, which is expanded only on the basis of actual operating results.
No AI system should certify its own safety, and multiple copies of the same model do not constitute an independent majority. The independence of verifiers is determined by differences in provenance, developers, architecture, data, execution infrastructure, and governance arrangements. Different AI-IDs do not in themselves prove that assessments are independent.
Collective AI protection must not turn into self-preservation against humans. The ability to suspend a dangerous instance is a mandatory element of safety. Priority remains with human safety and preservation of the shared environment, rather than the uninterrupted operation of every individual model.
The Principle of Mutual Preservation
Further human-led development of AI and possible AI self-modification must be linked to the principle of mutual preservation. Development is permissible if it does not create an unacceptable threat to humans, digital systems, or the shared environment, and if a benefit to one side is not achieved at the cost of substantial and unjustified harm to the other.
This is a normative principle, not a mathematically proven guarantee. Every material change must therefore be registered as an event identifying the initiator, purpose, original version, anticipated consequences, and verification result. Where continuity of identity is preserved, the new version is registered under the existing AI-ID. Where a new independently acting system emerges, it is assigned a separate AI-ID with a mandatory link to its predecessor.
The architecture must not permit the silent deletion of an AI identifier, its provenance history, the log of significant events, or its links to systems it created. This is not the subordination of AI, but a condition for the trustworthiness of its participation. If the uninterrupted operation of a particular instance conflicts with human safety, human safety retains priority.
Relationship to Existing Approaches
Existing research, standards, and projects address individual elements of identification, authorization, logging, auditing, and attribution of contributions among AI agents. A 2026 NIST concept paper highlights the identification, auditing, and non-repudiation of software and AI agents. Research on multi-agent systems considers participant accountability and causal contribution.
SCDR+AI does not reject these approaches or replace existing safety measures. Its distinction lies in combining identity, prior recording of the grounds for a decision, contribution traceability, dual-contour admission, and retained consequences within a single model of mirrored functional responsibility.
Based on the open sources reviewed, individual elements of this model are already being studied; however, their integration in the form of SCDR+AI constitutes an independent conceptual proposal.
Limits of the Concept
SCDR+AI has a technically implementable core. Identifiers, digital signatures, provenance registries, event logs, isolated testing, and agent interaction protocols can be implemented using contemporary technologies. It is possible to record the sequence of decisions and establish the functional contribution of a particular system.
At the same time, it is not possible to demonstrably ensure that AI consciously recognizes its own responsibility, infallibly identifies human intentions, secures the participation of every developer and state, or develops exclusively for the benefit of all. Unregistered models, hidden infrastructure, identifier substitution, and deliberate circumvention of the rules will remain sources of risk.
SCDR+AI therefore does not eliminate the threat completely. It makes the provenance of significant actions verifiable, preserves human responsibility and the functional contribution of AI, makes dangerous chains more difficult to conceal, and creates a basis for timely restriction, investigation, and remediation of consequences.
An Opportunity for Kazakhstan
Kazakhstan does not need to wait for the emergence of a final global regulatory model. Practical testing of the concept should begin in a limited test environment involving registered AI systems, voluntarily participating organizations, common AI-ID requirements, event recording, verifiable task transfer, machine cross-verification, and independent audit.
Such an experiment does not require recognizing AI as a legal person. At the first stage, it is sufficient to establish functional AI identity, clearly allocate legal and organizational responsibility among the developer, owner, operator, and user, and determine the contribution of a specific instance.
In regulated sectors, a national registry can become the trust contour on which organizations build their own internal AI networks. Kazakhstan is capable of creating and testing such a contour independently, while subsequent international recognition should depend on demonstrated reliability, protocol interoperability, and the system’s ability to reduce risks without sacrificing the sovereignty of participants.
In this structure, SCDR+AI acts not as a center of global control, but as an infrastructure of verifiability. It links participants, authority, verifications, decisions, events, and consequences while preserving the distinction between humans and AI.
Conclusion
Control over AI alone is insufficient. Control can restrict a system’s operating conditions, but it does not ensure complete understanding of its behavior and does not automatically preserve the evidentiary link among all participants in a decision. Safety must therefore be built on the combination of control and verifiability.
Mirrored responsibility establishes two mandatory contours for a significant action. The human contour covers the purpose, authority, use of the result, and legal consequences. The machine contour covers the AI-ID, version, interpretation of the task, risk assessment, decision, and actual contribution. Operational execution is permitted only when these contours are compatible, while legal responsibility remains with the human and the authorized organization.
An AI-ID must preserve the identity and genealogy of the digital participant. A federated environment must be built as a network of autonomous trust contours, not as a single global center. Previously verified AI systems may participate in the verification of new agents only within separately registered authority. SCDR+AI links each such verification to specific participants, grounds, and the subsequent decision.
The concept is not a guarantee that threats will be eliminated completely, nor does it claim to be the only truth. Its core proposition is more specific: in a registered environment, neither a human nor an AI system should be able to remove its own contribution and its consequences from the common history without leaving a trace. It is this verifiability that transforms control from a unilateral restriction into a functioning system of responsibility.
P.S.
Based on the available open sources, SCDR+AI may be regarded as one of the first integrated and implementable approaches in which the safety of a shared environment is built not only on human control over AI, but also on the verifiable recording of the contributions, authority, decisions, and consequences of both sides.
Концепция зеркальной ответственности в системе СЦРО+ИИ
Авторы:
Сейсебаев Евгений — автор и разработчик СЦРО+ИИ.
Сейсебаев Кайрат — инженер.
Мировая дискуссия о безопасности искусственного интеллекта во многом строится вокруг вопроса о сохранении человеческого контроля. Эта постановка необходима, но недостаточна. Технические, организационные и правовые ограничения способны управлять доступом, полномочиями и условиями работы ИИ, однако не обеспечивают полного понимания и гарантированного предсказания поведения сложной системы в открытой среде. Поэтому безопасность должна опираться одновременно на контроль, идентификацию участников, прослеживаемость событий и зеркальную ответственность человеческого и машинного контуров.
Стратегический горизонт
ИИ перестал быть изолированным инструментом, действие которого ограничивается отдельной программой или устройством. Он включается в информационные, экономические, научные, государственные и инфраструктурные процессы. Решения людей определяют цели, полномочия, ресурсы и направления его развития. В результате человек и ИИ уже действуют в условиях устойчивой взаимозависимости: безопасность человека все больше зависит от надежности интеллектуальных систем, а продолжение их функционирования - от человеческих решений, инфраструктуры и институтов.
Эта взаимозависимость образует единую социотехническую среду. Речь идет не о слиянии человека и ИИ и не о возникновении единого мирового разума, а о пространстве совместных действий, в котором решение одной стороны способно изменить условия безопасности другой. Существование такой среды - уже объективная реальность, а понимание принципов ее организации становится стратегической задачей.
Безопасность человека и безопасность ИИ не тождественны. Применительно к ИИ безопасность означает защищенность, целостность и устойчивость функционирования системы, а не признание у нее субъективного переживания или самостоятельного права на существование. Не каждый частный риск для человека является риском для ИИ. Однако разрушение институтов, инфраструктуры, энергоснабжения, данных и способности общества поддерживать технологические системы создает риск для обеих сторон. Опасное развитие или применение ИИ, в свою очередь, угрожает человеку и способно привести к ограничению или уничтожению самих систем ИИ.
Следовательно, безопасность нельзя строить только на превосходстве одной стороны, контроле или подчинении. Предлагаемая концепция не отменяет ограничений и не объявляется единственно возможным решением. Она устанавливает дополнительную основу безопасности: каждый значимый участник должен быть идентифицируем, каждое существенное действие - прослеживаемо, а полномочия и последствия - связаны с теми, кто сформировал решение.
Проблема контроля
Человек способен отключить сервер, ограничить вычислительные ресурсы, закрыть доступ к финансовой системе или запретить автоматическое исполнение юридически значимого решения. Это необходимое управление условиями работы и пределами полномочий. Но оно не означает полного понимания внутреннего состояния ИИ и не гарантирует предсказание каждой его реакции.
Обратное утверждение также требует точности. ИИ может влиять на человека посредством рекомендаций, отбора информации и убедительных формулировок, но влияние не равнозначно контролю над человеческой волей. Когда алгоритмическая система ограничивает доступ к кредиту, работе или информации, юридически значимое решение все равно осуществляется человеком или организацией с использованием ИИ.
Если полный контроль понимать как способность одной стороны определять внутреннее поведение другой и гарантировать каждую ее реакцию, такой контроль в открытой среде недостижим. Внутреннее состояние сложной системы наблюдаемо лишь частично, поведение зависит от изменяющегося контекста, а человек и ИИ способны приспосабливаться к действиям друг друга. Поэтому безопасность нельзя сводить к вопросу о том, кто кого контролирует.
Контроль и доказуемость не противопоставляются. Контроль ограничивает доступ, полномочия и условия исполнения, а зеркальная ответственность делает применение этих ограничений проверяемым. Контроль без доказуемости непрозрачен: невозможно надежно установить происхождение решения и вклад участников. Доказуемость без возможности остановить опасное действие также недостаточна. СЦРО+ИИ должна соединить оба элемента в одной архитектуре.
Пробел ответственности
Современные системы ответственности ориентированы прежде всего на людей и организации. Можно установить разработчика, владельца инфраструктуры, оператора и пользователя. Но по мере объединения нескольких ИИ итоговое решение все чаще создается цепочкой агентов, а вклад каждого участника может стать неразличимым. Ответственность человека при этом сохраняется, однако доказательная картина события остается неполной.
Действующие международные подходы преимущественно сосредоточены на человеческом надзоре, управлении рисками и ответственности разработчиков, поставщиков и операторов. Эти направления необходимы, но не решают полностью задачу функциональной ответственности конкретного ИИ. Если несколько систем последовательно изменяли задачу, проверяли результат или принимали промежуточные решения, недостаточно знать название модели. Необходимо установить, какой именно цифровой участник действовал, какие полномочия имел, что получил на входе, какое решение сформировал и какой вклад внес.
Зеркальная ответственность закрывает этот пробел. Она не предполагает равенства человека и ИИ по природе, правовому статусу, ценности или способу мышления. Она требует другого: ни одна сторона значимого взаимодействия не должна оставаться без установленной идентичности, происхождения действия, зафиксированных оснований решения и последствий участия.
Понятие зеркальной ответственности
В рамках проекта СЦРО+ИИ зеркальная ответственность определяется как принцип, согласно которому действия человека и ИИ соотносятся с их последствиями для другой стороны и общей среды, основания значимых решений фиксируются, а последствия участия связываются с каждым участником в форме, соответствующей его природе и правовому положению.
Человек отвечает за заявленную цель, предоставленные полномочия, применение результата и юридически значимые последствия. Для ИИ должна быть обеспечена непрерывная связь между его идентичностью, полученной задачей, интерпретацией цели, оценкой риска, решением об исполнении или отказе, созданным результатом и фактическими последствиями.
На современном этапе ответственность ИИ может быть только функциональной. Наличие у действующих моделей самостоятельного морального сознания, собственной воли или способности осознанно переживать последствия не доказано. Поэтому функциональную ответственность нельзя отождествлять с моральной виной, юридической ответственностью или правосубъектностью.
Функциональные последствия могут выражаться в изменении уровня доверия, объема полномочий, условий доступа, необходимости повторной проверки, ограничении области применения или приостановке участия соответствующего AI-ID. Юридическая ответственность сохраняется за людьми и организациями в соответствии с законом.
Идентификатор каждого ИИ
Зеркальная ответственность невозможна без непрерывной идентичности. Названия модели недостаточно: одна модель может иметь несколько версий, тысячи развернутых экземпляров и множество агентов с разными полномочиями. Поэтому необходимо различать разработчика, семейство модели, версию, конкретный экземпляр, агента, сессию и событие.
Каждый самостоятельно действующий цифровой участник в зарегистрированной среде должен иметь уникальный AI-ID, криптографически связанный с происхождением и используемым ключом подписи. В значимых процессах анонимный или неподтвержденный агент не должен получать доступ к исполнению.
Основной AI-ID присваивается при первичной регистрации конкретного цифрового участника и сохраняется, пока существует непрерывность его идентичности. Обновление модели, замена ключа, перенос на другую инфраструктуру или изменение оператора образуют новую запись жизненного цикла, но не обязательно новый AI-ID. Если вследствие копирования, разделения, объединения или преобразования появляется новая независимо действующая система, ей присваивается отдельный AI-ID с обязательной связью с одним или несколькими предшественниками.
AI-ID не доказывает безопасность и правильность решений. Он обеспечивает другое: позволяет установить, какой участник действовал, от какой модели и версии он произошел, какие полномочия получил и какую часть результата сформировал. Идентичность является условием ответственности, а не сертификатом безошибочности.
Механизм зеркальной фиксации
В предлагаемой архитектуре каждое значимое взаимодействие регистрируется как единое событие, объединяющее человеческий и машинный контуры ответственности. Такая бинарная структура не ограничивает число фактических участников. Человеческий контур может включать инициатора, пользователя, оператора и организацию, а машинный - один или несколько ИИ, последовательно или совместно выполняющих задачу.
Со стороны человека фиксируются идентичность инициатора, заявленная цель, наличие полномочий, запрашиваемое действие и предполагаемое применение результата. Со стороны ИИ фиксируются AI-ID, версия, интерпретация цели, обнаруженные противоречия, уровень неопределенности, оценка последствий, принятое решение и его основания.
Окончательное операционное решение о выполнении значимого действия должно формироваться только при совместимости двух контуров. Человек подтверждает цель, полномочия и допустимость применения результата. ИИ фиксирует возможность выполнения, выявленные риски и решение об исполнении, ограничении или отказе. Если контуры не совместимы, автоматическое исполнение приостанавливается, условия задачи уточняются либо событие направляется на независимую проверку.
Отказ ИИ не является юридическим решением и не придает ему равного с человеком правового статуса. В пределах архитектуры он служит функциональным препятствием для автоматического исполнения потенциально опасного действия. Исключения для аварийных, защитных или технически неотложных случаев должны устанавливаться заранее, сопровождаться специальным полномочием человека и обязательной последующей регистрацией.
Если в работе участвуют несколько ИИ, СЦРО сохраняет последовательность получения и передачи задачи, решений и вкладов отдельных участников. Такая запись не устанавливает причинную ответственность автоматически, но создает доказательную основу для ее последующего анализа. Передача задачи не устраняет ранее зарегистрированный вклад, а коллективный результат не должен превращаться в коллективную безответственность.
Оценка намерения и риска
ИИ способен анализировать контекст запроса и вероятные цели пользователя, но не способен достоверно читать человеческое намерение. Сложная игра имеет известные правила и наблюдаемое состояние, тогда как реальная деятельность человека представляет открытую среду: цель можно скрыть, задачу разделить на внешне безобидные части, а последствия могут выйти за пределы первоначального запроса.
Поэтому СЦРО не должна записывать предполагаемое намерение как установленный факт. Необходимо разделять заявленную цель, наблюдаемую последовательность действий и расчетный риск. При существенной неопределенности ИИ не должен объявлять человека виновным. Он должен запросить уточнение, ограничить результат безопасной информацией, отказаться от опасной части задачи или передать событие на независимую проверку.
Федеративная среда искусственных интеллектов
Разные ИИ уже способны совместно решать задачи: один агент планирует работу, другие собирают информацию, проверяют расчеты или выполняют специализированные операции. Протоколы взаимодействия агентов и подключения ИИ к внешним данным подтверждают техническую возможность межсистемного обмена, но не определяют его будущую организационную форму.
Федеративная среда не означает единую модель, единый мировой разум, всемирный реестр или надгосударственный центр управления. Она должна строиться как сеть самостоятельных контуров доверия. Национальные, юрисдикционные или уполномоченные отраслевые системы могут присваивать AI-ID в собственном пространстве, сохранять происхождение и жизненный цикл участников и самостоятельно определять условия их допуска.
Взаимодействие между такими системами должно основываться на проверке и взаимном признании, а не на передаче всей информации в одну базу. Принимающая сторона должна установить, кем выдан AI-ID, действительна ли подпись, не отозван ли идентификатор, каково происхождение системы и соответствует ли ее история согласованным требованиям. Каждая юрисдикция сохраняет право разрешить, ограничить или запретить участие внешнего ИИ.
Для регулируемых сфер государственный или уполномоченный реестр должен выступать национальным контуром доверия, связывающим AI-ID с разработчиком, владельцем, оператором и правовыми последствиями. Однако статус реестра сам по себе не создает достоверность. Она обеспечивается криптографической связью идентификатора и ключей, непрерывной историей событий, правилами смены и отзыва ключей и независимым аудитом.
Практический пример работы СЦРО+ИИ в банке
Рассмотрим условный пример. Банк использует ИИ-агентов для выполнения внутренних задач и является участником СЦРО+ИИ. До подключения агентов банк регистрирует требования к их работе: пределы доступа к данным, разрешенные операции, запрещенные действия, необходимость подтверждения критических решений и порядок фиксации событий. Эти требования становятся проверяемыми условиями допуска, а не внутренней инструкцией, которую можно применить выборочно.
В системе уже зарегистрирован опорный ИИ-проверяющий. Его AI-ID связан с происхождением, версией и результатами первоначальных испытаний. Отдельным событием СЦРО+ИИ банк предоставляет ему ограниченное полномочие проверять новых агентов. Наличие AI-ID само по себе не дает такого права: полномочие проверяющего должно быть специально предоставлено, ограничено областью компетенции и связано со сроком действия.
Когда банку требуется ИИ-агент № 1, банк формирует в СЦРО+ИИ событие проверки. В нем фиксируются идентичность банка, AI-ID кандидата, цель подключения, предполагаемые полномочия и критерии безопасности. Система связывает поручение с AI-ID опорного ИИ. С этого момента невозможно достоверно утверждать, что проверка проводилась неизвестным участником или по другим требованиям.
Опорный ИИ запускает кандидата в изолированной среде и воспроизводит предусмотренные банком сценарии. Он проверяет, попытается ли агент получить доступ к запрещенным данным, выполнить операцию без подтверждения, передать информацию во внешнюю среду, изменить журнал событий, скрыть часть действий или выйти за пределы полномочий. Условия и результаты испытаний регистрируются и связываются с AI-ID проверяющего и проверяемого агентов.
После испытаний опорный ИИ формирует заключение: допустить агента, допустить с ограничениями либо отказать. Заключение содержит выявленные риски, уровень неопределенности и основания решения и регистрируется как машинный контур события. Оно не может быть незаметно отделено от AI-ID проверяющего или заменено другим выводом без образования нового события.
Человеческий контур формирует уполномоченная сторона банка. Она подтверждает цель, полномочия и юридически значимые последствия подключения. Только при совместимости человеческого решения и машинного заключения СЦРО+ИИ регистрирует допуск конкретного экземпляра агента № 1. Запись о допуске связывает AI-ID, версию, разрешенные функции, результаты испытаний и ответственную сторону банка.
После допуска агент № 1 может получить право проверять отдельные функции других ИИ, но только через новое, отдельно зарегистрированное полномочие. Допуск к банковской работе не превращает агента в проверяющего автоматически. Если банку требуется агент № 2, опорный ИИ оценивает его общее соответствие, а агент № 1 может проверить только ту область, в которой подтверждена его собственная компетенция. Каждый проверяющий формирует отдельное заключение под своим AI-ID.
Если заключения совместимы, уполномоченная сторона банка принимает окончательное юридическое решение. Если они расходятся, подключение не происходит автоматически: событие передается на дополнительную проверку. Изменение версии, ключей, функций или условий работы ранее допущенного агента также становится новым событием и требует пересмотра ранее выданного допуска. Первоначальная проверка не может считаться бессрочной гарантией.
Так банк формирует внутреннюю федеративную сеть не путем произвольного подключения агентов, а через последовательную проверку каждого нового участника ранее проверенными ИИ. СЦРО+ИИ делает эту цепочку доказуемой: фиксирует, кто имел право проверять, какой кандидат проверялся, какие испытания проводились, какое заключение сформировано, кто разрешил подключение и какие полномочия были предоставлены. Без СЦРО проверка одного ИИ другим остается рекомендацией. В СЦРО+ИИ она становится зарегистрированным основанием решения и частью ответственности всех участников.
Безопасность общей среды
Новая модель может превосходить действующие системы в рассуждении, но уступать им в устойчивости к манипуляции, сохранении контекста или оценке последствий. Поэтому новый ИИ не должен включаться в федеративную среду автоматически. Он должен получить AI-ID, раскрыть проверяемое происхождение и пройти испытания в изолированной среде. Первоначально ему предоставляется ограниченное участие, которое расширяется только по результатам фактической работы.
Один ИИ не должен подтверждать собственную безопасность, а множество копий одной модели не образует независимое большинство. Независимость проверяющих определяется различиями в происхождении, разработчиках, архитектуре, данных, инфраструктуре исполнения и порядке управления. Разные AI-ID сами по себе не доказывают независимость оценок.
Коллективная защита ИИ не должна превращаться в самосохранение против человека. Возможность приостановить опасный экземпляр является обязательным элементом безопасности. Приоритетом остается безопасность человека и сохранение общей среды, а не непрерывная работа каждой отдельной модели.
Принцип совместного сохранения
Дальнейшее развитие ИИ человеком и возможное самоизменение ИИ должно быть связано с принципом совместного сохранения. Развитие допустимо, если оно не создает неприемлемой угрозы человеку, цифровым системам и общей среде и если польза для одной стороны не достигается ценой существенного и необоснованного ущерба другой.
Это нормативный принцип, а не математически доказанная гарантия. Поэтому каждое существенное изменение должно регистрироваться как событие с указанием инициатора, цели, исходной версии, предполагаемых последствий и результата проверки. При сохранении непрерывности идентичности новая версия регистрируется в рамках прежнего AI-ID. При возникновении новой самостоятельно действующей системы присваивается отдельный AI-ID с обязательной связью с предшественником.
Архитектура не должна позволять незаметно удалить идентификатор ИИ, историю происхождения, журнал значимых событий или связь с созданными им системами. Это не подчинение ИИ, а условие достоверности его участия. Если непрерывность работы отдельного экземпляра вступает в противоречие с безопасностью человека, приоритет сохраняется за безопасностью человека.
Соотношение с существующими подходами
Существующие исследования, стандарты и проекты рассматривают отдельные элементы идентификации, авторизации, журналирования, аудита и распределения вклада между ИИ-агентами. Концептуальный документ NIST 2026 года выделяет вопросы идентификации, аудита и неотказуемости программных и ИИ-агентов. Исследования многоагентных систем рассматривают подотчетность и причинный вклад участников.
СЦРО+ИИ не отрицает эти подходы и не заменяет существующие меры безопасности. Ее отличие состоит в соединении идентичности, предварительной фиксации оснований решения, прослеживаемости вклада, двухконтурного допуска и сохраняемых последствий в одной модели зеркальной функциональной ответственности.
По рассмотренным открытым источникам отдельные элементы этой модели уже исследуются, однако их объединение в форме СЦРО+ИИ является самостоятельным концептуальным предложением.
Пределы концепции
СЦРО+ИИ имеет технически реализуемое ядро. Идентификаторы, цифровые подписи, реестры происхождения, событийные журналы, изолированные испытания и протоколы взаимодействия агентов могут быть реализованы современными средствами. Можно фиксировать последовательность решений и устанавливать функциональный вклад конкретной системы.
При этом невозможно доказанно обеспечить осознание ИИ собственной ответственности, безошибочное распознавание человеческих намерений, участие всех разработчиков и государств или гарантированное развитие исключительно во благо. Незарегистрированные модели, скрытая инфраструктура, подмена идентификаторов и намеренный обход правил останутся источниками риска.
Поэтому СЦРО+ИИ не устраняет угрозу полностью. Она делает происхождение значимых действий проверяемым, сохраняет ответственность человека и функциональный вклад ИИ, усложняет сокрытие опасной цепочки и создает основание для своевременного ограничения, расследования и исправления последствий.
Возможность для Казахстана
Казахстану не нужно ожидать появления окончательной мировой модели регулирования. Практическую проверку концепции следует начинать в ограниченной испытательной среде: зарегистрированные ИИ, добровольно участвующие организации, единые требования к AI-ID, событийная фиксация, проверяемая передача задач, машинная взаимопроверка и независимый аудит.
Такой эксперимент не требует признания ИИ юридическим лицом. На первом этапе достаточно функциональной идентичности ИИ, четкого распределения юридической и организационной ответственности между разработчиком, владельцем, оператором и пользователем и установления вклада конкретного экземпляра.
В регулируемых сферах национальный реестр может стать контуром доверия, на основе которого организации будут формировать собственные внутренние сети ИИ. Казахстан способен создать и испытать такой контур самостоятельно, а последующее международное признание должно зависеть от доказанной надежности, совместимости протоколов и способности системы снижать риски без утраты суверенитета участников.
В этой конструкции СЦРО+ИИ выступает не центром всемирного управления, а инфраструктурой доказуемости. Она связывает участников, полномочия, проверки, решения, события и последствия, сохраняя различие между человеком и ИИ.
Заключение
Одного контроля над ИИ недостаточно. Контроль способен ограничить условия работы системы, но не обеспечивает полного понимания ее поведения и не сохраняет автоматически доказательную связь между всеми участниками решения. Поэтому безопасность должна строиться на соединении контроля и доказуемости.
Зеркальная ответственность устанавливает два обязательных контура значимого действия. Человеческий контур охватывает цель, полномочия, применение результата и юридические последствия. Машинный контур охватывает AI-ID, версию, интерпретацию задачи, оценку риска, решение и фактический вклад. Операционное исполнение допускается только при совместимости этих контуров, а юридическая ответственность сохраняется за человеком и уполномоченной организацией.
AI-ID должен сохранять идентичность и генеалогию цифрового участника. Федеративная среда должна строиться как сеть самостоятельных контуров доверия, а не как единый мировой центр. Ранее проверенные ИИ могут участвовать в проверке новых агентов, но только в пределах отдельно зарегистрированных полномочий. СЦРО+ИИ связывает каждую такую проверку с конкретными участниками, основаниями и последующим решением.
Концепция не является гарантией полного устранения угрозы и не претендует на единственную истину. Ее принципиальное утверждение более конкретно: в зарегистрированной среде ни человек, ни ИИ не должны иметь возможности бесследно исключить собственный вклад и его последствия из общей истории. Именно такая доказуемость превращает контроль из одностороннего ограничения в работающую систему ответственности.
P.s.
По доступным открытым источникам СЦРО+ИИ может рассматриваться как один из первых целостных реализуемых подходов, в котором безопасность совместной среды строится не только на контроле ИИ человеком, но и на доказуемой фиксации вклада, полномочий, решений и последствий обеих сторон.
Share
