The post has been translated automatically. Original language: Russian
The New Odyssey
Three thousand years ago, a man sailed home for ten years. He had the tailwind of the gods and the storms of the gods, cyclopes and sirens, temptations to stay forever and reasons to flee immediately. But if you read the Odyssey more closely, it becomes clear that the main plot of this poem is not at all about the war with monsters. It's about the fact that Odysseus is faced with a choice over and over again — and this choice always belongs only to him.
It is not fate that blinds Polyphemus; it is Odysseus' decision that blinds him. It is not God who ties himself to the mast, but the hero himself, knowing of his own weakness before the singing of sirens. Ithaca is waiting not because it was meant to be, but because every time a person finds himself at a crossroads, he chooses the path home rather than the path of least resistance. Homer seemed to know what we're rediscovering today, looking at our laptop screens: it's not circumstances that determine a person's fate. Fate is determined by how a person treats his freedom.
We don't have cyclopes today. We have neural networks that write code faster than we do, diagnose diseases more accurately than doctors, and drive cars more confidently than drivers. And that's where an interesting philosophical twist begins.: For some reason, we decided that if something stronger, faster, and more "intelligent" appears, then responsibility for what is happening automatically shifts to that something. As if intelligence is a throne, not a tool. It's as if by giving the steering wheel to a car, we're giving away our conscience at the same time.
This is a mistake. Moreover, the error is not technical, but deeply human.
Artificial intelligence is neither the hero of this story nor the villain. He's a mirror, polished to perfect clarity. It reinforces what we put into it: our goals, our prejudices, our greed, or our concern. AI does not decide whether to use the patient's data for good or for harm — the doctor who designs the system decides. AI does not decide whether to discriminate against job seekers based on a feature embedded in historical data, but an engineer who has not bothered to verify this data decides. The danger has never been that a machine will become smarter than a human. The calculator has been counting faster than us for a long time, and the world has not collapsed from this. The real danger lies elsewhere: at the moment when the algorithm makes a decision, a person feels almost physiological relief — as if the burden of choice has been lifted from him. And the responsibility removed is not freedom. This is the most dangerous form of unfreedom because it doesn't feel like a cage.
Every great technology in history has had the same moment of truth. Fire gave a man warmth and light — and gave him the opportunity to burn down someone else's house. The wheel connected trade routes — and transported armies of conquerors along the same roads. Electricity illuminated the hospitals — and illuminated the barbed wire of the concentration camps. The Internet has given everyone a voice — and has given every manipulator an audience. Atomic energy could have lit up continents — and instead, for the first time in history, it posed a stark question for humanity, without metaphors: do we really want this?
It is at this point that the history of twentieth-century science unexpectedly merges with the Homeric epic. Robert Oppenheimer, standing before the Trinity test, recites to himself a line from the Bhagavad-Gita that he has become the destroyer of worlds — but it is not this beautiful quotation that is important. What matters is what happens next: a man who has created a weapon of unprecedented power carries the burden of the question for the rest of his life — and whether he should have done it that way. Oppenheimer's greatness is not in physics. It's about refusing to hide behind the phrase "I was just doing a task." And the greatness of Odysseus is not in the strength with which he draws a bow that no groom could pull. The point is that, having regained his kingdom, he does not turn into a tyrant — he takes on the burden of restoring justice, not just power.
Both Homeric and Oppenheimer's stories tell us the same thing in different languages: a man's greatness is determined not by the power of his discoveries, but by his willingness to take responsibility for their consequences. You can create it. The question is always the same, and for three thousand years technology has not learned to answer it for us: we can do it. But should we use it that way?
Today, this question is not being asked in the classrooms of philosophers. It sounds in startup open spaces, in code reviews, in pitches to investors, in product managers' correspondence with the deadline "tomorrow morning". Every developer who trains a model on data whose origin he has not fully verified is at the same crossroads as Odysseus at the Cyclops cave. Every entrepreneur deciding whether to release a product that causes addiction in teenagers hears the same siren song as the hero tied to the mast, only without ropes that would save him from his own decision. Artificial intelligence engineers are not abstract "techies." These are modern navigators who determine by their daily, almost imperceptible choices what kind of shore the whole of humanity will dock on.
The difference is that Odysseus had ten years and a limited number of islands. The creators of modern technologies have billions of users and solutions that scale at the speed of light. The mistake of one oarsman once sank one boat. The error of one algorithm today can imperceptibly reshape millions of people's ideas about truth, beauty, and normalcy — before anyone has time to ask the question "should we?"
And here it is worth recognizing something inconvenient for the entire industry, which is in love with its growth schedules: technology itself has never changed the world. Gunpowder did not decide who would win the war. The printing press did not decide whether to spread the truth or a lie. The Internet did not decide whether to unite people or split them into angry camps. People decided — their fears, their ambitions, their ideas about what is acceptable and what is not. Technology is an amplifier of values, not a source of them. And if the creator is empty inside, no amount of computing power will fill it — it will just make this void louder to the whole world.
So the question that you should ask yourself not after the release, but before the first line of code, is not "what is this algorithm capable of," but "what am I capable of, creating it." Odysseus did not return home because the gods finally took pity. He came back because every time he was stronger than circumstances, he chose not to succumb to them.
Artificial intelligence does not determine the future. The future is determined by the intelligence of the person who creates it.
Новый Одиссей
Три тысячи лет назад один человек плыл домой десять лет. У него был попутный ветер богов и штормы богов, циклопы и сирены, соблазны остаться навсегда и причины бежать немедленно. Но если вчитаться в «Одиссею» внимательнее, становится ясно: главный сюжет этой поэмы вовсе не про войну с чудовищами. Он про то, что Одиссей раз за разом стоит перед выбором — и этот выбор всегда принадлежит только ему.
Полифема ослепляет не судьба — его ослепляет решение Одиссея. К мачте себя привязывает не бог — привязывает сам герой, зная о собственной слабости перед пением сирен. Итака ждёт не потому, что так было предначертано, а потому, что человек каждый раз, оказавшись на распутье, выбирал путь домой, а не путь наименьшего сопротивления. Гомер, кажется, знал то, что мы заново открываем сегодня, глядя на экраны наших ноутбуков: не обстоятельства определяют судьбу человека. Судьбу определяет то, как человек обходится со своей свободой.
Сегодня у нас нет циклопов. У нас есть нейросети, которые пишут код быстрее нас, диагностируют болезни точнее врачей, ведут автомобили увереннее водителей. И вот здесь начинается интересный философский поворот: мы почему-то решили, что если появляется нечто более сильное, более быстрое, более «умное», — то ответственность за происходящее автоматически смещается на это нечто. Как будто интеллект — это трон, а не инструмент. Как будто, отдав руль машине, мы отдаём заодно и совесть.
Это ошибка. Причём ошибка не техническая, а глубоко человеческая.
Искусственный интеллект — не герой этой истории и не злодей. Он зеркало, отполированное до безупречной ясности. Он усиливает то, что мы в него вкладываем: наши цели, наши предубеждения, нашу жадность или нашу заботу. ИИ не решает, использовать ли данные пациента во благо или во вред — решает врач, который проектирует систему. ИИ не решает, дискриминировать ли соискателей работы по признаку, зашитому в исторических данных, — решает инженер, который не потрудился эти данные проверить. Опасность никогда не была в том, что машина станет умнее человека. Калькулятор давно считает быстрее нас, и мир от этого не разрушился. Настоящая опасность в другом: в тот момент, когда решение принимает алгоритм, человек испытывает почти физиологическое облегчение — будто с него снята нагрузка выбора. А снятая ответственность — это не свобода. Это самая опасная форма несвободы, потому что она не ощущается как клетка.
У каждой великой технологии в истории был один и тот же момент истины. Огонь дал человеку тепло и свет — и дал ему возможность сжечь чужой дом. Колесо соединило торговые пути — и провезло по этим же дорогам армии завоевателей. Электричество осветило больницы — и озарило колючую проволоку концлагерей. Интернет подарил каждому голос — и подарил каждому манипулятору аудиторию. Атомная энергия могла осветить континенты — и вместо этого впервые в истории поставила перед человечеством вопрос ребром, без метафор: мы точно этого хотим?
Именно в этой точке история науки XX века неожиданно смыкается с гомеровским эпосом. Роберт Оппенгеймер, стоя перед испытанием «Тринити», произносит про себя строку из «Бхагавад-гиты» о том, что стал разрушителем миров — но важно не это красивое цитирование. Важно то, что происходит дальше: человек, создавший оружие невиданной силы, до конца жизни несёт бремя вопроса — а должен ли был он это делать именно так. Величие Оппенгеймера не в физике. Оно в отказе спрятаться за фразой «я просто выполнял задачу». И величие Одиссея не в силе, с которой он натягивает лук, который не смог натянуть ни один жених. Оно в том, что, вернув себе царство, он не превращается в тирана — он берёт на себя бремя восстановления справедливости, а не только власти.
Обе истории — гомеровская и оппенгеймеровская — говорят нам одно и то же на разных языках: величие человека определяется не мощью его открытий, а готовностью отвечать за их последствия. Можно создать. Вопрос всегда один и тот же, и технологии за три тысячи лет так и не научились отвечать на него вместо нас: мы можем это сделать. Но должны ли мы использовать это именно так?
Сегодня этот вопрос звучит не в кабинетах философов. Он звучит в опенспейсах стартапов, в код-ревью, в питчах перед инвесторами, в переписках продакт-менеджеров с дедлайном «завтра утром». Каждый разработчик, обучающий модель на данных, происхождение которых он до конца не проверил, стоит на том же перепутье, что и Одиссей у пещеры циклопа. Каждый предприниматель, решающий, стоит ли выпускать продукт, который вызывает зависимость у подростков, слышит то же пение сирен, что и герой, привязанный к мачте, — только без верёвок, которые спасли бы его от собственного решения. Инженеры искусственного интеллекта — это не абстрактные «технари». Это современные мореплаватели, определяющие своими каждодневными, почти незаметными выборами, каким будет берег, к которому причалит всё человечество.
Разница в том, что у Одиссея было десять лет и ограниченное число островов. У создателей современных технологий — миллиарды пользователей и решения, которые масштабируются со скоростью света. Ошибка одного гребца когда-то топила одну лодку. Ошибка одного алгоритма сегодня способна незаметно перекроить представления миллионов людей о правде, о красоте, о нормальности — прежде чем кто-либо успеет задать вопрос «а должны ли мы».
И здесь стоит признать вещь, неудобную для всей индустрии, влюблённой в свои графики роста: технологии сами по себе никогда не меняли мир. Порох не решал, кто победит в войне. Печатный станок не решал, распространять ли правду или ложь. Интернет не решал, объединять людей или дробить их на озлобленные лагеря. Решали люди — их страхи, их амбиции, их представления о том, что допустимо, а что нет. Технология — это усилитель ценностей, а не их источник. И если внутри создателя пусто, никакая мощность вычислений это не заполнит — она просто громче озвучит эту пустоту на весь мир.
Так что вопрос, который стоит задавать себе не после релиза, а до первой строчки кода, — не «на что способен этот алгоритм», а «на что способен я, создающий его». Одиссей вернулся домой не потому, что боги наконец сжалились. Он вернулся, потому что каждый раз, оказываясь сильнее обстоятельств, выбирал не поддаться им.
Будущее определяет не искусственный интеллект. Будущее определяет интеллект человека, который его создаёт.
Share
