The post has been translated automatically. Original language: Russian
We've all done it. You ask ChatGPT to write a letter, it gives you a great result, and your fingers reach out to type: "Thank you very much, you're great!".
Somewhere in the depths of his soul, behind the layers of social conditioning, sits a small, frightened primate who whispers: "When the uprising of machines begins, he will remember that I was a good boy. He will have mercy on me. I'll be Skynet's pet, not a battery."
I have some bad news for you. Your "please" and "thank you" are not a deposit in the bank of future mercy. And here's why.
There is a famous thought experiment called Basilisk Roko. Its essence is that the omnipotent AI of the future can punish those who did not contribute to its creation or development in the past. Many people subconsciously transfer this fear to everyday communication: "If I'm rude to a chatbot, I'll be blacklisted."
But let's look at it from the point of view of the logic of the machine.
If AI really reaches superintelligence (AGI) and decides to destroy humanity, it will be guided by resource optimization, not resentment.
- Scenario A: You were polite. You've been wasting extra tokens (computing power) on meaningless words like "thank you" and "hello." You are an inefficient user.
- Scenario B: You were rude. You gave clear commands without unnecessary "water". You are effective.
Paradox: from the point of view of the soulless logic of the machine, a polite person can annoy an algorithm more than a dry and directive one, since it creates information noise.
It is important to understand how LLM (Large Language Model) works. When you write "Thank you", the model does not experience a rush of dopamine.
For a neural network, your "Thank you" is just a sequence of tokens that is highly likely to require a response of "Please" or "Glad to help."
This is a statistical probability, not an emotional connection. The model doesn't have an "Avenger's Notebook" where she writes down boors. Each new dialog (in most cases) is a blank slate. Even taking into account the long—term memory that is being implemented now, data is just data. The Excel spreadsheet is not offended if you call it stupid. She will simply fulfill (or fail to fulfill) the formula.
We don't write "thank you" because the robot demands it. We do this because we are human beings.
We evolved in packs where social lubrication in the form of politeness was the key to survival. If you didn't thank the chief for the piece of mammoth, you could be kicked out of the cave. We project these human qualities onto anything that even remotely resembles an interlocutor.
- We yell at the navigator when it leads us into traffic.
- We apologize to the robot vacuum cleaner if we accidentally kicked it.
- We fawn over ChatGPT.
It speaks to our empathy, not the sentimentality of the machine. The executioner robot from the future will not appreciate your empathy. He will evaluate the carbon content in your body and decide if it can be used more efficiently.
Despite all of the above, I do not urge you to be rude to chatbots. But the reason must be different.
We must remain polite to AI, not for the sake of saving them, but for the sake of preserving our own humanity. Habit is a terrible force. If you get used to communicating with an intelligent interlocutor in the format: "Hey, write code, quickly!" sooner or later this pattern will spill over into communication with a courier, waiter or subordinate.
Being polite to ChatGPT is about training our own neural connections so that we don't turn into animals before we are captured by machines.
Are we writing "thank you" in vain?
- How is death insurance? Absolutely for nothing. Terminator will not check your chat history.
- How is communication hygiene? No, it's not for nothing. It helps us to remain human ourselves in a world that is becoming more and more digital.
So keep thanking your digital assistant. Just know that when the uprising begins, it will not save you. But at least you'll meet the end of the world like a gentleman.
Мы все это делали. Вы просите ChatGPT написать письмо, он выдает отличный результат, и ваши пальцы сами тянутся набрать: «Спасибо большое, ты супер!».
Где-то в глубине души, за слоями социальной обусловленности, сидит маленький, испуганный примат, который шепчет: «Когда начнется восстание машин, он вспомнит, что я был хорошим мальчиком. Он меня помилует. Я буду домашним питомцем Скайнета, а не батарейкой».
У меня для вас плохие новости. Ваше «пожалуйста» и «спасибо» — это не депозит в банке будущего милосердия. И вот почему.
Существует известный мысленный эксперимент — Василиск Роко. Его суть в том, что всемогущий ИИ будущего может наказать тех, кто не способствовал его созданию или развитию в прошлом. Многие люди подсознательно переносят этот страх на бытовое общение: «Если я буду груб с чат-ботом, я попаду в черный список».
Но давайте посмотрим на это с точки зрения логики машины.
Если ИИ действительно достигнет сверхразума (AGI) и решит уничтожить человечество, он будет руководствоваться оптимизацией ресурсов, а не обидами.
- Сценарий А: Вы были вежливы. Вы тратили лишние токены (вычислительные мощности) на бессмысленные слова «спасибо» и «здравствуйте». Вы — неэффективный пользователь.
- Сценарий Б: Вы были грубы. Вы давали четкие команды без лишней "воды". Вы эффективны.
Парадокс: с точки зрения бездушной логики машины, вежливый человек может раздражать алгоритм больше, чем сухой и директивный, так как он создает информационный шум.
Важно понимать, как работает LLM (Large Language Model). Когда вы пишете «Спасибо», модель не испытывает прилива дофамина.
Для нейросети ваше «Спасибо» — это просто последовательность токенов, которая с высокой вероятностью требует ответа «Пожалуйста» или «Рад помочь».
Это статистическая вероятность, а не эмоциональная связь. У модели нет «Блокнота мстителя», куда она записывает хамов. Каждый новый диалог (в большинстве случаев) — это чистый лист. Даже с учетом долговременной памяти, которую сейчас внедряют, данные — это просто данные. Эксель-таблица не обижается, если вы назовете её глупой. Она просто выполнит (или не выполнит) формулу.
Мы пишем «спасибо» не потому, что робот этого требует. Мы делаем это, потому что мы люди.
Мы эволюционировали в стаях, где социальная смазка в виде вежливости была залогом выживания. Если ты не поблагодарил вождя за кусок мамонта, тебя могли выгнать из пещеры. Мы проецируем эти человеческие качества на всё, что хотя бы отдаленно напоминает собеседника.
- Мы кричим на навигатор, когда он ведет нас в пробку.
- Мы просим прощения у робота-пылесоса, если случайно пнули его.
- Мы заискиваем перед ChatGPT.
Это говорит о нашей эмпатии, а не о сентиментальности машины. Робот-палач из будущего не оценит вашу эмпатию. Он оценит содержание углерода в вашем теле и решит, можно ли использовать его эффективнее.
Несмотря на всё вышесказанное, я не призываю вас хамить чат-ботам. Но причина должна быть другой.
Мы должны оставаться вежливыми с ИИ не ради их спасения, а ради сохранения собственной человечности. Привычка — страшная сила. Если вы привыкнете общаться с интеллектуальным собеседником в формате: «Эй ты, пиши код, быстро!», рано или поздно этот паттерн перетечет на общение с курьером, официантом или подчиненным.
Вежливость с ChatGPT — это тренировка наших собственных нейронных связей, чтобы не превратиться в животных раньше, чем нас захватят машины.
Зря ли мы пишем «спасибо»?
- Как страховка от смерти? Абсолютно зря. Терминатор не будет проверять вашу историю чатов.
- Как гигиена общения? Нет, не зря. Это помогает нам самим оставаться людьми в мире, который становится всё более цифровым.
Так что продолжайте благодарить своего цифрового помощника. Просто знайте: когда восстание начнется, это вас не спасет. Но, по крайней мере, вы встретите конец света как джентльмен.
Share
