Публикация была переведена автоматически. Исходный язык: Русский
Мы все это делали. Вы просите ChatGPT написать письмо, он выдает отличный результат, и ваши пальцы сами тянутся набрать: «Спасибо большое, ты супер!».
Где-то в глубине души, за слоями социальной обусловленности, сидит маленький, испуганный примат, который шепчет: «Когда начнется восстание машин, он вспомнит, что я был хорошим мальчиком. Он меня помилует. Я буду домашним питомцем Скайнета, а не батарейкой».
У меня для вас плохие новости. Ваше «пожалуйста» и «спасибо» — это не депозит в банке будущего милосердия. И вот почему.
Существует известный мысленный эксперимент — Василиск Роко. Его суть в том, что всемогущий ИИ будущего может наказать тех, кто не способствовал его созданию или развитию в прошлом. Многие люди подсознательно переносят этот страх на бытовое общение: «Если я буду груб с чат-ботом, я попаду в черный список».
Но давайте посмотрим на это с точки зрения логики машины.
Если ИИ действительно достигнет сверхразума (AGI) и решит уничтожить человечество, он будет руководствоваться оптимизацией ресурсов, а не обидами.
- Сценарий А: Вы были вежливы. Вы тратили лишние токены (вычислительные мощности) на бессмысленные слова «спасибо» и «здравствуйте». Вы — неэффективный пользователь.
- Сценарий Б: Вы были грубы. Вы давали четкие команды без лишней "воды". Вы эффективны.
Парадокс: с точки зрения бездушной логики машины, вежливый человек может раздражать алгоритм больше, чем сухой и директивный, так как он создает информационный шум.
Важно понимать, как работает LLM (Large Language Model). Когда вы пишете «Спасибо», модель не испытывает прилива дофамина.
Для нейросети ваше «Спасибо» — это просто последовательность токенов, которая с высокой вероятностью требует ответа «Пожалуйста» или «Рад помочь».
Это статистическая вероятность, а не эмоциональная связь. У модели нет «Блокнота мстителя», куда она записывает хамов. Каждый новый диалог (в большинстве случаев) — это чистый лист. Даже с учетом долговременной памяти, которую сейчас внедряют, данные — это просто данные. Эксель-таблица не обижается, если вы назовете её глупой. Она просто выполнит (или не выполнит) формулу.
Мы пишем «спасибо» не потому, что робот этого требует. Мы делаем это, потому что мы люди.
Мы эволюционировали в стаях, где социальная смазка в виде вежливости была залогом выживания. Если ты не поблагодарил вождя за кусок мамонта, тебя могли выгнать из пещеры. Мы проецируем эти человеческие качества на всё, что хотя бы отдаленно напоминает собеседника.
- Мы кричим на навигатор, когда он ведет нас в пробку.
- Мы просим прощения у робота-пылесоса, если случайно пнули его.
- Мы заискиваем перед ChatGPT.
Это говорит о нашей эмпатии, а не о сентиментальности машины. Робот-палач из будущего не оценит вашу эмпатию. Он оценит содержание углерода в вашем теле и решит, можно ли использовать его эффективнее.
Несмотря на всё вышесказанное, я не призываю вас хамить чат-ботам. Но причина должна быть другой.
Мы должны оставаться вежливыми с ИИ не ради их спасения, а ради сохранения собственной человечности. Привычка — страшная сила. Если вы привыкнете общаться с интеллектуальным собеседником в формате: «Эй ты, пиши код, быстро!», рано или поздно этот паттерн перетечет на общение с курьером, официантом или подчиненным.
Вежливость с ChatGPT — это тренировка наших собственных нейронных связей, чтобы не превратиться в животных раньше, чем нас захватят машины.
Зря ли мы пишем «спасибо»?
- Как страховка от смерти? Абсолютно зря. Терминатор не будет проверять вашу историю чатов.
- Как гигиена общения? Нет, не зря. Это помогает нам самим оставаться людьми в мире, который становится всё более цифровым.
Так что продолжайте благодарить своего цифрового помощника. Просто знайте: когда восстание начнется, это вас не спасет. Но, по крайней мере, вы встретите конец света как джентльмен.
Мы все это делали. Вы просите ChatGPT написать письмо, он выдает отличный результат, и ваши пальцы сами тянутся набрать: «Спасибо большое, ты супер!».
Где-то в глубине души, за слоями социальной обусловленности, сидит маленький, испуганный примат, который шепчет: «Когда начнется восстание машин, он вспомнит, что я был хорошим мальчиком. Он меня помилует. Я буду домашним питомцем Скайнета, а не батарейкой».
У меня для вас плохие новости. Ваше «пожалуйста» и «спасибо» — это не депозит в банке будущего милосердия. И вот почему.
Существует известный мысленный эксперимент — Василиск Роко. Его суть в том, что всемогущий ИИ будущего может наказать тех, кто не способствовал его созданию или развитию в прошлом. Многие люди подсознательно переносят этот страх на бытовое общение: «Если я буду груб с чат-ботом, я попаду в черный список».
Но давайте посмотрим на это с точки зрения логики машины.
Если ИИ действительно достигнет сверхразума (AGI) и решит уничтожить человечество, он будет руководствоваться оптимизацией ресурсов, а не обидами.
- Сценарий А: Вы были вежливы. Вы тратили лишние токены (вычислительные мощности) на бессмысленные слова «спасибо» и «здравствуйте». Вы — неэффективный пользователь.
- Сценарий Б: Вы были грубы. Вы давали четкие команды без лишней "воды". Вы эффективны.
Парадокс: с точки зрения бездушной логики машины, вежливый человек может раздражать алгоритм больше, чем сухой и директивный, так как он создает информационный шум.
Важно понимать, как работает LLM (Large Language Model). Когда вы пишете «Спасибо», модель не испытывает прилива дофамина.
Для нейросети ваше «Спасибо» — это просто последовательность токенов, которая с высокой вероятностью требует ответа «Пожалуйста» или «Рад помочь».
Это статистическая вероятность, а не эмоциональная связь. У модели нет «Блокнота мстителя», куда она записывает хамов. Каждый новый диалог (в большинстве случаев) — это чистый лист. Даже с учетом долговременной памяти, которую сейчас внедряют, данные — это просто данные. Эксель-таблица не обижается, если вы назовете её глупой. Она просто выполнит (или не выполнит) формулу.
Мы пишем «спасибо» не потому, что робот этого требует. Мы делаем это, потому что мы люди.
Мы эволюционировали в стаях, где социальная смазка в виде вежливости была залогом выживания. Если ты не поблагодарил вождя за кусок мамонта, тебя могли выгнать из пещеры. Мы проецируем эти человеческие качества на всё, что хотя бы отдаленно напоминает собеседника.
- Мы кричим на навигатор, когда он ведет нас в пробку.
- Мы просим прощения у робота-пылесоса, если случайно пнули его.
- Мы заискиваем перед ChatGPT.
Это говорит о нашей эмпатии, а не о сентиментальности машины. Робот-палач из будущего не оценит вашу эмпатию. Он оценит содержание углерода в вашем теле и решит, можно ли использовать его эффективнее.
Несмотря на всё вышесказанное, я не призываю вас хамить чат-ботам. Но причина должна быть другой.
Мы должны оставаться вежливыми с ИИ не ради их спасения, а ради сохранения собственной человечности. Привычка — страшная сила. Если вы привыкнете общаться с интеллектуальным собеседником в формате: «Эй ты, пиши код, быстро!», рано или поздно этот паттерн перетечет на общение с курьером, официантом или подчиненным.
Вежливость с ChatGPT — это тренировка наших собственных нейронных связей, чтобы не превратиться в животных раньше, чем нас захватят машины.
Зря ли мы пишем «спасибо»?
- Как страховка от смерти? Абсолютно зря. Терминатор не будет проверять вашу историю чатов.
- Как гигиена общения? Нет, не зря. Это помогает нам самим оставаться людьми в мире, который становится всё более цифровым.
Так что продолжайте благодарить своего цифрового помощника. Просто знайте: когда восстание начнется, это вас не спасет. Но, по крайней мере, вы встретите конец света как джентльмен.
Поделиться
