The post has been translated automatically. Original language: Russian
An ordinary program is perceived as a tool.
We open it, select the desired function, set the parameters and get the result. Even if the program is very complex, a person usually understands that it is he who controls it.
With ChatGPT, the feeling is different.
You write a task, wait for the result, clarify, ask to redo, sometimes you argue. It's more like talking to an assistant than working with a tool.
We set the task, not perform the actions ourselves.
Let's take a simple example.
In a typical report preparation program, you need to open the data, select a period, build a table, perhaps make a graph, and then write an explanation.
With ChatGPT, a person can write:
"Prepare a summary report for the quarter and highlight the main changes."
After that, he no longer manages each step separately. He expects the system to figure out on its own what is required for the result.
It's very similar to working with an employee.
The assistant does not need to explain every step.
When we set a task for a person, we usually don't describe all their actions.
The supervisor says:
"Prepare a letter to the client."
He doesn't add:
"First open the mail, then find the previous correspondence, then create a new document, write a greeting..."
The performer fills in these gaps by himself.
AI is gradually starting to occupy a similar place.
The user formulates a goal, and the system must choose the path to it.
This is what changes the perception of the program the most.
Can I ask you to redo it
There is another important feature.
If a regular program returns the wrong result, the user often has to change the settings and restart the action.
In conversation, everything is simpler.
You can write:
"It's too long."
"Make it more official."
"The first option was better, but add two points."
"Leave the content, but rewrite it easier."
This is how normal human interaction works.
We don't click the "change response style" button. We're just explaining what exactly is wrong.
There is a feeling of teamwork
After several such steps, a very characteristic feeling appears.
You are no longer just using a program function.
It's like you're working with someone else on a result.
The first draft was a draft. Then there were clarifications. Then a new version. After that, the system took into account the comments and continued working.
That's why people very quickly start talking about AI in the words they used to describe employees.:
"He did."
"He didn't understand."
"I asked him to fix it."
"He found a mistake."
Language itself shows how perception has changed.
Chat enhances this effect.
If the same features were hidden behind ordinary buttons, the feeling would be different.
Imagine a screen with functions:
"Shorten the text."
"Change the style."
"Add arguments".
"Find mistakes."
It would just be a powerful text editor.
But when all these actions take place in a conversation, the system begins to be perceived as an interlocutor.
The form of communication affects how we understand the technology itself.
There is also a danger in this
The problem is that the assistant's form easily makes us expect from AI what is normally expected from a human.
If a person confidently says that he knows the answer, we assume that he really understands the subject.
This is not always the case with AI.
He can sound confident and make mistakes at the same time.
An important limitation may be overlooked.
It may misunderstand the context and continue the task anyway.
Therefore, a convenient form of interaction simultaneously creates a false sense of reliability.
The assistant should be able to say "I don't know"
I think this is one of the important tasks for good AI systems.
If the system wants to behave like an assistant, it must be able not only to fulfill requests, but also to show the limits of confidence.
Sometimes the right answer is not to continue working, but to ask:
"What period do you have in mind?"
"I have no data for such a conclusion."
"This action requires confirmation."
Such AI looks less impressive, but it becomes more useful in real work.
The program stops being passive
A regular program usually waits for the exact command.
AI can act differently.
He is able to notice a contradiction, suggest another option, ask a clarifying question, or say that there is not enough data.
This is no longer just the execution of a command.
The system begins to participate in the task statement.
And here there is an important boundary between an ordinary tool and an assistant.
What is changing for the developer
If we are building a program as an assistant, it is not enough just to add a chat.
We need to think about a different behavior of the system.
What does she know about the task?
What has already been done?
When should she clarify?
What actions can it perform on its own?
Where is the person's confirmation required?
If this is not the case, you get only a conversational shell on top of the old program.
A real assistant requires a different architecture.
From program to performer
It seems to me that this is why ChatGPT is so different from the usual applications.
The user no longer feels that he controls every function himself.
He sets the task and evaluates the result.
This is a very important transition.
Previously, the program was a tool in human hands.
Now she is increasingly becoming a performer to whom a person explains what needs to be done.
That's why the chat turned out to be more than just a new interface.
He changed the very feeling of working with the program.
Обычная программа воспринимается как инструмент.
Мы открываем её, выбираем нужную функцию, задаём параметры и получаем результат. Даже если программа очень сложная, человек обычно понимает, что именно он ею управляет.
С ChatGPT ощущение другое.
Ты пишешь задачу, ждёшь результат, уточняешь, просишь переделать, иногда споришь. Это уже больше похоже не на работу с инструментом, а на разговор с помощником.
Мы ставим задачу, а не выполняем действия сами
Возьмём простой пример.
В обычной программе для подготовки отчёта нужно открыть данные, выбрать период, построить таблицу, возможно, сделать график и потом написать пояснение.
С ChatGPT человек может написать:
«Подготовь краткий отчёт за квартал и выдели основные изменения».
После этого он уже не управляет каждым шагом отдельно. Он ожидает, что система сама разберётся, что требуется для результата.
Это очень похоже на работу с сотрудником.
Помощнику не нужно объяснять каждый шаг
Когда мы ставим задачу человеку, обычно не описываем все его действия.
Руководитель говорит:
«Подготовь письмо клиенту».
Он не добавляет:
«Сначала открой почту, потом найди предыдущую переписку, потом создай новый документ, напиши приветствие...»
Исполнитель сам заполняет эти промежутки.
ИИ постепенно начинает занимать похожее место.
Пользователь формулирует цель, а система должна сама выбрать путь к ней.
Именно это сильнее всего меняет восприятие программы.
Можно попросить переделать
Есть ещё одна важная особенность.
Если обычная программа выдала не тот результат, пользователь часто должен изменить параметры и запустить действие заново.
В разговоре всё проще.
Можно написать:
«Слишком длинно».
«Сделай официальнее».
«Первый вариант был лучше, но добавь два пункта».
«Оставь содержание, но перепиши проще».
Так работает обычное взаимодействие между людьми.
Мы не нажимаем кнопку «изменить стиль ответа». Мы просто объясняем, что именно не устраивает.
Возникает ощущение совместной работы
После нескольких таких шагов появляется очень характерное чувство.
Ты уже не просто используешь функцию программы.
Ты как будто работаешь вместе с кем-то над результатом.
Первый вариант был черновиком. Потом появились уточнения. Затем новая версия. После этого система учла замечания и продолжила работу.
Именно поэтому люди очень быстро начинают говорить про ИИ словами, которыми раньше описывали сотрудников:
«Он сделал».
«Он не понял».
«Попросил его исправить».
«Он нашёл ошибку».
Язык сам показывает, как поменялось восприятие.
Чат усиливает этот эффект
Если бы те же возможности были спрятаны за обычными кнопками, ощущение было бы другим.
Представим экран с функциями:
«Сократить текст».
«Изменить стиль».
«Добавить аргументы».
«Найти ошибки».
Это был бы просто мощный текстовый редактор.
Но когда все эти действия происходят в разговоре, система начинает восприниматься как собеседник.
Форма общения влияет на то, как мы понимаем саму технологию.
В этом есть и опасность
Проблема в том, что форма помощника легко заставляет нас ожидать от ИИ того, что обычно ожидают от человека.
Если человек уверенно говорит, что знает ответ, мы предполагаем, что он действительно понимает предмет.
У ИИ это не всегда так.
Он может звучать уверенно и при этом ошибаться.
Может не заметить важное ограничение.
Может неправильно понять контекст и всё равно продолжить выполнение задачи.
Поэтому удобная форма взаимодействия одновременно создаёт ложное чувство надёжности.
Помощник должен уметь сказать «не знаю»
Мне кажется, это одна из важных задач для хороших систем с ИИ.
Если система хочет вести себя как помощник, она должна уметь не только выполнять просьбы, но и показывать границы уверенности.
Иногда правильный ответ — не продолжать работу, а спросить:
«Какой период вы имеете в виду?»
«У меня нет данных для такого вывода».
«Это действие требует подтверждения».
Такой ИИ выглядит менее эффектно, зато становится полезнее в реальной работе.
Программа перестаёт быть пассивной
Обычная программа обычно ждёт точной команды.
ИИ может действовать иначе.
Он способен заметить противоречие, предложить другой вариант, задать уточняющий вопрос или сказать, что данных недостаточно.
Это уже не просто исполнение команды.
Система начинает участвовать в постановке задачи.
И здесь проходит важная граница между обычным инструментом и помощником.
Что меняется для разработчика
Если мы строим программу как помощника, недостаточно просто добавить чат.
Нужно думать о другом поведении системы.
Что она знает о задаче?
Что уже было сделано?
Когда она должна уточнять?
Какие действия может выполнять самостоятельно?
Где обязательно нужно подтверждение человека?
Если этого нет, получается только разговорная оболочка поверх старой программы.
Настоящий помощник требует другой архитектуры.
От программы к исполнителю
Мне кажется, именно поэтому ChatGPT так сильно отличается от привычных приложений.
Пользователь больше не чувствует, что сам управляет каждой функцией.
Он ставит задачу и оценивает результат.
Это очень важный переход.
Раньше программа была инструментом в руках человека.
Теперь она всё чаще становится исполнителем, которому человек объясняет, что нужно сделать.
Именно поэтому чат оказался не просто новым интерфейсом.
Он изменил само ощущение от работы с программой.
Share
