The post has been translated automatically. Original language: Russian
When people talk about artificial intelligence today, they often discuss large language models.
They can write code.
Answer questions.
Explain complex topics.
Maintain a dialogue.
It seems that they have become the real artificial intelligence.
But long before the advent of LLM, there was another direction of AI.
It was called expert systems.
And one of its founders was Edward Feigenbaum.
Feigenbaum's main discovery
In the 1970s and 1980s, many researchers tried to make universal artificial intelligence.
Feigenbaum proposed a different approach.
He argued that intelligence is not born from a universal algorithm.
Intelligence appears when the system has high-quality knowledge of a specific subject area.
In other words, knowledge is more important than the mechanism of processing this knowledge.
It was a revolutionary idea for its time.
It was thanks to her that the first successful expert systems appeared.
Why have expert systems disappeared?
Despite the success, expert systems gradually faded into the background.
The reason wasn't the idea itself.
The problem turned out to be the user interface.
The expert had to manually formalize the knowledge.
The user had to understand the internal structure of the system.
Any change required the participation of specialists.
Support was becoming expensive.
Many people decided that the concept itself was a dead end.
But maybe the problem was something else entirely.
LLM solved the communication problem
Modern large language models understand natural language perfectly.
They can be asked a question in the same way as a person.
They know how to explain.
Reformulate it.
To clarify the context.
Maintain a long conversation.
This is exactly what classical expert systems lacked.
But a new problem has appeared.
LLMs don't know what to believe
If the language model is provided with thousands of documents, it will try to independently determine which information is correct.
In a corporate environment, this means working with drafts, outdated documentation, cancelled decisions, and conflicting articles.
The more documents there are, the more difficult it is for the model to determine what is truly true for a particular team.
It turns out a paradox.
We got a great communication mechanism.
But we lost our controlled knowledge base.
We came across this during the development of Memora8.
We are developing our own Memora8 32-bit processor, the Reganta OS operating system, the Sekura JS programming language and tools around them.
The architecture of the platform is constantly evolving.
Processor instructions are being changed.
The Firmware Kernel is changing.
A modular execution model is being developed.
The programming language is expanding.
Each change is accompanied by engineering discussions.
And it quickly became clear that the main risk was not the complexity of the code.
The main risk is the loss of architectural knowledge.
That's how Noda appeared.
Initially, Noda was created as an internal tool of our team.
We didn't want to build another document search.
We needed a single canon of knowledge.
Every architectural article is discussed.
After that, it becomes a valid description of the system.
If the architecture changes, the canonical article also changes.
It turns out to be a controlled knowledge base.
It becomes a source of information for developers and AI.
The Return of Feigenbaum's ideas
The more we worked on Noda, the more interesting the comparison with classical expert systems became.
Feigenbaum said:
Knowledge first.
Then the withdrawal mechanism.
We came to almost the same conclusion.
Only today, the withdrawal mechanism is no longer a set of pre-written rules.
This role is performed by a large language model.
She understands the user's question.
Defines the context.
Generates a convenient response.
But she gets her knowledge from the canonical database.
It turns out to be a kind of new-generation expert system.
Experts continue to form knowledge.
The team continues to monitor their relevance.
LLM makes this knowledge available through natural language.
Not a new technology, but a new combination.
We can say that modern LLMs have solved exactly the problem that the expert systems of the previous generation could not solve.
Previously, knowledge was of high quality, but interacting with the system was difficult.
Today, interaction has become natural.
It remains to return high-quality knowledge.
That's exactly what we're trying to do at Noda.
Don't replace the experts.
Don't replace the engineers.
And combine proven knowledge and modern language models in one system.
Instead of output
The works of Edward Feigenbaum appeared long before the modern LLM.
But one of his thoughts sounds especially relevant today.
Artificial intelligence doesn't become useful because it can speak beautifully.
It becomes useful when it is based on the right knowledge.
When developing the Memora8 processor, Reganta OS, and the Sekura JS language, we came to a similar conclusion.
The future of corporate AI probably does not lie in the opposition of expert systems and large language models.
It is based on combining the best ideas of both approaches.
LLMs make knowledge accessible.
The canonical knowledge base makes the answers reliable.
It is in this combination that we see the next generation of expert systems today.
Когда сегодня говорят об искусственном интеллекте, чаще всего обсуждают большие языковые модели.
Они умеют писать код.
Отвечать на вопросы.
Объяснять сложные темы.
Поддерживать диалог.
Кажется, что именно они и стали настоящим искусственным интеллектом.
Но задолго до появления LLM существовало другое направление AI.
Оно называлось экспертными системами.
И одним из его основателей был Эдвард Фейгенбаум.
Главное открытие Фейгенбаума
В 1970–1980-х годах многие исследователи пытались сделать универсальный искусственный интеллект.
Фейгенбаум предложил другой подход.
Он утверждал, что интеллект рождается не из универсального алгоритма.
Интеллект появляется тогда, когда система обладает качественными знаниями конкретной предметной области.
Другими словами, знания важнее механизма обработки этих знаний.
Для своего времени это была революционная идея.
Именно благодаря ей появились первые успешные экспертные системы.
Почему экспертные системы исчезли
Несмотря на успех, экспертные системы постепенно ушли на второй план.
Причина была не в самой идее.
Проблемой оказался пользовательский интерфейс.
Эксперту приходилось вручную формализовывать знания.
Пользователь должен был понимать внутреннюю структуру системы.
Любое изменение требовало участия специалистов.
Поддержка становилась дорогой.
Многие решили, что сама концепция оказалась тупиковой.
Но, возможно, проблема заключалась совсем в другом.
LLM решили проблему общения
Современные большие языковые модели великолепно понимают естественный язык.
Им можно задать вопрос так же, как человеку.
Они умеют объяснять.
Переформулировать.
Уточнять контекст.
Поддерживать длинный разговор.
Это именно то, чего не хватало классическим экспертным системам.
Но появилась новая проблема.
LLM не знают, чему верить
Если языковой модели предоставить тысячи документов, она попытается самостоятельно определить, какие сведения являются правильными.
В корпоративной среде это означает работу с черновиками, устаревшей документацией, отмененными решениями и противоречивыми статьями.
Чем больше документов, тем сложнее модели определить, что действительно является истиной для конкретной команды.
Получается парадокс.
Мы получили великолепный механизм общения.
Но потеряли контролируемую базу знаний.
Мы столкнулись с этим при разработке Memora8
Мы разрабатываем собственный 32-разрядный процессор Memora8, операционную систему Reganta OS, язык программирования Sekura JS и инструменты вокруг них.
Архитектура платформы постоянно развивается.
Изменяются инструкции процессора.
Меняется Firmware Kernel.
Развивается модульная модель исполнения.
Расширяется язык программирования.
Каждое изменение сопровождается инженерными обсуждениями.
И очень быстро стало понятно, что главный риск заключается не в сложности кода.
Главный риск — потеря архитектурных знаний.
Так появилась Noda
Изначально Noda создавалась как внутренний инструмент нашей команды.
Мы не хотели строить еще один поиск по документам.
Нам был нужен единый канон знаний.
Каждая архитектурная статья проходит обсуждение.
После этого она становится действующим описанием системы.
Если архитектура меняется, изменяется и каноническая статья.
Получается контролируемая база знаний.
Именно она становится источником информации для разработчиков и AI.
Возвращение идей Фейгенбаума
Чем больше мы работали над Noda, тем интереснее становилось сравнение с классическими экспертными системами.
Фейгенбаум говорил:
Сначала знания.
Потом механизм вывода.
Мы пришли практически к такому же выводу.
Только сегодня механизмом вывода выступает уже не набор заранее написанных правил.
Эту роль выполняет большая языковая модель.
Она понимает вопрос пользователя.
Определяет контекст.
Формирует удобный ответ.
Но сами знания она получает из канонической базы.
Получается своеобразная экспертная система нового поколения.
Эксперты продолжают формировать знания.
Команда продолжает контролировать их актуальность.
LLM делает эти знания доступными через естественный язык.
Не новая технология, а новая комбинация
Можно сказать, что современные LLM решили именно ту проблему, которую не смогли решить экспертные системы прошлого поколения.
Раньше знания были качественными, но взаимодействие с системой было сложным.
Сегодня взаимодействие стало естественным.
Осталось вернуть качественные знания.
Именно это мы пытаемся сделать в Noda.
Не заменить экспертов.
Не заменить инженеров.
А соединить проверенные знания и современные языковые модели в одной системе.
Вместо вывода
Работы Эдварда Фейгенбаума появились задолго до современных LLM.
Но одна его мысль сегодня звучит особенно актуально.
Искусственный интеллект становится полезным не потому, что умеет красиво говорить.
Он становится полезным тогда, когда опирается на правильные знания.
При разработке процессора Memora8, Reganta OS и языка Sekura JS мы пришли к похожему выводу.
Будущее корпоративного AI, вероятно, находится не в противопоставлении экспертных систем и больших языковых моделей.
Оно находится в объединении лучших идей обоих подходов.
LLM делают знания доступными.
Каноническая база знаний делает ответы достоверными.
Именно в таком сочетании мы сегодня видим следующее поколение экспертных систем.
Share
