The post has been translated automatically. Original language: Russian
Fine-tuning changes the behavior of the model. But if the problem is knowledge, changing the entire model may be too difficult.
Further training is useful when you need to steadily change how the model responds.
For example:
- stick to a certain format;
- it is better to perform a narrow task.;
- reproduce the desired style;
- It's more stable to follow the examples;
- improve the quality on a specialized dataset.
It is a powerful tool for such tasks.
But let's imagine another case.
Today, the company has changed the rule of working with clients.
A new technical standard has appeared tomorrow.
A week later, the old decision was found to be erroneous.
If each such change requires the preparation of new data and the next training of the model, knowledge begins to live inside a complex technical process.
And the question arises:
why retrain the model if only one rule has changed?
Sekura Noda leaves knowledge outside
In Sekura Noda, professional knowledge is stored separately from the model.
The rule can be changed.
The solution is to replace.
The wrong approach is to reject.
Add a new hypothesis.
After that, the connected AI can use the updated state of knowledge without having to retrain the model itself.
Fine tuning answers the question:
How can I change the behavior of the model?
Sekura Noda answers another one:
What knowledge and solutions should the model apply now?
Where is fine tuning better
When it is necessary to steadily change the behavior of the model on a large number of similar tasks.
Especially when it comes to the format, style, or specialized way of responding.
Where is Sekura Noda better
When professional knowledge itself changes.
When it's important to see them, edit them, check them, and update them without retraining.
And especially when one change should immediately become available to different AI systems.
Fine-tuning changes the model. Sekura Noda changes the knowledge that the model is guided by.
Тонкая настройка меняет поведение модели. Но если проблема в знаниях, менять всю модель может быть слишком тяжёлым способом.
Дообучение полезно, когда нужно устойчиво изменить то, как модель отвечает.
Например:
- придерживаться определённого формата;
- лучше выполнять узкую задачу;
- воспроизводить нужный стиль;
- стабильнее следовать примерам;
- улучшить качество на специализированном наборе данных.
Для таких задач это сильный инструмент.
Но представим другой случай.
Сегодня компания изменила правило работы с клиентами.
Завтра появился новый технический стандарт.
Через неделю старое решение признали ошибочным.
Если каждое такое изменение требует подготовки новых данных и очередного обучения модели, знания начинают жить внутри сложного технического процесса.
И возникает вопрос:
зачем переучивать модель, если изменилось всего одно правило?
Sekura Noda оставляет знания снаружи
В Sekura Noda профессиональное знание хранится отдельно от модели.
Правило можно изменить.
Решение — заменить.
Ошибочный подход — отклонить.
Новую гипотезу — добавить.
После этого подключённый ИИ может использовать обновлённое состояние знаний без необходимости заново обучать саму модель.
Тонкая настройка отвечает на вопрос:
Как изменить поведение модели?
Sekura Noda отвечает на другой:
Какие знания и решения модель должна применять сейчас?
Где тонкая настройка лучше
Когда нужно устойчиво изменить поведение модели на большом числе похожих задач.
Особенно если речь идёт о формате, стиле или специализированном способе ответа.
Где Sekura Noda лучше
Когда меняются сами профессиональные знания.
Когда важно видеть их, редактировать, проверять и обновлять без переобучения.
И особенно когда одно изменение должно сразу стать доступным разным ИИ-системам.
Тонкая настройка меняет модель. Sekura Noda меняет знание, которым модель руководствуется.