The post has been translated automatically. Original language: Russian
The Ollama project, a local server for running language models on its machine, has released version 0.33.3. The release was published on September 2, 2026 and completes a short series of updates to the 0.33 branch, which began on August 21. There are few changes in 0.33.3 itself, but two of the three points directly relate to those who embed local models in their services: the source of default generation parameters changes and the observability of industrial reuse appears.
What is listed in the release notes
There are three significant points in the official notes to 0.33.3:
- The gemma4 model now accepts images and sound on the MLX engine;
- the server reports the number of cached prompta tokens;
- The default parameters set inside the GGUF format model file itself are taken into account.
In addition, the dependencies have been updated: MLX, MLX-C and llama.cpp .
The default parameters are taken from the model file
The GGUF format stores not only weights, but also metadata, including the values of the generation parameters specified by the author of the model. Previously, these values were not applied, and the model was run with the common default values of the server itself. Now the values stated in the file are respected.
For some assemblies, this is exactly what was missing: the model behaves as its author intended, without manual configuration. For others, this is a quiet change in behavior — with the same request, the response after the update may become noticeably more or less "creative", simply because the parameters came from another place.
The cached prompta tokens became visible from the outside
The second point is about observability. The server reuses the already calculated prompt prefix so as not to count it again with each request, but it was unclear from the outside whether this reuse worked or not. Now the number of cached prompt tokens is returned in the response: hitting the cache can be measured, rather than guessing by response time.
What else is included in the 0.33 branch?
In 0.33.0 (August 21), integration with Claude Desktop as a third-party gateway provider appeared, reliable pre-fill recovery points and acceleration of the cache of keys and values. In 0.33.1 (August 26), support for Qwen3.8 Flash Next on MLX was added, structured output in mlxrunner and Metal GPU timeouts were eliminated when loading models from slow storage facilities. In 0.33.2 (August 27), the application follows the system design theme again, switching between devices on macOS has been fixed, which generated duplicate instances, and the proxying of Claude Desktop requests is no longer interrupted during the update of the model catalog.
What does this mean in practice?
The first thing to look at when updating is the generation parameters. If the code passes them explicitly in each request or fixes them in its own model description, the change will not affect you. If you relied on the default values, the behavior may change after a simple binary update, and such a defect is hard to notice: the service is working, there are no errors, the answers just changed.
Secondly, it makes sense to immediately bring the metric of cached tokens into monitoring next to the length of the delay and the time of the first token. It explains the delay failures well: if the permanent part of the prompt in your service is not the first or its text changes from request to request, the proportion of reused tokens will drop, and this will be seen in numbers.
The third is updating the embedded engines. Pulling up new versions of MLX and llama.cpp It's a common thing for this project, but it's what most often changes the numerical results and memory consumption. It is worth running through the usual set of promptos before and after the update and comparing not only the text of the responses, but also the time of the first token.
And a general observation: four releases in twelve days — the pace is high, and some of the changes relate to the desktop application, not the server. For working contours, it is better to fix and update the version consciously, rather than following each release.
The draft text was prepared with the participation of AI, the facts were checked against the original source — the official notes for the releases of the Ollama project on GitHub.
Проект Ollama — локальный сервер для запуска языковых моделей на своей машине — выпустил версию 0.33.3. Релиз опубликован 2 сентября 2026 года и завершает короткую серию обновлений ветки 0.33, которая началась 21 августа. Изменений в самом 0.33.3 немного, но два из трёх пунктов напрямую касаются тех, кто встраивает локальные модели в свои сервисы: меняется источник параметров генерации по умолчанию и появляется наблюдаемость повторного использования промпта.
Что перечислено в заметках к релизу
В официальных заметках к 0.33.3 три содержательных пункта:
- модель gemma4 теперь принимает изображения и звук на движке MLX;
- сервер сообщает количество кешированных токенов промпта;
- учитываются параметры по умолчанию, заданные внутри самого файла модели формата GGUF.
Кроме этого обновлены зависимости: MLX, MLX-C и llama.cpp.
Параметры по умолчанию берутся из файла модели
Формат GGUF хранит не только веса, но и метаданные, среди которых есть значения параметров генерации, заложенные автором модели. Раньше эти значения не применялись, и модель запускалась с общими значениями по умолчанию самого сервера. Теперь заявленные в файле значения соблюдаются.
Для одних сборок это ровно то, чего не хватало: модель ведёт себя так, как задумал её автор, без ручной настройки. Для других это тихое изменение поведения — при том же запросе ответ после обновления может стать заметно более или менее «творческим», просто потому что параметры пришли из другого места.
Кешированные токены промпта стало видно снаружи
Второй пункт — про наблюдаемость. Сервер повторно использует уже посчитанный префикс промпта, чтобы не считать его заново при каждом запросе, но снаружи было непонятно, сработало это повторное использование или нет. Теперь количество кешированных токенов промпта возвращается в ответе: попадание в кеш можно измерить, а не угадывать по времени ответа.
Что ещё вошло в ветку 0.33
В 0.33.0 (21 августа) появилась интеграция с Claude Desktop как сторонним провайдером-шлюзом, надёжные по построению точки восстановления предзаполнения и ускорение кеша ключей и значений. В 0.33.1 (26 августа) добавлена поддержка Qwen3.8 Flash Next на MLX, структурированный вывод в mlxrunner и устранены таймауты Metal GPU при загрузке моделей с медленного хранилища. В 0.33.2 (27 августа) приложение снова следует системной теме оформления, исправлено переключение между устройствами на macOS, порождавшее дубликаты экземпляров, а проксирование запросов Claude Desktop больше не прерывается во время обновления каталога моделей.
Что это значит на практике
Первое, на что стоит посмотреть при обновлении, — параметры генерации. Если код передаёт их явно в каждом запросе или фиксирует в собственном описании модели, изменение вас не затронет. Если же вы полагались на значения по умолчанию, поведение может поехать после простого обновления бинарника, и такой дефект тяжело заметить: сервис работает, ошибок нет, просто ответы стали другими.
Второе — метрику кешированных токенов имеет смысл сразу завести в мониторинг рядом с длиной промпта и временем первого токена. Она хорошо объясняет провалы задержки: если постоянная часть промпта в вашем сервисе стоит не первой или её текст меняется от запроса к запросу, доля повторно использованных токенов упадёт, и это будет видно в цифрах.
Третье — обновление встроенных движков. Подтягивание новых версий MLX и llama.cpp для этого проекта обычное дело, но именно оно чаще всего меняет численные результаты и потребление памяти. Стоит прогнать привычный набор промптов до и после обновления и сравнить не только текст ответов, но и время первого токена.
И общее наблюдение: четыре релиза за двенадцать дней — темп высокий, причём часть изменений касается настольного приложения, а не сервера. Для рабочих контуров версию лучше фиксировать и обновлять осознанно, а не следом за каждым выпуском.
Черновик текста подготовлен с участием ИИ, факты сверены с первоисточником — официальные заметки к релизам проекта Ollama на GitHub.
Share
