The post has been translated automatically. Original language: Russian
I recently started developing my own AI project and decided to test different LLM APIs in order to find the optimal solution for price, speed and quality of responses.
Before that, I mostly worked only with the OpenAI API. For a new project, I wanted to try other options.
From what I tested:
Groq — pleasantly surprised. The responses are very fast, there are free limits, and the connection takes just a few minutes. It's a great option for testing and small projects.
OpenRouter is an interesting platform with a wide range of models, but in my case there were periodic delays and unstable operation. It probably depends on the chosen model and provider.
Gemini API — this is where I had the most difficulties. Despite the free limits, the API was often unresponsive or unstable. Perhaps this is due to the settings of the project or region, but so far the experience has not been the most successful.
In the end, I decided to try the DeepSeek API and was pleasantly surprised. The cost of requests is very low compared to many competitors, and the quality of responses turned out to be at a good level. This is more than enough for my project.Additionally, I connected DeepSeek to Cline in VS Code for development and now I use it almost every day. So far, the price/quality ratio looks to be one of the best among the solutions that I have managed to test.
My conclusion is that you should not limit yourself to just one provider. Even a few hours of testing different APIs can help you find the solution that best suits your project and budget.
It is interesting to know the experience of the community: which LLM APIs do you use and why?
Недавно начал разрабатывать собственный AI-проект и решил протестировать разные LLM API, чтобы найти оптимальное решение по цене, скорости и качеству ответов.
До этого я в основном работал только с OpenAI API. Для нового проекта захотелось попробовать и другие варианты.
Из того, что протестировал:
Groq — приятно удивил. Очень быстрые ответы, есть бесплатные лимиты, а подключение занимает буквально несколько минут. Для тестирования и небольших проектов отличный вариант.
OpenRouter — интересная платформа с большим выбором моделей, но в моем случае периодически возникали задержки и нестабильная работа. Возможно, зависит от выбранной модели и провайдера.
Gemini API — здесь у меня возникло больше всего сложностей. Несмотря на наличие бесплатных лимитов, API часто не отвечал или работал нестабильно. Возможно, это связано с настройками проекта или региона, но пока что опыт оказался не самым удачным
В итоге решил попробовать DeepSeek API и был приятно удивлен. Стоимость запросов очень низкая по сравнению со многими конкурентами, а качество ответов оказалось на хорошем уровне. Для моего проекта этого более чем достаточно.Дополнительно подключил DeepSeek к Cline в VS Code для разработки и сейчас использую его практически каждый день. Пока что соотношение цена/качество выглядит одним из лучших среди решений, которые я успел протестировать.
Мой вывод: не стоит ограничиваться только одним провайдером. Даже несколько часов тестирования разных API могут помочь найти решение, которое лучше подойдет именно под ваш проект и бюджет.
Интересно узнать опыт сообщества: какие LLM API используете вы и почему?
