Интернеттен оқшауланған (және барабар) LLM-көмекшісі қазақ тілін үйрену үшін Мен әлі іске қосқан жоқпын. Llama 405b шығарылымы бәрі мүмкін екенін меңзейді (егер сізде GPU 😬кластері болса). Ноутбук үшін модельдерді жеңілірек таңдап, 8B сапасына қарауға болады (олар айтқандай, жазылыңыз және ұнатыңыз).

Жұмыс үшін мен t2m-ді қысқартуға шешім қабылдадым және Google (Gemini модельдері) және Open AI интеграциясы бар нейро көмекшісін қостым. Google-ді (open AI-ден айырмашылығы) API-ге мүлдем тегін, тіркеусіз, бірақ кем дегенде SMS-хабарламасыз қосуға болатыны жақсы.

ROI деп санаймыз:

- Инвестициялар: құжаттаманы зерттеуге, эксперименттерге және мысықтарды іздеуге 3.5 сағат

- нәтиже: бірнеше API LLM интеграциясы бар streamlit қызметі. Керемет!

Самостоятельно мұны өзіңіз немесе (бағдарламашылар үшін) іске қосу үшін қандай да бір нұсқаулық қажет және бәрі түсінікті ме?

#work #life