🤗 Hugging Face - кладезь моделей #MLSTART

Если Groq и OpenRouter - это площадки, где можно протестировать модели, то Hugging Face - это уже целая экосистема. Там собрано всё: модели, датасеты, пайплайны, демки и даже туториалы по обучению.

💫 Самое крутое - Hugging Face можно рассматривать как GitHub для ML. Каждый разработчик может выложить туда свою модель, а ты - взять, протестировать или дообучить под свою задачу.

Например, у ребят из Vikhrmodels есть несколько отличных русскоязычных моделей. Я сам использовал Vikhr-Nemo-12B-Instruct-R-21-09-24 - она довольно уверенно справляется с задачами на русском языке. Правда, она может быть тяжеловата для обычного ПК, так что может понадобиться квантизация.

Из других опенсорсных вариантов неплохо себя показывает Qwen - неплохое качество генерации, есть "легкие" версии, так что можно позапускать у себя на компьютере.

Кстати, для локального запуска LLM сразу с интерфейсом чата существует множество сервисов. Мой фаворит - LM Studio.

⚡️ Если хочешь поэкспериментировать с локальными моделями или попробовать свои силы в fine-tuning - welcome to Hugging Face!

Вернуться к оглавлению

👩‍💻 Data Flow