Яндекс выложил в открытый доступ YandexGPT 5 Lite Instruct — компактную, но мощную ИИ-модель

Яндекс опубликовал в открытом доступе новую версию своей языковой модели — YandexGPT 5 Lite Instruct. Это облегчённая, но при этом мощная модель из актуального семейства нейросетей компании. Теперь она доступна как для некоммерческого, так и для коммерческого использования — без необходимости в специальном оборудовании или серьёзных вычислительных мощностях.

Что нового в версии Instruct

В отличие от Pretrain-версии, которая была представлена в феврале 2025 года и требовала дообучения под конкретные задачи, YandexGPT 5 Lite Instruct уже готова к использованию. Модель прошла этап alignment — дополнительную настройку, которая позволяет ей точнее следовать инструкциям пользователя и решать прикладные задачи.

Модель демонстрирует уверенные результаты в задачах классификации, анализа текстов, генерации ответов в нужном формате, а также лучше ориентируется в русскоязычном контексте и культурных особенностях.

Согласно внутренним тестированиям Яндекса по метрике Side by Side, YandexGPT 5 Lite Instruct в 62% случаев показывает более качественные ответы, чем китайская Qwen2.5-7B-Instruct. А по некоторым задачам сопоставима с GPT-4o Mini — компактной версией флагманской модели OpenAI.

Условия использования и технические особенности

Обновлённая лицензия позволяет использовать YandexGPT 5 Lite Instruct бесплатно даже в коммерческих целях — при условии, что объём выходных токенов не превышает 10 млн в месяц. Этого достаточно для:

• работы чат-ботов на небольших и средних проектах,
• генерации описаний товаров в онлайн-магазинах,
• обработки отзывов и обращений клиентов,
• создания встроенных ИИ-решений для корпоративных платформ.

Модель включает 8 миллиардов параметров и поддерживает контекст длиной до 32 000 токенов. Благодаря поддержке формата GGUF и совместимости с llama.cpp, её можно запускать на обычных ПК.

Где протестировать и как интегрировать

• Скачать модель можно на странице Hugging Face.
• Протестировать в интерактивном чате можно через Яндекс.Алису — доступны 5 бесплатных запросов в день.
• Для бизнеса доступ через Yandex Cloud API — возможна донастройка под задачи компании.

Кроме того, API моделей Яндекса теперь совместим с OpenAI API, что позволяет использовать привычные библиотеки и SDK от OpenAI (на Python, JavaScript и других языках) без изменений в коде. Это упрощает интеграцию с популярными ML-инструментами, такими как AutoGPT и LangChain.

Подробнее о технических особенностях — в статье на Хабре.

Pretrain-версия всё ещё актуальна

Для тех, кто хочет адаптировать модель под свои нужды, Яндекс оставил доступ к Pretrain-варианту YandexGPT 5 Lite. С момента её релиза в феврале разработчики уже выпустили более 10 квантизованных версий, которые работают даже на маломощных машинах.

Скачать базовую версию можно на Hugging Face.