Яндекс представил нейросеть YandexGPT 3 Lite

Яндекс запустил YandexGPT 3 Lite — облегчённую версию своей генеративной нейросети третьего поколения YandexGPT 3. Она будет доступна клиентам облачной платформы Yandex Cloud через API. Эта модель полезна в сценариях, где важна скорость ответа, таких как чат-боты, проверка орфографии или анализ данных. Это оптимальная по цене и качеству коммерческая модель Яндекса для решения рутинных задач.

YandexGPT 3 Lite подходит для разных типов бизнеса, от небольших компаний до крупных организаций. Она помогает оптимизировать задачи, такие как консультация клиентов в чате и по телефону, подготовка ответов для службы поддержки, создание маркетинговых материалов и дайджестов рабочих встреч. Крупные компании могут использовать её для анализа данных, необходимых для принятия решений.

Новая модель значительно превосходит YandexGPT 2 Lite. В тестах YaMMLU_ru, новой модели удалось дать на 6 процентных пунктов больше правильных ответов по сравнению с предыдущим поколением. В тестах Side by Side эксперты в 68% случаев предпочли ответы YandexGPT 3 Lite.

Эксперты также оценили, как новая модель справляется с задачами классификации, генерации контента и ответами на вопросы. Кроме того, она допускает меньше орфографических и фактических ошибок.

Для создания новой модели разработчики улучшили все этапы обучения. Они усовершенствовали отбор данных для предварительного этапа обучения и начали использовать технологию curriculum learning, которая поэтапно усложняет данные. На этапе выравнивания модели, включая обучение с подкреплением, улучшили оценку качества ответов нейросети. В архитектуру нейросети добавили технологию Grouped Query Attention, ускоряющую обработку данных без потери качества.

YandexGPT 3 Lite можно интегрировать в свои продукты через API в сервисе Foundation Models. Новая модель заменит предыдущую в течение месяца, но уже доступна для тестирования. Стоимость использования YandexGPT 3 Lite составляет 20 копеек за тысячу токенов. Новые пользователи Yandex Cloud смогут бесплатно протестировать её в демо-режиме.

О YandexGPT

YandexGPT — нейросеть, способная создавать и перерабатывать тексты, предлагать новые идеи и учитывать контекст беседы. Она доступна в виртуальном помощнике Алисе, на a.ya.ru, работает в Поиске, Нейро, Яндекс.Браузере и других сервисах Яндекса. YandexGPT помогает обобщать отзывы на товары, создавать описания для Маркета, составлять рекламные объявления и многое другое. Её также можно использовать в своих продуктах через API.