Алиса AI теперь сама выбирает модель под сложность задачи

44 комментарии
Яндекс научил Алису AI самостоятельно определять, какая модель справится с запросом: простые вопросы обрабатывают быстрые модели, а расчёты, разбор нескольких документов и пошаговые планы уходят в режим «Эксперт». Пока он доступен всем без ограничений

Яндекс обновил Алису AI: теперь сервис автоматически определяет, какую модель использовать для ответа на запрос. Простые повседневные вопросы обрабатывают модели, ориентированные на скорость. Для задач с большим количеством условий система подключает режим «Эксперт». Возможность включить его вручную также сохраняется.

Меню «Интеллект Алисы» в приложении Алиса AI: режимы «Авто» и «Экспертный», рядом подсказка о том, что Алиса сама выбирает модель под запрос

Уровень интеллекта выбирается в самом чате: режим «Авто» стоит по умолчанию, «Экспертный» можно включить вручную. Изображение: Яндекс

По замыслу разработчиков, автоматический выбор позволит пользователям получать подходящий режим обработки без необходимости разбираться в моделях и настройках.

Когда включается «Эксперт»

Алиса AI подключает «Эксперта», если запрос требует расчётов, совместного анализа нескольких документов или подготовки подробного пошагового плана. Такие задачи получают больше вычислительных ресурсов, а для повседневных запросов приоритетом остаётся быстрый ответ.

В качестве примера Яндекс приводит планирование трёхдневной поездки на двоих с ограниченным бюджетом. Ассистенту нужно подобрать более выгодные даты, учесть стоимость дороги и проживания, затем рассчитать общие расходы. Другой сценарий – разобраться в налоговых вычетах за лечение и обучение ребёнка и подготовить список необходимых документов.

Четыре экрана Алисы AI: постановка задачи о семейном бюджете, режим «Эксперт», перечень шагов решения и готовый ответ с допущениями

Так «Эксперт» разбирает задачу с расчётами: сначала показывает шаги решения и источники, к которым обращается, и только затем выдаёт ответ. Изображение: Яндекс

По оценке компании, режим особенно полезен для запросов, связанных с покупками, финансами, правом, медициной и путешествиями.

Как устроен автоматический выбор моделей

За выбор отвечает собственная система роутинга Яндекса. Роутинг в данном случае – это распределение запросов между доступными моделями. Система анализирует задачу, оценивает, сколько ресурсов потребуется для подготовки ответа, и определяет подходящую модель.

Таким образом, выбор происходит на стороне сервиса: пользователь формулирует задачу, а Алиса AI решает, достаточно ли быстрой обработки или стоит задействовать «Эксперта».

В предоставленном анонсе Яндекс не раскрывает конкретные модели, критерии переключения и количественные показатели скорости или точности. Поэтому оценить выигрыш от автоматического выбора по этому описанию пока нельзя.

Зачем нужна агентная архитектура

Выбор модели – одна из частей системы. Для сложного запроса ассистенту могут понадобиться поиск информации, обработка файлов и обращения к внешним сервисам.

Последовательность этих действий организует собственная агентная архитектура Яндекса, которую компания называет харнессом – от английского harness. Это программный слой вокруг модели, помогающий ей планировать действия, сохранять контекст и выполнять задачу по этапам.

Роутинг и харнесс решают разные задачи: первый выбирает модель для запроса, второй организует её работу с контекстом и инструментами. Именно сочетание этих компонентов позволяет сервису переходить от подготовки обычного ответа к выполнению задач, требующих нескольких действий.

Работа с файлами и условия доступа

В режиме «Эксперт» пользователи могут загрузить несколько файлов и попросить Алису AI проанализировать их совместно. Интерфейс также позволяет следить за отображаемыми этапами решения и видеть, к какой информации обращается ассистент.

Веб-версия Алисы AI: в строке ввода отмечен режим «Интеллект: Эксперт», ниже панели «Студия» и «Инструменты»

В веб-версии выбранный режим виден прямо в строке ввода. Изображение: Яндекс

На момент анонса «Эксперт» доступен всем пользователям без ограничений. В дальнейшем Яндекс планирует связать наиболее активное использование режима с подпиской «Алиса Плюс». Конкретные лимиты и сроки изменения условий в предоставленном сообщении не указаны.

Автор:
Комментарии и отзывы

Нашли ошибку?

Новое на сайте