Обновление YandexGPT 4 от Яндекса

Недавно Яндекс представил обновленное семейство моделей YandexGPT 4. Оно включает мощную Pro-версию и облегченный Lite-вариант. Эти модели теперь доступны через API в Yandex Cloud. Первые пользователи, которые их протестируют, — это подписчики Алисы с тарифом «Про».

Что нового?

Основное преимущество новых моделей — улучшенная способность отвечать на сложные запросы. Кроме того, они поддерживают «скрытые рассуждения». Это позволяет моделям анализировать задачи в несколько этапов. В тестах Pro-версия показала на 70% лучших результатов по сравнению с предыдущими версиями. Lite-версия, хотя и облегченная, сохраняет высокое качество ответов. Она также конкурирует с более старыми моделями.

Тестирование и результаты

Для объективной оценки возможностей новой модели команда провела два типа тестирования:

Бенчмарки: стандартные тесты с заранее подготовленными ответами. Этот метод позволяет оценить работу модели по заданным критериям.
Side by Side: сравнение моделей на одинаковых задачах. Эксперты оценивают ответы «вслепую», что ближе к реальным сценариям.

Результаты показали, что YandexGPT 4 Pro по ряду задач сопоставима с GPT-4. Кроме того, по прикладным задачам она находится на уровне популярных моделей Llama.

Что можно попробовать прямо сейчас?

Длинный контекст: Pro-версия теперь работает с 32 тысячами токенов. Ранее было 8 тысяч. Это позволяет анализировать длинные запросы и большие объемы текста — до 60 страниц.
Работа с внешними источниками: улучшены алгоритмы. Теперь модель может подгружать данные из внешних документов. Это повышает точность ответов и снижает вероятность ошибок.

Обучение YandexGPT 4 и планы на будущее

Работа над моделью велась с особым вниманием:

Обучение проводилось с использованием внутренней библиотеки Яндекса YaFSDP. Это ускорило процесс.
В тренировочные данные были добавлены длинные документы. Это помогло модели привыкнуть к большому объему контекста.
Использовалась техника пошаговых рассуждений. Она обучила модель анализировать запросы и выделять ключевые этапы решения.

В ближайшее время Яндекс добавит к API поддержку скрытых рассуждений. Это позволит видеть, как модель приходит к ответу шаг за шагом. Также в YandexGPT скоро появится функция вызова внешних функций. Это откроет новые возможности для интеграции с другими инструментами и создания умных ассистентов.