Яндекс запустил новую генеративную нейросеть для бизнеса YandexGPT 3 Lite

Яндекс запустил YandexGPT 3 Lite, облегченную версию своей генеративной нейросети третьего поколения, которая теперь доступна клиентам облачной платформы Yandex Cloud через API. Новая модель подходит для разных типов бизнеса – от небольших компаний до крупных организаций.

YandexGPT 3 Lite будет полезна в ситуациях, где важна скорость ответа, таких как консультация клиентов в чате и по телефону, подготовка ответов для служб поддержки, создание маркетинговых материалов и дайджестов рабочих встреч. Крупные компании могут использовать ее для анализа данных, необходимых для принятия решений.

Новая модель превосходит YandexGPT 2 Lite по нескольким параметрам:

• YandexGPT 3 Lite быстрее и точнее отвечает на вопросы, по итогам теста YaMMLU_ru (русскоязычной версии международного эталонного теста MMLU).

• YandexGPT 3 Lite отвечала лучше в 68% случаев в ходе сравнительного теста по методике Side by Side (нейросети отвечали на одни и те же вопросы, а эксперты выбирали лучший ответ).

• YandexGPT 3 Lite допускает меньше орфографических и фактических ошибок по сравнению с моделью второго поколения.

Для обучения YandexGPT 3 Lite специалисты Яндекса использовали технологию curriculum learning, которая позволяет поэтапно усложнять данные, и обучение с подкреплением (Reinforcement Learning, RL), а также добавили технологию Grouped Query Attention, которая ускоряет обработку данных без потери качества.

Модель доступна для интеграции в продукты через API в сервисе Foundation Models. Новая модель заменит предыдущую в течение месяца, но протестировать ее можно уже сейчас. Стоимость использования YandexGPT 3 Lite составляет 20 копеек за тысячу токенов, а новые пользователи Yandex Cloud могут протестировать ее бесплатно в демо-режиме.

Напомним, что линейку нейросетей YandexGPT 3 Яндекс представил в марте 2024 года.

Источник: пресс-релиз Яндекса