Т-банк открыл доступ к языковой модели на 32 млрд параметров – T-Pro

Т-банк выложил в открытый доступ две большие языковые модели (LLM): T-Pro на 32 млрд параметров и обновленную T-Lite на 7 млрд параметров. Они разработаны на базе моделей семейства Qwen-2.5 от китайской Alibaba Group. Хотя их дообучили и перевели на русский язык, такой подход позволил сэкономить 80-90% средств в сравнении с тратами, которые потребовались бы при разработке с нуля. Инвестиции в проект компания не раскрывает.

Представитель компании утверждает:

Качество решений LLM-продуктов на русском языке превосходит решения, базирующиеся на открытых и проприетарных моделях от OpenAI, Google и Anthropic

Представленные модели относятся к Gen-T – семейству собственных языковых моделей компании, которые предназначены, чтобы решать конкретные узкоспециализированные задачи. Как пояснил представитель компании, это их основное отличие от универсальных решений, например, ChatGPT.

Благодаря открытому доступу бизнесы любых размеров смогут полностью бесплатно использовать модели, чтобы создавать новые продукты на базе LLM, которые им необходимы: умные чат-боты в поддержке или ассистентов для своих сотрудников, позволяющих автоматически писать код, составлять отчеты, писать исследования и так далее.

Гендиректор Dbrain, автор Telegram-канала AI Happens Алексей Хахунов отмечает, что создать собственную языковую модель стоит десятки миллионов долларов, а релиз модели Т-банка позволит компаниям, которые «переживают за свои данные», запустить модель на своих серверах. Эксперт также объясняет, что подход банка позволяет дообучить модели на свой конкретно узкий кейс.

Директор по AI Сберуниверситета, автор ТГ-канала «Дизайн образования» Андрей Комиссаров же подчеркивает, что на практике именно развитие решений с открытым исходным кодом позволяет наиболее активно развивать ИИ.

Лицензия Т-банка подразумевает, что пользователи не просто под себя ее дообучают, но и добавляют свой код в общий репозиторий, – продолжает Андрей Комиссаров. – Таким образом модель развивается, а держатели корневой модели получают все время новые решения.

Напомним, что Т-Банк впервые открыл доступ к первой версии T-Lite в июле этого года. А в декабре Яндекс обновил опцию Алиса Про, добавив доступ к своей самой мощной языковой модели YandexGPT 4 Pro.

Источник: Ведомости