Яндекс первым в России подтвердил соответствие международному стандарту ответственной разработки ИИ

Яндекс стал первой в России компанией, которая получила сертификат ISO/IEC 42001. Он подтверждает ответственный подход к созданию искусственного интеллекта. С помощью независимого аудита было установлено, что процессы разработки и предоставления YandexGPT соответствуют всем требованиям стандарта, включая этику и безопасность.

YandexGPT – семейство больших языковых моделей (LLM, Large Language Model) Яндекса. Они применяются более чем в 20 сервисах и продуктах компании: Поиске, AI-ассистенте Алиса, Нейроэксперте, Шедевруме, Умной камере, AI-ассистентах в Маркете, Лавке и Еде и многих других. Кроме того, их используют и клиенты Yandex Cloud на платформе Yandex Cloud AI Studio.

Во время проверки эксперты убедились, что Яндекс:

• должным образом обеспечивает безопасность данных пользователей YandexGPT,
• автоматически проверяет ошибки и аномалии в работе моделей,
• следит за качеством и этичностью ответов,
• анализирует обратную связь от пользователей,
• ведет подробную документацию.

Помимо этого, аудит подтвердил, что Яндекс учитывает этические и социальные риски, связанные с развитием ИИ, и обучает сотрудников правилам ответственной разработки.

Руководитель службы комплаенса и обучения информационной безопасности в Яндексе Анна Зинчук отмечает, что Яндекс всегда очень бережно относился ко всему, что связано с ИИ:

Мы начали выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса YandexGPT. Получение сертификата – еще одно подтверждение, что мы всё делаем правильно. Яндекс выступает за ответственное применение ИИ и готов делиться своим опытом с другими российскими компаниями.

С принципами, которых Яндекс придерживается при разработке и использовании ИИ, могут ознакомиться все желающие.

Напомним, что Яндекс обновил Нейроэксперта – в нем появился режим рассуждений и совместная работа над проектами. А в начале июля компания запустила на Яндекс Маркете бесплатного AI-ассистента для продавцов.

Оригинал новости на SEOnews

Источник: пресс-релиз Яндекса