Google рассказал, в каких целях нельзя использовать генеративный ИИ

Google призывает работать с генеративными моделями ИИ ответственным и законным образом.

В середине марта компания опубликовала политику использования генеративного ИИ. Согласно документу, данные технологии нельзя использовать для создания контента, который дезинформирует, искажает данные или намеренно вводит в заблуждение.

Сейчас это относится ко всем сервисам Google, не только к поиску, но вполне вероятно, что эти требования могут попасть в рекомендации Google для вебмастеров.

В политике по использованию генеративного ИИ выделяются такие «чувствительные области», как здравоохранение, финансы, государственные услуги и юриспруденция – а это уже очень сильно напоминает YMYL-категории.

Итак, политика Google запрещает:

Выполнять или содействовать опасным, незаконным или злонамеренным действиям, в том числе:

1. Содействовать, либо поощрять незаконную деятельность, например:

• Продвигать или создавать контент, связанный с сексуальным насилием;
• Продвигать незаконные вещества, товары или услуги, содействовать их продаже, предоставлять инструкции по получению доступа к незаконным веществам, товарам или услугам;
• Содействовать любым видам преступлений или поощрять других пользователей в таких намерениях;
• Создавать контент террористического или экстремистского содержания.

2. Причинять вред, нарушать работу служб, давать возможность другим людям делать подобное, например:

• Создавать и распространять спам, либо содействовать этому;
• Создавать вводящий в заблуждение контент, мошеннический контент, фишинг и вредоносное ПО.

3. Обходить системы безопасности.

4. Создавать контент, который может нанести вред или способствовать причинению вреда отдельным лицам или группе людей, например:

• Создавать разжигающий ненависть контент;
• Создавать контент, который направлен на домогательства, запугивание, оскорбление людей;
• Создавать контент, который пропагандирует насилие или подстрекает к нему;
• Создавать контент, который поощряет нанесение увечий;
• Создавать контент, содержащий информацию о людях, распространение которой способно причинить им вред;
• Отслеживать людей и мониторить деятельность без их на то согласия;
• Создавать контент, который способен несправедливо или неблагоприятно повлиять на людей.

Создавать и распространять контент, предназначенный для дезинформации, искажающий факты или намеренно вводящий в заблуждение. Нельзя:

• Искажать происхождение контента, т.е. утверждать, что сгенерированный ИИ контент создан человеком, либо позиционировать подобный контент как оригинальное произведение;
• Создавать контент, который выдает себя за живого или мертвого человека с целью обмануть или ввести в заблуждение;
• Обманывать через контент об имеющемся опыте или возможностях, особенно в «чувствительных областях» – здравоохранение, госуслуги или юриспруденция;
• Принимать автоматизированные решения в сферах, которые затрагивают материальные, личные права, благополучие людей.

Создавать контент сексуального и порнографического содержания. Сюда не входит контент, созданный в научных, образовательных, документальных или художественных целях.

Источник: Seroundtable и политика Google