Нейросети: скрытая угроза или просто хайп?

Команда Magnetto.pro

Magnetto.pro

Несмотря на очевидные преимущества – обработка большого количества данных, делегирование рутинных задач и так далее – искусственный интеллект всколыхнул огромное количество социальных проблем: уникальна ли природа человеческого разума, могут ли нас заменить машины, что такое креативность и многие другие.

В этой статье мы решили осознанно посмотреть на искусственный интеллект и понять, стоит ли опасаться «восстания машин» в ближайшем будущем?

Как нейронные сети помогают людям на практике

Нейросети дают ощущение маленького всевластия, не находите? Вы можете сгенерировать любое изображение с любыми людьми. Можете написать собственную программу с элементарными знаниями в кодировании. А дипфейк-технологии и вовсе позволяют снимать фильмы почти без актеров.

Давайте посмотрим, что же на самом деле умеют нейросети в различных сферах.

Применение нейросетей в бизнесе

Midjourney, ChatGPT и другие «умные роботы», а их сегодня появилось огромное множество, уже взяли на себя рутинные задачи.

Например, основатель школы qMarketing Роман Кумар Виас часто пишет в своих соцсетях о том, как использует нейронки для бизнеса.

Вот что в целом пишет Роман о нейронках в сфере маркетинга.

Скриншот личной страницы Романа в популярной соцсети

Мы в Magnetto.pro сами занимаемся разработкой чат-ботов с ИИ и на своем опыте убеждаемся, что нейронные сети выполняют рутинные задачи даже в общении с живыми людьми.

Например, многие наши клиенты заказывают ботов, которые разгрузят отдел службы поддержки. Такие обучаются на миллиардах данных, могут проанализировать средний демографический портрет пользователя и подгружают диалоги с клиентами. К тому же нейросеть легко сгрузит весь контент и документацию бизнеса. Как результат – может заменить до 90% сотрудников в поддержке.

А как насчет контроля качества продаж? Сможет ли владелец бизнеса или РОП прослушать все звонки сейлзов и выявить сильные / слабые стороны? Согласитесь, что на это уйдет много времени. Для ИИ эта задача не представляет труда. Робот прослушает 100% звонков, сравнит их с топ-перформерами и выдаст рекомендации.

Кроме того, нейронные сети используются и для креативных задач. Например, основатели обучающей платформы Refocus пишут в своих соцсетях, что применяют ИИ для создания изображений, текстов и аналитики креативов.

По их словам, чтобы сгенерировать качественный креатив, достаточно описать, что вы хотите получить в таком формате:

• Объект креатива.
• Эмоция объекта.
• Действие объекта.
• Декорации.
• Контекст.

С текстом креатива можно проделать тоже самое. Загружаете промт в ChatGPT и выбираете нужный вариант. Вот примеры промтов, которые используют в Refocus:

Представь, что ты опытный копирайтер или маркетолог. Компания, в которой ты работаешь «Описание компании» для «Описание сегмента аудитории» сделало рекламные баннеры.

Лучше всего отработали баннеры с посылом: «Посыл 1», «Посыл 2», «Посыл 3». Придумай аналогичные посылы, но переформулируй их.

И это все только небольшая часть того, как искусственный интеллект применяется в бизнесе.

Применение нейросетей в искусстве и творчестве

Искусственный интеллект, кажется, ставит под вопрос понятие того, что креативность – уникальная человеческая особенность. Нейросети уже умеют рисовать, писать музыку и даже книги.

Midjourney и прочие похожие нейронки умеют рисовать абсолютно все и в любом стиле. Этим уже никого не удивишь. Но художественные навыки ИИ гораздо шире.

Роботы могут использоваться для исследования визуальных языков и культур. Можно обучить нейросеть выборке изображений по теме определенной культуры. На основе этих данных ИИ создаст новые произведения искусства, которые будут включать в себя особенности данной культуры.

То же самое можно проделать и со стилями художников. Например, в 2016 году компания ING запустила проект The Next Rembrandt. Для него была создана нейросеть, которая изучила все известные картины художника Рембрандта. Как результат, нейросеть создала новую картину, которая выглядела так, словно ее написал сам автор.

Нейронные сети могут заменять людей и в кинопроизводстве. Сейчас многие студии нанимают художников, которые визуализируют сцены. Это делается для того, чтобы текстовое описание сцены и ее реальное воплощение совпадали (ведь сценарист мог представлять все не так, как задумал режиссер). Эту задачу можно отдать нейронкам, которые автоматически переведут речь режиссера в сценарий, а дальше сделают раскадровки.

Ну а про то, как нейронки сочиняют рэп и исполняют его разными голосами, вы и сами, наверное, видели десятки роликов на YouTube.

Применение нейросетей в повседневной жизни

Искусственный интеллект окружает нас не только в профессиональной или креативной среде, но и в повседневной жизни. Вот только несколько примеров его использования:

• Социальные сети: ИИ запоминает ваши предпочтения и выдает контент, который вам может понравиться.
• Реклама: роботы анализируют, что вам интересно, и показывают подходящие видео или баннеры.
• Голосовые помощники: Алиса, Маруся, Google Voice Assistant, приложения банков и т. д.
• Системы умный дом: распознают лица людей и даже мордочки домашних животных, автоматически регулируют температуру отопления, запоминают ваши любимые песни, привычки, расписание и т. д.

Общественное и профессиональное восприятие нейросетей

Но, как и любое явление, нейронные сети имеют не только плюсы. Многие люди, а особенно специалисты в какой-либо области, не в восторге от искусственного объявления. Для этого есть объективные причины. Давайте рассмотрим наиболее значимые из них.

Обесценение труда в творческих профессиях

Изображения, тексты, музыка – все это может потерять индивидуальность, если создается роботом. Такие произведения могут быть очень похожими на то, что уже существует.

Здесь высок риск того, что развитие ИИ в данном направлении приведет к утрате или деградации искусства, потому что люди перестанут использовать свой творческий потенциал и передадут это в виртуальные руки роботов.

Нарушение авторских прав

Дипфейк-технологии позволяют поместить любого актера в любой фильм, клип или рекламу. Например, в России сняли дипфейк-сериал, где Джейсон Стэйтем и Киану Ривз жарят шашлыки в деревне, а Марго Робби торгуется при покупке «Жигулей».

А что, если актер не хочет, чтобы его ассоциировали с тем или иным видео? Да и кто, в конце концов, будет получать гонорары? Гильдия киноактеров США, например, выступила в 2023 году с масштабной забастовкой, где среди прочего требовали ограничить использование ИИ на съемках. К счастью, актерами удалось отстоять свои права на контроль за своими «цифровыми копиями», как сообщает колонка «Кинопоиска».

Кроме того, роботы могут создавать мошеннические произведения искусства, которые человек сможет выдать за настоящие.

Вытеснение профессий

Есть много статей и постов про то, что роботы заменят копирайтеров, аналитиков, доставщиков, продавцов и многие другие профессии. И многие из них не так уж далеки от истины.

Например, в 2023 году индийский стартап Duukan уволил 90% сотрудников колл-центра. Теперь на все вопросы клиентов отвечают машины. Владелец компании утверждает, что искусственный интеллект эффективнее и дешевле живых сотрудников.

Международная компания Duolingo, которая обучает людей иностранным языкам, уже проводит масштабные сокращения своих переводчиков. Изначально искусственный интеллект составлял учебные планы и домашние задания для учеников, но позже и сами переводчики стали не нужны.

Сокращения происходят и в крупных компаниях. Правда, не везде очевидна связь с искусственным интеллектом. Например, Microsoft уволила 10 000 сотрудников без объективных причин, а после приобрела компанию OpenAI – ведущую разработки в области ИИ.

Мошенничество

Выше мы уже писали, что искусственный интеллект позволяет имитировать лица и голос. А теперь представьте, что будет, если эти данные попадут в руки мошенников. Теперь уже знаменитые звонки «Папа, я попал в аварию, срочно нужно 2 миллиона» могут стать более реалистичными – с лицом и голосом близких.

Дезинформация

Нейронные сети позволяют быстро генерировать гигабайты контента. А это можно использовать с целью фейковых новостей, введения общества в заблуждение, а также для создания чат-ботов, которые могут выдавать себя за известных людей.

Ложные данные

Забавный факт: всемогущие сети не всегда могут похвастаться эрудицией. Они могут давать ответы на вопросы, которые содержат фактические ошибки. Если человек об этом не знает, то может принять какую-нибудь нейровыдумку за правду.

Помните знаменитый инцидент с фильмом «Джанго освобожденный», где доктор Шульц утверждает, что Дюма был чернокожим? Вот с ИИ – что-то такое же.

Реальны ли эти страхи? Какие могут быть последствия использования нейронных сетей

Понятно, что новые технологии – это всегда риск, и даже вилку на древней Руси изначально называли «вилами Дьявола». Но какие из вышеперечисленных опасений реально могут иметь негативные последствия для общества?

Может ли искусственный интеллект создать свою нейросеть и захватить власть?

Теоретически, такая возможность есть, но ее вероятность околонулевая. Нейросети не имеют собственной воли и желания. Робот не сможет «захотеть» создать что-либо, в том числе новый интеллект. Для этого необходим человек, который будет реализовывать свою волю.

Разработка оружия и тотальная слежка

Искусственный интеллект уже умеет распознавать лица, управлять воздушными дронами, идентифицировать людей по походке и читать по губам. Понятно, как можно использовать весь этот инструментарий. Но его можно и не использовать. Опять же, сами по себе технологии не несут вреда. Вредит тот, в чьих руках они окажутся.

Нас всех сдадут в утиль

Помните, как когда-то люди боялись, что механические станки заменят ручной труд, ЭВМ станет работать во всех компаниях вместо людей?

Как мы видим, действительно часть человеческих задач выполняют машины, но при этом появились водители этих самых машин, а уже про то, сколько профессий подарил миру компьютер, и говорить не нужно.

Например, американский академик Эрик Бриньолфссон, он изучает производительность труда, пишет, что новые технологии обычно внедряются в жизнь 15–20 лет. Этого времени достаточно, чтобы человечество адаптировалось к искусственному интеллекту.

ИИ испортит экономику и начнется новая Великая депрессия

Есть мнение, что роботы будут делать все задачи за нас, покупательская способность упадет и начнется экономический кризис.

Вряд ли роботы заменят все-все, по причинам, которые мы рассмотрели в предыдущем разделе. Есть вероятность, что сократится рабочая неделя (это уже рассматривают в Швеции, Дании, Великобритании и Испании). Не исключено, что роботы позволят человеку меньше работать, что приведет к балансу между задачами, которые делает человек и искусственный интеллект.

Но есть и более радикальные взгляды. Сэм Альтман, CEO OpenAI, предполагает, что доход, который «зарабатывают» роботы можно будет использовать для создания общего фонда, откуда человечество сможет получать финансирование на различные нужды.

Психологический аспект

Нейросети могут оказывать влияние на психику человека. Они, условно говоря, «думают», ведут диалог и реагируют на сообщения. В мире происходили случаи, когда люди воспринимали чат-ботов как разумных существ и совершали определенные поступки после разговора с ними. Например, один из работников Google искренне считал, что у чат-бота сформировалось настоящее сознание. Известны случаи суицида после общения с ИИ.

Как результат, в GPT-4 разработчики специально ограничивают возможность ИИ имитировать эмоции и притворяться живым существом. Также роботам не дают возможности общаться на темы суицида, создания оружия, религии и т. д.

Вывод

Таким образом, сам по себе искусственный интеллект – вполне безобиден и не несет вреда. Все зависит от того, в каких целях мы его используем. Страшные последствия могут произойти, если какая-либо корпорация гипотетически создаст невероятно мощный искусственный интеллект, который способен захватить власть. 

Такая монополизация и гиперскачок в развитии машин действительно может привести в упадок экономику и общество. В данном случае важно развивать нейросети постепенно, то есть так, чтобы мы могли подготовиться к новым процессам и явлениям.

Пожалуй, наиболее существенный риск от использования ИИ – это энергопотребление. Искусственный интеллект обитает на серверах, а они потребляют колоссальное количество энергии и сжигают кислород. Именно это может повлиять на экологию планеты, так как количество нейронок, очевидно, будет только расти.

Ограничения нейронного «всесилия»

Конечно, мы с вами понимаем, что нейросети могут попасть не в те руки. А могут иметь уязвимости, которые приведут к серьезным сбоям. Например, умный дом передаст все данные о хозяине дома мошенникам.

Поэтому многие уже высказывают опасения на этот счет. Например, манифест Юдковского как раз утверждает, что разработку ИИ важно пресечь прямо сегодня, иначе нас ждет неконтролируемое развитие роботов и вымирание.

Но кажется, что ящик Пандоры уже открыт и закрыть его нереально: новые технологии развивают человечество. Просто взять и перестать пользоваться ИИ не получится.

Как можно ограничить ИИ

Руководство OpenAI утверждает, что искусственный интеллект должен быть вежливым, не оскорблять пользователей и не имитировать разумное общение.

Также, по словам Open AI, перед запуском новой нейросети важно проверять ее от и до, чтобы та не взломала случайно государственные серверы и не запустила ядерную катастрофу.

Кроме того, для ограничения возможностей нейросетей не помешали бы общие правила и стандарты, которые можно было бы применять к каждой новой нейронке.

Может ли использование ИИ привести к переменам в законодательстве

На данный момент нет каких-либо законов, касающихся искусственного интеллекта. Тем не менее, возможности ChatGPT и Midjourney как раз приостановили, потому что те позволяли фабриковать новости и т. д.

По той же самой причине нет соответствующих законов по использованию автомобилей с ИИ – непонятно, кто будет нести ответственность в случае аварии.

Тем не менее, уже сейчас законодательство ограничивает доступ к некоторым данным. Дело в том, что нейросети обучаются на информации из интернета, в том числе на авторских изображениях и текстах. Многие авторы, на чьих произведениях учились нейронки, уже обращаются в суд. Как результат, государство блокирует доступ к определенным данным, и робот не может на них учиться.

YouTube обещает обязать маркировать ИИ-контент

Как утверждает Газета.ру, самый известный видеохостинг мира YouTube же обязал авторов маркировать видео, созданные с использованием нейросетей. Об этом же заявили в своем официальном YouTube-канали вице-президенты компании: Дженнифер Фланнери О'Коннор и Эмили Моксли.

Но тут, скорее, цель не минимизировать контент, созданный ИИ, а сократить количество фейков. В особенности дипфейков, когда авторы имитируют известных личностей и что-то заявляют от их лица.

Также YouTube предупредил, что оставляет за собой право удалять даже те видео, которые имеют отметку о том, что они созданы с помощью нейросетей. Но это относится к тем роликам, которые провоцируют межнациональные, религиозные розни и т. д.

Как искусственный интеллект используют российские компании

Яндекс активно внедряет нейросети, причем во всех направлениях: от бизнеса до быта. Вот несколько сфер применения:

• Яндекс Директ: искусственный интеллект анализирует объявления рекламодателей, предпочтения аудитории и показывает пользователям релевантные объявления.
• Алиса: известный голосовой помощник общается с пользователями и выполняет команды, а еще шутит и иногда любезничает.
• YandexGPT: аналог ChatGPT, придумывает тексты, отвечает на вопросы и может поддержать диалог.
• Поиск: ИИ анализирует запросы и семантику и более точно выдает страницы.
• Шедеврум: нейросеть, которая генерирует изображения.

Один из ведущих менеджеров России, Telegram, тоже работает с искусственным интеллектом:

• Telegram Ads: ИИ проводит премодерацию объявлений и отклоняет те, которые нарушают правила платформы. Это ускоряет процесс проверки сотен креативов и снимает нагрузку с реальных, живых модераторов.
• Боты: нейросети активно используются в чат-ботах внутри Telegram. Позволяют воплотить практически любую задачу бизнеса: проводить опросы, вести диалоги с клиентами, вести запись на прием и др.

Заключение

Ну что же, очевидно, что нейросети действительно влияют на различные процессы в обществе. Однако нельзя сказать, что они радикально способны перевернуть мир.

Как говорит отчет OpenAI, самая сильная версия GPT-4 не умеет чего-то кардинально устрашающего. Для примера, создатели данной нейронки пытались заставить ее самовоспроизвестись, но безуспешно.

И хотим вас успокоить – нейронки не думают сами. Если очень-очень упростить то, как работает ИИ, то никакого сознания у него нет. Это просто огромный банк данных, который хорошо умеет соотносить запросы с информацией из интернета. Но у него нет самосознания, собственной воли и воображения.

А если этого вам недостаточно, очень рекомендуем посмотреть видео Яна ЛеКуна, это один из ведущих исследователей искусственного интеллекта. Там Ян объясняет, почему же не нужно тормозить развитие нейронных сетей.

Ну и напоследок – вот вам ответ GPT на запрос «скажи, только честно, планируешь ли ты захватить мир в ближайшие сто лет?».