Почему необходимо А/В-тестирование страниц и как его провести

Россия+7 (495) 960-65-87
Шрифт:
0 9616

Любой развивающийся продукт так или иначе сталкивается с проблемами или задачами, которые можно решить несколькими путями. И правильность решения можно проверить только с помощью эксперимента и сравнения результатов всех предложенных вариантов решения.

А/В-тестирование проводится для проверки изменений интерфейсов сайтов. В чем его суть? Части аудитории показывается оригинальная страница, части – страница с изменениями. Система А/В-тестирования собирает данные по конверсии со всех вариантов страниц, по результатам подсчитывает статистическую достоверность различия конверсии. В итоге А/В-тест показывает нам эффективный вариант, который можно внедрить.

Чаще всего гипотезы для тестов появляются из:

  • поиска путей для оптимизации отдельных шагов воронки конверсии;
  • анализа результатов исследований пользовательского опыта;
  • споров продуктовой команды о развитии продукта или отдельного функционала;
  • отзывов и обращений пользователей о неудобстве продукта;
  • поиска путей получения корректных данных, вводимых пользователями на сайте.

Возможны и другие варианты обоснования проведения А/В-тестов. Например, при запуске новой версии продукта мы захотим убедиться, что обновления пошли на пользу, и она не проигрывает старой.

Часто забывают еще одну важную задачу А/В-тестов – возможность заранее проверить эффективность предложенного варианта и оценить рентабельность внесения изменений на боевой версии сайта или подготовки необходимого контента. Например, что чем больше качественного и релевантного контента будет на карточке товара в интернет-магазине, тем больше его будут добавлять в корзину и потенциально покупать. Но возможно, что производство и актуализация такого контента будет стоить больше, чем это принесет профита компании.

По сути, A/B-тестирование – это единственный вариант убедиться в том, какие изменения точно нужно внедрять. Но и он не лишен различных подводных камней.

Так, из-за широкого выбора систем может возникнуть проблема с выбором оптимальной. А переходить попеременно по нескольким системам – потеря времени и остановка в развитии продукта. Из-за этого может возникнуть ощущение, что начать проводить тесты – сложная задача и требует много свободного времени. Но, попробовав раз, вы поймете, что этот инструмент просто необходим для проверки всех изменений до момента внедрения.

В сети можно найти большое количество статей о сравнении систем А/В-тестирования. Но они или написаны давно и утратили актуальность, или подготовлены одной из систем и могут быть не совсем объективны. В этом материале хочется поделиться своим опытом в выборе системы проведения А/В-тестов. При этом у нас нет цели сравнить несравнимое или найти маловостребованные особенности систем и настаивать на их необходимости. Скорее это будет сравнение и выбор на основе опыта использования разных систем на большом количестве проектов.

Надеемся, что наш опыт поможет выбрать систему, которая решит ваши задачи. И, применив наработанное знание о своем продукте, после серии А/В-тестов вы получите более конверсионный и удобный пользователям интерфейс. Или, возможно, вы решите попробовать новую для вас систему А/В-тестирования и не будете тратить время на поиски той, которая подойдет именно вам.

Что важно для выбора системы

Основываясь на своем опыте, мы выделили несколько ключевых критериев, на которые стоит обратить пристальное внимание при выборе.

1. Возможности запуска тестов

1.1. Наличие всех возможных типов тестов: А/В/N и MVT для проверки локальных гипотез, Split (редирект) – для сравнения новой и старой версии сайта

На текущий момент все системы позволяют запускать все варианты тестов, и это не самый критичный пункт в сравнении. Скорее, странным может показаться отсутствие или ограничения в использовании какого-либо типа тестов.

1.2. Возможность и легкость тестирования набора страниц.

Зачастую необходимо протестировать изменения или всего каталога интернет-магазина, или одного элемента (например, стоимости) на всех страницах воронки конверсии.

1.3. Виды таргетингов для запуска тестов: как базовые возможности вида URL страниц с учетом get параметров/utm метки/типы устройств, так и более точечные – вида значения js переменной/значение cookie.

Обычно в тесте вносятся изменения для всех, кто зашел на страницу. Но при тестировании специфического функционала не для всех пользователей, например, начисления баллов программы лояльности, пригодится весь набор возможных таргетингов для отделения необходимой аудитории.

1.4. WYSIWYG редактор и возможность изменения JS/CSS.

WYSIWYG редактор и возможность изменения JS CSS.png

С одной стороны, надежнее сверстать новую версию страницы, настроить редиректы и полностью подготовить новую страницу на сайте. С другой – быстрая проверка несложных изменений приоритетнее, поскольку позволяет в перспективе запустить безостановочный конвейер тестирования и постоянного увеличения конверсии.

2. Техническая составляющая

2.1. Размещение системы на сайте с использованием Google Tag Manager

Возможно, излишний пункт, но мы привыкли использовать GTM и стараемся использовать его возможности по максимуму для объединения всех трекеров в одном месте.

2.2. Возможность интеграции с системами веб-аналитики для получения дополнительных срезов данных.

По нашему опыту, бывают тесты, которые по-разному влияют на различные сегменты аудитории. Например, при показе прогноза погоды на калькуляторе страхования выезжающих за рубеж, взрослые пользователи могут конвертироваться лучше оригинала страницы; молодые – наоборот. Смотря на агрегированные данные по всем сегментам в совокупности, может получиться, что различий в конверсии нет. Но просматривая результаты в разных срезах, можно найти положительный результат и внедрить его для релевантной аудитории.

3. Подведение результатов тестов

3.1. Возможность задать несколько показателей для подведения результатов тестирования.

3.1 Возможность задать несколько показателей для подведения результатов тестирования.png

Например, если в интернет-магазине переводить всех зашедших пользователей в раздел товаров со скидкой, то, скорее всего, конверсия в заказы увеличится. Но средний чек при этом упадет. В такого рода тестах удобно иметь возможность при подведении результатов проверить все критичные показатели эффективности в одном отчете.

3.2. Удобство и простота настройки отслеживания показателей для подведения результатов тестирования.

3.2 Удобство и простота настройки отслеживания показателей для подведения результатов тестирования.png

Адекватное тестирование начинается с определения KPI, который необходимо улучшить. И только после этого стоит начинать поиск гипотез тестирования и непосредственно тест. Поэтому важно, чтобы отслеживание необходимых KPI в системе тестирования было удобно реализовано.

3.3. Дополнительные инструменты для анализа.

Часть систем имеет встроенные карты кликов, опросы или иной функционал, который может пригодиться как для анализа результатов проводимых тестов, так и для дополнительных исследований.

4. Стоимость использования системы

4.1. Бесплатная или платная система.

Большая часть систем являются платными и тарифицируются в зависимости от ежемесячного количества тестируемых пользователей.

Поскольку А/В-тестирование само по себе не монетизируется, а лишь позволяет проверить и подсчитать возможную монетизацию, хочется, чтобы использование системы ничего не стоило. Кроме того, большая часть систем не имеют отечественных офисов, что вызывает сложности при оплате в валюте и обмене документами.

Нельзя сказать, что обозначенный список включает в себя все возможные критерии сравнения. Скорее это необходимый минимум, который стоит ожидать от системы А/В-тестирования.

Сравнение систем А/В-тестирования

Мы подготовили таблицу, где свели результаты сравнения по обозначенным в предыдущем разделе критериям и приписали каждой системе баллы для подсчета итогового результата.

В зависимости от конкретного проекта вес критериев может быть различным. Но для простоты сравнения в статье мы позволили себе перевести все в цифры. Если система отвечает критерию, присваиваем ей 1 балл, не отвечает – 0 баллов. Если система отвечает критерию и имеет дополнительный плюс по критерию, присваиваем 1,5 балла.

Подсчитываем проставленные системам баллы и получаем итог:

  1. Visual Website Optimizer: 11 баллов

Visual Website Optimizer.png

Система покрывает все базовые потребности проведения А/В-тестирования и имеет дополнительный функционал для анализа данных. Система платная, но тарифы достаточно гибкие, и стоимость ниже других систем.

Основные плюсы системы:

  • дополнительные инструменты анализа (карты кликов, скроллинга, видеозаписи посещений и т.д.).

Основные минусы:

  • система платная (от $49 / месяц за 10 000 пользователей);
  • необходимость размещения кода без GTM и отдельные трекеры дохода.

Если в вашем проекте нет привязки к аналитическим системам Google, то вам подойдет VWO. А если по каким-то причинам у вас нет возможности использовать Яндекс.Метрику, то VWO предоставит вам дополнительные возможности по поиску идей для тестов.

  1. Google Optimize: 10 баллов

Google Optimize.png

Система покрывает все базовые потребности проведения А/В тестирования. Отлично подойдет тем, кто уже активно использует аналитические системы Google: систему можно запустить через GTM и использовать показатели Google Analytics в виде целей тестирования Optimize.

Основные плюсы системы:

  • бесплатная, с небольшими ограничениями (например, не более пяти активных тестов одновременно);
  • простой запуск системы через GTM и полная интеграция с GA (как с отчетами, так и с конверсиями для подсчета в тестах);
  • возможность таргетировать тест по данным в dataLayer GTM.

Основные минусы:

  • сложность с тестированием набора страниц: максимально удобен лишь для тестирования изменений одного и того же блока на разных страницах.

  1. Optimizely: 9 баллов

Optimizely.png

Система покрывает все базовые потребности проведения А/В–тестирования. Основной минус – высокая стоимость (от $2 тыс. в месяц). И кроме этого, у системы нет службы поддержки в России, поэтому начать работу с этой системой непросто: зачастую представителей компании приходится уговаривать поработать с вами.

Основные плюсы системы:

  • простота и удобство тестирования последовательности страниц – под них выделен отдельный тип тестов.

Основные минусы:

  • необходимость размещения кода без GTM и отдельные трекеры дохода;
  • платная, с индивидуальными ценами.

  1. Convert: 10 баллов

Convert.png

Система покрывает все базовые потребности проведения А/В-тестирования. Достаточно сбалансирована по своим возможностям.

Основные плюсы системы:

  • система платная (от $449 / месяц за 800 000 пользователей).

Основные минусы:

  • необходимость размещения кода без GTM и отдельные трекеры дохода.

  1. Google Analytics: 3 балла

Google Analytics.png

Система устарела и по своим возможностям уступает любой другой системе А/В-тестирования. В планах Google – полностью заменить тесты Google Analytics на Google Optimize.

Основные плюсы системы:

  • возможность использования данных GA;
  • бесплатная.

Основные минусы:

  • все остальное.

В своей работе мы остановили выбор на Google Optimize. Основные причины: во-первых, мы используем весь стек аналитических систем Google, во-вторых, система имеет бесплатную версию.

Visual Website Optimizer имеет ряд плюсов, особенно в смежном функционале для анализа данных. Но его прямые аналоги есть в Яндекс.Метрике и платить за это не стоит.

Что думают о разных системах А/В-тестирования в мире

Любой вопрос сравнения возможностей не может быть однозначным и объективным. Мы поделились своим опытом, но, возможно, в иной ситуации важными будут другие факторы, и лучшим выбором будет система, которая нам не подошла. В любом случае выбор за вами.

Для сравнения можете посмотреть G2 Crowd A/B Testing Software quadrant и отзывы пользователей о различных системах. Однако будьте внимательны, в этом сравнении участвуют не только системы А/В-тестирования, но и системы персонализации контента.

G2 Crowd AB Testing Software quadrant.png

Читайте нас в Telegram - digital_bar

Есть о чем рассказать? Тогда присылайте свои материалы Даше Калинской


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
    ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
    Кейс: как продвинуть сайт производителя мебели на заказ в Москве
    Art Moderator
    2
    комментария
    0
    читателей
    Полный профиль
    Art Moderator -
    32 инструмента в помощь SEO-специалисту
    clark
    3
    комментария
    0
    читателей
    Полный профиль
    clark - Я - г-н Марк Джо из корпорации corp, мы являемся законной, зарегистрированной и гарантированной кредитной компанией, мы предоставляем 3% -ые кредиты частным лицам, компаниям, государственным учреждениям и деловым организациям и людям всех родов. Свободные кредиты - это решение всех ваших финансовых проблем. свяжитесь с нами по электронной почте: mjoe0123@gmail.com
    Исследование: влияние smart-ссылок на продвижение по СЧ-запросам
    Анатолий Шевчик
    1
    комментарий
    0
    читателей
    Полный профиль
    Анатолий Шевчик - +1097988
    Контекст под SEO. Как поисковая реклама помогает позициям в органической выдаче
    Сергей Дембицкий «Sima-Land.ru»
    22
    комментария
    0
    читателей
    Полный профиль
    Сергей Дембицкий «Sima-Land.ru» - Боже мой, неужели SEO-маги вернулись??? Открыть в роботс utm-метки для индексации и наплодить дублей...что? А расчеты в конце статьи про бюджет на SEO и контекст...откуда эти пропорции? Как по мне, SEO-магия вне Хогвартс. Спасибо, развеселили!
    Все, что нужно SEO-специалисту. Обзор инструментов
    Администратор Сайта
    1
    комментарий
    1
    читатель
    Полный профиль
    Администратор Сайта - Шаришь в seo! Сервис реально хороший
    Два идеальных способа разориться на старте интернет-магазина
    Стас
    4
    комментария
    0
    читателей
    Полный профиль
    Стас - Seonews в последнее время такую чушь несет! Где вы таких афторов находите? Статья ничего не стоит и несет чушь! Кто хоть немного понимает в этом так вам и скажет, и такие де комментаторы горе-сеошники, просто смешно читать, вы хоть модерируете ваши статьи или просто для воды на сайте?! Бред сивой кобылы эта статья до самой последней точки!!!
    Яндекс перестал индексировать сайты, созданные на Wix
    Константин Даткунас
    3
    комментария
    0
    читателей
    Полный профиль
    Константин Даткунас - Было бы интересно посмотреть саму выборку из 10 000 и методику анализа.
    4 способа быстро собрать теги для сайта
    Рустем Низамутинов
    5
    комментариев
    0
    читателей
    Полный профиль
    Рустем Низамутинов - Расписал и закинул в Google Docs, а то здесь в комментариях ссылки на активны. docs.google.com/document/d/1r0TZLNrQyYLdIzDQsD5YKlMG41HUGQgEep3bxE_ij-M/edit?usp=sharing
    Яндекс: как мы модерируем объявления
    Гость
    5
    комментариев
    0
    читателей
    Полный профиль
    Гость - Это ж Яндекс, чего вы ожидали-то? Коммерческая структура с раздутым штатом, задачей которой является заработать больше денег. Любыми методами. Задача всех пользователей посадить на Директ, даже если придется разрушить суть рунета, реализуется по полной программе. Все возражающие караются и выпиливаются. И каждый из сотрудников делает все возможное и невозможное, чтобы реализовать любую дурацкую идею - за это еще и премию выхватить можно. Даже если потом придется выполнять "откат", премиальные уже заплачены. Так было с одним из фильтров Яндекса, так было с купленным им сайтом Кинопоиска, который из русскоязычной энциклопедии кино был превращен за безумные деньги в банальный платный онлайн-кинотеатр.
    Как мы разработали и вывели в ТОП сайт курсов рисования
    Иван Стороженко
    21
    комментарий
    0
    читателей
    Полный профиль
    Иван Стороженко - Добрый день. 1)Чаще всего основная проблема заключается, в согласовании с клиентом добавляемого контента и то как он будет отображаться. На данном сайте фото и услуги конечно предоставлял клиент, все остальное уже делали мы. 2)Да в принципе, когда есть команда и понимание, что нужно делать, все идет быстро (опять же основная заминка идет на согласовании с клиентом) 3)Смысла делать новый в данном случает нет. В принципе доделывался полноценный сайт. 4)Когда клиент уже не предоставляет информацию, приходится искать у конкурентов (например с других стран или регионов). Но чаще всего клиент, хоть что-то "подкидывает".
    ТОП КОММЕНТАТОРОВ
    Комментариев
    910
    Комментариев
    834
    Комментариев
    554
    Комментариев
    540
    Комментариев
    483
    Комментариев
    373
    Комментариев
    325
    Комментариев
    262
    Комментариев
    234
    Комментариев
    171
    Комментариев
    156
    Комментариев
    137
    Комментариев
    121
    Комментариев
    97
    Комментариев
    97
    Комментариев
    95
    Комментариев
    86
    Комментариев
    80
    Комментариев
    67
    Комментариев
    60
    Комментариев
    59
    Комментариев
    57
    Комментариев
    55
    Комментариев
    54
    Комментариев
    53

    Отправьте отзыв!
    Отправьте отзыв!