×
Россия +7 (495) 139-20-33

Когда мультивариантные тесты лучше A/B-тестов?

Россия +7 (495) 139-20-33
Шрифт:
7 19425

Для оптимизации сайта и страниц A/B-тестирование – инструмент по умолчанию. Разберем, что такое мультивариантные тесты и когда они лучше A/B/n…

Что такое мультивариантный тест?

В A/B-тестах обычно сравнивают два варианта, которые значительно отличаются друг от друга. Это выглядит так:

abtesting-conversion.jpg

Мультивариантное тестирование измеряет эффект от взаимодействия независимых элементов, чтобы выявить наилучшую комбинацию. Как если бы вы проводили несколько A/B-тестов на одной странице одновременно.

При помощи A/B-тестов можно сравнить дизайнерские решения и получить значительные результаты (так как тестируемые варианты значительно отличаются друг от друга).

МВТ помогут выявить элементы влияния, которые помогут добиться цели. Например, что имеет значение: шаблон страницы, изображения или CTA.

multivariate-testing.jpg

Убойный заголовок останется незамеченным, если крутая фотография привлекает внимание к другому элементу на странице.


A/B-тесты подходят для крупных изменений. 

Поиграть цветами и шрифтами – это к мультивариантному тестированию.


Таким образом, сначала определяемся с лучшим вариантом при помощи A/B-теста. А затем проводим МВТ, чтобы оптимизировать заголовки, тексты на кнопках и так далее.

Типы МВТ

Виды мультивариантных тестов: полный (full factorial), частичный полный (fractional factorial) и тест Тагучи (Taguchi).

1. Полный тест. Весь трафик распределяется между вариациями. Например, из 16 проверяемых комбинаций каждая получит 1/16 трафика сайта. Так как варианты получают одинаковый трафик, тест предоставит информацию о том, какая комбинация приносят лучший результат.

2. Частичный полный тест. Посетители сайта увидят только часть тестируемых комбинаций. Процент конверсии для «невидимых» вариаций принимается за аналогичный определенным комбинациям, которые были включены в тест.

full-fractional-versus-fractional-factorial.png

В блоге Adobe частичный мультивариантный тест сравнивают с барометром. Ценность барометра не в точном измерении атмосферного давления, а в указании на изменение.

3. Тест Тагучи. Изначально использовался в промышленности. Выводы сделали для сокращения количества вариантов, которые тестировали в ходе QA и других экспериментов. Основан на эвристических оценках и не подходит для онлайн-тестов. 

Как правильно

Ошибки, связанные с проведением МВТ, неуникальны и справедливы для A/B-тестов.

Основные:

1) мало трафика;

2) не учитывать вероятность ложноположительных результатов;

3) не использовать МВТ для оптимизации сайта.

1. Трафик.

Главное условие: много трафика или высокая конверсия.

Например, типичный МВТ – 3 х 2 (проверка двух версий трех элементов дизайна) потребует столько же трафика, сколько A/B-тест с 9 вариантами (32).

mvt3-2.jpg

В полном тесте трафик делится между всеми вариациями, что увеличивает необходимое количество трафика для получения показательной статистики. И тест проводить придется дольше. Чтобы оценить трафик, необходимый для значимого результата, используйте калькулятор.

Чтобы снизить потребность в трафике при МВТ, проводите частичный тест.


Правило: если ваш трафик меньше 100 000 уников в месяц, проводите A/B-тест. 

Исключение – высокая конверсия (10%-30%).


2. Вероятность ложноположительных результатов.

В процессе мультивариативного тестирования возрастает вероятность ложноположительного результата.

Для каждого варианта вы проводите отдельные A/B-тесты. Если вы проверяете 20 изменений и есть 5% вероятность, что для каждого вы получите ложнопозитивные результаты, то одна вариация внезапно может оказаться значимой.

Способы срабатывать с погрешностями называют корректировками мультитестирования. Чтобы получить заметный результат, потребуется большое количество посетителей на сайте.

3. МВТ и оптимизация.

Оптимизация требует информации для обоснования решений. МВТ поможет собрать данные.

Чем меньше времени вы тратите на принятие решений, тем выше ROI. Чем быстрее вы двигаетесь, тем быстрее подниметесь на новый уровень. Используйте МВТ как инструмент сбора данных, который показывает, куда направить ресурсы.

Обязательно определите, чего вы ожидаете от МВТ: выявить лучшую комбинацию элементов или определить, какой элемент (заголовок или кнопка) работает лучше прочих?

Инструменты

Итоги

1. Тестируйте, чтобы собрать данные для решения об оптимизации сайта.

2. Если трафик на сайт меньше 100 000 уников в месяц, проводите A/B-тест. Исключение – высокая конверсия (10%-30%).

3. Используйте A/B-тесты, чтобы определить лучшую структуру. Используйте МВТ, чтобы довести ее до совершенства, убедиться, что элементы взаимодействуют лучшим образом.

(Голосов: 5, Рейтинг: 5)
Читайте нас в Telegram - digital_bar

Есть о чем рассказать? Тогда присылайте свои материалы Ане Макаровой


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
  • Даниэл Херени
    5
    комментариев
    0
    читателей
    Даниэл Херени
    больше года назад
    Лайки в комментах к статье вылились в совместную акцию с SEONews.ru
    Вот тут условия акции по МВТ - www.seonews.ru/events/spetsproekt-multivariativnoe-testirovanie-vashego-sayta-sobiraem-zayavki/  
    -
    0
    +
    Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    У конвра уже есть реальные кейсы.
    Вот один из них - directcalls.ru/multivariativnoe-testirovanie-dlya-insales-ru/
    Для платформы Insales.ru (платформы для создания интернат магазинов) было протестировано 1 500 000 уникальных вариаций посадочной страницы (МОРДЫ).
    Конверсию подняли на 23%
    -
    28
    +
    Ответить
    • Roman Tsapin
      2
      комментария
      0
      читателей
      Roman Tsapin
      Daniel Hereni
      больше года назад
      Подтверждаю! В результате тестирования нашли наиболее конверсионную комбинацию, которая сейчас используется как основная.
      -
      3
      +
      Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Фишка сервиса в том, что он на много круче, чем выше перечисленные инструмены для МВТ!
    Т.к. позволяет тестировать одновременно ни 10-20 вариантов.
    А десятки вариаций по десяткам факторов. Т.е. одновременно можно тестировать от 100 000 до 100 000 000 вариаций. Для успешного тестирования достаточно накопить 1000 конверсий!!!
    Для большого сайта это совсем не много!

    -
    24
    +
    Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Спасибо за интересную статью! Жаль не сразу увидел её.

    Существует такой сервис МультиВариативного Тестирования (МВТ), как konvr.ru
    Его разработчик Евгений Трофименко всем известны сеошник и парсер Яндекса и авто tools.ptomosite.ru (думаю, что любой сеошник хоть раз в жизни проверял Апдейты яндекса на тулс.промосайте).
    -
    22
    +
    Ответить
ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
«Юзабилити-лаборатория»: оставляйте заявку на участие!
Анна Макарова
381
комментарий
0
читателей
Полный профиль
Анна Макарова - Антон, добрый день! Ваш сайт не попал в основную выборку для юзабилити-анализа, но эксперты постараются сделать по вашему сайту видеоразбор (ю-ревью). Будем держать вас в курсе )
Тест по SEO – проверь свой уровень знаний
Артем Дорофеев
8
комментариев
0
читателей
Полный профиль
Артем Дорофеев - Полный текст вопроса со скриншотом панели прикладываю. Итого, что имеем: - на скриншоте отмечено, что это фильтр МПК - сайт коммерческий - рекламы на сайте нет С вероятностью 95% это ошибка (которая уже дважды случалась в Яндексе), когда они случайно "закосили" неповинные сайты. Тогда по запросу Платону фильтр быстренько снимали. Но вопрос даже не на знание этого нюанса. В любой непонятной ситуации, прежде чем что-либо предпринимать (особенно переписывать весь контент на сайте или менять дизайн, как указано в других вариантах) - фильтр следует подтвердить. Правильный ответ: "Написать письмо в техподдержку Яндекса".
Кейс: как за 30 дней вывести новый сайт в ТОП выдачи Google
Сергей
2
комментария
0
читателей
Полный профиль
Сергей - Прошёл у Паши курс год назад, пытался продвигать свой сайт portativ.org.ua, но особых продвижений нет. Наверное сео уже умерло??
Выбираем CMS для сайта с точки зрения SEO: базовые требования
SEO.RU
6
комментариев
0
читателей
Полный профиль
SEO.RU - Спасибо за замечание, действительно была допущена неточность - возможно информация была не так давно обновилась. Данные в статье поправим на актуальные.
Digital-marketing: как выжить в кризис. Опыт реальной компании
Maks
1
комментарий
0
читателей
Полный профиль
Maks - Спасибо за опыт Вашей компании, Иван Папусь. Интересно получилось! Желаю Вашему бизнесу стабильности и успешно пережить все кризисы))
100+ ресурсов по SEO для изучения поисковой оптимизации с нуля
Марина Ибушева
0
комментариев
0
читателей
Полный профиль
Марина Ибушева - Спасибо за добавление. Мы уже работаем над отдельным материалом про курсы, потому что одной статьи мало, чтобы охватить все крутое по обучению)
SEO must go on! Почему в кризис нельзя останавливать продвижение сайта
everystraus
43
комментария
0
читателей
Полный профиль
everystraus - Мы даже варианты не рассматривали. Если проект неустойчив, сразу предлагали сбавить обороты до минимума, но и так, чтоб не свалиться в штопор. Именно по СЕО чаще всего.
Как стандартизировать данные семантики с помощью логарифмов
Юлий
1
комментарий
0
читателей
Полный профиль
Юлий - Чем снималась коммерцелизация?
Платные и бесплатные курсы по SEO и интернет-маркетингу для новичков и опытных специалистов
Алексей Терещенко
1
комментарий
0
читателей
Полный профиль
Алексей Терещенко - Запустил бесплатный марафон для SEO специалистов с нуля в Фейсбуке. Рекомендую начинать совой путь с него и дальше уже определятся, нравится направление или нет. Так же на базе обучающего марафона есть сообщестово в котором все в удобном формате общаются и постигают профессию. Моя миссия - создать сообщество крутых и образованых seo специалистов и поднять качество услуг на высокий уровень. Кому интересно, присоеденяйтесь www.facebook.com/groups/startseofree/
Гайд по работе с освобождающимися доменами: перехват, восстановление, создание сетки и заработок
Daniel Dan
1
комментарий
0
читателей
Полный профиль
Daniel Dan - Интересно и полезно читать, Спасибо!
ТОП КОММЕНТАТОРОВ
Комментариев
910
Комментариев
834
Комментариев
554
Комментариев
540
Комментариев
483
Комментариев
381
Комментариев
373
Комментариев
262
Комментариев
249
Комментариев
171
Комментариев
156
Комментариев
141
Комментариев
121
Комментариев
113
Комментариев
97
Комментариев
97
Комментариев
96
Комментариев
89
Комментариев
80
Комментариев
77
Комментариев
67
Комментариев
60
Комментариев
60
Комментариев
59
Комментариев
57

Отправьте отзыв!
Отправьте отзыв!