Когда мультивариантные тесты лучше A/B-тестов?

Россия+7 (495) 960-65-87
Шрифт:
7 11176

Для оптимизации сайта и страниц A/B-тестирование – инструмент по умолчанию. Разберем, что такое мультивариантные тесты и когда они лучше A/B/n…

Что такое мультивариантный тест?

В A/B-тестах обычно сравнивают два варианта, которые значительно отличаются друг от друга. Это выглядит так:

abtesting-conversion.jpg

Мультивариантное тестирование измеряет эффект от взаимодействия независимых элементов, чтобы выявить наилучшую комбинацию. Как если бы вы проводили несколько A/B-тестов на одной странице одновременно.

При помощи A/B-тестов можно сравнить дизайнерские решения и получить значительные результаты (так как тестируемые варианты значительно отличаются друг от друга).

МВТ помогут выявить элементы влияния, которые помогут добиться цели. Например, что имеет значение: шаблон страницы, изображения или CTA.

multivariate-testing.jpg

Убойный заголовок останется незамеченным, если крутая фотография привлекает внимание к другому элементу на странице.


A/B-тесты подходят для крупных изменений. 

Поиграть цветами и шрифтами – это к мультивариантному тестированию.


Таким образом, сначала определяемся с лучшим вариантом при помощи A/B-теста. А затем проводим МВТ, чтобы оптимизировать заголовки, тексты на кнопках и так далее.

Типы МВТ

Виды мультивариантных тестов: полный (full factorial), частичный полный (fractional factorial) и тест Тагучи (Taguchi).

1. Полный тест. Весь трафик распределяется между вариациями. Например, из 16 проверяемых комбинаций каждая получит 1/16 трафика сайта. Так как варианты получают одинаковый трафик, тест предоставит информацию о том, какая комбинация приносят лучший результат.

2. Частичный полный тест. Посетители сайта увидят только часть тестируемых комбинаций. Процент конверсии для «невидимых» вариаций принимается за аналогичный определенным комбинациям, которые были включены в тест.

full-fractional-versus-fractional-factorial.png

В блоге Adobe частичный мультивариантный тест сравнивают с барометром. Ценность барометра не в точном измерении атмосферного давления, а в указании на изменение.

3. Тест Тагучи. Изначально использовался в промышленности. Выводы сделали для сокращения количества вариантов, которые тестировали в ходе QA и других экспериментов. Основан на эвристических оценках и не подходит для онлайн-тестов. 

Как правильно

Ошибки, связанные с проведением МВТ, неуникальны и справедливы для A/B-тестов.

Основные:

1) мало трафика;

2) не учитывать вероятность ложноположительных результатов;

3) не использовать МВТ для оптимизации сайта.

1. Трафик.

Главное условие: много трафика или высокая конверсия.

Например, типичный МВТ – 3 х 2 (проверка двух версий трех элементов дизайна) потребует столько же трафика, сколько A/B-тест с 9 вариантами (32).

mvt3-2.jpg

В полном тесте трафик делится между всеми вариациями, что увеличивает необходимое количество трафика для получения показательной статистики. И тест проводить придется дольше. Чтобы оценить трафик, необходимый для значимого результата, используйте калькулятор.

Чтобы снизить потребность в трафике при МВТ, проводите частичный тест.


Правило: если ваш трафик меньше 100 000 уников в месяц, проводите A/B-тест. 

Исключение – высокая конверсия (10%-30%).


2. Вероятность ложноположительных результатов.

В процессе мультивариативного тестирования возрастает вероятность ложноположительного результата.

Для каждого варианта вы проводите отдельные A/B-тесты. Если вы проверяете 20 изменений и есть 5% вероятность, что для каждого вы получите ложнопозитивные результаты, то одна вариация внезапно может оказаться значимой.

Способы срабатывать с погрешностями называют корректировками мультитестирования. Чтобы получить заметный результат, потребуется большое количество посетителей на сайте.

3. МВТ и оптимизация.

Оптимизация требует информации для обоснования решений. МВТ поможет собрать данные.

Чем меньше времени вы тратите на принятие решений, тем выше ROI. Чем быстрее вы двигаетесь, тем быстрее подниметесь на новый уровень. Используйте МВТ как инструмент сбора данных, который показывает, куда направить ресурсы.

Обязательно определите, чего вы ожидаете от МВТ: выявить лучшую комбинацию элементов или определить, какой элемент (заголовок или кнопка) работает лучше прочих?

Инструменты

Итоги

1. Тестируйте, чтобы собрать данные для решения об оптимизации сайта.

2. Если трафик на сайт меньше 100 000 уников в месяц, проводите A/B-тест. Исключение – высокая конверсия (10%-30%).

3. Используйте A/B-тесты, чтобы определить лучшую структуру. Используйте МВТ, чтобы довести ее до совершенства, убедиться, что элементы взаимодействуют лучшим образом.

Есть о чем рассказать? Тогда присылайте свои материалы Даше Калинской


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
  • Даниэл Херени
    5
    комментариев
    0
    читателей
    Даниэл Херени
    больше года назад
    Лайки в комментах к статье вылились в совместную акцию с SEONews.ru
    Вот тут условия акции по МВТ - www.seonews.ru/events/spetsproekt-multivariativnoe-testirovanie-vashego-sayta-sobiraem-zayavki/  
    -
    0
    +
    Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    У конвра уже есть реальные кейсы.
    Вот один из них - directcalls.ru/multivariativnoe-testirovanie-dlya-insales-ru/
    Для платформы Insales.ru (платформы для создания интернат магазинов) было протестировано 1 500 000 уникальных вариаций посадочной страницы (МОРДЫ).
    Конверсию подняли на 23%
    -
    28
    +
    Ответить
    • Roman Tsapin
      2
      комментария
      0
      читателей
      Roman Tsapin
      Daniel Hereni
      больше года назад
      Подтверждаю! В результате тестирования нашли наиболее конверсионную комбинацию, которая сейчас используется как основная.
      -
      3
      +
      Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Фишка сервиса в том, что он на много круче, чем выше перечисленные инструмены для МВТ!
    Т.к. позволяет тестировать одновременно ни 10-20 вариантов.
    А десятки вариаций по десяткам факторов. Т.е. одновременно можно тестировать от 100 000 до 100 000 000 вариаций. Для успешного тестирования достаточно накопить 1000 конверсий!!!
    Для большого сайта это совсем не много!

    -
    24
    +
    Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Спасибо за интересную статью! Жаль не сразу увидел её.

    Существует такой сервис МультиВариативного Тестирования (МВТ), как konvr.ru
    Его разработчик Евгений Трофименко всем известны сеошник и парсер Яндекса и авто tools.ptomosite.ru (думаю, что любой сеошник хоть раз в жизни проверял Апдейты яндекса на тулс.промосайте).
    -
    22
    +
    Ответить
ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
SEOnews и Serpstat запускают конкурс для интернет-маркетологов
Marina Lagutina
1
комментарий
0
читателей
Полный профиль
Marina Lagutina - Добрый день! Видимо я из тех, кто пытается последней вскочить в уходящий поезд. Ночью написала статью на тему "обзор инструментов контент-маркетинга". Своего блога нет. Отправила вам не мейл. Я еще могу у вас разместиться или искать, кто возьмет статью к себе в блог?
«Я оптимизировал сайт, а он не в ТОП! Что делать?»
Павел Горбунов
7
комментариев
0
читателей
Полный профиль
Павел Горбунов - Как можно в инструменте tools.pixelplus.ru/tools/text-natural сравнить текст со страницы конкурента и со своей страницы? Я вижу возможность только для проверки одного урла.
Монетизация сайта. Как, когда, сколько?
Гость2
1
комментарий
0
читателей
Полный профиль
Гость2 - Руслан! Спасибо за ваш сервис и за данную статью в частности! С апреля являюсь вашим пользователем - очень доволен как сервисом, так и уровнем заработка! Еще раз спасибо, удачи вашему проекту!
Мир глазами поисковых систем
Александр Рунов
7
комментариев
0
читателей
Полный профиль
Александр Рунов - Какой регион, если не секрет? В Мск, в ряде ВК тематик (в тех же "окнах" или "колесах"), без работы с внешними факторами по ВЧ запросам в ТОП не выплывешь. Хотя в большинстве направлений вполне реально.
Влияние HTTPS на ранжирование региональных поддоменов в Яндексе
Екатерина Иванова
1
комментарий
0
читателей
Полный профиль
Екатерина Иванова - Посмотрите на сколько упал трафик и на сколько потом вырос:упал на 10-20% на 1 месяц, а вырос в итоге в 5 раз. Одним мартовским трафиком всё падение перекрыли. Или можно ждать Яндекс неопределённое количество времени со стартовым уровнем трафика. Упущенные возможности и всё-такое.
День рождения SEOnews: 12 лет в эфире!
Анна Макарова
308
комментариев
0
читателей
Полный профиль
Анна Макарова - Ура )
7 причин не работать на биржах копирайтинга
Dasha Shkaruba
6
комментариев
0
читателей
Полный профиль
Dasha Shkaruba - Спасибо за мнение! Кстати, на бирже главреда прием анкет закрыт
Google.ru внесли в реестр запрещенных сайтов
Гость
1
комментарий
0
читателей
Полный профиль
Гость - Гон, все работает и будет работать. Да и пусть банят, будет как с рутрекером.
Инфографика: самые распространенные SEO-ошибки Рунета
Alex Wise
3
комментария
0
читателей
Полный профиль
Alex Wise - Спасибо, Женя, за рекомендацию! :) Андрей, чтобы понять, какой программой пользоваться, нужно сделать несколько вещей: 1. Попробовать обе: у нас в Netpeak Spider бесплатный триал на 14 дней с полным функционало; у SFSS до 500 URL всегда бесплатно, но с ограниченным функционалом. 2. Понять свой стиль работы – если вы любите полный контроль и из-за этого более высокую скорость пробивки, тогда выбирайте Netpeak Spider. Если для вас не так важна скорость и количество пробитых URL, то можно остановиться на SFSS. 3. Определиться с нужными функциями: их в обоих программах очень много и как в Netpeak Spider есть уникальные, так и в SFSS есть свои уникальные. Мы всегда ориентируемся на то, чтобы быстро и чётко показать ошибки – для этого у нас вся таблица красится в соответствующие цвета. Думайте!) И, если что, обращайтесь с вопросами – мы будем рады помочь!)
Конкурс: угадайте пятерку лидеров рейтинга «SEO глазами клиентов 2017»
Оля
1
комментарий
0
читателей
Полный профиль
Оля - 1 Ingate 2 Wezom 3 Bynjg vtlbf 4 seo energy 5 директ лайн
ТОП КОММЕНТАТОРОВ
Комментариев
910
Комментариев
834
Комментариев
554
Комментариев
540
Комментариев
483
Комментариев
373
Комментариев
308
Комментариев
262
Комментариев
224
Комментариев
171
Комментариев
156
Комментариев
137
Комментариев
121
Комментариев
97
Комментариев
97
Комментариев
95
Комментариев
80
Комментариев
77
Комментариев
67
Комментариев
60
Комментариев
59
Комментариев
55
Комментариев
53
Комментариев
52
Комментариев
46

Отправьте отзыв!
Отправьте отзыв!