×
Россия +7 (495) 139-20-33

Когда мультивариантные тесты лучше A/B-тестов?

Россия +7 (495) 139-20-33
Шрифт:
7 18348

Для оптимизации сайта и страниц A/B-тестирование – инструмент по умолчанию. Разберем, что такое мультивариантные тесты и когда они лучше A/B/n…

Что такое мультивариантный тест?

В A/B-тестах обычно сравнивают два варианта, которые значительно отличаются друг от друга. Это выглядит так:

abtesting-conversion.jpg

Мультивариантное тестирование измеряет эффект от взаимодействия независимых элементов, чтобы выявить наилучшую комбинацию. Как если бы вы проводили несколько A/B-тестов на одной странице одновременно.

При помощи A/B-тестов можно сравнить дизайнерские решения и получить значительные результаты (так как тестируемые варианты значительно отличаются друг от друга).

МВТ помогут выявить элементы влияния, которые помогут добиться цели. Например, что имеет значение: шаблон страницы, изображения или CTA.

multivariate-testing.jpg

Убойный заголовок останется незамеченным, если крутая фотография привлекает внимание к другому элементу на странице.


A/B-тесты подходят для крупных изменений. 

Поиграть цветами и шрифтами – это к мультивариантному тестированию.


Таким образом, сначала определяемся с лучшим вариантом при помощи A/B-теста. А затем проводим МВТ, чтобы оптимизировать заголовки, тексты на кнопках и так далее.

Типы МВТ

Виды мультивариантных тестов: полный (full factorial), частичный полный (fractional factorial) и тест Тагучи (Taguchi).

1. Полный тест. Весь трафик распределяется между вариациями. Например, из 16 проверяемых комбинаций каждая получит 1/16 трафика сайта. Так как варианты получают одинаковый трафик, тест предоставит информацию о том, какая комбинация приносят лучший результат.

2. Частичный полный тест. Посетители сайта увидят только часть тестируемых комбинаций. Процент конверсии для «невидимых» вариаций принимается за аналогичный определенным комбинациям, которые были включены в тест.

full-fractional-versus-fractional-factorial.png

В блоге Adobe частичный мультивариантный тест сравнивают с барометром. Ценность барометра не в точном измерении атмосферного давления, а в указании на изменение.

3. Тест Тагучи. Изначально использовался в промышленности. Выводы сделали для сокращения количества вариантов, которые тестировали в ходе QA и других экспериментов. Основан на эвристических оценках и не подходит для онлайн-тестов. 

Как правильно

Ошибки, связанные с проведением МВТ, неуникальны и справедливы для A/B-тестов.

Основные:

1) мало трафика;

2) не учитывать вероятность ложноположительных результатов;

3) не использовать МВТ для оптимизации сайта.

1. Трафик.

Главное условие: много трафика или высокая конверсия.

Например, типичный МВТ – 3 х 2 (проверка двух версий трех элементов дизайна) потребует столько же трафика, сколько A/B-тест с 9 вариантами (32).

mvt3-2.jpg

В полном тесте трафик делится между всеми вариациями, что увеличивает необходимое количество трафика для получения показательной статистики. И тест проводить придется дольше. Чтобы оценить трафик, необходимый для значимого результата, используйте калькулятор.

Чтобы снизить потребность в трафике при МВТ, проводите частичный тест.


Правило: если ваш трафик меньше 100 000 уников в месяц, проводите A/B-тест. 

Исключение – высокая конверсия (10%-30%).


2. Вероятность ложноположительных результатов.

В процессе мультивариативного тестирования возрастает вероятность ложноположительного результата.

Для каждого варианта вы проводите отдельные A/B-тесты. Если вы проверяете 20 изменений и есть 5% вероятность, что для каждого вы получите ложнопозитивные результаты, то одна вариация внезапно может оказаться значимой.

Способы срабатывать с погрешностями называют корректировками мультитестирования. Чтобы получить заметный результат, потребуется большое количество посетителей на сайте.

3. МВТ и оптимизация.

Оптимизация требует информации для обоснования решений. МВТ поможет собрать данные.

Чем меньше времени вы тратите на принятие решений, тем выше ROI. Чем быстрее вы двигаетесь, тем быстрее подниметесь на новый уровень. Используйте МВТ как инструмент сбора данных, который показывает, куда направить ресурсы.

Обязательно определите, чего вы ожидаете от МВТ: выявить лучшую комбинацию элементов или определить, какой элемент (заголовок или кнопка) работает лучше прочих?

Инструменты

Итоги

1. Тестируйте, чтобы собрать данные для решения об оптимизации сайта.

2. Если трафик на сайт меньше 100 000 уников в месяц, проводите A/B-тест. Исключение – высокая конверсия (10%-30%).

3. Используйте A/B-тесты, чтобы определить лучшую структуру. Используйте МВТ, чтобы довести ее до совершенства, убедиться, что элементы взаимодействуют лучшим образом.

(Голосов: 5, Рейтинг: 5)
Читайте нас в Telegram - digital_bar

Есть о чем рассказать? Тогда присылайте свои материалы Ане Макаровой


Новые 
Новые
Лучшие
Старые
Сообщество
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Отправить отзыв
  • Даниэл Херени
    5
    комментариев
    0
    читателей
    Даниэл Херени
    больше года назад
    Лайки в комментах к статье вылились в совместную акцию с SEONews.ru
    Вот тут условия акции по МВТ - www.seonews.ru/events/spetsproekt-multivariativnoe-testirovanie-vashego-sayta-sobiraem-zayavki/  
    -
    0
    +
    Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    У конвра уже есть реальные кейсы.
    Вот один из них - directcalls.ru/multivariativnoe-testirovanie-dlya-insales-ru/
    Для платформы Insales.ru (платформы для создания интернат магазинов) было протестировано 1 500 000 уникальных вариаций посадочной страницы (МОРДЫ).
    Конверсию подняли на 23%
    -
    28
    +
    Ответить
    • Roman Tsapin
      2
      комментария
      0
      читателей
      Roman Tsapin
      Daniel Hereni
      больше года назад
      Подтверждаю! В результате тестирования нашли наиболее конверсионную комбинацию, которая сейчас используется как основная.
      -
      3
      +
      Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Фишка сервиса в том, что он на много круче, чем выше перечисленные инструмены для МВТ!
    Т.к. позволяет тестировать одновременно ни 10-20 вариантов.
    А десятки вариаций по десяткам факторов. Т.е. одновременно можно тестировать от 100 000 до 100 000 000 вариаций. Для успешного тестирования достаточно накопить 1000 конверсий!!!
    Для большого сайта это совсем не много!

    -
    24
    +
    Ответить
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Спасибо за интересную статью! Жаль не сразу увидел её.

    Существует такой сервис МультиВариативного Тестирования (МВТ), как konvr.ru
    Его разработчик Евгений Трофименко всем известны сеошник и парсер Яндекса и авто tools.ptomosite.ru (думаю, что любой сеошник хоть раз в жизни проверял Апдейты яндекса на тулс.промосайте).
    -
    22
    +
    Ответить
ПОПУЛЯРНЫЕ ОБСУЖДЕНИЯ НА SEONEWS
Что скрывает «Прогноз бюджета Яндекс.Директ»?
Михаил Мухин
15
комментариев
0
читателей
Полный профиль
Михаил Мухин - Здравствуйте! 1-2. Считает стенд. Ссылка на него дана, но могу повторить: online.p-c-l.ru/competition/task/card/id/106. Нажмите на кнопку "Начать" и заранее приготовьте прогноз бюджета Яндекс. Суть расчета: перебор комбинаций всех ставок на всех фразах, построение бюджетных когорт - бюджетов с одинаковым СРС, отбор в каждой когорте бюджета с максимальным количеством кликов и ..., да упорядочивание этих бюджетов по мере возрастания СРС, причем берем не все, а с фиксированным шагом. 3. Гугл считается через поправочные коэффициенты. Мы перевариваем океан данных и представляем их. На удивление, получается не менее, хотя и не более точно, как и прогноз Яндекс. Конечно, нужно понимать, что это очень примерные прикидки, фактически перевод неточного прогноза Яндекс в удобочитаемую форму, не больше. Самое интересное начинается, когда применяешь метод бюджетных когорт к измерению показателей фраз на реальной рекламной кампании в режиме 48х7. Первые результаты очень хорошие. Если хотите присоединиться к бесплатному тестированию, напишите Эльвире r-support@r-broker.ru. В теме укажите "хочу присоединиться к тестам Умного управления рекламой"
Ссылочное продвижение локальных сайтов: ТОП худших SEO-методов
demimurych
8
комментариев
0
читателей
Полный профиль
demimurych - о господи. это для регионального сайта? в яндексе? где у сайта по региону конкурентов меньше чем выдачи на двух страницах из которых перваш это реклама москвы? потешно ей богу. ктото чего то не понеимает.
От мечты стать юристом к собственному SMM-агентству. Как найти себя в современном цифровом мире
Виктор Брухис
5
комментариев
0
читателей
Полный профиль
Виктор Брухис - Статья выглядит так, как пожелали редакторы и интервьюер) Вопросы к интервью подбирал не я)) Хотя, в целом я согласен с вашим видением. А за пожелание удачи большое спасибо!
Зачем подменять контент на сайте: разбираем инструмент и развенчиваем мифы
Дмитрий Сульман
4
комментария
0
читателей
Полный профиль
Дмитрий Сульман - Все верно, об этом я и говорю. У крупных компаний есть много данных и они имеют доступ к дорогим технологиям и решениям для персонализации контента. Топовые западные сервисы для персонализации, такие как RichRelevance или Dynamic Yield, стоят от нескольких тысяч до десятков тысяч долларов в месяц. Понятно, что малый бизнес не может себе этого позволить. Да даже если бы чисто теоретически и мог, то это вряд ли бы имело хоть какой-то смысл. Во-первых, у малого бизнеса недостаточно данных, чтобы подобные алгоритмы персонализации начали эффективно работать, а во-вторых, тот профит, который МСБ получит от персонализации, никогда не покроет таких расходов. Мы же предлагаем решение, доступное как раз для малого и среднего бизнеса. При этом наше решение комплексное: МультиЧат - это одновременно и инструмент для персонализации, и для коммуникации.
Как провести анализ содержания страниц товаров и категорий
Никита Седнин
3
комментария
0
читателей
Полный профиль
Никита Седнин - Спасибо!
Монетизируйте свой сайт вместе с VIZTROM
VIZTROM
3
комментария
0
читателей
Полный профиль
VIZTROM - Добрый день! Так как мы сейчас работаем в приватном режиме, Вы врятли можете объективно оценить нашу рекламную площадку. У нас будет официальный запуск 3 марта для вебмастеров. Приглашаем Вас присоединиться к нам и лично посмотреть наш функционал.
Digital-разговор: Михаил Шакин про SEO, Google и заработок в интернете
Анна Макарова
368
комментариев
0
читателей
Полный профиль
Анна Макарова - Подготовим ) Пока предлагаю почитать интервью с Денисом Нарижным из той же серии. Там стенограмма =) www.seonews.ru/interviews/digital-razgovor-denis-narizhnyy-pro-ukhod-iz-seo-i-zarabotok-na-partnerkakh/
Как удвоить выручку за счет продвижения в поиске. Кейс coffee-butik.ru
Максим Боровой
3
комментария
0
читателей
Полный профиль
Максим Боровой - Последний вопрос (извиняюсь за количество) - почему на "В корзину" стоит Nofollow. Осознанно для распределение весов?
Кейс Hansa: как увеличить органический трафик в 1,5 раза
Алексей Порфирьев
3
комментария
0
читателей
Полный профиль
Алексей Порфирьев - Спасибо за замечание, о данной проблеме известно, но она не стоит в порядке приоритетных. Вопрос, на самом деле, дискуссионный. В тематике конкуренция не настолько велика, а в топе выдачи часто встречаются сайты с более серьёзными техническими проблемами. По этому, именно в статьях, более важно работать над релевантностью контента, отношением времени пользователя на странице к уровню доскрола, и различным пользовательским функционалом (рейтинг материала, просмотры и т. п.).
Автоматические SEO-аудиты: как напугать некорректными выводами
SEOquick
38
комментариев
0
читателей
Полный профиль
SEOquick - Парсинг сайтов – это самый лучший способ автоматизировать процесс сбора и сохранения информации. Конкурентов всегда нужно мониторить, а не сравнивать свой сайт через автоматический аудит анализатора.
ТОП КОММЕНТАТОРОВ
Комментариев
910
Комментариев
834
Комментариев
554
Комментариев
540
Комментариев
483
Комментариев
373
Комментариев
368
Комментариев
262
Комментариев
249
Комментариев
171
Комментариев
156
Комментариев
139
Комментариев
121
Комментариев
108
Комментариев
97
Комментариев
97
Комментариев
96
Комментариев
85
Комментариев
80
Комментариев
77
Комментариев
67
Комментариев
60
Комментариев
59
Комментариев
57
Комментариев
55

Отправьте отзыв!
Отправьте отзыв!