Проведение А/В-тестирования в Яндекс.Директ. Ошибки и сравнение методов

Филипп Царевский

Основатель агентство контекстной рекламы Direct all-in

Самый главный совет, который я хочу вам дать: если ваш проект уже приносит прибыль, тестируйте на нем все инструменты, экспериментируйте, проверяйте, а затем применяйте то, что лучше всего работает.

Хорошим подтверждением моих слов является беседа с одним бизнесменом, который владеет агентством недвижимости в Санкт-Петербурге. Выяснилось, что он сразу же тестирует все новинки, о которых слышит. К примеру, появляется новый вид рекламы, какая-то фишка в Директе или триггер на сайте, он тут же все это применяет и оставляет только те инструменты, которые увеличивают прибыль – они многократно окупают расходы на неудачные тесты.

С другой стороны, за годы своей практики я неоднократно встречал клиентов, не способных протестировать свой сайт. Наверное, они не в курсе, что А/В-тест поможет увеличить доходы в 1,5, а то и 2 раза.

Итак, давайте разберем А/В-тестирование подробнее. И сначала поговорим о том, как не стоит делать. А для этого важно понимать работу Яндекс.Директ и поведение посетителей на сайте.

Неправильный метод тестирования

Недавно наткнулся на статью, как тестировать объявления в Яндекс.Директ. Авторы статьи утверждают, что в Яндекс.Директ нужно создать 2 идентичные кампании и выставить временной таргетинг так, чтобы на протяжении одного часа выводилось одно объявление, а на протяжении следующего часа – другое. Возможно, данный метод выглядит красиво, однако работает он плохо.

Во-первых, как показывает опыт, Яндекс будет активизировать кампанию как минимум 40 минут, а то и гораздо дольше. Это значит, что кампания может активизироваться целый день, при этом достаточно большое количество показов и кликов пройдет мимо нас.

Во-вторых, чередование по часам не имеет смысла, поскольку каждый новый час будет отличаться. Для наглядности привожу пример из Яндекс.Метрики. Итак, перед нами сайт с одной рекламной кампанией. Конверсия отображается ежечасно, цель – «корзина». Выборка – 13447 посетителей, 343 целевых посетителя, средняя конверсия 2,6%, за месяц. Этот график доказывает, что конверсия зависит от часа и может колебаться более чем в 5 раз (1,61%-8%). Погрешность 40% в меньшую сторону и 200% в большую!

Отсюда можно сделать логичный вывод: ротацию объявлений нужно проводить в одно и то же время, чтобы статистика была показательной.

Оптимальный метод тестирования

Группы объявлений и запуск двух одинаковых кампаний параллельно не дают нужной эффективности (показы распределяются неравномерно, единственный критерий отбора – CTR, отличающиеся CTR у одинаковых фраз при расчёте цен и позиций и другие нюансы). Но здесь важно будет выделить на тест ровно неделю, поскольку дни отличаются друг от друга в большей степени, чем часы. Безусловно, неделя неделе тоже рознь, тем более во время колебаний курса или нестабильной экономической ситуации. Однако опыт показывает, что именно такой способ дает минимальную погрешность. Единственное условие – не проводить тесты во время праздников или на стыке сезонов. И желательно на выборке как минимум 500 кликов с кампании! Лучше больше, но для малого бизнеса это не всегда возможно.

Возьмём тот же месяц, те же данные, но уже сегментируем их по неделям. Разброс конверсии – 2,4-2,8%. То есть при средней конверсии 2,6% погрешность составляет лишь 8%!

Здесь стоит уточнить, что я говорю об А/В-тестировании в условиях стабильной работы кампании. А вот когда заявок мало, бюджет тает на глазах, не совсем понятно, что происходит, да еще и клиент нервничает, в таком случае можно тестировать по дням, быстро, от 150 до 300 кликов на 1 тест. И целью теста будет не увеличить показатели постепенно, а хоть как-то исправить текущую ситуацию. Но при этом не стоит забывать, что каждый тест нужно хорошо взвешивать и выверять. Поэтому широко используйте Метрику, изучайте, как ведут себя посетители, и проводите тщательный анализ.

В каком порядке тестировать

1) Заголовок, текст, формулировка УТП, УТП, картинка в РСЯ, быстрые ссылки, стратегия показов.

2) Элементы виртуальной визитки, слова в тексте, призыв к действию, домен, фавикон, украшения (например, смайлы и знаки восклицания).

3) Не зацикливаемся на одной рекламе, тестируем также сайт. В некоторых случаях всего лишь смена заголовка может повысить конверсию в 2 раза. А есть ещё фон, картинки, форма, цвет кнопки, тексты, шрифты, расположение блоков, значки, видео и карта.

Самые распространенные ошибки во время тестирования

1. Не думать о качестве теста

К примеру, после тестирования лендинга вместо многостраничного сайта обнаружилось, что упала конверсия. И первая мысль, которая приходит в голову, конечно же – одностраничные сайты не работают! Но не стоит спешить, проанализируйте сначала, все ли в порядке с дизайном, версткой, проработана ли ЦА, логично ли размещены блоки, цепляют ли заголовки текстов и т. д. Все эти детали можно и нужно тестировать, так сказать, проводить тест внутри теста. Как вариант – получать заказы с сайта, а часть трафика перенаправить на этот одностраничник и тестировать его постепенно.

2. Тестировать без предварительного анализа

Подобные действия очень емко выражены в одном анекдоте. Мужчина решил не есть мандарины в новогоднюю ночь, чтобы, наконец, найти причины плохого самочувствия 1 января.

И было бы смешно, если бы не было правдой. Многие совершенно бездумно вносят изменения ради изменений. А стоит сначала проанализировать вебвизор, конкурентов, показатели, найти слабые стороны и лишь потом проводить тесты. Ведь, согласитесь, нет смысла тестировать фавикон, если у конкурентов доставка товара в день покупки, а у вас – только на следующий день.

3. Проводить тесты «на глаз»

Чтобы получить конкретные результаты теста, нужно грамотно его провести. Варианты, типа «по-моему, заказов больше так и не становится» – крайне неверны. Нужно замерять абсолютно все показатели (CTR, конверсию сайта, качество работы отдела продаж, время пользователя на сайте, количество просмотренных страниц и показатель отказов), изучить каждый из них в отдельности, а затем комплексно, и только после этого оставить самый лучший вариант.

4. Выбрать неподходящее время

Совершенно очевидно, что поведение потребителей, например, 15 августа и 1 сентября или же 30 декабря и 16 января будет отличаться. В эти дни они испытывают разные потребности, и количество денег в их карманах также рознится.

Да, небольшие колебания постоянно происходят. Свою погрешность добавляют дни зарплаты, рост и падение курсов валют, погода за окном, ТВ-программы и прочее. Но колебания в такие дни будут незначительными. А вот если проводить тесты на стыке сезонов, во время государственных праздников, выборов, крупных фестивалей, чемпионатов, митингов, войны и природных катаклизмов, скачки будут достаточно большими и спрос может резко меняться.

5. Тестировать на маленькой выборке

Социальные опросы проводят минимум на 350 людях – меньшее количество считается нерепрезентативной выборкой, по которой выводы могут быть ошибочными из-за слишком сильного влияния внешних факторов. С такой погрешностью работать нельзя – неправильные выводы приводят к неправильным действиям, и реклама опять превращается в лотерею – как и в случае, если тестирование не проводить вообще. По этой же причине я являюсь противником медиапланов и прогнозов бюджета.

Что же, в этой статье я разобрал все основные проблемы и привел достаточно примеров. Так что вам осталось лишь применить данные советы на практике. И если вам лень это делать, подумайте о том, что в течение года комплекс А/В-тестов увеличивает ROI с рекламы в среднем в 1,5–3 раза. По-моему, это достаточная мотивация. Если же нет, тогда добавлю, что это самое интересное в Директе, да и голова работает на полную мощность