Как провести A/B-тестирование в Facebook и не продать при этом почку

Как провести A/B-тестирование в Facebook и не продать при этом почку2

A/B-тестирование или сплит-тестирование — важный инструмент повышения эффективности. Настолько важный, что многие популярные рекламные платформы уже предоставляют встроенную поддержку сплит-тестов. К сожалению, в массовом представлении A/B-тестирование зачастую ассоциируется исключительно с дизайном и сводится к выбору — темную или светлую тему оформления выбрать для сайта или в какой цвет раскрасить кнопку «Купить»? На самом деле сплит-тестировать можно не только дизайн, но и другие параметры — аудитории, места размещения объявлений (плейсменты), варианты оптимизации показов и т.д. Каждый из этих параметров может снизить ваши затраты на рекламу и увеличить показатель конверсий.

Сегодня мы рассмотрим сплит-тесты на примере Facebook. Почему именно Facebook? Потому что создать A/B-тест там проще простого. А еще проще — завалить этот тест, даже не начав. Спросите, как это? Ну примерно вот так:

Бюджет и расписание сплит-теста

У большей части пользователей знакомство со сплит-тестами в Facebook на этом и заканчивается. А может — зря? Нет, мы не предлагаем вам расшвыриваться десятками тысяч долларов на проведение A/B-тестов. Давайте лучше вместе разберемся.

  • Откуда берутся эти дикие суммы?
  • Можно ли верить рекомендациям по бюджету?
  • Какие параметры можно изменить, чтобы снизить рекомендуемый бюджет?
  • Как вообще оптимизировать расходы на тестирование?
  • Можно ли запускать сплит-тест с бюджетом меньше рекомендуемого?

Но это не точно

Проще всего ответить на вопрос по поводу обоснованности автоматических рекомендаций. Ответ такой: чем больше рекламных кампаний вы открутили в своем аккаунте и чем больше сплит-тестов провели, тем точнее и обоснованнее автоматически предлагаемый бюджет. Если ваша рекламная активность была очень низкой, а сплит-тесты вы не проводили вообще, у рекламного движка Facebook просто нет ориентиров для расчета бюджета и его эффективности, и он рисует цифры практически от балды. С таким же успехом можете спросить совета о размере бюджета у своей бабушки или гадального шара.

Более того, Facebook вам не друг и не брат, между вами отношения «покупатель — продавец», и, разумеется, он хочет продать вам больше. Не можете заплатить много? Ладно, занесите хоть что-нибудь.

Простейший пример для подтверждения вышесказанного — подготовка скриншотов для этой статьи. Они снимались из одной и той же тестовой рекламной кампании со сплит-тестом аудиторий. За неделю аппетиты Facebook по рекомендуемому суточному бюджету снизились с $2000 до $200. На порядок! Что же произошло за эту неделю? Изменились настройки возраста аудитории? Нет. Поменялся таргетинг? Тоже нет. В настройках не изменилось вообще ничего. Просто за это время был запущен реальный сплит-тест и еще одна рекламная кампания. Обе активности — со значительно меньшими бюджетами, чем рекомендовалось. Это дало рекламному движку Facebook две точки отсчета: стоимость конверсий в реальном сплит-тесте и понимание, что больше из этого скряги не выжать.

Но даже это не конец истории. Пока настройки рекламы со сплит-тестом были открыты на редактирование пару часов, рекомендуемый суточный бюджет упал до $80. Лишь бы клиент не передумал запускать сплит-тест вообще!

Распределенный сплит-тест

Ну, хорошо. Мы только что выяснили, что автоматические рекомендации по бюджету — достаточно условны. Но на чем они вообще основываются? И почему при прочих равных, бюджет на сплит-тестирование обычно больше, чем на точно такую же рекламную компанию, но без A/B-теста? Разумеется, мы не знаем точной логики работы рекламных инструментов Facebook, это коммерческая тайна. Но можно сделать обоснованные предположения.


Как работает сплит-тест в Facebook

В документации указано, что при проведении тестирования аудитория случайным образом делится на непересекающиеся группы. Из этой простой фразы следует несколько очень важных выводов.

Самый очевидный вывод — встроенное тестирование будет давать более точные результаты, чем открутка двух конкурирующих рекламных кампаний вручную и сравнение их результатов. Так происходит потому, что в отличие от Facebook мы не можем убрать пересечения аудиторий и часть пользователей, взаимодействовавших с нашей рекламой в «Кампании 1», может также взаимодействовать с ней в «Кампании 2». Это особенно важный фактор, если мы сравниваем именно аудитории, а не другие переменные.

Но и при тестировании других переменных — плейсментов, дизайна, оптимизаций показа — Facebook тоже проводит разбиение аудитории на две непересекающиеся группы. Например, вы тестируете, какая реклама вашего продукта зайдет лучше — слайд-шоу или статичная картинка. Тестируемая аудитория будет поделена пополам и одной половине будет показываться только слайд-шоу, а второй — только статичное изображение.

Менее очевидный вывод заключается в том, что неудачное разбиение аудиторий на тестируемые группы может сделать сплит-тест бессмысленным, если эти группы имеют много пересечений. С другой стороны, отрицательный результат — это тоже результат. Реальный пример: нужно было проверить, какие настройки аудитории для показа рекламы эффективнее — ручная настройка аудитории по интересам или автоматическая настройка по пикселю Facebook (аудитория, похожая на текущих подписчиков страницы). Недельный сплит-тест показал, что статистически значимой разницы в процентах конверсий нет. То есть, с одной стороны, тест можно было и не проводить. С другой — было получено подтверждение тому, что текущие настройки таргетинга аудитории сделаны верно.

Группы объявлений в Facebook

Если вам обязательно нужен победитель в тесте, сталкивайте лбами заведомо непересекающиеся аудитории — разные страны, разные города в пределах одной страны, разные возрастные группы и т.п.

Итак, Facebook разбил тестируемую аудиторию на две группы. Как он поймет, какая из них эффективнее? Только набрав статистику по конверсиям. Чем больше показов в каждой тестируемой группе будет сделано, и чем больше конверсий набрано — тем точнее будут данные. Говоря языком статистики — чем шире тестируемая выборка, тем репрезентативнее результат. Стопроцентную точность даст лишь стопроцентный охват каждой из групп.

Потенциальный охват аудиторий в фейсбук

Начинаете догадываться, откуда берутся конские бюджеты на сплит-тестирование? Да, совершенно верно, Facebook в сплит-тесте по умолчанию стремится показать вашу рекламу как можно большему проценту пользователей в каждой из групп, да еще и за ограниченный период времени. Возможная длительность сплит-теста в настройках — от 3-х до 14-ти дней. Рекомендуемая длительность — четыре дня. И это ограничение по времени еще больше задирает ставки на оплату показов рекламы. К счастью, понимание этого механизма дает сразу три очевидных пути оптимизации расходов.


Три кита оптимизации

Прежде всего надо начать со сплит-тестирования аудитории. Глупо тестировать дизайн или места показа рекламы, если мы не уверены, что показываем свои объявления пользователям, которые обеспечат нам наивысший процент конверсий. Поэтому первые сплит-тесты должны быть направлены именно на то, чтобы понять, на кого нам запускать последующие тесты и рекламные кампании. На мужчин или женщин? По Украине или по всей Европе? Если в Украине, то по всей стране или только по мегаполисам? В какую возрастную группу бить? 25-35 или 36-50?

Facebook-маркетологи ищут пути оптимизации бюджета для сплит-тестирования

Но даже на этапе определения аудитории можно включить и второй фактор оптимизации расходов — тип конверсий. Не секрет, что разные целевые действия имеют разную стоимость. Клик дороже показа, открытие целевой страницы дороже клика, добавление в корзину дороже открытия страницы, а оформленная покупка — еще дороже. А при сплит-тесте можно выбрать любую разновидность конверсии. И, разумеется, руки будут чесаться выбрать самую «наваристую» — покупку. Стоп! Это тестовая кампания. Сейчас ваша задача получить данные для полномасштабной кампании как можно быстрее, точнее и дешевле. Поэтому забудьте про дорогие виды целевых действий, включите их уже в финальной кампании. В каждой группе выбирайте самый дешевый вариант. Например, если финальная кампания будет нацелена на лиды, берите самый дешевый вариант лидов — трафик на целевой сайт (клик на ссылку). Если нужно протестировать конверсии, выбирайте самые недорогие: просмотр страницы оформления заказа обойдется вам дешевле, чем добавление в корзину, а добавление в корзину — дешевле, чем реальная покупка.

Тестирование конверсий фейсбук

Еще одно направление оптимизации — намеренное сужение аудитории. Расчет простой. Набрать статистически значимые для теста данные быстрее и дешевле на аудитории 250 000 человек, чем на полумиллионе. Как сужать аудиторию? Да как душе угодно! Например, вы знаете, что возраст вашей ЦА лежит в пределах от 25 до 55. Но при этом наибольшая часть клиентов приходится на диапазон 35-45. Отлично! Именно на это ядро и запускайте тест. Дополнительно — режьте географию. Например, запустите тест не на всю Украину, а только на Киев.


Кому? Где? Как?

Как мы выяснили чуть выше, самое первое, что нужно определить при помощи сплит-тестирования — кому именно показывать рекламу, другими словами — актуализировать свою ЦА.

Следующий вопрос, на который надо ответить — где именно ее показывать. Даже в рамках самого Facebook есть несколько вариантов размещения объявлений — в ленте новостей, в мессенджере, в правом столбце. А кроме этого есть Instagram, а также Audience Network — сообщество сайтов и приложений, в которых Facebook может показывать вашу рекламу — все это плейсменты. По умолчанию, Facebook сам решает, где и сколько раз показать ваше объявление для достижения наибольшей результативности. А теперь представьте, что «точность» его прогнозов и рекомендаций с плейсментами такая же, как и в случае с автобюджетами. Поэтому никаких автоплейсментов, определите их эффективность в явной форме при помощи тестов.

И лишь после ответа на вопрос о том, где именно показывать рекламу, можно тестировать другие показатели — оптимизацию показов и креативы. Хотя, стоп! А стоит ли запускать сплит-тесты на конкретные объявления? Мы считаем, что это далеко не обязательно. Дело в том, что объявления внутри одной группы и так уже конкурируют между собой за показы и конверсии. Чем лучшие показатели конверсии показывает объявление, тем чаще его будет показывать Facebook. Естественный отбор в действии. Да, это будет не чистый сплит-тест, так как не будет никакого непересекающегося разделения аудитории, и разные объявления могут быть показаны одному и тому же человеку. Но так ли это важно, если мы уже оптимизировали показы по предыдущим параметрам?

Объявления в сплит-тестах фейсбук

***

В заключение хочется напомнить, что в рекламе нет статичных решений. Нельзя один раз провести все тесты, сделать все настройки, запустить показы и на этом успокоиться. Пока работает ваша текущая кампания — самое время позаботиться о следующей. Провести новую фотосессию, заказать копирайтерам новые описания и подводки, продумать новые тесты. То, что не работало вчера, может заработать завтра. Возможно, новые фотографии дадут лучшую результативность в Instagram, хотя прошлая рекламная кампания там вообще не пошла. Может быть, новые опции доставки улучшат конверсию вашей рекламы в регионах, а новые тексты — помогут достучаться до возрастной группы, которая еще вчера была глуха к вашим предложениям. Как знать?

Именно для этого и предназначено A/B-тестирование.

Не гадайте. Узнавайте точно.


Больших конверсий вам! Ставьте лайк, подписывайтесь на блог, читайте интересные материалы! 😉


  • Vitaliy_o

    Здравствуйте.

    Я наткнулся на вашу статью уже после проведения сплит-теста, но начал я его по плейсменту (пол/возраст уже и так более или менее знал) с целью «оформление заказа».

    Получил вот такую картину:
    Проигравшая группа объявлений:
    https://uploads.disquscdn.com/images/2f68b963c43f4f870f610d5bac5be8487c3d7e73faaffc75f2eee18d4b855e2a.png

    Выигравшая группа объявлений:
    https://uploads.disquscdn.com/images/0bb0534ebeb8b7f4b46c7e2441792b7085fcb66b1264e34bc0d887a3df7b9233.png

    И вот я не понимаю, какую пользу из этого сплит-теста я могу для себя извлечь, т.к. и там и там плейсмент показан одинаковый, без подробностей (в плане лента, видео, правая колонка и т.д.)
    Под проигравшей группой можно скачать отчет по плейсменту (под выигравшей кнопка скачивания неактивна), но в нем нет столбца с целью.
    Можно ли как-то найти подробности по этому тестированию? Или тест такой кривой и есть?