Чтобы разобраться, приносит ли новая идея в рассылках деньги, нужно правильно измерить эффект от нее. Расскажем про AB-тестирование гипотез, связанных с промокодами в алкогольной тематике, на примере клиента «Ароматный мир».
21 февраля 2019
История «Ароматного мира»: тестирование промокодов на сегменте оттока
Чтобы разобраться, приносит ли новая идея в рассылках деньги, нужно правильно измерить эффект от нее. Расскажем про AB-тестирование гипотез, связанных с промокодами в алкогольной тематике, на примере клиента «Ароматный мир».
Сеть магазинов строит процессы email-коммуникации в Mindbox — от триггерных сценариев до индивидуальных рассылок. Сделать и запустить десятки автоматических кампаний мало, стратегия рассылок требует постоянного совершенствования и тестирования. Ниже AB-тесты, которые мы провели с использованием контрольной группы, и полученные результаты.
«Ароматный мир» — крупнейшая в России сеть специализированных винных супермаркетов. Она насчитывает более 470 магазинов в городах европейской части России, из которых 200 находится в Москве и Московской области.
В Mindbox у «Ароматного мира» настроено 26 механик. Часть этих механик была запущена в конце прошлого года, в том числе цепочки реактивации для сегмента оттока. Сегмент оттока — это те клиенты, кто по какой-то причине давно не совершали полезного действия. В коммуникациях с клиентами из сегмента оттока мы предлагали промокод на скидку на следующий заказ.
Новые механики были запущены с AB-тестами. В AB-тестах проверялась гипотеза, что размер промокода увеличивает конверсию. Согласно гипотезе, чем больше будет размер скидки, тем больше окажется конверсия в заказ. Всего провели 4 теста. В некоторых случаях результаты оказались неожиданными.
В кейсе — результаты тестов с промокодами по четырем механикам коммуникации с сегментом оттока:
- Реактивация клиентов, которые получают, но не открывают письма.
- Реактивация бездействующих клиентов, которые давно ничего не покупали.
- Реактивация «новичков» — клиентов, которые зарегистрировались, но спустя некоторое время так ничего и не купили.
- Повторная реактивация «новичков».
Реактивация клиентов, которые получают, но не открывают письма
Рассылка отправлялась тем клиентам, которые получают периодические ручные рассылки, но по какой-то причине не открывают письма. Механика мотивирует вернуться в магазин благодаря скидке.
Было два варианта промокода: со скидкой 3% и 5%.
Пример письма
Результаты тестирования
Гипотеза подтвердилась частично. Участники контрольной группы не совершают заказы в отличие от получателей промокодов, но разница в конверсии между номиналами 3% и 5% и контрольной группой не оказалось статистически значимой.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 3%
1.66%
0.15% ± 0,06%
Скидка 5%
1.65%
0.19% ± 0,07%
Контрольная группа
—
0.00% ± 0,07%
Реактивация бездействующих клиентов, которые давно ничего не покупали
Рассылка отправлялась тем клиентам, которые когда-то совершали заказы, но по какой-то причине прекратили это делать. Механика мотивирует вернуться в магазин благодаря скидке.
Было два варианта промокода: со скидкой 5% и 7%.
Пример письма
Результаты тестирования
Гипотеза подтвердилась частично. Участники контрольной группы не совершают заказы, в отличие от получателей промокодов. Разница в конверсии между номиналами 5% и 7% есть, но статистически незначима. Разница варианта со скидкой 7% относительно контрольной группы оказалась статистически значимой.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 5%
1.66%
0.12% ± 0,07%
Скидка 7%
2.07%
0.25% ± 0,1%
Контрольная группа
—
0.00% ± 0,07%
Реактивация «новичков» — клиентов, которые зарегистрировались, но так ничего и не купили
Рассылка отправлялась тем клиентам, которые заинтересовались магазином и зарегистрировались, но так и не оформили заказ. Механика мотивирует вернуться в магазин благодаря скидке.
Было два варианта промокода: со скидкой 3% и 5%.
Пример письма
Результаты тестирования
Гипотеза не подтвердилась. Участники контрольной группы также конвертируются в покупателей, как и получатели рассылки. Номинал скидки тоже не имеет значения. Кажется, что если клиент потратил усилие на то, чтобы зарегистрироваться, в течение месяца он все равно оформит заказ, и скидка значения не имеет.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 3%
5.83%
4.65% ± 1,45%
Скидка 5%
6.73%
4.57% ± 1,39%
Контрольная группа
—
4.00% ± 1,75%
Повторная реактивация «новичков»
Повторная реактивация «новичков» срабатывала на тех клиентов, которые не совершили заказ после первого письма с промокодом. Письмо отправляется спустя пять дней после первого письма реактивации, если клиент не совершил заказ.
Было два варианта промокода: со скидкой 3% и 5%.
Пример письма
Результаты тестирования
Гипотеза не подтвердилась. В случае напоминания номинал скидки тоже не имеет значения. Разница в 0.34% оказалась статистически незначимой. В этой рассылке не было контрольной группы.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 3%
4.81%
1.34% ± 0,73%
Скидка 5%
4.13%
1.68% ± 0,79%
Отзыв клиента
«Если коротко, то для меня Mindbox — это проводник из мира хаоса в мир системы и порядка. С самого старта проекта мы сделали ставку на ребят и не прогадали. Триггеры, сегменты, персональные предложения, аналитика, помноженные на грамотный и отзывчивый менеджмент, приносят нужный результат.
Гибкость системы позволяет регулярно проверять гипотезы, измерять эффект и принимать решения в пользу правильной версии. В качестве примера пару слов про кейс конца прошлого года, когда требовалось реактивировать большую базу клиентов из сегмента «Отток» под новый год. Отрабатывалась гипотеза про прямую зависимость конверсии и размера скидки в промокоде. Создав цепочку писем, мы получили интересные результаты, которые помогли найти верное решение и пользу для компании.
В общем, продолжаем погружаться в пока еще неизведанные возможности платформы и получать пользу для компании и для наших клиентов».
Заключение
Из тестирований можно сделать 2 вывода:
- Промокоды — работают, это подтверждается методом контрольной группы.
- Вопреки ожиданиям, гипотеза «Чем больше скидка — тем выше конверсия в заказ» подтвердилась только в одном тестировании из четырех.
Это значит, что размер скидки не всегда имеет значение. Исходя из результатов, рекомендуем тестировать промокоды со скидкой разного номинала. Вполне возможно, что по соотношению затраты/польза самой эффективной окажется скидка меньшего размера.
