История «Ароматного мира»: тестирование промокодов на сегменте оттока

Чтобы разобраться, приносит ли новая идея в рассылках деньги, нужно правильно измерить эффект от нее. Расскажем про AB-тестирование гипотез, связанных с промокодами в алкогольной тематике, на примере клиента «Ароматный мир».
Сеть магазинов строит процессы email-коммуникации в Mindbox — от триггерных сценариев до индивидуальных рассылок. Сделать и запустить десятки автоматических кампаний мало, стратегия рассылок требует постоянного совершенствования и тестирования. Ниже AB-тесты, которые мы провели с использованием контрольной группы, и полученные результаты.
«Ароматный мир» — крупнейшая в России сеть специализированных винных супермаркетов. Она насчитывает более 470 магазинов в городах европейской части России, из которых 200 находится в Москве и Московской области.
В Mindbox у «Ароматного мира» настроено 26 механик. Часть этих механик была запущена в конце прошлого года, в том числе цепочки реактивации для сегмента оттока. Сегмент оттока — это те клиенты, кто по какой-то причине давно не совершали полезного действия. В коммуникациях с клиентами из сегмента оттока мы предлагали промокод на скидку на следующий заказ.
Новые механики были запущены с AB-тестами. В AB-тестах проверялась гипотеза, что размер промокода увеличивает конверсию. Согласно гипотезе, чем больше будет размер скидки, тем больше окажется конверсия в заказ. Всего провели 4 теста. В некоторых случаях результаты оказались неожиданными.
В кейсе — результаты тестов с промокодами по четырем механикам коммуникации с сегментом оттока:
  • Реактивация клиентов, которые получают, но не открывают письма.
  • Реактивация бездействующих клиентов, которые давно ничего не покупали.
  • Реактивация «новичков» — клиентов, которые зарегистрировались, но спустя некоторое время так ничего и не купили.
  • Повторная реактивация «новичков».

Реактивация клиентов, которые получают, но не открывают письма

Рассылка отправлялась тем клиентам, которые получают периодические ручные рассылки, но по какой-то причине не открывают письма. Механика мотивирует вернуться в магазин благодаря скидке.
Было два варианта промокода: со скидкой 3% и 5%.
Пример письма
Пример письма

Результаты тестирования

Гипотеза подтвердилась частично. Участники контрольной группы не совершают заказы в отличие от получателей промокодов, но разница в конверсии между номиналами 3% и 5% и контрольной группой не оказалось статистически значимой.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 3%
1.66%
0.15% ± 0,06%
Скидка 5%
1.65%
0.19% ± 0,07%
Контрольная группа
0.00% ± 0,07%

Реактивация бездействующих клиентов, которые давно ничего не покупали

Рассылка отправлялась тем клиентам, которые когда-то совершали заказы, но по какой-то причине прекратили это делать. Механика мотивирует вернуться в магазин благодаря скидке.
Было два варианта промокода: со скидкой 5% и 7%.
Пример письма
Пример письма

Результаты тестирования

Гипотеза подтвердилась частично. Участники контрольной группы не совершают заказы, в отличие от получателей промокодов. Разница в конверсии между номиналами 5% и 7% есть, но статистически незначима. Разница варианта со скидкой 7% относительно контрольной группы оказалась статистически значимой.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 5%
1.66%
0.12% ± 0,07%
Скидка 7%
2.07%
0.25% ± 0,1%
Контрольная группа
0.00% ± 0,07%

Реактивация «новичков» — клиентов, которые зарегистрировались, но так ничего и не купили

Рассылка отправлялась тем клиентам, которые заинтересовались магазином и зарегистрировались, но так и не оформили заказ. Механика мотивирует вернуться в магазин благодаря скидке.
Было два варианта промокода: со скидкой 3% и 5%.
Пример письма
Пример письма

Результаты тестирования

Гипотеза не подтвердилась. Участники контрольной группы также конвертируются в покупателей, как и получатели рассылки. Номинал скидки тоже не имеет значения. Кажется, что если клиент потратил усилие на то, чтобы зарегистрироваться, в течение месяца он все равно оформит заказ, и скидка значения не имеет.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 3%
5.83%
4.65% ± 1,45%
Скидка 5%
6.73%
4.57% ± 1,39%
Контрольная группа
4.00% ± 1,75%

Повторная реактивация «новичков»

Повторная реактивация «новичков» срабатывала на тех клиентов, которые не совершили заказ после первого письма с промокодом. Письмо отправляется спустя пять дней после первого письма реактивации, если клиент не совершил заказ.
Было два варианта промокода: со скидкой 3% и 5%.
Пример письма
Пример письма

Результаты тестирования

Гипотеза не подтвердилась. В случае напоминания номинал скидки тоже не имеет значения. Разница в 0.34% оказалась статистически незначимой. В этой рассылке не было контрольной группы.
Вариант промокода
% кликов
Конверсия в заказы
Скидка 3%
4.81%
1.34% ± 0,73%
Скидка 5%
4.13%
1.68% ± 0,79%

Заключение

Из тестирований можно сделать 2 вывода:
  • Промокоды — работают, это подтверждается методом контрольной группы.
  • Вопреки ожиданиям, гипотеза «Чем больше скидка — тем выше конверсия в заказ» подтвердилась только в одном тестировании из четырех.
Это значит, что размер скидки не всегда имеет значение. Исходя из результатов, рекомендуем тестировать промокоды со скидкой разного номинала. Вполне возможно, что по соотношению затраты/польза самой эффективной окажется скидка меньшего размера.

Вас заинтересуют следующие материалы