Кейс «Первого Мебельного»: улучшение показателей рассылок до 25% с помощью AB-тестов

12 Дек ‘18

Чтобы разобраться, проносит ли новая идея в рассылках деньги, нужно правильно измерить эффект от нее. Расскажем про AB-тестирование гипотез в мебельной тематике на примере клиента «Первый Мебельный».

Сеть магазинов строит процессы email-коммуникации на нашей платформе, от триггерных сценариев до индивидуальных рассылок. Сделать и запустить десятки автоматических кампаний мало, стратегия рассылок требует постоянного совершенствования и тестирования. Ниже AB-тесты, которые мы провели, и полученные результаты.

«Первый Мебельный» — это федеральная сеть мебельных магазинов в России и интернет-магазин. Сеть работает в Москве, Туле, Рязани, Новомосковске и других регионах. Услугами «Первого Мебельного» воспользовались более 200 тысяч клиентов.

В платформе Mindbox маркетолог интернет-магазина «Первого Мебельного» настроила более десяти автоматических сценариев. Запущенные кампании оптимизировали с помощью AB-тестирования.

Рассказываем, как с помощью AB-тестов улучшили показатели автоматических коммуникаций. В кейсе — результаты четырех тестов со статистически достоверной разницей в результатах:

  • Персональные рекомендации Mindbox на основе машинного обучения против ручной подборки в разовой рассылке.
  • Подстановка персонального обращения в письме про брошенный просмотр.
  • Призыв к действию в теме рассылки для тех, кто не открывает письма.
  • Дополнительный call-to-action в письме-реактивации по заказам.

Персональные рекомендации на основе машинного обучения против ручной подборки в разовой рассылке

Определение гипотезы

Автоматические персональные рекомендации на основе машинного обучения будут эффективнее подборки товаров, собранной маркетологом для разовой рекламной рассылки.

Настройки рассылки

Ручная разовая рассылка отправлялась по всей подписанной базе клиентов «Первого Мебельного».

Всего было два варианта:

  • С ручной подборкой товаров, составленной маркетологом PM.ru,
  • С автоматической подборкой персональных рекомендаций на основе машинного обучения.
Версия рассылки с ручной подборкой товаров
Версия рассылки с ручной подборкой товаров

Результаты тестирования

Гипотеза подтвердилась. Различия статистически значимы при доверительной вероятности 95%.

Вариант письма % кликов Конверсия в заказы
Вариант с ручной подборкой 3,3% 0,030%
Вариант с автоматическими персональными рекомендациями Mindbox 3,5% 0,044%

Разница в кликах составила 0,2%, в конверсии в заказы — 0,014%. Таким образом, подстановка персональных рекомендаций увеличивает клики на ~6% и конверсию в заказы на 47%.

Подстановка имени в тему письма

Определение гипотезы

Подстановка имени клиента в теме письма привлечет внимание и увеличит шанс открытия письма.

Настройка рассылки

Для эксперимента взяли рассылку про брошенный просмотр товара — когда клиент смотрит товары на сайте, но не добавляет их в корзину, мы отправляем письмо со списком просмотренных товаров. В тестировании участвовали только те клиенты, у которых было заполнено имя.

Всего было два варианта письма:

  • Филипп, здесь всё, что вам понравилось 😏
  • Здесь всё, что вам понравилось 😏
Пример письма про брошенный просмотр
Пример письма «Брошенный просмотр»

Результаты тестирования

Гипотеза подтвердилась. Различия статистически значимы при доверительной вероятности 95%.

Вариант письма % открытий
Вариант с именем 43,2%
Вариант без имени 41,5%
+4%

Разница в открытиях составила 1,7% относительно доставленных сообщений. Таким образом, подстановка имени увеличивает открытия на ~4%.

Призыв к действию в теме письма-реактивации

Определение гипотезы

Письмо с призывом к действию в теме покажет более высокий open rate.

Настройка рассылки

Если клиент в течение трех месяцев не открывает ручные email-рассылки, срабатывает автоматическая кампания-реактивация. Отправляем письмо с подборкой популярных товаров.

Всего было два варианта письма:

  • Возвращайтесь! Вы пропустили много интересного!
  • Вы пропустили много интересного!
Пример письма-реактивации по открытиям
Пример письма-реактивации по тем, кто не открывает письма

Результаты тестирования

Гипотеза подтвердилась. Различия статистически значимы при доверительной вероятности 95%.

Вариант письма % открытий
Вариант с призывом к действию 2.87 %
Вариант без призыва к действию 2.29 %
+25%

Разница в открытиях составила 0,58% относительно доставленных сообщений. Таким образом, подстановка призыва к действию увеличивает открытия на 25%.

Дополнительный call-to-action в письме-реактивации по заказам

Определение гипотезы

Подстановка кнопки с призывом к действию — использовать промокод и оформить заказ — увеличит количество переходов на сайт.

Настройка рассылки

Если клиент в течение трех месяцев не совершает заказы, срабатывает автоматическая кампания-реактивация. Отправляем ему подборку популярных товаров и промокод на следующий заказ.

Всего было два варианта:

  • С кнопкой «Воспользоваться промокодом»
  • Без кнопки
Вариант с кнопкой
Вариант без кнопки

Пример письма-реактивации с тестированием call-to-action кнопки

Результаты тестирования

Гипотеза подтвердилась.

Вариант письма % кликов
Вариант с кнопкой 1,6 %
Вариант без кнопки 1,34 %
+20%

Разница в кликах составила 0,26% относительно доставленных сообщений. Таким образом, подстановка призыва к действию увеличивает клики на 20%.

Анна Мещерякова Анна Мещерякова,
маркетолог «Первого мебельного»

Мнение маркетолога PM.ru

Mindbox для меня как Джарвис для Тони Старка. Мощный инструмент, универсальная рабочая платформа и крайне расторопный, а что важнее — грамотный, суппорт.

У нас ведь не просто очередной интернет-магазин, где диваны со шкафами продаются тоннами. Мы прежде всего приходим на помощь, когда возникает необходимость в хорошей мебели. Нет задачи продать любой ценой. Есть задача — решить проблему покупателя, с которой он к тебе пришёл. Наверное, поэтому наш Мебельный Первый 🙂

Ребята из Mindbox всегда приходят на помощь нам. Мы можем придумать новый кейс, необъятно крутой, как боинг, а команда поможет нам его «взлететь». Работы впереди ещё очень и очень много — в планах у нас механизм увеличения базы подписчиков и несколько сложносочиненных триггеров. С каждым обновлением система становится всё умнее и тем интереснее настраивать и тестировать новые сценарии. И улучшать старые, кстати, тоже. Всегда есть, где подкрутить 🙂

Команда Mindbox

Филипп Вольнов
Филипп Вольновменеджер проекта
Подпишитесь на наш ежеквартальный дайджест новостей
Согласен на передачу данных и рекламную рассылку

Пожалуйста, оставьте информацию о вас

Свяжемся в течение
рабочего дня

Заявка на партнерство

Свяжемся в течение
рабочего дня

Обратная связь