+30% к выручке CRM-канала за год.                              Подборка АВ-тестов FINNTRAIL для email, сайта и мобильного приложения

FINNTRAIL — производитель экипировки для бездорожья, рыбалки, езды на снегоходе и активного отдыха. Для аудитории бренда не всегда срабатывают привычные механики, поэтому команда CRM-маркетологов тестирует каждую новую перед запуском. Оценивают, повышает ли она целевые метрики и не снижает ли остальные. Если проверка показывает, что все хорошо — запускают. Такой подход помогает наращивать выручку CRM-канала на 30% за год. В материале расскажем про эксперименты FINNTRAIL:

Результаты

  • +30%  
    к выручке CRM-канала
  • +33% 
    к заказам из CRM-канала

Сравнивали период с 1 июля 2023 по 1 июля 2024 года с аналогичным периодом 2024–2025 года. Источник данных Mindbox. Модель атрибуции last non-direct touch

Ниже рассказываем про 7 АВ-тестов FINNTRAIL: какие идеи сработали, а какие — нет.

Массовые email-рассылки: 4 АВ-теста для роста open rate и click rate

В FINNTRAIL одинаково часто проводят классические АВ-тесты с распределением аудитории 50 на 50 и АВ-тесты с контрольной группой. Продолжительность зависит от механики. Массовые рассылки тестируют 1-2 дня, потому что они отправляются на большую аудиторию и статзначимый результат получается быстро. Попапы или In-App показываются не всем и не сразу, поэтому каждый тест длится дольше — обычно минимум 10 дней.

Всегда ли эмоджи в теме письма повышают open rate

Гипотеза. Если добавить эмоджи в тему письма, open rate будет выше.
Сегмент. Активная база клиентов — те, кто открывали рассылки за последние 90 дней.
Метрика: open rate.
Результат: гипотеза не подтвердилась. Open rate у письма с эмоджи оказался ниже.
После теста FINNTRAIL решили не экспериментировать больше с эмоджи в рассылках.
Вариант
Open rate
🔥Вейдерсы + солнцезащита = идеальная экипировка для лета
13,47%
Вейдерсы + солнцезащита = идеальная экипировка для лета
14,94%
Статистическая значимость — 95%

Как бренды в теме влияют на открываемость письма

Гипотеза. Если в теме письма перечислить бренды, open rate будет выше.
Сегмент. Все, кто раньше покупал аксессуары для рыбалки.
Метрика: open rate.
Результат: гипотеза подтвердилась. Open rate выше у письма, где в теме перечисляли бренды.
Теперь подход постоянно используют в рассылках с новыми поступлениями.
Вариант
Open rate
Перчатки Neosensor, кепка Waterproofcap, гермосумка Tenbag
17,74%
Функциональные аксессуары для рыбалки
16,47%
Статистическая значимость — 95%

Как изменится click rate, если в рассылку о коллекции добавить описание

Гипотеза. Если перед кнопкой «Смотреть каталог» добавить «продающее» описание линейки или коллекции, пользователи будут активнее переходить в каталог.
Сегмент. Вся активная база клиентов.
Метрика: click rate.
Вариант А: с текстом до кнопки. Click rate — 1,03%
Вариант А: с текстом до кнопки. Click rate — 1,03%
Вариант В: без текста до кнопки. Click rate — 0,75%
Вариант В: без текста до кнопки. Click rate — 0,75%
Результат: гипотеза подтвердилась. В письме с текстом-пояснением до кнопки click rate оказался выше.
Вариант
Click rate
Есть поясняющий текст до кнопки
1,03%
Нет текста до кнопки
0,75%
Статистическая значимость — 95%
Успешную гипотезу масштабировали: теперь описание добавляют во все проморассылки. Например, в массовой рассылке о новой треккинговой обуви рассказывают о преимуществах модели и видах активного отдыха, для которых она подойдет. Получатели обновленных проморассылок чаще переходят в каталог. За три месяца после обновления рассылки средний click rate вырос на 1,1 п. п. по сравнению с письмами, где до СТА не было никакого пояснения.
Рассылку о новинках треккинговой обуви отправляли активным подписчикам — тем, кто открывал письма за последние 90 дней. Click rate — 3%, конверсия в заказ — 0,1%, атрибуция — last non-direct touch по кликам
Рассылку о новинках треккинговой обуви отправляли активным подписчикам — тем, кто открывал письма за последние 90 дней. Click rate — 3%, конверсия в заказ — 0,1%, атрибуция — last non-direct touch по кликам

Нужна ли анимация в письмах

Гипотеза. Анимированный баннер в письме увеличит click rate.
Сегмент. Вся активная база клиентов.
Метрика: click rate.
Вариант А: с обычным баннером. Click rate — 13,2%
Вариант А: с обычным баннером. Click rate — 13,2%
Вариант В: с анимированным баннером. Click rate — 11,09%
Вариант В: с анимированным баннером. Click rate — 11,09%
Результат: гипотеза не подтвердилась. В письме с анимированным баннером click rate оказался ниже.
Вариант
Click rate
Анимированный баннер
11,09%
Обычный баннер
13,2%
Статистическая значимость — 95%
Чтобы перепроверить результат, через неделю провели похожий тест с анимированной кнопкой.
Гипотеза. Анимированная кнопка с призывом к действию увеличит click rate.
Сегмент. Вся активная база клиентов.
Метрика: click rate.
Вариант А: с обычной кнопкой. Click rate — 1,03%
Вариант А: с обычной кнопкой. Click rate — 1,03%
Вариант В: с анимированной кнопкой. Click rate — 0,72%
Вариант В: с анимированной кнопкой. Click rate — 0,72%
Результат: гипотеза не подтвердилась. В письме с анимированной кнопкой click rate оказался ниже.
Вариант
Click rate
Анимированная кнопка
0,72%
Обычная кнопка
1,03%
Статистическая значимость — 95%
В FINNTRAIL предположили, что подписчики не воспринимают анимированный элемент как кликабельный. Поэтому дальше не стали использовать анимацию в письмах. Тем более, что ее создание — трудоемкий процесс: нужно потратить больше времени на дизайн, обсуждение и согласование внутри команды.
В FINNTRAIL сфокусировались на привлечении email-подписчиков. Для этого на сайте запустили попап с оффером: 2000 бонусов на первый заказ в обмен на почту. И решили протестировать разные варианты дизайна.
Гипотеза. Попап с изображением людей принесет больше конверсий в подписку на email-рассылки, чем попап с изображением товара.
Сегмент. Посетители сайта FINNTRAIL, не подписанные на email.
Метрика: конверсия в подписку. В результатах теста ее считали вручную по формуле:
Аудиторию для теста разделили поровну на две группы. Из попапа с изображением людей в брендовой экипировке оставили контакты 226 человек
Аудиторию для теста разделили поровну на две группы. Из попапа с изображением людей в брендовой экипировке оставили контакты 226 человек
Из попапа с изображением товара оставили контакты 1631 человек
Из попапа с изображением товара оставили контакты 1631 человек
Результат: гипотеза не подтвердилась. Попап с изображением товара показал большую конверсию в подписку на email, чем с изображением людей.
Вариант
Конверсия в подписку
Попап с изображением людей
0,38%
Попап с изображением товара для рыбалки
1,9%
Статистическая значимость — 95%
В FINNTRAIL выяснили, что фото товара нагляднее показывает его качество и сценарий использования. Решили и дальше использовать такие изображения для массовых промо и индивидуальных предложений.

Персонализация мобильного приложения: как уведомления In-App влияют на конверсию в заказ

Подписка на пуши через In-App: раздражает или работает

Настроили In-App — короткое всплывающее уведомление в приложении, чтобы предлагать пользователям подписываться на мобильные пуши.
Гипотеза. In-App увеличит конверсию в подписку на пуши и не снизит конверсию в заказ из приложения.
Сегменты. Провели АВ-тест с контрольной группой. Пользователей, не подписанных на пуши, разделили в соотношении 50 на 50. В контрольной группе отключили все      In-App, а в тестовой оставили только один — с предложением подписаться.
Метрики: конверсии в подписку на пуши и в заказ.
In-App показывали не чаще одного раза в день для тех, кто не подписан на пуши и не видел других In-App за последние 2 дня
In-App показывали не чаще одного раза в день для тех, кто не подписан на пуши и не видел других In-App за последние 2 дня
Результат: гипотеза подтвердилась. Целевая метрика — конверсия в подписку на мобильные пуши, выросла, при этом не снизилась конверсия в заказ.
Вариант
Конверсия в подписку
Конверсия в заказ
Группа А
28,5%
14,41%
Контрольная группа
25,5%
13,94%
Статистическая значимость по конверсии в подписку — 95%, по конверсии в заказ — 89%
Оказалось, In-App в подписку не вызывает негатив у пользователей и стимулирует их подписываться на пуши. Поэтому его настроили в приложении для тех, кто не подписан на уведомления.

Будет ли In-App мотивировать пользователей обновлять приложение

Чтобы повысить долю пользователей с обновленным приложением, запустили In-App «Стань лучшей версией себя» с напоминанием о выходе новой версии. Было опасение, что механика будет отвлекать пользователей от покупки, поэтому проверяли влияние In-App на конверсию в заказ.
Гипотеза. In-App не снизит конверсию в заказ.
Сегменты. Пользователей приложения разделили на тестовую и контрольную группы 50 на 50. При этом участники тестовой группы видели только один In-App — с просьбой обновить приложение. В эксперименте участвовали все, кто не установил обновление через неделю после его выхода.
Метрики. Основной целевой показатель — конверсия в заказ.
In-App показывают не чаще одного раза за 2 дня тем, у кого старая версия приложения
In-App показывают не чаще одного раза за 2 дня тем, у кого старая версия приложения
Результат: Тест не показал статистической значимости по конверсии в заказ, но она и не снизилась, а значит, попап не раздражал пользователей приложения. При этом за 10 дней 28,5% пользователей, которые его увидели, обновили приложение.
Вариант
Конверсия в заказ
Группа А
11,95%
Контрольная группа
12,07%
In-App стимулирует пользователей обновлять приложение и не отвлекает их от покупки. Поэтому сейчас механику используют каждый раз, когда выходит новая версия приложения.

Советы FINNTRAIL: как наладить регулярные АВ-тесты

Поиск идей и наполнение бэклога. У маркетологов FINNTRAIL три основных источника гипотез для AB-тестов:
  1. Опыт клиента — смотрят на продукт глазами пользователя: заходят на сайт, читают письма, проверяют, все ли понятно и удобно. Если что-то вызывает вопрос или требует лишнего усилия — это уже потенциальная гипотеза для теста.
  2. Обратная связь — идеи приходят из отзывов, NPS-опросов, комментариев на рассылки и обращений в поддержку.
  3. Внутренние данные — смотрят в отчетах, где падает метрика и что стоит потестировать. Иногда гипотезы подсказывает отдел продаж, опираясь на нестандартные ситуации с клиентами.
Анализ результатов. Завершенные АВ-тесты заносят в таблицу: период теста, гипотеза, сегмент аудитории и результаты. Собранная база помогает систематизировать опыт: масштабировать успешные гипотезы и отказываться от тех, что не сработали.
Фрагмент таблицы с результатами АВ-тестов: фиксируют итоги запусков по сегментам и общий вывод по каждой гипотезе
Фрагмент таблицы с результатами АВ-тестов: фиксируют итоги запусков по сегментам и общий вывод по каждой гипотезе

Планы

  1. Запустить геймификацию на сайте. Планируют протестировать «Колесо фортуны» для сбора контактов и сравнить его эффективность с уже настроенным для этих целей попапом. Цель — увеличить конверсию в подписку на email-рассылки.
  2. Проводить АВ-тесты в мобильных пушах. Будут проверять разные гипотезы: ситуативные сообщения, креативные заголовки. Канал показывает хороший потенциал, поэтому хотят его масштабировать.
  3. Продолжать AB-тесты в email-рассылках. Например, добавлять в письма больше информации про новые технологии, пробовать креативные заголовки, чтобы повышать конверсию в заказ и, как следствие, выручку email-канала.
P. S. В этой истории мы рассказывали о наших продуктах Рассылки, Персонализация сайта, Мобильные пуши и In-App. Узнайте подробнее на их страницах или в разговоре с консультантом.