51
невысоком уровне значимости существует опасность сделать ошибочные выводы
об эффекте, полученном в результате изменения. На практике, примерно, 8 из 10
A/B тестов не являются статистически значимыми. Стоит отметить, что чем
больше объем трафика в сегментах, тем меньше разброс среднесуточных
значений показателя. При небольшом трафике из-за большего разброса значений
случайной величины потребуется больше времени для проведения эксперимента,
но в любом случае это лучше, чем вовсе не проводить эксперимент.
А/В – тестирование было запущено для проверки главных показателей, а
именно:
1. Уровень доставляемости писем
2. Уровень открываемости писем
3. Уровень кликабельности
4. Уровень отписки от писем
5. Уровень жалоб на спам
Далее мы брали вариант А, который является первоначальной рассылкой, и
вариант В, вторую рассылку с откорректированными элементами e – mail
сообщения. Для сравнения случайных величин оценивают средние значения, а для
оценки среднего значения нам как раз требуются варианты А и В. Эффект от
внесения изменения определяют разность между средними значениями
ключевого показателя в вариантах А и В. Как и ранее было указано – все
сравнения производились при помощи теста Стьюдента, так как данный тест
отлично зарекомендовал себя для проверки небольших объемов данных, потому
что учитывает размер выборки при оценке значимости.
Для упрощения процесса проведения сравнения данных, полученных со
второй рассылки были сделаны следующие действия:
1. В панель управления 1, которая отображена в приложении 1, были
добавлены новые данные. Результаты отображены в Таблице № 4,
образец которой отображен в виде таблицы Excel.