CRO & Personalization
Відкрити в Telegram
A/B-тестирование, персонализация и рост: опыт, инструменты и подходы, которые помогают принимать решения на основе данных. 📩 Контакты: Андрей Андреев Telegram — @and_and LinkedIn — linkedin.com/in/and-andreev
Показати більше861
Підписники
+124 години
+27 днів
+1330 днів
Архів дописів
Repost from METRO NEWS
⚡️ METRO вошла в тройку лидеров UX-рейтинга интернет-магазинов в категории «Продукты питания»
🔝 Эксперты «Рейтинга Рунета» оценивали, насколько удобно пользователю взаимодействовать с онлайн-магазином – от поиска товара до оформления заказа. В исследовании приняли участие более 60 крупнейших приложений.
💬 Команда e-commerce последовательно оптимизирует пользовательский путь, анализируя поведение клиентов и устраняя лишние действия на ключевых этапах взаимодействия с компанией на онлайн платформе.
«Попадание в UX-рейтинг — результат командной работы бизнеса, продукта, разработки, дизайна и аналитики. Мы постоянно улучшаем пользовательский путь: убираем лишние шаги, упрощаем сценарии и делаем покупку удобнее. Поэтому высокая оценка экспертов для нас – не просто признание, а возможность получить независимый взгляд со стороны и понять, где у нас еще есть точки роста», – отметил Андрей Андреев, руководитель направления мерчандайзинга дивизиона электронной торговли METRO.
🌐 Методология «Рейтинга Рунета» основана на исследованиях Nielsen Norman Group и Baymard Institute, практическом опыте работы с e-commerce-проектами и экспертной оценке специалистов отрасли.
🧠 Я всё меньше хочу прокачивать навыки, которые LLM потенциально может делать вместо меня.
Не потому, что навыки больше не нужны. А потому, что их срок жизни становится короче.
Сегодня я скорее инвестирую в другое: как думать, как задавать вопросы и как принимать решения в условиях неопределённости.
И здесь, кажется, появляется новая проблема.
Раньше ошибка часто была в том, что мы чего-то не знали.
Теперь опаснее другая ошибка - false positive: когда мы принимаем неправильный ответ за правильный.
LLM может написать убедительный анализ, привести цифры, объяснить причинно-следственную связь и даже сослаться на источник.
И всё это может быть неправдой.
Чем лучше модели становятся в создании правдоподобных ответов, тем важнее способность человека сказать:
Стоп. А почему я вообще должен этому верить?Поэтому я сейчас смещаю образование от конкретных инструментов в сторону фундаментальных вещей: вероятностного мышления, критического мышления, статистики, причинности и принятия решений. Недавно закончил книгу Суперпрогнозирование Филипа Тетлока. Для меня это, пожалуй, вторая книга после «Думай медленно… решай быстро» Канемана, которая хорошо объясняет, как тренировать собственное мышление, а не просто накапливать знания. Особенно полезна она сейчас, когда между человеком и информацией появляется LLM. Модель может помочь нам думать быстрее. Но она не должна избавлять нас от необходимости думать самим. Потому что самый дорогой ответ - не тот, который мы не получили. А тот, которому мы поверили. Книгу оставил в комментариях. *Фото к посту - из курса Ronny Kohavi «Accelerating Innovation with A/B Testing» на Maven. _______________ CRO & Personalization 🫥 Проголосовать, чтобы сторис было больше 👍
😛 В A/B-тестах мы используем два разных подхода. Но проблема у них одна.
Сейчас в METRO мы работаем сразу с двумя системами:
- Gravity Field - Bayesian
- Вариокуб от Яндекса - frequentist
И раньше мне казалось, что главный вопрос здесь - какой подход лучше.
Но свежая статья Spotify заставляет посмотреть на это немного иначе.
Ребята объясняют, почему они сознательно не переходит на байесовское A/B-тестирование
и разбирают четырёх распространённых мифа:
1️⃣«Байес не требует коррекции на подглядывание (peeking)» - верно только для Bayes-factor stopping; стандартный плоский prior с порогом по постериорной вероятности даёт ту же инфляцию ложноположительных результатов, что и обычное peeking у частотников.
2️⃣ «Байес сам решает проблему множественных метрик» — требует хорошо откалиброванного empirical Bayes prior, построенного на истории ≥200 экспериментов; без этого гарантии не работают.
3️⃣ «Байес лечит winner's curse» - верно только с информативным prior; дефолтный плоский prior не даёт никакой усадки оценки эффекта.
4️⃣ «Нужен Байес для decision theory» - во многих случаях оптимальное байесовское решающее правило математически совпадает с частотистскими методами (mixture SPRT ≈ Bayes factor stopping ≈ group sequential testing).
Но для меня самое интересное в другом.
Когда статистика сталкивается с культурой компании (по крайней мере так происходит у нас)
Если из 100 гипотез у нас выигрывают условные 10 - это нормально.
Но для большой корпорации 10 побед на 100 гипотез иногда выглядят не как нормальный результат поиска, а как проблема.
На слайде хочется показать больше зелёных цифр.
Хочется показать uplift.
Хочется показать, что команда приносит результат.
И тогда возникает опасный соблазн:
посмотреть раньше 💛 найти сегмент 💛 проверить ещё одну метрику 💛 дождаться красивого числа 💛 показать победу.
Именно здесь false positive становится не только статистической, но и культурной проблемой.
Можно поменять frequentist на Bayesian.
Можно поменять p-value на probability to win.
Но если организация вознаграждает за количество побед, а не за качество решений, она будет оптимизировать под победы независимо от выбранной статистической школы.
Spotify поэтому вообще не добавляет Bayesian подход: для них важнее, чтобы эксперименты были понятны, надёжны и сложны для неправильной настройки. А ещё важнее - чтобы результаты приводили к хорошим решениям, а не просто к красивым ship/no-ship слайдам.
И, пожалуй, Experimentation культура - это не культура побед.
Это культура, в которой проигрыш гипотезы считается нормальным, а false positive - нет.
Spotify написали очень хороший разбор того, почему они пока не используют Bayesian A/B testing - и почему спор Bayesian vs frequentist на самом деле гораздо менее важен, чем кажется.
Читать статью Spotify → Why Spotify Is Not Using Bayesian A/B Testing
_______________
CRO & Personalization 🫥
🦜 Data Science меняется быстрее, чем успевают обновляться учебные программы
Последнее время всё чаще вижу тезис: AI убьёт Data Science.
Я бы сформулировал иначе.
AI не отменяет необходимость решать задачи с данными. Он меняет то, как эта работа делается.
Раньше типичный workflow выглядел примерно так:
почистить данные ➡️ собрать признаки ➡️ обучить модель ➡️ визуализировать ➡️ презентовать результат.
Теперь часть этой работы можно делегировать AI-агентам.
Ты формулируешь задачу, получаешь код, анализ, модель и даже production-ready воркфлоу. А твоя работа всё чаще смещается в другое место:
поставить правильную задачу ➡️ проверить результат ➡️ понять, где AI ошибся ➡️ довести решение до бизнеса.
И здесь мне вчера попался интересный бесплатный семинар Matt Dancho.
Matt - основатель Business Science, преподаватель Data Science, специалист по R и Python. Он много лет занимается прикладным Data Science и обучением специалистов; среди его инструментов - собственные R-пакеты и практические проекты для бизнеса.
Его тезис довольно провокационный:
Проблема Data Scientist не в том, что AI умеет писать код. Проблема в том, что теперь писать код - уже не главное.В 2026 его стэк выглядит примерно так: ▫️ AI Agents ▫️ умение быстро доводить решения до production ▫️ понимание бизнес-контекста ▫️ и, пожалуй, самое важное - умение понимать, когда AI неправ. Последний пункт мне кажется особенно важным. Потому что с ростом возможностей AI ценность специалиста может смещаться от я умею сделать анализ к я понимаю, какой анализ вообще нужно сделать и могу проверить, что результат имеет смысл. Matt как раз обещает показать это на практике: AI + Data Science + Python + реальные бизнес-задачи. Поэтому я уже зарегистрировался. Не потому что Data Science умирает. А чтобы посмотреть, каким становится Data Science, когда большая часть технической работы начинает выполняться AI. Если интересно - регистрация на бесплатный workshop от Matt Dancho 23 сентября _______________ CRO & Personalization 🫥
Repost from N/a
Как проводить A/B-тесты в интернет-магазине?
Какие метрики смотреть?
Каковы этапы дизайна А/В теста?
Как формулировать гипотезы для А/В тестов?
И многое другое в нашей статье про А/В тестирование
Если кто-то хочет ещё раз освежить свои знания: свежая статья от команды GF.
Вакансия Head of Growth (AI-native) в Gravity Field
Ищу к себе в команду человека на офигенную роль — Руководителя по росту продукта. Это человек, который будет помогать расти нашим клиентам с помощью всего инструментария Gravity Field.
Хотим найти AI-native, который верит в AI, умеет строить и автоматизировать + любит и умеет качественно доносить свои идеи и мысли внешней и внутренней аудитории.
Роль три в одном — growth продакт + AI-native + лидерство и управление. По сути это полноценный продакт, задача которого помогать расти клиентам и построить стек решений для этого как в платформе, так и вокруг нее.
Даже не знаю, что тут еще сказать!
Буду рад любым рекомендациям и референсам. Напишите мне, если вас заинтересовало или есть кого предложить
Ссылки на более подробное описание:
👉 hh
👉 Сайт Gravity
Ребята, кому интересна вакансия, откликайтесь. Мы с ребятами много движа делаем вместе.
👾 E-commerce больше не просто меняется. Он меняет точку входа в покупку
В новом Hype Cycle for Digital Commerce 2026 Gartner выделяет несколько сигналов, которые, на мой взгляд, особенно важно не пропустить:
🫀 AI становится новым sales channel
AI Checkout позволяет покупать прямо внутри AI-платформ, не переходя на сайт магазина.
Следующий шаг - Agentic Buying: AI-агент сам ищет товар, сравнивает варианты и совершает покупку практически без участия человека.
🫀 Search превращается в Discovery
Hybrid Search и Guided Selling Assistant объединяют поиск, семантику, AI и рекомендации.
Задача уже не просто найти товар, а помочь человеку выбрать.
🫀 У SEO появляется новый конкурент - AEO
Answer Engine Optimization - оптимизация контента под AI-ответы и LLM.
Вопрос уже не только в том, попадёт ли ваш сайт в Google. Важно, будет ли ваш продукт рекомендован AI.
🫀 Клиентом становится не только человек
Machine Customers - AI-агенты, подключённые автомобили, устройства и другие машины, которые самостоятельно совершают экономические действия.
И Gartner ожидает, что их роль в e-commerce будет быстро расти.
Если собрать всё вместе, customer journey начинает выглядеть примерно так:
Search ➡️ Discovery ➡️ Recommendation ➡️ AI Assistant ➡️ Agentic Buying
И вопрос уже не как улучшить интернет-магазин?
А какая часть customer journey вообще останется человеку?
Я сделал кое-что за вас - отдал свою почту Gartner 😄
Поэтому можете сразу переходить к полному исследованию:
Полное исследование Gartner - Hype Cycle for Digital Commerce 2026
_______________
CRO & Personalization 🕷
📃 Иногда лучший UX - это не тот UX, который кажется логичным
Мы провели A/B-тест фильтров на PLP и SRP
Гипотеза выглядела почти очевидной:
оставить на экране только 5 самых востребованных фильтров, а остальные спрятать в "Все фильтры".
Логика была простой: около 80% пользовательских задач закрываются этими пятью критериями.
Меньше элементов 💛 быстрее выбор 💛 выше вовлечённость 💛 больше покупок.
Но данные сказали обратное.
Purchase Rate:
Control - 3,55%
Treatment - 3,46%
−2,54% uplift
Вероятность того, что это не случайный результат: 95,4% P2BB.
Гипотеза не просто не подтвердилась.
Мы получили отрицательный эффект.
Почему?
Возможно, мы слишком сильно поверили в среднее.
Если 80% задач закрываются пятью фильтрами, это ещё не означает, что остальные 20% не важны.
Для пользователя, которому нужен именно шестой фильтр, его исчезновение - это не небольшое ухудшение интерфейса.
Это может быть моментом, когда поиск нужного товара становится слишком сложным.
И здесь есть урок для продуктовой аналитики:
частотность использования ≠ ценность для пользователя.
Редкий сценарий может иметь непропорционально высокую цену ошибки.
Поэтому перед тем, как упрощать интерфейс, стоит спросить не только:
Что используют чаще всего?
но и:
Что происходит с теми, кому нужно остальное?
A/B-тест как раз и нужен для таких случаев.
Не чтобы доказать, что хорошая идея хорошая.
А чтобы вовремя обнаружить, когда она не работает.
P.S. Слайды для этого поста я сделал в Deckset.
Очень полезный инструмент, если вы регулярно создаёте презентации.
Вместо того чтобы часами выравнивать блоки в PowerPoint, можно сосредоточиться на структуре и истории, а Deckset сам превращает Markdown в аккуратную презентацию.
Для меня это хороший пример инструмента, который убирает рутину и оставляет больше времени на главное - содержание и историю.
Если часто делаете презентации - рекомендую попробовать.
_______________
CRO & Personalization 🫥
🎥 Смотрите запись вебинара Learnings: От персонализации к Agentic AI: как меняется e-commerce
E-commerce постепенно переходит от систем, которые показывают и рекомендуют, к системам, которые понимают задачу покупателя и принимают решения.
На вебинаре Вадим Мамедов рассказал, как AI меняет механику e-commerce - от персонализации и рекомендаций до Agentic AI и автономных систем принятия решений.
Внутри:
- как меняется пользовательский опыт: покупатель формулирует задачу, а система разбирается в требованиях;
- почему персонализация превращается в AI Decisioning и Next Best Action;
- как AI учится понимать не только историю клиента, но и его текущие намерения;
- почему customer journey больше не укладывается в заранее заданный сценарий;
- как меняется роль поиска, фильтров, каталога и интерфейса;
- что происходит с рекламой, атрибуцией и customer data;
- как устроен переход от персонализации к Conversational AI и Agentic AI;
- где проходит граница автономности AI и когда человеку необходимо оставаться в контуре;
- почему качество данных и интеграция с CRM, заказами, корзиной и оплатой становятся критичными;
- какие AI-сценарии уже дают бизнес-ценность и почему большинство компаний пока не получают её от AI;
- как ритейлеру определить правильный уровень автономности и KPI для AI-решения.
Итак, скорее будущее e-commerce - не в том, чтобы сделать AI максимально умным. Важно сделать его достаточно автономным, чтобы он помогал принимать решения, и достаточно надёжным, чтобы эти решения можно было исполнять.
_______________
CRO & Personalization 🫥
🌟 Персонализация больше не должна отвечать на вопрос кто этот пользователь?
Всё чаще важнее другой вопрос:
Что происходит с ним прямо сейчас?
Классическая персонализация опирается на историю покупок, сегменты и прошлое поведение. Но современный CJ нелинеен, а до 90% посетителей могут быть анонимными.
Следующий шаг - real-time personalization: понимать сигналы пользователя прямо во время сессии и адаптировать его опыт в моменте.
В новом материале от AB Tasty Personalizing the Moment: From Static to Living разбираются:
🟢 почему традиционная персонализация перестает работать;
🟢 как поведение пользователя в реальном времени становится новым источником сигналов;
🟢 почему следующий уровень - персонализация не только поведения, но и эмоционального контекста;
🟢 как выглядит roadmap перехода от static к adaptive personalization;
🟢 реальные кейсы и результаты компаний.
Если вам интересно, куда движется персонализация в e-commerce, то прочитайте материал целиком.
Это хороший взгляд на то, каким может стать следующий этап развития digital experiences.
_______________
CRO & Personalization 🫥
🤖 AI меняет не столько аналитику, сколько скорость принятия решений.
Раньше путь выглядел (у нас еще выглядит 😴) так:
вопрос -> запрос аналитику -> выгрузка -> отчет -> встреча -> решение.
На это могли уйти дни. А за это время возможность уже исчезала.
Теперь:
вопрос -> ответ -> действие.
В гайде Fospha есть несколько показательных примеров: AI автоматически находит изменения ROAS и всплески расходов, моделирует перераспределение бюджета и отвечает на вопросы о маркетинге обычным языком. То, что раньше занимало дни, происходит в тот же день.
Но есть нюанс:
AI не исправляет плохие данные. Он просто быстрее масштабирует их ошибки.
Поэтому фундамент - это надежный слой данных. А уже поверх него AI сокращает путь от сигнала до решения.
И, кажется, здесь меняется роль аналитика.
Раньше ценность была в том, чтобы найти и подготовить данные.
Теперь - в том, чтобы задать правильный вопрос, проверить ответ и успеть действовать.
Возможно, одной из главных характеристик сильной аналитической команды скоро станет не количество отчетов, а скорость цикла
сигнал -> решение -> действие.
📖 Если интересно, как компании уже используют AI для измерения, автоматизации отчетности и принятия решений, читайте полный
The Modern Marketer's Guide to AI & Automation for Measurement.
_______________
CRO & Personalization ©
Сегодня в 17:00. Вадим и его крутая тема. Ждем всех, приходите поддержать и послушать 👏
Ставьте сердечко 🫶, кто точно придет 🕶️
🔗 Ссылка на подключение:
https://telemost.yandex.ru/j/4095725207
_______________
CRO & Personalization 🕺
📝 The Product Analytics & Data Science Cheat Sheet
Нашёл отличный cheat sheet по продуктовой аналитике и data science от Olly Paton.
153 термина - на одной странице, бесплатно и без регистрации.
Что внутри:
🤩 продуктовые метрики: DAU/MAU, retention, activation, churn, LTV, CAC, AOV
🤩 web analytics и attribution: incrementality, holdouts, MMM
🤩 статистика: mean/median, variance, standard error, percentiles, CLT
🤩 A/B-тесты: p-value, power, MDE, confidence intervals, bootstrap
🤩 дизайн экспериментов: randomization, sample size, CUPED, sequential testing, Bayesian A/B
🤩 типичные ошибки: peeking, multiple comparisons, SRM, Simpson’s paradox, winner’s curse
🤩 causal inference: DiD, synthetic control, regression discontinuity, geo-lift
🤩 ML: logistic regression, precision/recall, ROC-AUC, calibration, uplift modelling, survival analysis
Пожалуй, многие споры в аналитике возникают не из-за неправильной статистики, а потому что люди используют одни и те же слова в разных смыслах.
Conversion rate - какой именно знаменатель?
Retention - какая именно методология?
Significant - статистически или «достаточно хорошо для слайда»?
Хороший референс, чтобы быстро синхронизировать команду и освежить знания перед экспериментом.
Ссылка на The Product Analytics & Data Science Cheat Sheet
_______________
CRO & Personalization 🥡
Repost from N/a
Запустили Gravity AI Shopping Assistant вместе с METRO 🚀
Ассистент помогает покупателю быстро собрать корзину: понимает запрос на обычном языке, определяет нужные категории, находит подходящие товары в ассортименте магазина и позволяет добавить их в корзину прямо из диалога.
Он уже работает в АБ тесте на мобильном сайте METRO. Можно попросить ассистента найти конкретный товар, передать ему список покупок или описать всю закупку одной фразой. При подборе он учитывает региональный ассортимент и показывает товары, доступные покупателю.
Сейчас мы анализируем первые результаты, выявляем повторяющиеся паттерны в запросах покупателей и на их основе обучаем ассистента работать с новыми сценариями. Так он сможет брать на себя всё больше работы по сбору корзины и помогать с более сложными закупками.
Подробнее о Gravity AI Shopping Assistant
😁 От персонализации к AI-commerce: что происходит с e-commerce прямо сейчас
В рамках Learnings выступит Вадим Мамедов - VP, Revenue Enablement в InsiderOne, один из лидеров на рынке customer experience и персонализации в мире.
За последние несколько лет AI сильно изменил само понимание персонализации в e-commerce. Мы постепенно уходим от мира, где персонализация - сегменты, рекомендации товаров и несколько отдельных сценариев коммуникации, к модели, где бренды пытаются понимать контекст и намерение каждого клиента, принимать решения в реальном времени и выстраивать индивидуальный customer journey сразу между несколькими каналами.
На встрече поговорим о том, как AI меняет e-commerce и digital customer experience прямо сейчас: что происходит с классической персонализацией, почему появляются AI shopping assistants и agentic commerce, как меняются поиск, рекомендации и взаимодействие клиента с брендом — и какие подходы уже используют крупные международные компании.
На примерах из практики InsiderOne разберём, как сегодня выглядят такие системы изнутри: какие данные и AI-модели используются, как принимается решение о следующем лучшем действии для клиента, что уже реально работает в production, а где рынок пока значительно опережает реальность красивыми AI-обещаниями.
Это не продуктовый вебинар и не презентация компании. Скорее, это часовой разговор о том, куда движется глобальный e-commerce, как меняется понятие персонализации и к чему digital-командам стоит готовиться уже сейчас.
Если вы работаете с e-commerce, digital, CRM, продуктом, customer experience или персонализацией — присоединяйтесь. Будет много международных примеров, практики и минимум AI-хайпа.
🗓 Следующая неделя 27.08.2026 в 17:00
🔗 Ссылка на подключение:
https://telemost.yandex.ru/j/4095725207
Присоединяйтесь! 🤗
_______________
CRO & Personalization 🤝
📚 Книга на заметку: Python for Marketing Research and Analytics
Рекомендую как практическую книгу для тех, кто работает с данными и ищет продуктовые гипотезы. Для меня она стала настольной книгой, к которой я возвращаюсь переодически.
Здесь Python – не самоцель, а инструмент для исследования данных, поиска закономерностей и точек роста.
Хорошая связка: данные ➡️ наблюдение ➡️ гипотеза ➡️ эксперимент.
Особенно рекомендую аналитикам и product managers.
Книгу оставил в комментариях 🤫
_______________
CRO & Personalization 😸
Теперь наша работа Trustworthy A/B Patterns and the Winner's Curse: Lessons from Eight Large-Scale Replications
доступна в ACM Digital Library (ACM DL) - крупнейшей и самой авторитетной цифровой научной библиотеку в мире в области компьютерных наук, программирования и вычислительной техники.
Ссылка на работу.
