Size: a a a

R (язык программирования)

2020 May 27

YS

Yuriy Saraikin in R (язык программирования)
Alexander Semenov
Ну я сформулирую проблему, а там уж посмотрим: есть продукт А, который существует несколько лет. Со временем его хотят заменить продуктом Б, который считается его улучшенной версией. Срок, когда происходили подключения к продуктам А и Б одновременно — минимальный (4 месяца). С сентября 2019 к продукту А прекращают подключать новых пользователей.

И тут настаёт волшебный момент, когда решают оценить экономический эффект от продукта Б и выясняется, что его ARPU не лучше, чем у А. И вот тут продуктологам и аналитикам приходится проявлять чудеса фантазии, чтобы на цифрах показать обратное.

Мне это удалось сделать, показав, что ARPU мигрантов с А на Б действительно выше, чем на А и Б в любом из 4х месяцев 2020 года. Причём независимо от того, как давно они мигрировали. Но коллегам вариант не зашёл: мол, мигрируют самые лучшие пользователи, а когда придётся переселять "серую массу", то эффект сойдёт на ноль. Тем же коллегам понравилось другое: взять средний ARPU продукта А за 2019 год и сравнивать с ним ARPU продукта Б в каждом месяце 2020 года. К счастью для них, эффект пока тоже в пользу продукта Б, но при этом сильно варьируется от месяца к месяцу.
посмотрите, может что-то окажется полезным https://booking.ai/how-booking-com-increases-the-power-of-online-experiments-with-cuped-995d186fff1d
источник

YS

Yuriy Saraikin in R (язык программирования)
источник

AS

Alexander Semenov in R (язык программирования)
Спасибо! Это выступление Бабушкина давно хотел глянуть. Ну а в целом, к такого рода матчасти люди будут готовы прислушаться только когда других способов подогнать цифры для выполнения плана уже не останется 😅. Тут даже довод о том, что сравнивать группы нужно per capita, а не подгонкой их к равным размерам, первое время встречал возражения.
источник

ГД

Григорий Демин... in R (язык программирования)
Интересно, а "улучшенная версия" B - она для пользователя улучшена или исключительно в плане ARPU?
источник

ГД

Григорий Демин... in R (язык программирования)
Если улучшения в плане пользовательского опыта, то не очень понятно, почему должно быть повышение ARPU
источник

ЕБ

Евгений Балакловский... in R (язык программирования)
кстати, как вы ARPU считаете? там же распределение с нулями, т.к. есть неплатящие. Манн уитни тут не подходит, т.к. нулей может быть очень-очень много и на повторяющихся значениях ранги смотреть ну такое
источник

ЕБ

Евгений Балакловский... in R (язык программирования)
не проще разложить метрику на arppu + c1 и каждую по отдельности?
источник

ЕБ

Евгений Балакловский... in R (язык программирования)
ну или не с1 че у вас там с конверсией
источник

AS

Alexander Semenov in R (язык программирования)
Григорий Демин
Интересно, а "улучшенная версия" B - она для пользователя улучшена или исключительно в плане ARPU?
Ну тут вариант, в общем-то, безальтернативный, т.к. продукт А рано или поздно умрёт сам. Вопрос лишь в том, как правильно посчитать деньги от продукта Б, т.к. в лоб (тупо сравнить пользователей А и Б в месяц Х) его не видно.
источник

ГД

Григорий Демин... in R (язык программирования)
Имхо, прежде чем ожидать рост ARPU, надо хотя бы гипотетически представлять источник этого роста. А если источника нет, то и роста быть не должно. Может, поэтому и не видно?
источник

AS

Alexander Semenov in R (язык программирования)
Евгений Балакловский
кстати, как вы ARPU считаете? там же распределение с нулями, т.к. есть неплатящие. Манн уитни тут не подходит, т.к. нулей может быть очень-очень много и на повторяющихся значениях ранги смотреть ну такое
Я уже свыкся с тем, что под ARPU у нас подразумевают ARPPU. За C1 спасибо. Про неё как-то никто не вспомнил. Каким тут боком Манн-Уитни — непонятно. Да и не объяснишь его никому. Тем более, что мы не с выборками работаем, а с генеральными совокупностями.
источник

ЕБ

Евгений Балакловский... in R (язык программирования)
ну arpu удобная метрика, потому что несет в себе инфу по конверсии и по чекам, так проще допереть что даст больше бабок в конечном итоге

то что вы arppu и arpu путаете, конечно, не хорошо...
источник

AS

Alexander Semenov in R (язык программирования)
Григорий Демин
Имхо, прежде чем ожидать рост ARPU, надо хотя бы гипотетически представлять источник этого роста. А если источника нет, то и роста быть не должно. Может, поэтому и не видно?
Догадки-то о причинах отсутствия разницы в ARPU есть =): продукт Б облегчает пользователю более дешёвые покупки. Но вот премии-то тоже надо как-то получать...
источник

AS

Alexander Semenov in R (язык программирования)
Евгений Балакловский
ну arpu удобная метрика, потому что несет в себе инфу по конверсии и по чекам, так проще допереть что даст больше бабок в конечном итоге

то что вы arppu и arpu путаете, конечно, не хорошо...
Если мы начнём считать честное ARPU, все совещания и планёрки будут очень депрессивными.
источник

ЕБ

Евгений Балакловский... in R (язык программирования)
в вашем случае точно надо вводить чето с конверсией

толку от большого чека у продукта Б, если его покупают пару человек
источник

AS

Alexander Semenov in R (язык программирования)
Скажем так, в штуках покупок действительно чуть больше, но при этом сами покупки дешевле (потому, что проще найти дешёвый вариант).

В общем, нужно что-то, что не завязано на время, т.к. мы не можем построить нормальные когорты из-за разницы в появлении новых пользователей продуктов А и Б.
источник

PU

Philipp Upravitelev in R (язык программирования)
Евгений Балакловский
не проще разложить метрику на arppu + c1 и каждую по отдельности?
нам не проще, например, мы все же окупаемость рекламных кампаний оцениваем и прогнозируем
источник

PU

Philipp Upravitelev in R (язык программирования)
Евгений Балакловский
ну arpu удобная метрика, потому что несет в себе инфу по конверсии и по чекам, так проще допереть что даст больше бабок в конечном итоге

то что вы arppu и arpu путаете, конечно, не хорошо...
я регулярно встречаю ситуацию, когда в продукте пользователем считается тот, кто купил продукт
источник

ЕБ

Евгений Балакловский... in R (язык программирования)
Philipp Upravitelev
я регулярно встречаю ситуацию, когда в продукте пользователем считается тот, кто купил продукт
average revenue per user
average revenue per paying user

не оч понятно тогда, что для этих людей arppu в таком случае?
источник

AS

Alexander Semenov in R (язык программирования)
Philipp Upravitelev
я регулярно встречаю ситуацию, когда в продукте пользователем считается тот, кто купил продукт
Ну так в приложениях без подписочной модели иначе никак: там миллионы юзеров, которые установили и ничего не делают и есть те, кто хоть что-то когда-то покупает.
источник