我们通过试用者优先级测试取得了什么成果?

Advancing Forum Analytics at China Data
Post Reply
rumiseoexpate5
Posts: 56
Joined: Wed Dec 11, 2024 3:56 am

我们通过试用者优先级测试取得了什么成果?

Post by rumiseoexpate5 »

当 A/B 测试显示一个表现优异的版本时,测试的积极影响很容易识别。模板商店类别测试显然是一项有价值的测试,因为它改变了试用者的体验,提高了试用率。

但是试用优先级测试呢?它显示转化率没有显著差异。我们最初的假设(即我们可以通过优先电子邮件支持来影响转化率)没有实现。这些产生负面影响或没有影响的情况可能会令人失望——感觉是在浪费时间 厄瓜多尔 whatsapp 电话号码列表 和资源,也可能意味着我们最初测试这个想法的直觉是错误的。人们通常不喜欢浪费时间和犯错的感觉,所以这些测试结果往往不受欢迎。

然而,在我们最初的使命背景下,可能被视为“失败”的 A/B 测试实际上仍然是成功的:使用数据来推动战略。如果没有测试,我们可能会认为试用者优先级的潜在转化影响超过了权衡利弊,并推出了该计划。我们本来会根据错误的直觉做出决定。相反,测试让我们明白,我们可以提高客户满意度,但不能提高转化率。

Squarespace 测试通信
我们在 Squarespace 上沟通和跟踪测试的方式体现了这一理念:所有测试结果都是有价值的:

我们发送 A/B 测试摘要,以此来分享所有测试的结果。这确保有足够的可见性,并且“成功案例”测试并不是最终共享的唯一结果。

数据科学记录测试结果,我们可以跟踪各种测试属性和结果:

我们有内部指标来衡量有多少百分比的测试显示出指标的改进,所以我们知道许多测试并没有显示出明显的赢家。

Image

我们通过几个可用选项来跟踪“测试影响”:

规模大——在总潜艇数量中可见

零或边际——小到无法测量

规模较小——不太可能出现在总体订阅中

中等 – 当子组被分成多个子组时可见,但不太可能在总体上可见

待定

测试失败

负面影响

进行测试以限制下行风险

测试失败的结果指的是真正的测试失败(例如测试中的分配偏差),而不是令人失望的结果。

我们与利益相关者合作,庆祝学习并鼓励测试假设。数据科学对没有影响或有负面影响的测试结果提供的分析与对有积极影响的测试提供的分析一样透彻。有负面影响的测试可能是宝贵的学习机会,而分析可以揭示这些见解。

庆祝学习
聪明的组织能够认识到他们做出的决策是正确的,即使这意味着要停止一个项目。如果一个组织要通过测试来做出数据驱动的决策,我们应该改变叙事方式,庆祝学习,而不是“胜利”。
Post Reply