「数据涨了 15%」可能是改动有效,也可能只是波动。实验因果族用统计检验把「感觉」变成「结论」——实验前算清要跑多久,实验后判断是不是真的。
一、实验因果族的 8 个工具
| 工具 | 解决什么 |
|---|---|
| 实验效果评估 | A/B 差别是真有效还是随机波动 |
| 实验样本量测算 | 要多少人、跑几天才可信 |
| 最小可检测提升 | 已有样本量,能检测出多大提升 |
| 实验优先级排序 | 手上一堆想法,先做哪个 |
| 增量效果测算 | 多少成交是真的因为这次干预 |
| 净效果测算 | 算上自然增长后,这次动作的净效果 |
| 长期效果外推 | 短期有效,长期还剩多少 |
| 多实验互斥测算 | 哪些实验会互相抢流量 |
二、核心公式拆解
▍Z 检验
例:对照组 10000 人 400 转化(4%),实验组 10000 人 460 转化(4.6%)。合并比例 4.3%,标准误 0.00287,Z = 0.006 ÷ 0.00287 ≈ 2.09 > 1.96 → 显著,提升 15% 可信。▍样本量公式
基线 5%、想检测 10% 相对提升(→5.5%),95% 置信 + 80% 功效,每组需约 31243 人。样本越少,只能检测出越大的提升——3000 人/组时只能确认约 31% 的大提升。▍效果衰减外推
活动短期提升 20%,按每周衰减 10% 外推 180 天:剩余 ≈ 20% × 0.9^(180/7−2) ≈ 1.6%。短期爆款 ≠ 长期收益,决策要看外推后的数字。三、真实案例
某产品改了新首页,一周后转化率 4.0%→4.6%。团队想立刻全量——但样本量检查显示:要确认 15% 的提升每组至少需要约 1.4 万人,当前每组才 3000 人,MDE 高达 31%。结论:继续跑满样本,避免被随机波动误导。
四、怎么用
- 打开测算页:底部导航「测算」或网页端 suxiai.cn/calc.html
- 找到「实验因果」族:按族分组,也可以直接搜索工具名
- 填入指标:必填项是后台能直接看到的数;专业参数(弹性、置信度等)留空按经验值自动带入
- 点「开始测算」:出结论 + 缺口 + 改进路径,每条路径标注难度与具体动作