「数据涨了 15%」可能是改动有效,也可能只是波动。实验因果族用统计检验把「感觉」变成「结论」——实验前算清要跑多久,实验后判断是不是真的。

一、实验因果族的 8 个工具

工具解决什么
实验效果评估A/B 差别是真有效还是随机波动
实验样本量测算要多少人、跑几天才可信
最小可检测提升已有样本量,能检测出多大提升
实验优先级排序手上一堆想法,先做哪个
增量效果测算多少成交是真的因为这次干预
净效果测算算上自然增长后,这次动作的净效果
长期效果外推短期有效,长期还剩多少
多实验互斥测算哪些实验会互相抢流量

二、核心公式拆解

▍Z 检验
例:对照组 10000 人 400 转化(4%),实验组 10000 人 460 转化(4.6%)。合并比例 4.3%,标准误 0.00287,Z = 0.006 ÷ 0.00287 ≈ 2.09 > 1.96 → 显著,提升 15% 可信。
▍样本量公式
基线 5%、想检测 10% 相对提升(→5.5%),95% 置信 + 80% 功效,每组需约 31243 人。样本越少,只能检测出越大的提升——3000 人/组时只能确认约 31% 的大提升。
▍效果衰减外推
活动短期提升 20%,按每周衰减 10% 外推 180 天:剩余 ≈ 20% × 0.9^(180/7−2) ≈ 1.6%。短期爆款 ≠ 长期收益,决策要看外推后的数字。

三、真实案例

某产品改了新首页,一周后转化率 4.0%→4.6%。团队想立刻全量——但样本量检查显示:要确认 15% 的提升每组至少需要约 1.4 万人,当前每组才 3000 人,MDE 高达 31%。结论:继续跑满样本,避免被随机波动误导。

四、怎么用

  1. 打开测算页:底部导航「测算」或网页端 suxiai.cn/calc.html
  2. 找到「实验因果」族:按族分组,也可以直接搜索工具名
  3. 填入指标:必填项是后台能直接看到的数;专业参数(弹性、置信度等)留空按经验值自动带入
  4. 点「开始测算」:出结论 + 缺口 + 改进路径,每条路径标注难度与具体动作