TF

计算器

A/B 测试显著性计算器

检验 A/B 测试结果是否具有统计显著性,并规划一次测试需要多少访客。

A · 对照组

转化率: 5.00%

B · 实验组

转化率: 5.70%

在 95% 置信水平下显著:B 胜过 A。
相对提升
+14.00%
p 值
0.0278
z 分数
2.2
已达到的置信度
97.2%

转化率绝对差(B − A)的 95% 置信区间:+0.08% 至 +1.32%。

这是什么工具?

变体 B 真的赢了,还是差异只是随机噪声?输入每个版本的访客数和转化数,即可得到转化率、相对提升、p 值,以及在所选置信水平下的明确结论。正在规划测试?样本量计算器会告诉你需要多少访客和天数。

显著性采用合并标准误的双比例 z 检验,这是比较转化率的标准方法。当 p 值小于 1 − 置信水平时(例如 95% 时小于 0.05),结果即为显著。

样本量基于两个比例的正态近似,并采用所选的统计功效(默认 80%)。请事先确定样本量,不要一看到结果显著就停止——频繁查看会增加假阳性。

如何使用A/B 测试计算器

  1. 输入 A(对照组)和 B(实验组)的访客数和转化数。
  2. 选择置信水平(通常为 95%)以及双侧或单侧检验。
  3. 查看结论、提升幅度、p 值以及差值的置信区间。
  4. 测试前打开“样本量”:输入基准转化率、值得检测的最小提升和每日流量,估算测试时长。

示例

一次显著的胜利

A: 10,000 visitors, 500 conversions
B: 10,000 visitors, 600 conversions
Uplift +20% · p ≈ 0.002 · significant at 95%

常见问题

应该使用哪个置信水平?

通常使用 95%。如果错误决策代价高昂,可用 99%;对快速、低风险的实验可用 90%。

单侧还是双侧?

双侧检验能发现两个方向的差异,是更稳妥的默认选择。单侧检验只问 B 是否更好,所需访客更少,但无法告诉你 B 是否更差。

什么是最小可检测效应?

你希望检测到的最小相对提升。效应越小,所需访客越多:效应减半,样本量大约增至四倍。

我的测试不显著,接下来怎么办?

要么差异太小不值得关注,要么需要更多数据。请用样本量计算器查看预期效应需要多少访客。

以后需要更强大的功能?

高级工具、更高限额和 API 访问已在规划中。V1 仍然免费,并在您的浏览器中私密运行。