工业和信息化部主管 中国电子报社主办
收藏本站投稿

软件服务

字节跳动首次揭秘A/B测试:做了70多万场实验,开放给企业客户

支持抖音、今日头条等产品增长迭代的A/B测试工具,如今被字节跳动投入企业级市场。

在4月20日召开的火山引擎技术开放日活动中,字节跳动副总裁、算法和数据技术负责人杨震原首次揭秘了字节跳动如何使用A/B测试。火山引擎是字节跳动旗下为企业服务的智能科技品牌,字节跳动的A/B测试工具也已通过火山引擎开放给企业客户。

A/B测试是指对不同策略进行对比实验,根据结果选择最优方案。A/B测试不是互联网公司发明的,而是最早应用在医学领域。十八世纪,一位英国医生把患有坏血病的水手随机分成六组,用不同方法进行治疗,从而确定了柠檬和橘子能有效治疗坏血病,这是人类有记载最早的A/B测试。在互联网时代,A/B测试被谷歌等巨头广泛使用在产品开发和运营中,有研究者也把A/B测试视为字节跳动快速增长的重要因素。

据杨震原介绍,公司成立之初,今日头条就在做策略推荐类的A/B测试。2016年,字节跳动建立了支持大规模产品实验的A/B测试平台,之后陆续接入抖音、西瓜视频等全线业务,把A/B测试应用在产品命名、交互设计、推荐算法、用户增长、广告优化和市场活动等方方面面的决策上。

最新数据显示,字节跳动每天同时进行的A/B测试达到上万场,单日新增实验数量超过1500个,覆盖400多个大大小小的业务。随着公司发展,这些数字还在不断扩大。截至今年3月底,字节跳动累计已经做了70多万次A/B测试。


图:字节跳动副总裁杨震原

杨震原表示,字节跳动积累的技术能力和增长方法,会通过火山引擎提供给企业客户。火山引擎产品体系包括基础服务、技术中台、智能应用和行业解决方案,字节跳动的视频编辑、特效、文字识别、图像识别、个性化推荐等技术能力,都已在火山引擎上为企业服务,A/B测试也是其中一款重要的数据产品,能够帮助企业提高决策质量,促进业务增长。

据相关产品负责人介绍,火山引擎A/B测试支持客户端、服务端、推送、网页、可视化建站等多种实验形式,具有功能全面、高度自动化的特点,操作非常简单,即使不会编程的人也能轻松做实验,而且有内容丰富的实验报表,可智能产出实验结论,让决策链清晰完备。

火山引擎A/B测试的使用效果得到了客户认可。以悟空租车为例,该公司已通过火山引擎进行了70多次A/B测试,约有60%为正向实验,提升产品转换率约40%,以往需要一周时间的需求复盘数据分析,现在只要一天就能得到数据结论,更直观地量化了需求价值,极大地提升了效率。

在积极为火山引擎“带货”的同时,杨震原表示A/B测试并不是万能的,它也有很多局限性,比如提高商品推荐门槛、不推荐评分低的商品,如果做A/B测试,短期内交易量肯定会降低,但长期来看结论有可能逐渐反转,这是长周期影响和目标设定的问题。此外,独立的实验条件、统计置信度等问题都是做A/B测试需要考虑的。

杨震原说,企业应充分意识到A/B测试的优势和缺陷,对目标选择适合的评估方法。比如战略型决策,需要专家角色进行长期的思考;很多细节的决策,如果能做A/B测试,要尽量做A/B测试,并且要关注到量化分析的执行能力,真正做到数据驱动科学决策。

责任编辑:宋婧


声明

1、本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2、本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3、作者投稿可能会经我们编辑修改或补充;4、如本站的文章或图片存在版权,请拨打电话010-88558835进行联系,我们将第一时间处理。

相关链接

视频

专题

聚焦2021年全国两会

3月5日,第十三届全国人民代表大会第四次会议在北京人民大会堂开幕。党和国家领导人习近平、李克强、汪洋、王沪宁、赵乐际、韩正、王岐山等出席,栗战书主持大会。初春的北京,处处生机盎然。第十三届全国人民代表大会第四次会议5日上午在人民大会堂开幕。近3000名全国人大代表肩负人民重托出席大会,认真履行宪法和法律赋予的神圣职责。

2021年全国工业和信息化工作会议

12月28-29日,全国工业和信息化工作会议在京召开。会议以习近平新时代中国特色社会主义思想为指导,全面贯彻党的十九大和十九届二中、三中、四中、五中全会精神,认真落实习近平总书记重要指示批示精神和中央经济工作会议部署,总结2020年工业和信息化工作,分析形势,部署2021年重点工作。工业和信息化部党组书记、部长肖亚庆作工作报告。

2020年中国家电市场报告

3月22日,中国电子信息产业发展研究院发布了《2020年中国家电市场报告》(以下简称《报告》)。《报告》显示,2020年,我国家电市场零售额规模达到8333亿元,在疫情冲击之下显示出较强的韧性;电商渠道对家电零售的贡献率首次超过50%,网络零售对家电消费的促进作用进一步提升;高端产品、生活家电大幅增长,有效促进了消费升级和产业转型。

世界超高清视频(4K/8K)产业发展大会

会议

CITE2021第九届中国电子信息博览会开幕论坛

4月9日,第九届中国电子信息博览会(简称CITE2021)在深圳举办。深圳市人民政府市长陈如桂、广东省人民政府副秘书长陈岸明、工业和信息化部电子信息司司长乔跃山出席开幕式并先后致辞。

2020世界显示产业大会

11月20日,由工业和信息化部、安徽省人民政府共同主办的2020世界显示产业大会在合肥市举行。在开幕式上,工业和信息化部部长肖亚庆、韩国驻华大使张夏成发表视频致辞。安徽省委副书记、省长李国英,工业和信息化部副部长王志军出席开幕式并致辞。

2020世界超高清视频(4K/8K)产业发展大会

11月2日,由工业和信息化部、国家广播电视总局、中央广播电视总台、广东省人民政府共同主办的2020世界超高清视频(4K/8K)产业发展大会在广州市召开。广东省委书记李希出席开幕式,省长马兴瑞出席并致辞。国家广播电视总局局长聂辰席、工业和信息化部副部长王志军、中央广播电视总台副台长蒋希伟出席开幕式并致辞。

2020世界VR产业大会云峰会

10月19日—20日,由工业和信息化部、江西省人民政府主办的2020世界VR产业大会云峰会在南昌举行。在10月19日的开幕式上,中共中央政治局委员、国务院副总理刘鹤发来书面致辞。江西省委常委、南昌市委书记吴晓军,工业和信息化部副部长王志军,江西省委书记、省人大常委会主任刘奇先后致辞。开幕式由江西省委副书记、省长易炼红主持。

世界显示产业大会

本周排行