工业和信息化部主管 中国电子报社主办
收藏本站投稿

人工智能

应对潜在风险,瑞莱智慧发布人工智能安全靶场

当前,人工智能产业正迎来新的发展高潮,但新技术也带来了特有的新风险,在发展与产业落地过程中催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。随着产业进程的深入,这些安全风险的边界迅速扩散,逐步蔓延至金融、互联网、安防、城市和社会治理各个领域,危害到社会安全与国家安全。

AI手.jpeg

为有效应对人工智能新型安全风险,瑞莱智慧依托在人工智能算法安全攻防领域的顶尖技术能力和丰富的实践经验,率先发布人工智能安全靶场RealRange,提供实战化、体系化的一站式人工智能攻防演练服务支撑,通过预设训练场景模型、对抗攻防实战竞演,帮助政企机构开展安全能力体系检验评估、培育新型安全人才,建设新型人工智能安全防御体系,全面提升人工智能时代新型安全威胁的应对能力。

聚焦新时代安全防御体系建设

“以战促防”成核心需求 

新安全问题需要新解决方案,为应对人工智能新型安全风险需构建新一代安全体系。7月12日,工信部官网发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》,提出人工智能安全作为面向新设施新要素的安全技术,需加快构建分类体系、制定检测与评估标准体系等,其中“构建人工智能安全靶场”也被列为重点投入方向。

自2008年美国筹建国家网络空间靶场(NCR)以来,靶场已经证明了对国家和社会各层面的安全保障均具有重大推进作用。人工智能时代下,伴随智能产业的纵深发展,一系列前所未有的新型安全威胁正逐步影响到军事、政企、金融等关键领域,研制针对人工智能场景的模拟实战靶场也因此成为行业重点探索的方向。

瑞莱智慧副总裁唐家渝表示,随着人工智能安全态势不断演化,新型攻击手段不断出现,单点产品只能解决滞后问题,对于未知威胁无法进行风险预判和策略调整,同时作为新兴领域,行业普遍面临专业人才不足与实战经验匮乏的双重困境。鉴于此,打造动态演化、科学调整的安全防御体系成为核心需求,也促使人工智能攻防靶场成为一项重要的新型基础设施。

唐家渝介绍道,类似于“演兵场”,安全靶场通过攻防实战演练将风险暴露前置,提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁,动态提升团队软实力,快速弥补技术水平与经验的不足,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

人工智能攻防靶场重磅发布

“学练一体”夯实基础建设

作为人工智能安全领域的领军企业,瑞莱智慧聚焦于算法攻防场景,率先推出人工智能安全靶场RealRange,用于构建真实网络环境的人工智能实战攻防演练,通过“实战化、模块化”的平台服务,帮助企业实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等全方位能力。

据介绍,该平台集“学、练”为一体,包含攻击靶场、防御靶场、攻防演练三大功能模块。“攻防靶场”内置不同维度、不同难度的攻防靶标与最新的攻防算法;“攻防演练模块”支持针对人脸识别、图像分类等不同应用场景开展攻防演练,同时平台可自动化评估攻防两端能力,以攻防态势的可视化功能直观反馈实时战况。

具体来看,该靶场平台具备三大特点:场景丰富:集成多种典型应用场景、攻防靶标、攻防工具,有效支撑各类业务场景下的攻防演练;容易上手:内置难度由低到高的分阶靶场体系,进阶式学练体系,无需具备专业AI安全知识也能快速上手;扩展灵活:模块化设计支持灵活构建各类演练场景,级联设计支持灵活扩展各种演练规模。

唐家渝表示,该靶场平台基于瑞莱智慧在模型攻防领域深厚的技术积累,包括白盒攻击、黑盒迁移攻击等前沿对抗技术以及与清华大学、阿里安全联合研发的AI对抗攻防基准,将团队长期在攻防、竞赛、实战过程中形成的实践经验内化于平台之中。他透露,平台下一步将基于横向的通用计算机视觉任务,打造身份验证、自动驾驶等纵向细分领域的个性化定制方案。

责任编辑:张一迪


声明

1、本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2、本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3、作者投稿可能会经我们编辑修改或补充;4、如本站的文章或图片存在版权,请拨打电话010-88558835进行联系,我们将第一时间处理。

相关链接

视频

专题

2021年上半年中国家电市场报告

8月9日,中国电子信息产业发展研究院(又称赛迪研究院)发布了《2021年上半年中国家电市场报告》(以下简称《报告》)。《报告》显示,2021年上半年,我国家电市场加速回暖,零售额达4293亿元,同比增长16.3%;家电消费进一步向线上迁移,电商渠道对家电零售的贡献率达53.65%;家电产品均价普遍提升,高端家电销售热度不减,有效促进了消费升级...

新思想引领新征程·红色足迹

党的十八大以来,习近平总书记在地方考察调研时多次到访革命纪念地,强调要从中国革命历史、优良传统和精神中汲取养分。追寻红色足迹,感悟初心使命。即日起,本报推出“新思想引领新征程·红色足迹”专栏,跟随习近平总书记的红色足迹,访当事人、忆当年事,重温总书记的重要论述和重要指示精神,生动回顾红色圣地光荣的革命历史、优秀的革命传统...

聚焦2021年全国两会

3月5日,第十三届全国人民代表大会第四次会议在北京人民大会堂开幕。党和国家领导人习近平、李克强、汪洋、王沪宁、赵乐际、韩正、王岐山等出席,栗战书主持大会。初春的北京,处处生机盎然。第十三届全国人民代表大会第四次会议5日上午在人民大会堂开幕。近3000名全国人大代表肩负人民重托出席大会,认真履行宪法和法律赋予的神圣职责。

2021年全国工业和信息化工作会议

12月28-29日,全国工业和信息化工作会议在京召开。会议以习近平新时代中国特色社会主义思想为指导,全面贯彻党的十九大和十九届二中、三中、四中、五中全会精神,认真落实习近平总书记重要指示批示精神和中央经济工作会议部署,总结2020年工业和信息化工作,分析形势,部署2021年重点工作。工业和信息化部党组书记、部长肖亚庆作工作报告。

世界超高清视频(4K/8K)产业发展大会

会议

2021世界VR产业大会云峰会

10月19日—20日,由工业和信息化部和江西省人民政府共同主办的2021世界VR产业大会云峰会在南昌举办。国务委员王勇出席大会开幕式并发表讲话,江西省委书记易炼红,工业和信息化部副部长王志军,江西省委常委、南昌市委书记李红军出席开幕式并致辞。

2021世界显示产业大会

6月17日,由工业和信息化部、安徽省人民政府共同主办的2021世界显示产业大会在合肥市开幕。安徽省委书记李锦斌出席开幕式并宣布大会开幕,安徽省省长王清宪、上海合作组织秘书长弗拉基米尔·诺罗夫、工业和信息化部副部长王志军出席开幕式并先后致辞。

2021世界超高清视频(4K/8K)产业发展大会

5月8日-10日,由工业和信息化部、国家广播电视总局、中央广播电视总台、广东省人民政府共同主办的2021世界超高清视频(4K/8K)产业发展大会在广州召开。5月9日,广东省委书记李希出席开幕式,工业和信息化部部长肖亚庆、广东省省长马兴瑞、国家广播电视总局副局长孟冬、中央广播电视总台编务会议成员姜文波出席开幕式并致辞。

CITE2021第九届中国电子信息博览会开幕论坛

4月9日,第九届中国电子信息博览会(简称CITE2021)在深圳举办。深圳市人民政府市长陈如桂、广东省人民政府副秘书长陈岸明、工业和信息化部电子信息司司长乔跃山出席开幕式并先后致辞。

2020世界显示产业大会

11月20日,由工业和信息化部、安徽省人民政府共同主办的2020世界显示产业大会在合肥市举行。在开幕式上,工业和信息化部部长肖亚庆、韩国驻华大使张夏成发表视频致辞。安徽省委副书记、省长李国英,工业和信息化部副部长王志军出席开幕式并致辞。

2020世界超高清视频(4K/8K)产业发展大会

11月2日,由工业和信息化部、国家广播电视总局、中央广播电视总台、广东省人民政府共同主办的2020世界超高清视频(4K/8K)产业发展大会在广州市召开。广东省委书记李希出席开幕式,省长马兴瑞出席并致辞。国家广播电视总局局长聂辰席、工业和信息化部副部长王志军、中央广播电视总台副台长蒋希伟出席开幕式并致辞。

世界显示产业大会

本周排行