工业和信息化部主管 中国电子报社主办
收藏本站投稿

产业新闻

发展人工智能技术规矩不可少

近日,两件与人工智能技术应用有关事件引发社会广泛关注。第一件是一款视频编辑软件在社交媒体刷屏。该软件可以方便、快速地将视频中人物换为用户上传的任意人的脸。实际上,这种视频换脸很早以前利用专业视频编辑软件也可以实现,不过需要使用者有相应的技术,过程复杂。现在人工智能技术将这一复杂的技术过程简单化、快速化,普通人也可以轻松驾驭。第二件是一张学生课堂行为分析的图片,人工智能技术将学生抬头、看手机、低头、记笔记、打瞌睡等行为进行统计标明。

换脸应用有两点需要我们警惕:一是这种技术对社会信息传播秩序带来的冲击。惯常来说,视频对信息的保真度是高于文字和图片的,视频能够相对准确传播信息,是社会信息传播系统重要的媒介符号。这种易得、简单的换脸应用程序,如果被滥用势必引发传播秩序的混乱。二是这类应用软件收集人脸信息的合法性、安全性、可靠性存疑。人的面部、虹膜、指纹等生物特征识别信息,是重要的个人隐私信息。这类信息的重要性远大于地址、密码等类型信息。地址、密码可以修改,面部特征、指纹等生物信息终身唯一,无法更改,泄露后果的严重性,怎么说都不为过。如果这类信息一旦泄露,无可挽回,技术的开发者也无能为力,不论是技术开发者主观滥用,还是遭到黑客攻击、无意泄露,都难以挽回。现在刷脸在金融支付、交通出行、公共安全等领域已经广泛应用。面部生物信息的泄露,给整个社会体系带来的影响难以估量。

人工智能将学生课堂行为量化分析的问题在于,一是这种技术对学生行为分析的准确性、可靠性与可信度存疑。人工智能终究是一种算法,其当下能做到的是对个体行动轨迹的捕捉,不具备对人类丰富复杂的社会行为及其发生的场景准确判断和识别。同样是一个动作其意义可能差别很大。技术可以检测到学生低头写字,但到底写的是上课内容还是无关信息,显然再高级的人工智能也无法判断。人工智能可以准确识别学生是否出勤,但将课堂这么复杂丰富的人类行为场景,进行绝对量化的分析,不可靠。其次,即使技术上是可靠的,那么这种将学生课堂学习的行为如此量化来管理的道德正当性存疑。我们讲教育以人为本,因材施教,人不是机器,不能将学生行为进行彻底的数字化管理,技术不能奴役人。

这两件事反映出人工智能技术在快速发展和广泛应用,然而我们整个社会似乎对这种技术的认识还有待深化,对其带来的风险和挑战还没有做好治理准备。

在认识方面,人工智能技术可以高效、有效解决很多领域的问题,但要避免所有问题都由人工智能解决。人工智能对解决那些机械、枯燥、数据量庞大的、简单重复问题有效,但其缺少人情味、人性,所以在需要体现人的精神、情趣、想象、体现人性的工作,一定要人来做,不能一味追求技术解决。技术不是万能的。

人工智能技术治理关键是抓住三个核心关键问题:算法、数据和算力。政府要在涉及算法和数据两方面来立法和监督。要确保算法公开透明、可监督。数据方面对相关技术产品使用数据的种类、规模方面强化监管。在涉及人面部特征信息、指纹、血液等人体生物特征信息要设立严格的标准,从采集、传输、存储等环节规制,确保涉及个人安全和国家安全信息不被滥用和安全可控。数据应用的用户规模要与企业的安全保障能力匹配。此外,在涉及重要领域和广泛人群的技术应用要建立人工智能使用的伦理与安全评估机制,类似于医学研究的伦理评估环节,确保技术发展的正确方向和合理使用。建立第三方专业组织监督人工智能技术应用的安全性、可靠性与可控性。

企业要落实主体责任。在技术开发环节,遵循人工智能开发的基本原则:公平、可靠与安全、隐私与保障、包容、透明和负责,确保技术的可靠性、合法性和符合人类伦理规范。企业要有底线意识,不触犯相关的法律法规,要遵循基本的社会价值规范和公共道德,承担相应的社会责任。在各个软件分发平台,要严格检验应用的权限,确保用户下载应用的安全可靠性。

用户方面,要提升公众的技术使用素养,培养正确认识、合理使用技术的能力。也要研究在人工智能技术应用场景中,考虑用户选择权,包括是否使用人工智能技术以及使用的程度。

人工智能作为革命性的新技术,没有人能准确预测技术的未来结果。在对互联网治理上我们过去奉行“先发展后治理”的理念,人工智能技术应用的行业领域广泛、算法不透明、结果隐蔽,其治理与要其发展同步,应秉持“边发展边治理”的理念。最终让人工智能技术更好服务人类社会发展。(作者系天津师范大学新闻传播学院教师张建军)

责任编辑:马利亚


声明

1、本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2、本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3、作者投稿可能会经我们编辑修改或补充;4、如本站的文章或图片存在版权,请拨打电话010-88558835进行联系,我们将第一时间处理。

相关链接

视频

专题

聚焦2021年全国两会

3月5日,第十三届全国人民代表大会第四次会议在北京人民大会堂开幕。党和国家领导人习近平、李克强、汪洋、王沪宁、赵乐际、韩正、王岐山等出席,栗战书主持大会。初春的北京,处处生机盎然。第十三届全国人民代表大会第四次会议5日上午在人民大会堂开幕。近3000名全国人大代表肩负人民重托出席大会,认真履行宪法和法律赋予的神圣职责。

2021年全国工业和信息化工作会议

12月28-29日,全国工业和信息化工作会议在京召开。会议以习近平新时代中国特色社会主义思想为指导,全面贯彻党的十九大和十九届二中、三中、四中、五中全会精神,认真落实习近平总书记重要指示批示精神和中央经济工作会议部署,总结2020年工业和信息化工作,分析形势,部署2021年重点工作。工业和信息化部党组书记、部长肖亚庆作工作报告。

2020年中国家电市场报告

3月22日,中国电子信息产业发展研究院发布了《2020年中国家电市场报告》(以下简称《报告》)。《报告》显示,2020年,我国家电市场零售额规模达到8333亿元,在疫情冲击之下显示出较强的韧性;电商渠道对家电零售的贡献率首次超过50%,网络零售对家电消费的促进作用进一步提升;高端产品、生活家电大幅增长,有效促进了消费升级和产业转型。

世界超高清视频(4K/8K)产业发展大会

会议

2020世界显示产业大会

11月20日,由工业和信息化部、安徽省人民政府共同主办的2020世界显示产业大会在合肥市举行。在开幕式上,工业和信息化部部长肖亚庆、韩国驻华大使张夏成发表视频致辞。安徽省委副书记、省长李国英,工业和信息化部副部长王志军出席开幕式并致辞。

2020世界超高清视频(4K/8K)产业发展大会

11月2日,由工业和信息化部、国家广播电视总局、中央广播电视总台、广东省人民政府共同主办的2020世界超高清视频(4K/8K)产业发展大会在广州市召开。广东省委书记李希出席开幕式,省长马兴瑞出席并致辞。国家广播电视总局局长聂辰席、工业和信息化部副部长王志军、中央广播电视总台副台长蒋希伟出席开幕式并致辞。

2020世界VR产业大会云峰会

10月19日—20日,由工业和信息化部、江西省人民政府主办的2020世界VR产业大会云峰会在南昌举行。在10月19日的开幕式上,中共中央政治局委员、国务院副总理刘鹤发来书面致辞。江西省委常委、南昌市委书记吴晓军,工业和信息化部副部长王志军,江西省委书记、省人大常委会主任刘奇先后致辞。开幕式由江西省委副书记、省长易炼红主持。

世界显示产业大会

本周排行