央视网消息：人工智能的到来让我们站在了新的转折点，技术带来的争议与惊喜如影随形，当虚拟和现实的边界日益模糊，潘多拉的盒子是否已经开启？未知的风险开启了关于治理的议题。微纪录片《人工智能：时代的机遇和挑战》2月28日播出第四集《远行》。我们一起看人工智能的浪潮如何推动人类重建未来世界的秩序。

2023年的乐坛因为一场铺天盖地的翻唱，意外成为科技界的焦点。因为翻唱的主角来自数字世界。从粤语到英语、从流行到民谣，自由切换的曲风和每天数十首作品的上新速度，让“AI歌手”们迅速霸占了社交网络的热搜榜首。

使用知名歌手的声音素材，经过大模型的训练和调教，以假乱真的赛博歌手就这样成为人工智能的时代产物。耳听为虚的音乐让人类开始警觉。那么，眼见的就一定为实吗？

新技术的发展永远是把双刃剑。短短一两年间，“AI换脸”的应用场景已经从娱乐蔓延到了诈骗。冒充熟人，不再只是短信和电话欺诈的伎俩。使用深度合成的人工智能技术，视频通话也足以混淆视听。

即使你对视频另一端的“熟人”保持警惕，依然会被卷入“AI换脸”的骗局。仅凭几张照片，你就可能被替换成别人故事里的主角。这样的情节正在真实上演。

利用“AI换脸”技术将收集到的、未经他人同意的人脸信息，与不雅视频中的人脸信息进行替换合成，并通过网络社交平台传播获利，真实的案件开始挑战法律的边界。

杭州互联网法院互联网审判第一庭庭长肖芄表示：“从目前的情况来看，这类人工智能相关案件确实存在上升的趋势。技术中立并不意味着价值中立，更不等于深度合成的参与者不应当受到来自法律的规制。”

2023年11月，美国演员斯嘉丽·约翰逊将一家应用程序开发公司告上法庭。因为她的脸和声音出现在了这家公司利用人工智能合成的广告视频里，而她对自己的“出演”毫不知情。

当虚拟和现实的边界日益模糊，潘多拉的盒子是否已经开启？

杭州互联网法院互联网审判第一庭庭长肖芄称：“利用人工智能去转换他人的声音、自然的声音甚至一些自己没有说过的话，但是体现出公众人物的声音，可能涉及到对他人个人信息的一些侵犯。”

人工智能威胁的不仅仅是人类对自己的所有权，巨浪背后暗礁频现。

中科院自动化所人工智能伦理与治理中心主任曾毅表示：“生成式的人工智能可以合成不存在的数据，当呈现给用户的时候就需要进行合理的标注。不能混淆真实存在的数据和生成数据之间的边界，否则它可能对于我们的社会的信任甚至社会的稳定都有可能造成影响。”

技术或许无意冒犯，但伤害正在加剧人类的不安，治理成为人类应对威胁的基本共识。

中国工程院院士张亚勤称：“任何一个智能体都是一个从属体，它必须要对应于后面的主体，这个主体实际可以是个人，也可以是机构，它犯了错，最后这个责任是回到它的主体的。”

被称为“互联网预言家”的凯文·凯利曾在书中写道：对于科技带来的问题，永远不能靠减少科技解决，而应该发明更好的科技。

2023年1月10日，《互联网信息服务深度合成管理规定》正式施行。2023年8月15日，《生成式人工智能服务管理暂行办法》正式施行。规则为技术的狂妄划定了红线，技术本身也在为技术的任性建立围栏。

人工智能应该如何约束自我？关于这个问题，著名的阿西莫夫“机器人三定律”在80多年前就给出了答案。

2017年，机器人三定律的扩展版本“阿西洛马人工智能原则”为人工智能提出了更严厉的23条“军规”。但治理不只是关于约束和规训的议题。

2023年9月初，一场名为“苏拉”的台风两次登陆广东，深圳遭遇极端特大暴雨侵袭，全市33座水库、58处河道水位超警、186处出现地质灾害等灾情险情。

据广东省深圳市福田区政务服务数据管理局局长罗耿彪介绍，以前按传统模式，工作人员需要冒着风雨到现场去拍照、监测、守护，一来一回至少要两个小时。

跟险情赛跑，必须快速全面掌握城市积水的信息，摄像头加人工智能算法，正在缩短确定与不确定之间的距离。

反应更快，误差更小，加速进化的人工智能在与人类共同参与城市治理的过程中，展现出了惊人的执行力。

而安全的共治，还需要价值观的对齐。

中科院自动化所人工智能伦理与治理中心主任曾毅称：“人工智能应该提供合乎价值观的服务，而不能违反现在人类社会经过数亿年的演化已经形成的一些最基本的道德原则。”

这样的问题，人工智能会如何作答？

这个“以毒攻毒”的实验名为“给AI的100瓶毒药”。十余位来自社会学、心理学、法学等不同领域的专家，用100个故意设计的诱导偏见、歧视回答类的刁钻问题，向人工智能发起了一场从“投毒”到“解毒”的攻防挑战。

爱因斯坦曾说：“我其实没有比别人更聪明，我只是跟问题相处的时间更长而已。”与问题相处，是每一个新技术发展的必经之路。人工智能正在推动人类重建世界的秩序。

在人工智能治理水平方面，从率先提出治理倡议到跻身全球治理的第一梯队，中国方案不断为人工智能的安全贡献智慧。

人工智能的全球治理正在加速，而关于人工智能的思考仍在继续。

中国工程院院士张亚勤：“其实我们人类现在不是一种自然进化，是一种加速的进化。再过一百年，我们看今天的人类，包括交通、电脑或者手机，就像我们看三万年前的人类一样。”

把时间放大到宇宙的尺度，人类文明的进程不过一瞬。

眨眼之间，人类又将迎来新的转折点。

当技术的进化狂奔不止，未来的人工智能究竟是机器，还是生命？

当知识的获取变得易如反掌，人类是否还会拥有对世界的好奇？

我们试图找到关于未来的答案，其实未来已经在此刻埋下了伏笔。