项昊宇：人工智能是把“双刃剑” 加强监管刻不容缓

在最近的俄乌冲突中，以无人机为代表的智能武器，再次让全世界认识到人工智能带来的巨大挑战。不仅是在军事领域，在社会发展、经济民生等方面，人工智能的快速发展，也同样催生了一系列新问题。为了应对这些新问题、新挑战，有关人工智能的监管也逐渐成为全球关注的焦点。《长江新闻号》连线中国国际问题研究院亚太所特聘研究员项昊宇，为您深入解读。

长江新闻号：从中国、美国、欧洲纷纷出台或探讨加强AI监管的措施、到联合国安理会首次召开AI问题会议，这些现象说明了什么？

项昊宇：在这一轮的人工智能浪潮中，国际社会一方面惊叹于人工智能可能给人类社会带来的全方位的深刻变革，同时也始终意识到，人工智能会给人类社会带来极为严峻和深刻的风险和挑战。从学界到企业界再到政策界，今年以来其实一直都在激烈议论着人工智能技术发展可能的风险，这里面包括伦理、法律、安全和社会治理等多个层面的风险和挑战。越来越多的人呼吁要谨慎推动人工智能的发展。比如今年3月份，美国数千名人工智能领域的企业家、学者和高官就发出了”暂停大型人工智能研究“的公开信，呼吁关注人工智能研发中产生的安全问题，并敦促各国政府及时介入人工智能的监管。随着讨论的深入，国际社会已经逐渐形成一个共识，就是加强对人工智能技术的研发和应用的监管，已经刻不容缓。从世界各国的政策实践看，尽管进展程度和采取的手段不同，世界主要国家都已经着手启动了对人工智能的监管工作。4月份国家网信办出台《生成式人工智能服务管理办法》征求意见稿，表明中国在人工智能监管方面已经走在了世界前列。因此，联合国首次召开专门会议，可以看作是国际社会对于人工智能监管的必要性和紧迫性已经达成共识，世界各国正在从各自为战，走向协调行动，相信这是一个重要的开端。

长江新闻号：从利用人工智能犯罪，再到在战场上广泛使用人工智能武器，许多专家警告说，这无异于打开了“潘多拉魔盒”，您对此怎么看？人工智能技术一旦失控究竟会带来哪些恶果？

项昊宇：人工智能是一把“双刃剑”，它正在引发人类社会新一轮的技术革命，进一步解放人类生产力，带动经济社会的进步，会造福人类，同时人工智能所蕴含的风险和潜在危害也极具破坏性，甚至可能最终”灭绝人类“。对此，国际科技界很多权威人士和机构已经发出了多次警告。就远期而言，当人工智能经过不断技术迭代，演化为超级智能，由于其智力水平远远超过人类，可能会同人类争夺资源，进而威胁到人类的生存。这方面的挑战其实还不是迫在眉睫，因为人类还有时间去加强研究，采取有效的监管。就近期而言，人工智能发展带来的挑战与风险更为紧迫。目前的人工智能技术还主要应用于信息处理、社会管理、企业生产等领域，带来的更多的是对社会就业、伦理道德、法律和犯罪等方面的风险挑战，其实还不足以对人类生存构成威胁。但是也有观点指出，当前阶段的人工智能其实也可以利用人类的弱点制造危机，比如说通过制造虚假信息来加剧族群间的敌对和仇视，偏见和误解，来煽动暴力对抗，此外也包括研发致命性的人工智能武器，来对人类生命财产构成威胁。因此，就当前而言，在人工智能的初级阶段，依然存在被恶意利用、误用和滥用的风险，而且有关行动很难被预期和控制，这就存在失控的风险。

长江新闻号：美国不断在国际上渲染人工智能军事化的威胁，但同时却宣布：将人工智能作为其未来军事优势的核心驱动力。您如何看待美国说一套做一套的把戏？

项昊宇：人工智能技术是当今世界最为尖端的科技前沿，是未来全球科技竞争的制高点。对美国来说，显然不会放过对人工智能领域的争夺。从美国近年来在科技领域的政策行动来看，实际上贯穿的一条主线就是“美国优先“的单边主义和保护主义，充斥着”美国例外论“的双重标准。在美国人工智能领域的一些做法来看，其实也折射出这种政策取向。尤其是近年来美国为了维护自身的科技竞争力和技术霸权，不断挥舞制裁大棒，为了打压他国的科技发展无所不用其极。从目前的监管实践看，美国政府的动作也是比较迟缓，甚至打着”维护公民隐私和自由“的旗号，来阻挠很有关国际监管行动。当然美国背后的小算盘依然是为了一己之私，真实意图是要抢夺人工智能应用和监管规则的主导权。此外，对于人工智能在军事领域应用的巨大潜力，实际上也已经引起了美国军工科研人员和军工利益团体的关注，美国也想要以此来维护美国的军事霸权。因此，在未来国际社会推动建立人工智能监管体制的过程中，世界各国应当警惕美国可能采取的消极破坏举动。

监制：洪燕

编审：解炜 曾春锋

责编：张俊

编辑：樊进   姜梦醒

制作：袁恬恬

责任编辑：洪昕