发布时间：2024-11-25 05:58:24 来源: sp20241125
“有人说Sora的出现让人工智能进入了‘狂飙时代’，我们在看到人工智能带来便利的同时，更应关注其背后的潜在风险。”全国人大代表、农工党中央委员、南昌大学元宇宙研究院院长闵卫东日前在接受中新社记者采访时表示，此次全国两会他将提出加快研究数字技术防范人工智能风险的相关建议。
美国人工智能研究公司OpenAI近日发布文字生成视频模型Sora，其使用文本生成长达一分钟视频的功能更是掀起一股人工智能的新风潮。从ChatGPT到Sora，人工智能给我们带来了什么？又将面临何种风险？
在闵卫东看来，不论是ChatGPT还是Sora，都是大模型以及生成式人工智能的一个飞跃发展，也意味着人工智能开始走向大规模应用，其自动生成的内容可以辅助实现原来需要靠人力生产的部分内容，也能为此前没法解决的一些科研问题提供新思路。
“大模型生成的内容有时几乎可以以假乱真，但其中信息的可信度可能会给社会安全带来一些风险。”闵卫东从1989年开始在国内外从事计算机视觉、虚拟现实和大数据的研究，在“世界四大硅谷”都曾工作过，深耕人工智能领域多年的他面对AIGC(人工智能生成内容)快速发展提出了自己的担忧。
闵卫东用“矛”和“盾”来比喻大模型带来的风险和应对风险的数字技术。他认为，在人工智能飞速发展的同时，也要建立起相应的数字之“盾”，拉紧人工智能的“缰绳”。
“目前国际上还没有对人工智能形成一个安全可靠的机制和体系架构，相关的立法也应该同步进行。”闵卫东称，大模型的安全发展是世界范围内的问题，需要各个国家齐心协力进行相关制度的推进。
“就像十几年前我们无法肉眼识别经过PS的照片，但通过防伪鉴别算法在计算机进行识别，我们可以鉴定出一张照片是否‘原生态’。”闵卫东表示，目前部分AIGC的内容无法用肉眼识别是虚拟还是现实，就应在数字技术层面加快识别AIGC内容的研究，能够做出智能判断，防范相应的风险。
面对部分民众产生“AI是否会取代人脑”的担心，闵卫东呼吁大家正视人工智能的发展。“以Sora为代表的大模型和生成式人工智能只是人工智能里很小的一部分，而且生成的虚拟世界也只是物理世界和生活中很小的一部分。人类智能包括以大脑和五官为核心的感知与认知等综合智能，也包括各种复杂行为能力。目前人工智能技术模拟的功能在许多方面进展并不大，特别是和人脑的整个功能比起来还是差远了。”闵卫东如是说。
此外，闵卫东还认为，元宇宙、虚拟现实、人工智能等作为一种新质生产力，也将很好赋能地方经济发展。他以中国中部省份江西为例，虚拟现实产业在该省五六年间产值飞跃至千亿元人民币，在全省的数字经济份额内也占很大一部分。
“算法是软件硬件之魂、人工智能之脑、数字技术之核。”闵卫东建议，部分地区应把握住未来产业的风口以实现跨越式发展。
(责编：申佳平、陈键)