发布时间：2024-12-30 13:04:49 来源: sp20241230
中新网 3月26日电 中国发展高层论坛2024年年会于2024年3月24-25日举行。3月24日下午举行了“人工智能发展与治理专题研讨会”，Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思在“小组讨论一”环节的发言中表示：中国可以利用自身庞大的工业系统，在迈向自主人工智能的道路上取得领先地位。
约瑟夫•希发基思指出，当今世界，对人工智能的终极目标存在两种不同的观点。有些人认为它应该是通用人工智能，旨在构建超越人类思维能力的，在医疗保健、金融、交通运输和制造业等多个领域做出有效决策的超级智能代理。另一些人则认为，其终极目标是实现自主的人工智能，构建具有人类水平的智能机器，能够替代人类在现有组织中的工作，如自动驾驶汽车、智能工厂、自治的网络等等。但是目前我们所拥有的，还是一个弱人工智能，是智能助手，它通过与用户的互动来提供服务。约瑟夫•希发基思相信现在有三种不同的人工智能使用方式，包括作为助手、作为监视器、作为控制器来。中国可以利用自身庞大的工业系统，在迈向自主人工智能的道路上取得领先地位。
人工智能面临两种主要风险，一种是技术风险；另一种是人为风险，它可以通过监管或者法律的框架来控制。对由于人工智能所带来的自动化导致的失业问题，也可以通过适当的社会政策来应对。除此之外，还有两种社会性风险，一种是怎么在选择和性能之间取得平衡，如果我们不能确保系统是以公正、中立的方式使用可靠信息，则不要将决策权交给系统；另一种就是性能的提升，我们要考虑其是否与人类控制的缺失相平衡。
对于怎样建立一个全球性的监管框架，约瑟夫•希发基思表示，人们都认识到必须要对人工智能进行监管，但对在实际中如何进行监管并没有达成一致。欧盟和美国之间，在人工智能监管方面也存在一定的差异。欧盟拥有更严格和更完善的人工智能监管法律，尤其是它通过了《人工智能法案》和《数字服务法案》，采用风险管理的方法，要求人工智能系统在关键性的应用中具有高度的可靠性。而美国的监管相对较少有强制性，例如它发布的《人工智能行政命令》，就包括一些建议和指导性意见。美国的监管者和大型科技公司的立场是一致的，他们倡导符合伦理的人工智能原则。但是从技术角度看，它并不是基于非常严格的技术标准对人工智能系统进行评估。
约瑟夫•希发基思认为，目前联合国倡导的关于人工智能全球监管框架能够达成一致的机会并不大。美国正在利用其在生成式人工智能领域的优势，推行一种自我调节、以市场为中心的监管方法。但事实上，只有通过在自主人工智能领域取得领先地位，并和相关国家联手建立安全的人工智能监管制度，才能够推动人工智能监管的大踏步前进。 【编辑:叶攀】