安全资讯

探寻有效可行的人工智能治理方案

近年来,人工智能展现出推动产业升级与可持续发展的巨大潜力,布局人工智能已经成为各国共识,人工智能的全球治理也日益引起各界关注。由于其巨大影响力和快速迭代,全球正在形成越来越多的讨论和共识,不能完全套用传统“先发展后治理”的思路,需要对人工智能边发展边治理。在实践过程中,需要不断从多视角观察,探寻发展中的多方诉求,从而采取有效可行的治理方案助力发展。

 

2023年10月,联合国组建高级别人工智能咨询机构,明确制定人工智能风险管理框架将是其下一步的工作重心,旨在监管人工智能发展,应对人工智能可能带来的风险。与此同时,我国以构建人类命运共同体为导向,加强人工智能治理全球合作,积极参与国际人工智能治理制度规则和技术标准建设,深化人工智能监管领域的国际合作,共同做好风险防范,推动人工智能共治共享,让人工智能创新成果惠及全人类。总体来看,人工智能如何布局、如何发展,需要政府部门、产业主体、监管机构、科研院所、公众用户等政府主导下多利益相关方共同凝聚智慧,形成有效可行的人工智能治理方案。

 

抓住发展机遇需要前瞻研究和规划部署。随着人工智能技术的发展,迫切需要消除在人工智能发展方面的差距。政府部门需要发挥人工智能科学发展“望远镜”作用,前瞻性研究发展规划并设定监管的范畴和框架,积极推动能力建设提升。当前,以大模型为代表的生成式人工智能技术发展迅猛,已经初步显现出对各行各业的积极影响,有利于释放生产力的发展潜力。然而,国家和区域之间的数字技术发展水平参差不齐,智能涌现带来的新技术商业模型和新的技术应用,可能导致“数字鸿沟”进一步扩大。2024年7月1日,第78届联合国大会一致通过加强人工智能能力建设国际合作决议,将推动各国政府部门,通过前瞻性的规划布局,推进网络、算力、数据的普惠发展,为中小企业和普通民众提供低门槛、低价格的人工智能服务,从而紧跟人工智能发展步伐,实现更大程度的数字包容,避免数字鸿沟扩大。

 

市场创新需要公平开放合作的发展环境。经营主体具有发挥人工智能产业培育“放大镜”作用,可以加快释放AI大模型的倍增、叠加效果,这将成为驱动产业发展的新引擎。当前,我国经济已经由高速增长阶段转向高质量发展阶段,处在转变发展方式、优化经济结构、转化增强动力的攻关时期,这就迫切需要经营主体在人工智能重大创新领域发挥引领作用。然而,发达国家的少数企业垄断技术和人才,阻碍基础模型、高端芯片、算力服务、训练数据等要素的正常流动,产业发展的主导权集中于极少数经营主体,导致全球人工智能发展治理出现不平衡现象。积极鼓励人工智能建立跨学科、跨部门的伙伴关系,支持建造知识和资源共享的开放平台,促进人工智能形成研发创新和合作创新的氛围,共同推动创新成果不断涌现、产业发展持续突破、智能红利更大释放。这将有利于各国人工智能企业在基于市场机制促进科技研发、人才培养、国际交流等方面达成全方位、多领域的深度合作,从而避免技术壁垒,共同维护产业链、供应链安全稳定,共同携手打造开放、公平、非歧视的人工智能发展环境。

 

监管重点需要确保安全透明和可解释性。监管规则需要发挥人工智能治理“显微镜”作用,对紧迫问题深入研究,厘清其中缘由并提出治理措施,保障人工智能系统透明可解释。人工智能治理涉及隐私保护、数据安全、算法黑箱、模型漏洞等技术安全议题,监管规则的设定需要确保人工智能的参与主体充分遵守相关的法律、法规和标准,遵循适用的数据保护、隐私、安全、质量规范以及伦理道德约束。例如,我国的《生成式人工智能服务管理暂行办法》积极应对生成式人工智能在训练数据、算法模型、生成内容、个人信息权益等方面产生的风险;其他国家也出台《关于安全、可靠和可信的AI行政命令》《人工智能法案》等相关制度。总体来看,人工智能治理需要关注人工智能系统的目标、方法、数据源和结果的清晰可访问,并具有合理可行的反馈和监督机制。其中,可扩展监督、可解释性研究、模型评估等价值对齐方式,对利益相关者和公众负责,将是监管治理的主要探索方向。

 

多方参与需要促进普惠包容与可持续发展。发挥人工智能治理“多棱镜”的作用,充分反映体现政府部门、科研机构、产业主体、公众用户等多方的核心关切。在人工智能应用程序执行过程中,应确保人工智能系统不会歧视、伤害或利用任何群体。正如习近平主席在第三届“一带一路”国际合作高峰论坛开幕式上的主旨演讲中提出《全球人工智能治理倡仪》,欢迎各国政府、国际组织、企业、科研院校、民间机构和公民个人等各主体秉持共商共建共享的理念,协力共同促进人工智能治理。与此同时,多方参与主体需要通过科普活动普及人工智能知识,提升公众的数字素养意识,使人工智能为人类带来更大的福祉。此外,还需要促进人工智能在工业创新、环境保护、资源利用、能源管理、促进生物多样性等领域落地应用,这对与实现人工智能向善发展、普惠发展至关重要。

 

(来源:学习时报)

服务热线

138-6598-3726

产品和特性

价格和优惠

安徽灵狐网络公众号

微信公众号