乐火资讯百科网欢迎您!
搜索
当前所在位置: 首页>数码科技

探寻生成式人工智能算法规制的思路

发布时间:2023-07-05 来源:经济参考报 点击:(30120) 【 字体:

QQ截图20230623170443.jpg

  5月18日,第七届世界智能大会在天津开幕。大会期间举办开幕式、高峰会、平行论坛、智能科技展、智能体验等系列活动。智能科技领域的院士专家和企业家聚焦智能网联车、生成式人工智能、脑机交互等前瞻课题,深入探讨AI与经济、社会、人文等领域的热点话题。新华社记者 孙凡越 摄


  近日,由中国人民大学法学院、中国人民大学未来法治研究院主办的“生成式人工智能算法规制——《生成式人工智能服务管理办法(征求意见稿)》学术研讨会议”召开,来自政府相关部门、高校研究机构、人工智能产业界的专家参加了本次研讨会。


  ■中国人民大学未来法治研究院执行院长张吉豫:


  可以以发展、安全和法治三个关键词概括对ChatGPT为代表的大规模语言模型的系列关注。第一,生成式人工智能技术是划时代的发展,大模型在互联网、数据等架构上可能形成新的层次,深刻影响产业的发展和未来技术的进步。第二,从数据、算法、系统集成等角度来看,生成式人工智能的发展、创新中伴随着风险与挑战。第三,为调节好发展和安全之间的冲突,构建以人民为中心的智能社会法律秩序,对于推动人工智能技术健康有序发展具有重要意义。


  ■百度公司副总裁吴梦漪:


  结合《生成式人工智能服务管理办法(征求意见稿)》的几个看法:一是将开放API和通过API调取功能认定为内容生产者可能提高了对合规义务的要求。二是将生成式人工智能认定为具有舆论属性和社会动员能力的互联网信息服务,可能泛化了适用范围。三是从实践的角度,内容生成的准确性与生成式人工智能技术原理存在冲突。因此,初始阶段监管层面的重点应从追求内容准确性转向对违法利用行为的打击。四是需要辩证看待数据的好坏。生成式人工智能具有一定的创作性,海量的训练数据有利于提高技术的发展速度,希望监管的重点在于生成式人工智能产品的质量,不宜对训练数据和技术路线做过于详尽的规定。五是综合考虑生成式人工智能服务的人机对话特点,简化对真实身份信息要求的规定。


  ■腾讯研究院首席数据法律政策专家王融:


  对生成式人工智能的规制的几个建议。第一,生成式人工智能可能是未来新的信息时代最为基础的工具,超越了单纯的互联网信息服务,应以全新视角去看待。第二,制定规章是必要的,但是目前法律规范本身可能还需要进一步讨论新的问题;输出信息的质量方面有很强的市场自驱力;而大模型时代的底层网络安全和数据安全,发展更为优先。第三,三个月的模型优化训练期限在实践中难以落地,不妨考虑其他多种技术手段。最后,在AI发展领域,风险浮现是渐进式的,市场主体和监管主体应在共同目标和接近的立场下协同解决问题。


  ■中国人民大学法学院教授王利明:


  应正视ChatGPT引发的问题,思考法律上如何积极应对。首先,面对生成式人工智能引发的人格权和知识产权方面的问题,立法过于超前可能会阻碍技术的发展和创新,通过发布管理办法或制定相关措施积累经验,条件成熟后再立法可能是相对稳妥的办法。


  对ChatGPT引发的侵权问题,提出五点建议:一是在价值取向上积极支持人工智能产品的开发。二是ChatGPT不同于自动驾驶等一般产品,让服务提供者承担无过错责任会阻碍技术发展,不符合鼓励技术创新的价值取向。三是可借鉴医疗事故责任的减免规则,因技术水平限制而导致难以消除的漏洞时,可以适当减轻甚至免除服务提供者的责任。四是加强和强化服务提供者对个人隐私信息的安全保障义务。五是关于ChatGPT的幻觉回答导致的侵权责任分配问题,应区别平台大规模生成与用户恶意诱导的情形。


  ■中国社会科学院大学副教授刘晓春:


  从四方面提出监管的建议。一是监管必要性,若在新技术场景下,原有体系能解决大部分问题,就缺乏专门规制的必要性。生成式人工智能的重要风险点在内容层面,如果生成的内容没有传播,是否存在风险仍存在疑问;如果已经传播,则要考虑原有的治理系统是否能够解决问题。二是监管有效性,其核心问题是公权力对产业的治理或干预是否能真实、有效地达到基于监管必要性的风险治理目的。三是结合我国现有产业背景考虑监管技术的应用场景。未必每个企业都研发大模型,但是在应用层面具有各自极大的拓展商业的可能性,应为应用层面的商业模式留出发展的空间。特别是在对内容生产者的定义上不应拓宽。四是从立法基础的角度考虑协调性。比如,在实名制问题上与网络安全法相协调,在算法的评估和备案问题上,也应基于现有的机制协调。


  ■对外经济贸易大学副教授许可:


  《生成式人工智能服务管理办法(征求意见稿)》与之前的法律、现有的实践和技术存在四大矛盾。第一,新法和旧法的矛盾。《互联网信息服务深度合成管理规定》中的深度合成技术和《生成式人工智能服务管理办法(征求意见稿)》中的深层次人工智能技术之间有何异同尚不明确,未来执法过程中可能产生矛盾。第二,域外效力和属地管辖之间的矛盾。《生成式人工智能服务管理办法(征求意见稿)》涉及的内容超出了《个人信息保护法》覆盖范围,部门规章是否能设立超出上位法的域外管辖权存在疑问。第三,网络信息内容安全管理和通用技术规制之间的矛盾。将通用性的人工智能限制在网络信息内容上,可能出现规制工具和规制目标的不匹配。实际上,在不同的场景下,生成式人工智能的风险因形态而异,如何判断其风险,需要模块化判断。第四,全流程安全要求和技术内在特征的矛盾。全流程的管理和生成式人工智能的特性不符,例如,预训练数据的合法性难以实现,数据与最后信息生成之间也并不存在直接映射关系。


  ■对外经济贸易大学副教授张欣:


  在监管对象上,我国的人工智能企业此前多集中在应用层,在基础层和技术层分布相对较少。在监管方式上,面向生成式人工智能的产业链特点,可以提升监管的互操作性、一致性。在监管创新上,一方面应注重监管的韧性,另一方面应积极探索以模块化监管为代表的新型监管方式。对《生成式人工智能服务管理办法(征求意见稿)》的四点修改意见:第一,进一步厘清第2条对“生成式人工智能”的定义。第二,面向产业链特点明确第5条中“产品生成内容生产者”的范围,不宜通过一刀切的方式让所有行为主体都承担产品内容生产者的责任。第三,第7条关于预训练数据和优化训练数据来源的准确性问题可以适当调整,只要在可接受的技术水平条件下,组织和企业履行了相应义务,可认为符合人工智能准确性原则。第四,第15条关于防止再次生成的期限和防止再次生成的方式聚焦于技术过程,目前的技术手段上难以达成,可以转换为从结果监管的角度防止被用户举报的不合法合规的内容再次出现。


  ■中国人民大学法学院教授万勇:


  在生成式人工智能对著作权法合理使用制度的挑战方面,生成式人工智能可能涉及著作权法上的复制权、演绎权和向公众传播权。但是,目前的合理使用类型难以适用于人工智能技术。其次,为了解决相关的问题,应人工智能产业发展的合理使用制度改革,主要有两种解决方案:一是重塑理论基础,提出“作品性使用”与“非作品性使用”的概念,为了数据挖掘目的而使用作品,只有部分情形属于“非作品性使用”;二是改造制度规范,包括增设具体例外条款或引入开放式例外条款。建议修改《著作权法实施条例》,引入专门例外,兼顾产业发展和著作权人的权利。


  ■中国人民公安大学法学院教授苏宇:


  处于追赶中的国内生成式人工智能在风险治理之外也非常需要制度支持。生成式人工智能大模型面临算法解释难、算法审计难、算法标准形成难、算法影响评估难、算法认证难等问题。《生成式人工智能服务管理办法(征求意见稿)》的主要考量问题是信息内容安全问题,在安全保障方面设计了“六重叠加”的机制,包括输出端的生成结果控制、输入端的数据来源和数据信息内容限制、扩展的内容生产者责任、用户举报与主动监管结合、宽泛的信息提供义务、与算法推荐和深度合成等已有立法的有限衔接等。其中部分机制存在不同程度的安全冗余。除此之外,还有需要充分考虑的治理要点,包括生成代码的单独归类、训练数据的必要区分、输出结果的类型提示、数据来源合法性的具体界定等。总体来说,对生成式人工智能的法律治理,大幅度降低无效或低效风险冗余应当是机制设计的重要目标。


  ■中国信通院高级工程师程莹:


  生成式人工智能第一大特点是通用目的性。作为新底层基础平台,AIGC供应链被拉长,研发者是否应承担责任,研发者、平台方、B端用户、C端用户等如何分担责任成为关键问题。征求意见稿第5条应对各个主体进行精细划分。第二个特点是内容生成性,带来了知识产权、虚假信息等问题。未来生成式人工智能代表了知识调用方式的变迁,将掌握绝大多数信息来源,相较于深度合成的重点标识义务,负有更高算法评估、自我审查等义务。然而,一刀切要求训练数据和生成结果的真实性可能与生成式人工智能的技术本质存在一定冲突。第三个特点是数据依赖性,这是人工智能一直以来的典型特征,但是呈现了新的形式,例如中文语料库输入不足带来的文化偏见、数据虹吸效应带来的数据泄露风险等,相关法律义务应注意保持与上位法要求的一致性。


  ■中国科学技术信息研究所助理研究员刘鑫怡:


  英国的监管框架是基于人工智能应用场景来规范人工智能应用,而非规范人工智能技术,并不为整个行业或技术设定规则或风险级别。在监管依据上,在不确定的技术应用和治理中探索可量化、可定性的成本收益及影响,这对我国监管政策的出台有启发意义。在目前的大模型监管上存在难点。主要包括三方面:一是技术的局限性导致目前难以达到治理的高标准;二是大模型治理的方式和限度难以把握;三是目前多样化治理工具没有完全发挥作用。随着多模态大模型的研发和广泛应用,未来的风险问题会逐步深化。建议在统筹发展与安全的基础上,构建全生命周期的差异化监管机制,加强人工智能重点领域关键环节监管。同时倡导“以技治技”,开展安全可信技术的治理。(金灿)


猜你喜欢

第五届中国工业互联网大赛无锡赛站决赛举办

第五届中国工业互联网大赛无锡赛站决赛举办

以“数字赋能 智创未来”为主题,由工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会等单位主办的第五届中国工业互联···
2023-12-08
点击 856
消息称《光环》和《战争机器》今年都要登陆PS5平台

消息称《光环》和《战争机器》今年都要登陆PS5平台

今日早些时候,业内知情人士NateDrake报道称,Xbox主机独占游戏《光环:士官长合集》将于2025年登陆PS5平台。似乎另一···
2025-01-13
点击 48
索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

近日SIE联席首席执行官赫尔曼·胡尔斯特(Herman Hulst)接受日媒Fami通采访,他谈到《星鸣特攻》的失败,以及Play···
2024-12-30
点击 80
浜口直树:《最终幻想7》重制版第三部开发非常顺利

浜口直树:《最终幻想7》重制版第三部开发非常顺利

据《最终幻想7》重制三部曲的监督浜口直树透露,该三部曲第三部的开发“进展顺利”。《FAMI通》推出了其年度年终专题,在这个专题中,···
2024-12-30
点击 73
网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息距离游戏大奖颁奖典礼还有不到一周的时间,这也意味着未来几天我们将看到一些游戏的新细节···
2024-12-09
点击 93
复旦教授称中国退休年龄还是太早,建议推行延迟退休制度

复旦教授称中国退休年龄还是太早,建议推行延迟退休制···

在当今这个快速发展的时代,退休年龄问题成了一个热门话题。复旦大学的一位教授彭希哲,这位在学术界有着丰富成就的资深教授,近日就提出了···
2024-01-10
点击 328
相关推荐

民生银行受国家保护吗?

民生银行受国家保护吗?
民生银行受国家保护吗?民生银行作为我国的商业银行之一,并没有专门的国家保护政策。然而,在中国,所有的银行都受到国家法律法规的监管和保护。国家通过监管机构,如中国银行业监督管理委员会(简称银监会),对所有银行进行监管,保障金融体系的稳定和安全。在银行面临经营风险或金融危机时,国家会采取必要的措施来维护...

Athflow风是什么?运动+休闲的混搭技巧!

Athflow风是什么?运动+休闲的混搭技巧!
Athflow风是一种将运动休闲风格与正式优雅风格巧妙融合的时尚穿搭方式。它强调随性自在与简约高级的结合,既适合日常休闲,也能应对一些较为正式的场合。以下是关于Athflow风的详细介绍及混搭技巧: Athflow风的特点 混搭性:Athflow风的核心在于混搭,它将运动单品(如瑜...

龙潭大峡谷是什么地貌 龙潭大峡谷是什么石头

龙潭大峡谷是什么地貌 龙潭大峡谷是什么石头
龙潭大峡谷景区是国家AAAAA级景区、国家地质公园、黛眉山世界地质公园的核心景区,很多朋友都喜欢去龙潭大峡谷游玩,那龙潭大峡谷是什么地貌?龙潭大峡谷龙潭大峡谷1、龙潭大峡谷是典型的红岩嶂谷群地质地貌。2、龙潭大峡谷位于河南省洛阳市新安县,是一座世界地质公园,主打红岩嶂谷群地质地貌景观。峡谷内经过上亿年的地质...

《春色寄情人》大结局是HE还是BE

《春色寄情人》大结局是HE还是BE
《春色寄情人》大结局是HE还是BE 《春色寄情人》结局是he,结局陈麦冬和庄洁在一起了。 庄洁曾经说过,自己不知该如何改变性格,毕竟十几年来都习惯把难过的话笑着说。陈麦冬也不是在责怪庄洁离开南坪镇,而是生气她从来没有信任过自己,把感情和婚姻当作儿戏,但他通过这次,...

黑色长款大衣也能玩出花样?教你穿出高级感

黑色长款大衣也能玩出花样?教你穿出高级感
黑色长款大衣也能玩出花样?教你穿出高级感在时尚界的广阔天地中,黑色长款大衣以其经典、百搭、显瘦的特性,始终占据着不可或缺的地位。它不仅能够轻松应对各种场合,还能展现出穿着者的独特品味与个性。那么,如何搭配这件时尚利器,使其更好地服务于我们的日常穿搭呢?接下来,就让我们一起探讨黑色长款大衣的百变魅力与...

中考哪些学生适合复读 复读有什么条件

中考哪些学生适合复读 复读有什么条件
中考哪些学生适合复读 复读有什么条件每年中考都会有学生因为某些原因而导致中考成绩不理想,中考成绩不理想是可以复读的。从小立志要读高中、考大学,但中考未上线,或未被理想高中录取的学生适合中考复读。中考哪些学生适合复读(1)有强烈复读欲望的中考考生:这类考生由于各种原因,导致中考成绩不符合预期,没考上理想学...

全国林草系统典型人物系列专题片第六集|浙南林科推广“领头羊”——致敬全国林草系统劳动模范何小勇

全国林草系统典型人物系列专题片第六集|浙南林科推广“领头羊”——致敬全国林草系统劳动模范何小勇
  近年来,全国林草系统和广大林草干部职工自觉践行习近平生态文明思想,牢固树立和践行“绿水青山就是金山银山”的理念,统筹山水林田湖草沙一体化保护和系统治理,大力弘扬塞罕坝精神,林业草原事业取得显著成效,涌现出一大批信念坚定、爱岗敬业、辛勤奉献、群众公认的先进典型。  由国家林业和草原局、新华网共同打...

贵德:黄河清的秘境,丹霞地貌与梨花海的绝美邂逅

贵德:黄河清的秘境,丹霞地貌与梨花海的绝美邂逅
贵德:黄河清的秘境,丹霞地貌与梨花海的绝美邂逅贵德,位于青海省海南藏族自治州东南部,被誉为“高原小江南”,以“天下黄河贵德清”闻名。这里不仅拥有清澈碧绿的黄河水,更以壮丽的丹霞地貌和春季盛放的梨花海构成了一幅绝美的自然画卷,成为西北地区不可多得的秘境。一、黄河清的秘境:碧水丹山的独特景观贵德段的黄河...

游戏培训学校好不好(3d游戏建模培训学校)

游戏培训学校好不好(3d游戏建模培训学校)
本文目录:1、游戏开发培训学校哪家口碑好?2、游戏培训学校是不是骗人的?3、自学游戏原画有什么坏处?培训机构怎么选择?4、游戏培训前景如何游戏开发培训学校哪家口碑好?1、其中要说比较好的软件开发培训机构,会更加推荐千锋教育。千锋软件开发培训课程的授课模式采用全程面授,讲师成本虽高,但是效果却是显著的,和学员面...

怎么去新疆 去新疆路线

怎么去新疆 去新疆路线
新疆是我国最大的省份,从古至今,新疆始终是人们心中的西域,既遥远,又神秘,那么怎么去新疆呢?进入新疆的方式有很多,如果只在新疆游玩,大部分游客会选择飞机直飞,或者乘火车进入,第一站通常为乌鲁木齐,不过,有些游客也会以自驾或者包车的形式,把新疆和周边省份串联起来游玩,人气较高的路线是从甘肃进入哈...
返回顶部