乐火资讯百科网欢迎您!
搜索
当前所在位置: 首页>数码科技

探寻生成式人工智能算法规制的思路

发布时间:2023-07-05 来源:经济参考报 点击:(30121) 【 字体:

QQ截图20230623170443.jpg

  5月18日,第七届世界智能大会在天津开幕。大会期间举办开幕式、高峰会、平行论坛、智能科技展、智能体验等系列活动。智能科技领域的院士专家和企业家聚焦智能网联车、生成式人工智能、脑机交互等前瞻课题,深入探讨AI与经济、社会、人文等领域的热点话题。新华社记者 孙凡越 摄


  近日,由中国人民大学法学院、中国人民大学未来法治研究院主办的“生成式人工智能算法规制——《生成式人工智能服务管理办法(征求意见稿)》学术研讨会议”召开,来自政府相关部门、高校研究机构、人工智能产业界的专家参加了本次研讨会。


  ■中国人民大学未来法治研究院执行院长张吉豫:


  可以以发展、安全和法治三个关键词概括对ChatGPT为代表的大规模语言模型的系列关注。第一,生成式人工智能技术是划时代的发展,大模型在互联网、数据等架构上可能形成新的层次,深刻影响产业的发展和未来技术的进步。第二,从数据、算法、系统集成等角度来看,生成式人工智能的发展、创新中伴随着风险与挑战。第三,为调节好发展和安全之间的冲突,构建以人民为中心的智能社会法律秩序,对于推动人工智能技术健康有序发展具有重要意义。


  ■百度公司副总裁吴梦漪:


  结合《生成式人工智能服务管理办法(征求意见稿)》的几个看法:一是将开放API和通过API调取功能认定为内容生产者可能提高了对合规义务的要求。二是将生成式人工智能认定为具有舆论属性和社会动员能力的互联网信息服务,可能泛化了适用范围。三是从实践的角度,内容生成的准确性与生成式人工智能技术原理存在冲突。因此,初始阶段监管层面的重点应从追求内容准确性转向对违法利用行为的打击。四是需要辩证看待数据的好坏。生成式人工智能具有一定的创作性,海量的训练数据有利于提高技术的发展速度,希望监管的重点在于生成式人工智能产品的质量,不宜对训练数据和技术路线做过于详尽的规定。五是综合考虑生成式人工智能服务的人机对话特点,简化对真实身份信息要求的规定。


  ■腾讯研究院首席数据法律政策专家王融:


  对生成式人工智能的规制的几个建议。第一,生成式人工智能可能是未来新的信息时代最为基础的工具,超越了单纯的互联网信息服务,应以全新视角去看待。第二,制定规章是必要的,但是目前法律规范本身可能还需要进一步讨论新的问题;输出信息的质量方面有很强的市场自驱力;而大模型时代的底层网络安全和数据安全,发展更为优先。第三,三个月的模型优化训练期限在实践中难以落地,不妨考虑其他多种技术手段。最后,在AI发展领域,风险浮现是渐进式的,市场主体和监管主体应在共同目标和接近的立场下协同解决问题。


  ■中国人民大学法学院教授王利明:


  应正视ChatGPT引发的问题,思考法律上如何积极应对。首先,面对生成式人工智能引发的人格权和知识产权方面的问题,立法过于超前可能会阻碍技术的发展和创新,通过发布管理办法或制定相关措施积累经验,条件成熟后再立法可能是相对稳妥的办法。


  对ChatGPT引发的侵权问题,提出五点建议:一是在价值取向上积极支持人工智能产品的开发。二是ChatGPT不同于自动驾驶等一般产品,让服务提供者承担无过错责任会阻碍技术发展,不符合鼓励技术创新的价值取向。三是可借鉴医疗事故责任的减免规则,因技术水平限制而导致难以消除的漏洞时,可以适当减轻甚至免除服务提供者的责任。四是加强和强化服务提供者对个人隐私信息的安全保障义务。五是关于ChatGPT的幻觉回答导致的侵权责任分配问题,应区别平台大规模生成与用户恶意诱导的情形。


  ■中国社会科学院大学副教授刘晓春:


  从四方面提出监管的建议。一是监管必要性,若在新技术场景下,原有体系能解决大部分问题,就缺乏专门规制的必要性。生成式人工智能的重要风险点在内容层面,如果生成的内容没有传播,是否存在风险仍存在疑问;如果已经传播,则要考虑原有的治理系统是否能够解决问题。二是监管有效性,其核心问题是公权力对产业的治理或干预是否能真实、有效地达到基于监管必要性的风险治理目的。三是结合我国现有产业背景考虑监管技术的应用场景。未必每个企业都研发大模型,但是在应用层面具有各自极大的拓展商业的可能性,应为应用层面的商业模式留出发展的空间。特别是在对内容生产者的定义上不应拓宽。四是从立法基础的角度考虑协调性。比如,在实名制问题上与网络安全法相协调,在算法的评估和备案问题上,也应基于现有的机制协调。


  ■对外经济贸易大学副教授许可:


  《生成式人工智能服务管理办法(征求意见稿)》与之前的法律、现有的实践和技术存在四大矛盾。第一,新法和旧法的矛盾。《互联网信息服务深度合成管理规定》中的深度合成技术和《生成式人工智能服务管理办法(征求意见稿)》中的深层次人工智能技术之间有何异同尚不明确,未来执法过程中可能产生矛盾。第二,域外效力和属地管辖之间的矛盾。《生成式人工智能服务管理办法(征求意见稿)》涉及的内容超出了《个人信息保护法》覆盖范围,部门规章是否能设立超出上位法的域外管辖权存在疑问。第三,网络信息内容安全管理和通用技术规制之间的矛盾。将通用性的人工智能限制在网络信息内容上,可能出现规制工具和规制目标的不匹配。实际上,在不同的场景下,生成式人工智能的风险因形态而异,如何判断其风险,需要模块化判断。第四,全流程安全要求和技术内在特征的矛盾。全流程的管理和生成式人工智能的特性不符,例如,预训练数据的合法性难以实现,数据与最后信息生成之间也并不存在直接映射关系。


  ■对外经济贸易大学副教授张欣:


  在监管对象上,我国的人工智能企业此前多集中在应用层,在基础层和技术层分布相对较少。在监管方式上,面向生成式人工智能的产业链特点,可以提升监管的互操作性、一致性。在监管创新上,一方面应注重监管的韧性,另一方面应积极探索以模块化监管为代表的新型监管方式。对《生成式人工智能服务管理办法(征求意见稿)》的四点修改意见:第一,进一步厘清第2条对“生成式人工智能”的定义。第二,面向产业链特点明确第5条中“产品生成内容生产者”的范围,不宜通过一刀切的方式让所有行为主体都承担产品内容生产者的责任。第三,第7条关于预训练数据和优化训练数据来源的准确性问题可以适当调整,只要在可接受的技术水平条件下,组织和企业履行了相应义务,可认为符合人工智能准确性原则。第四,第15条关于防止再次生成的期限和防止再次生成的方式聚焦于技术过程,目前的技术手段上难以达成,可以转换为从结果监管的角度防止被用户举报的不合法合规的内容再次出现。


  ■中国人民大学法学院教授万勇:


  在生成式人工智能对著作权法合理使用制度的挑战方面,生成式人工智能可能涉及著作权法上的复制权、演绎权和向公众传播权。但是,目前的合理使用类型难以适用于人工智能技术。其次,为了解决相关的问题,应人工智能产业发展的合理使用制度改革,主要有两种解决方案:一是重塑理论基础,提出“作品性使用”与“非作品性使用”的概念,为了数据挖掘目的而使用作品,只有部分情形属于“非作品性使用”;二是改造制度规范,包括增设具体例外条款或引入开放式例外条款。建议修改《著作权法实施条例》,引入专门例外,兼顾产业发展和著作权人的权利。


  ■中国人民公安大学法学院教授苏宇:


  处于追赶中的国内生成式人工智能在风险治理之外也非常需要制度支持。生成式人工智能大模型面临算法解释难、算法审计难、算法标准形成难、算法影响评估难、算法认证难等问题。《生成式人工智能服务管理办法(征求意见稿)》的主要考量问题是信息内容安全问题,在安全保障方面设计了“六重叠加”的机制,包括输出端的生成结果控制、输入端的数据来源和数据信息内容限制、扩展的内容生产者责任、用户举报与主动监管结合、宽泛的信息提供义务、与算法推荐和深度合成等已有立法的有限衔接等。其中部分机制存在不同程度的安全冗余。除此之外,还有需要充分考虑的治理要点,包括生成代码的单独归类、训练数据的必要区分、输出结果的类型提示、数据来源合法性的具体界定等。总体来说,对生成式人工智能的法律治理,大幅度降低无效或低效风险冗余应当是机制设计的重要目标。


  ■中国信通院高级工程师程莹:


  生成式人工智能第一大特点是通用目的性。作为新底层基础平台,AIGC供应链被拉长,研发者是否应承担责任,研发者、平台方、B端用户、C端用户等如何分担责任成为关键问题。征求意见稿第5条应对各个主体进行精细划分。第二个特点是内容生成性,带来了知识产权、虚假信息等问题。未来生成式人工智能代表了知识调用方式的变迁,将掌握绝大多数信息来源,相较于深度合成的重点标识义务,负有更高算法评估、自我审查等义务。然而,一刀切要求训练数据和生成结果的真实性可能与生成式人工智能的技术本质存在一定冲突。第三个特点是数据依赖性,这是人工智能一直以来的典型特征,但是呈现了新的形式,例如中文语料库输入不足带来的文化偏见、数据虹吸效应带来的数据泄露风险等,相关法律义务应注意保持与上位法要求的一致性。


  ■中国科学技术信息研究所助理研究员刘鑫怡:


  英国的监管框架是基于人工智能应用场景来规范人工智能应用,而非规范人工智能技术,并不为整个行业或技术设定规则或风险级别。在监管依据上,在不确定的技术应用和治理中探索可量化、可定性的成本收益及影响,这对我国监管政策的出台有启发意义。在目前的大模型监管上存在难点。主要包括三方面:一是技术的局限性导致目前难以达到治理的高标准;二是大模型治理的方式和限度难以把握;三是目前多样化治理工具没有完全发挥作用。随着多模态大模型的研发和广泛应用,未来的风险问题会逐步深化。建议在统筹发展与安全的基础上,构建全生命周期的差异化监管机制,加强人工智能重点领域关键环节监管。同时倡导“以技治技”,开展安全可信技术的治理。(金灿)


猜你喜欢

第五届中国工业互联网大赛无锡赛站决赛举办

第五届中国工业互联网大赛无锡赛站决赛举办

以“数字赋能 智创未来”为主题,由工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会等单位主办的第五届中国工业互联···
2023-12-08
点击 859
消息称《光环》和《战争机器》今年都要登陆PS5平台

消息称《光环》和《战争机器》今年都要登陆PS5平台

今日早些时候,业内知情人士NateDrake报道称,Xbox主机独占游戏《光环:士官长合集》将于2025年登陆PS5平台。似乎另一···
2025-01-13
点击 48
索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

近日SIE联席首席执行官赫尔曼·胡尔斯特(Herman Hulst)接受日媒Fami通采访,他谈到《星鸣特攻》的失败,以及Play···
2024-12-30
点击 81
浜口直树:《最终幻想7》重制版第三部开发非常顺利

浜口直树:《最终幻想7》重制版第三部开发非常顺利

据《最终幻想7》重制三部曲的监督浜口直树透露,该三部曲第三部的开发“进展顺利”。《FAMI通》推出了其年度年终专题,在这个专题中,···
2024-12-30
点击 73
网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息距离游戏大奖颁奖典礼还有不到一周的时间,这也意味着未来几天我们将看到一些游戏的新细节···
2024-12-09
点击 93
复旦教授称中国退休年龄还是太早,建议推行延迟退休制度

复旦教授称中国退休年龄还是太早,建议推行延迟退休制···

在当今这个快速发展的时代,退休年龄问题成了一个热门话题。复旦大学的一位教授彭希哲,这位在学术界有着丰富成就的资深教授,近日就提出了···
2024-01-10
点击 329
相关推荐

谈谈在轮胎店工作要注意什么

谈谈在轮胎店工作要注意什么
轮胎店工作注意什么1、如果家里有小孩或者孕妇的话,尽可能少在轮胎店停留。避免影响胎儿发育,儿童对化学物质和气味也比较敏感,不要过多停留。2、轮胎店不应该过夜。 如果您要过夜,则应将睡觉的地方与轮胎分开。 不能一天24小时呆在轮胎店。3、轮胎店要经常通风,另外轮胎出厂都有包装,尽量保持包装完好。4、在对新出厂...

乐火影视推荐《回响》

乐火影视推荐《回响》
在线免费观看完整版电影电视剧(乐火团队整理)《回响》在线免费观看完整版电影电视剧(乐火团队整理)回响 (2023)导演: 冯小刚编剧: 东西主演: 宋佳 / 王阳 / 包贝尔 / 吴优 / 朱雨辰 / 更多......

别再犹豫了!咖色卫衣与牛仔裤的绝配穿搭,经典又时尚

别再犹豫了!咖色卫衣与牛仔裤的绝配穿搭,经典又时尚
别再犹豫了!咖色卫衣与牛仔裤的绝配穿搭,经典又时尚在时尚的世界里,颜色的搭配和款式的选择往往能决定整体的风格与气质。其中,咖色卫衣与牛仔裤的搭配,无疑是一种经典而又不失时尚感的组合。今天,我们就来探讨一下这种搭配的魅力所在。咖色卫衣的时尚魅力咖色,一种温暖而低调的颜色,它既不像黑色那样深沉,也不像白...

松花江——江畔雾凇长廊,如诗如画景

松花江——江畔雾凇长廊,如诗如画景
松花江畔的雾凇长廊,确实是一幅如诗如画的绝美景象。以下是对这一景观的详细描述:松花江与雾凇长廊松花江,作为中国东北地区的一条重要河流,不仅滋养了这片土地,还孕育了无数美丽的自然景观。其中,松花江畔的雾凇长廊,更是冬日里的一道独特风景线。雾凇长廊位于松花江畔,每当冬季来临,气温骤降,江面上蒸腾的水汽在...

花呗按时还款为什么会被冻结

花呗按时还款为什么会被冻结
花呗按时还款为什么会被冻结?1、用户在使用花呗过程中,违反了花呗管理相关规定;2、用户的花呗存在异常交易行为或账户存在风险,被花呗官方临时冻结;3、用户在花呗注册的个人资料不完善或到期,导致花呗被冻结;4、花呗存在逾期或欠款不还,导致花呗被冻结。花呗是一个消费信贷产品,用户可以通过花呗账户进行线上消费,...

陕西特色之黄桂柿子饼

陕西特色之黄桂柿子饼
陕西特色之黄桂柿子饼黄桂柿子饼黄桂柿子饼,也叫水晶柿子饼,是一种用柿子和面制成的风味食品。西安黄桂柿子饼,是用临潼县产的“火晶柿子”为原料制作成的。这种柿子的特点是:果皮、果肉橙红色或鲜红色,果实小,果粉多,无核,肉质致密,多汁,品质极好。是每年秋冬季节时令佳品。回民街的贾家黄桂柿子饼比较正宗...

方向盘为什么是圆形?揭秘百年汽车设计冷知识!

方向盘为什么是圆形?揭秘百年汽车设计冷知识!
方向盘为什么是圆形?揭秘百年汽车设计冷知识!汽车方向盘,作为驾驶者与车辆沟通的桥梁,其设计历经百年演变,最终定格为我们今天所熟知的圆形。那么,方向盘为何是圆形?这一设计背后又隐藏着哪些不为人知的冷知识呢?今天,就让我们一起揭开方向盘圆形设计的神秘面纱。一、圆形方向盘的历史渊源汽车方向盘的设计并非一蹴...

汤圆吃法正确才能享受到的乐趣 4个吃汤圆的禁忌别再犯

汤圆吃法正确才能享受到的乐趣 4个吃汤圆的禁忌别再犯
4个吃汤圆的禁忌别再犯1、早餐不宜吃汤圆吃汤圆存在哪些禁忌点?汤圆属于高热量、高糖分的食品,还含有油脂,但汤圆缺乏营养素,除了热量和糖外并没有太多其它营养。这样的食品不适合当早餐吃,除了缺乏营养外,还因为人早起时胃肠道功能是最弱,而汤圆外皮的部分多是糯米,黏性高、不易消化。因此早餐吃汤圆很容易消化不良...

成立40周年 长虹美菱坚守品牌创新发展之路

成立40周年 长虹美菱坚守品牌创新发展之路
  11月9日,在长虹美菱40周年庆典活动中,一场中国家电业的新鲜“工厂马拉松”,跑过5G生产线,穿过前端的科技产品,在奔跑中看见新鲜。“美好中国,新鲜美菱”的主张也启动发布,长虹美菱多维度展现品牌发展蓝图。  品牌多元化发展  作为中国家电行业的优秀品牌之一,在中国家电崛起的马拉松路上,长虹美菱无愧为品牌...

北京香山公园怎么去 北京香山公园怎么坐车

北京香山公园怎么去 北京香山公园怎么坐车
可以坐地铁到10号线巴沟站,出站以后直接换乘西郊线直达香山。或者是乘坐319路(苹果园-香山)公交车都是可以到达的。当然如果大家不想坐公共交通,也可以自己开车前往,由西北四环“香山”出口下主路,按指示牌行驶至香山环岛,然后跟着指示牌走15分钟就可以到了。北京香山公园怎么去1、乘318路(苹果园-香山)、3...
返回顶部