乐火资讯百科网欢迎您!
搜索
当前所在位置: 首页>数码科技

在发展中治理完善人工智能大模型

发布时间:2023-07-24 来源:经济日报 点击:(30102) 【 字体:

  新一轮科技革命和产业变革迅猛发展,数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT,已掀起全球人工智能(AI)产业的大模型热潮。在日前举办的中国人工智能产业年会中,AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。


  赋能千行百业


  ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现,是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物,AI大模型也不止GPT这一条路线,很多科技巨头近几年都在“炼”大模型,且各有积累。这也是ChatGPT走红之后,各巨头短短数月内就纷纷推出竞品的原因。


  “以ChatGPT为代表的多模态通用大模型,将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说,行业人工智能可有效推动技术与市场供需平衡,将是人工智能产业化的最大机遇。人工智能技术落地行业时,需要克服开发效率低、落地成本高、场景复杂多元等难题。


  沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍,团队开发了为垂直行业赋能的多模态AI操作系统,基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持,可以让企业摆脱繁杂的算法、算力、数据整合工作,快速孵化行业大模型,高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。


  “通用对话技术是人工智能领域最具挑战性的方向之一,也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能,其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间,由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果,获2022年度吴文俊人工智能科技进步奖特等奖。


  公开资料显示,这一研究项目已获授权发明专利82项,发表高水平论文36篇,在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用,已支持5亿智能设备,服务超过10亿用户,覆盖包括通信、金融、汽车、能源等20多个行业。


  争取“主动安全”


  技术是把双刃剑。人工智能大模型能力越大,一旦滥用带来的危害也就越大。当前,ChatGPT等工具被用于生成假新闻、假照片、假视频,甚至实施诈骗等犯罪行为,引发人们对大模型安全性的担忧。


  西北工业大学教授王震是网络空间智能对抗应用研究领域的专家,他认为,要用人工智能驱动网络空间智能对抗。比如,用人工智能检测、识别有害信息,搭建“主动安全”的智能防御网。


  “只有在AI发展过程中,我们才能面对问题、解决问题,并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示,在AI管理中,安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件,分析安全问题,避免发展带来的风险。”


  了解机理是安全管理的基础。不过,大模型的“智能涌现”目前还是个难以解释的黑箱,没有人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI,也为大模型做了大量价值敏感设计和道德嵌入工作,但仍然存在明显的漏洞和局限。


  “虽然大模型的能力在不断变强,但如果不对其进行专门的安全性训练或安全性加固,其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为,人工智能大模型的安全性面临很多挑战。


  “大模型是人工智能发展的转折点,研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示,ChatGPT最初只作为科研项目发布,但通过加入人机交互界面,迅速变成网红产品。其爆红带来的伦理问题始料未及,也给生成式人工智能的管理提出了挑战。“只有真正的开源,才能共同研究,理解大模型存在的问题和产生的根源,更好地进行管理。”


  “商汤一直是开源开放的贡献者和支持者,但在开源上我们要谨慎一些,特别是目前对于大模型而言,安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说,在智能时代把底层模型开源,不见得安全,因为在开放能力的同时,也在开放薄弱点,而薄弱点有可能被不法分子利用。


  亟需深度治理


  专家们对未来的人工智能长远治理做出种种设想。


  “不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为,针对现阶段人工智能治理的局限性,可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点;二是从流程方面,不仅要考虑通用模型,还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑;三是探索伦理方法,充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。


  中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示,需要警惕机器对人类思维的驯化。比如,有的人不擅社交,可能用人工智能生成对话的方式帮他社交聊天,这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通,不仅要了解人类怎么去修机器,也要研究机器如何影响人类。


  中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉,“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减,它不是真正对道德的理解,除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉,做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎,希望让它像儿童一样去学习,获得自我感知。”曾毅说。


  “从要求人工智能大模型合乎伦理,到真正构建有道德的人工智能。”曾毅表示,未来通用人工智能和超级智能的伦理安全问题,要从现在就开始关注和准备。(记者 佘惠敏)


猜你喜欢

第五届中国工业互联网大赛无锡赛站决赛举办

第五届中国工业互联网大赛无锡赛站决赛举办

以“数字赋能 智创未来”为主题,由工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会等单位主办的第五届中国工业互联···
2023-12-08
点击 859
消息称《光环》和《战争机器》今年都要登陆PS5平台

消息称《光环》和《战争机器》今年都要登陆PS5平台

今日早些时候,业内知情人士NateDrake报道称,Xbox主机独占游戏《光环:士官长合集》将于2025年登陆PS5平台。似乎另一···
2025-01-13
点击 48
索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

近日SIE联席首席执行官赫尔曼·胡尔斯特(Herman Hulst)接受日媒Fami通采访,他谈到《星鸣特攻》的失败,以及Play···
2024-12-30
点击 81
浜口直树:《最终幻想7》重制版第三部开发非常顺利

浜口直树:《最终幻想7》重制版第三部开发非常顺利

据《最终幻想7》重制三部曲的监督浜口直树透露,该三部曲第三部的开发“进展顺利”。《FAMI通》推出了其年度年终专题,在这个专题中,···
2024-12-30
点击 74
网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息距离游戏大奖颁奖典礼还有不到一周的时间,这也意味着未来几天我们将看到一些游戏的新细节···
2024-12-09
点击 93
复旦教授称中国退休年龄还是太早,建议推行延迟退休制度

复旦教授称中国退休年龄还是太早,建议推行延迟退休制···

在当今这个快速发展的时代,退休年龄问题成了一个热门话题。复旦大学的一位教授彭希哲,这位在学术界有着丰富成就的资深教授,近日就提出了···
2024-01-10
点击 329
相关推荐

大众新桑塔纳改装前雾灯,新桑塔纳前雾灯怎么改装

大众新桑塔纳改装前雾灯,新桑塔纳前雾灯怎么改装
大众新桑塔纳前雾灯改装,需要准备一个一字螺丝刀,不需要什么拆保险杠。方法如下:1.首先将车轮往右打死,露出工作区域(因为换的是左前雾灯,所以往右打死,如果是右前雾灯,则是反方向),然后卸下盖板上的螺丝,卸2个。如图:2. 用手撬开盖板,露出一个缝隙,只要手能伸进去就行 。如图:3. 从图里面看,雾灯就在那里了...

西米有哪些功效 西米有哪些注意事项

西米有哪些功效 西米有哪些注意事项
许多经常喝奶茶的人会听说过西米露,也有不少人喝过,西米是一种从树木中提取的加工制成的西米淀粉,颜色白净,营养非常丰富,对人体有许多的好处,西米可以做成甜品,和其他食材-起搭配,那么西米有哪些功效? 西米有哪些注意事项呢?健脾补虚西米性温,味甘,含有大量的淀粉成分,具有一定的温补作用,能健脾,补肺,化痰,...

个人意外险100万保费多少

个人意外险100万保费多少
个人意外险100万保费多少?如果是综合意外保险,通常在200-300;而如果是长期意外商业保险,有返还性质的保险在3000-5000;消费型意外险的保费在1000-2000之间;不同类型的商业意外保险,不同保险公司,同等保额的保费是有差别的。市场上保额100万相同的意外险,通常分为两类:第一类:返还型意外险,保额100万由于是返还型...

西藏特色之甜茶

西藏特色之甜茶
西藏特色之甜茶甜茶甜茶,迄今为止已有上百年的历史,已成为拉萨餐饮文化中一道亮丽的特色饮品。拉萨甜茶是用红茶熬汁、牛奶或奶粉及白糖等调制而成,其味道香甜可口,营养丰富,深受人们的喜爱。西藏甜茶馆主要集中在拉萨和日喀则两大城市其中以拉萨为最多,如果你在八廓街或者布达拉宫附近的甜茶馆转一转,就会发现...

辽宁摩里红原始森林

辽宁摩里红原始森林
辽宁>铁岭»摩里红原始森林摩里红原始森林摩里红原始森林位于开原、清原界,在黄旗寨乡吴家岭东南,海拔774.5米。小莫里红原始森林自然资源丰富,森林覆盖率高,属原始次生林。此山山势雄伟,风光秀丽,一年四季,景致迷人,是人们向往的“回归自然”的好去处。摩里红原始森林为...

青海在哪 青海在哪里属于哪个省份

青海在哪 青海在哪里属于哪个省份
提到青海,那些不知道青海的人会问,“青海在哪?”,“青海有海吗?”,甚至有的人会认为,青海就是青海湖。还有些人认为,青海贫穷而衰败,人烟稀少,甚至这样说,如果江西是中部地区存在感最低的省份,那么,青海就是西部地区存在感最低的省份。那么青海在哪呢?青海在哪青海在哪1、青海,位于中国的西部,处在世界屋脊—...

国产羽绒服 登高路上用啥“御寒”

国产羽绒服 登高路上用啥“御寒”
近日,“国产羽绒服涨价”“国产羽绒服卖到7000元”等话题接连冲上热搜,并引发网民对于国产羽绒服价格的争论。涨了价的国产羽绒服到底贵在哪里?国产羽绒服要迈向高端化,需要注意什么问题?为此,记者进行了深入探访。原材料上涨推高成衣价格“感觉现在的羽绒服越来越贵了,商场里带点设计的品牌价格都要千元以上,有的款...

重庆 美食之太安鱼

重庆 美食之太安鱼
太安鱼太安鱼俗称“坨坨鱼”,出自重庆市潼南区太安镇,是重庆江湖菜中的一道名菜。 [1] 太安镇是川渝交通要道,产嘉陵江鲢鱼。在太安停车的司机们发现了这里的鱼味道鲜美自然,并且做法特别,然后流传到各地。上世纪80年代末90年代初,太安鱼成为重庆一大名菜。和大家常吃的“水煮鱼”比起来,“太安鱼”并不算辣,但味道更...

怎么看汽车电瓶是否亏电

怎么看汽车电瓶是否亏电
怎么看汽车电瓶是否亏电一,可通过预留电眼观察电瓶内电解液颜色,一般绿色表示电量充足,黄色代表略微亏电,黑色就代表需要更换电池了。二,通过电瓶测量仪来检测一下,一般的汽油车正常电压都在12v左右,如果测量结果在9v以下就需要更换电瓶。电瓶使用寿命和我们的日常养护息息相关,切记熄火前换掉灯光,收音机,以及空调...

南京条约内容介绍 南京条约的签订意味着什么

南京条约内容介绍 南京条约的签订意味着什么
南京条约内容介绍 南京条约的签订意味着什么南京条约内容:1、割让香港岛给英国。2、向英国赔偿鸦片烟价、商欠、军费共二千一百万银元。3、开放广州、福州、厦门、宁波、上海五处为通商口岸,允许英国人居住并设派领事。4、协定关税,英商应纳进出口货税、饷费,中国海关无权自主。5、废除公行制度,准许英商在华自由贸易等...
返回顶部