乐火资讯百科网欢迎您!
搜索
当前所在位置: 首页>数码科技

在发展中治理完善人工智能大模型

发布时间:2023-07-24 来源:经济日报 点击:(30101) 【 字体:

  新一轮科技革命和产业变革迅猛发展,数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT,已掀起全球人工智能(AI)产业的大模型热潮。在日前举办的中国人工智能产业年会中,AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。


  赋能千行百业


  ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现,是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物,AI大模型也不止GPT这一条路线,很多科技巨头近几年都在“炼”大模型,且各有积累。这也是ChatGPT走红之后,各巨头短短数月内就纷纷推出竞品的原因。


  “以ChatGPT为代表的多模态通用大模型,将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说,行业人工智能可有效推动技术与市场供需平衡,将是人工智能产业化的最大机遇。人工智能技术落地行业时,需要克服开发效率低、落地成本高、场景复杂多元等难题。


  沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍,团队开发了为垂直行业赋能的多模态AI操作系统,基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持,可以让企业摆脱繁杂的算法、算力、数据整合工作,快速孵化行业大模型,高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。


  “通用对话技术是人工智能领域最具挑战性的方向之一,也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能,其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间,由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果,获2022年度吴文俊人工智能科技进步奖特等奖。


  公开资料显示,这一研究项目已获授权发明专利82项,发表高水平论文36篇,在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用,已支持5亿智能设备,服务超过10亿用户,覆盖包括通信、金融、汽车、能源等20多个行业。


  争取“主动安全”


  技术是把双刃剑。人工智能大模型能力越大,一旦滥用带来的危害也就越大。当前,ChatGPT等工具被用于生成假新闻、假照片、假视频,甚至实施诈骗等犯罪行为,引发人们对大模型安全性的担忧。


  西北工业大学教授王震是网络空间智能对抗应用研究领域的专家,他认为,要用人工智能驱动网络空间智能对抗。比如,用人工智能检测、识别有害信息,搭建“主动安全”的智能防御网。


  “只有在AI发展过程中,我们才能面对问题、解决问题,并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示,在AI管理中,安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件,分析安全问题,避免发展带来的风险。”


  了解机理是安全管理的基础。不过,大模型的“智能涌现”目前还是个难以解释的黑箱,没有人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI,也为大模型做了大量价值敏感设计和道德嵌入工作,但仍然存在明显的漏洞和局限。


  “虽然大模型的能力在不断变强,但如果不对其进行专门的安全性训练或安全性加固,其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为,人工智能大模型的安全性面临很多挑战。


  “大模型是人工智能发展的转折点,研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示,ChatGPT最初只作为科研项目发布,但通过加入人机交互界面,迅速变成网红产品。其爆红带来的伦理问题始料未及,也给生成式人工智能的管理提出了挑战。“只有真正的开源,才能共同研究,理解大模型存在的问题和产生的根源,更好地进行管理。”


  “商汤一直是开源开放的贡献者和支持者,但在开源上我们要谨慎一些,特别是目前对于大模型而言,安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说,在智能时代把底层模型开源,不见得安全,因为在开放能力的同时,也在开放薄弱点,而薄弱点有可能被不法分子利用。


  亟需深度治理


  专家们对未来的人工智能长远治理做出种种设想。


  “不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为,针对现阶段人工智能治理的局限性,可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点;二是从流程方面,不仅要考虑通用模型,还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑;三是探索伦理方法,充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。


  中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示,需要警惕机器对人类思维的驯化。比如,有的人不擅社交,可能用人工智能生成对话的方式帮他社交聊天,这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通,不仅要了解人类怎么去修机器,也要研究机器如何影响人类。


  中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉,“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减,它不是真正对道德的理解,除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉,做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎,希望让它像儿童一样去学习,获得自我感知。”曾毅说。


  “从要求人工智能大模型合乎伦理,到真正构建有道德的人工智能。”曾毅表示,未来通用人工智能和超级智能的伦理安全问题,要从现在就开始关注和准备。(记者 佘惠敏)


猜你喜欢

第五届中国工业互联网大赛无锡赛站决赛举办

第五届中国工业互联网大赛无锡赛站决赛举办

以“数字赋能 智创未来”为主题,由工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会等单位主办的第五届中国工业互联···
2023-12-08
点击 856
消息称《光环》和《战争机器》今年都要登陆PS5平台

消息称《光环》和《战争机器》今年都要登陆PS5平台

今日早些时候,业内知情人士NateDrake报道称,Xbox主机独占游戏《光环:士官长合集》将于2025年登陆PS5平台。似乎另一···
2025-01-13
点击 48
索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

索尼高管谈《星鸣特攻》失败:会继续专注在线服务游戏

近日SIE联席首席执行官赫尔曼·胡尔斯特(Herman Hulst)接受日媒Fami通采访,他谈到《星鸣特攻》的失败,以及Play···
2024-12-30
点击 80
浜口直树:《最终幻想7》重制版第三部开发非常顺利

浜口直树:《最终幻想7》重制版第三部开发非常顺利

据《最终幻想7》重制三部曲的监督浜口直树透露,该三部曲第三部的开发“进展顺利”。《FAMI通》推出了其年度年终专题,在这个专题中,···
2024-12-30
点击 73
网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息

网传:游戏大奖TGA2024将公布“重磅”消息距离游戏大奖颁奖典礼还有不到一周的时间,这也意味着未来几天我们将看到一些游戏的新细节···
2024-12-09
点击 93
复旦教授称中国退休年龄还是太早,建议推行延迟退休制度

复旦教授称中国退休年龄还是太早,建议推行延迟退休制···

在当今这个快速发展的时代,退休年龄问题成了一个热门话题。复旦大学的一位教授彭希哲,这位在学术界有着丰富成就的资深教授,近日就提出了···
2024-01-10
点击 328
相关推荐

小米SU7车主摆摊让别人玩《黑神话:悟空》:首玩免费、5元续命

小米SU7车主摆摊让别人玩《黑神话:悟空》:首玩免费、5元续命
小米SU7车主摆摊让别人玩《黑神话:悟空》:首玩免费、5元续命快科技8月28日消息,小米SU7+《黑神话:悟空》两大流量密码的结合,究竟会擦出怎样的火花?最近,在广东的一处街头上演了一幕引人驻足的景象。一辆小米SU7 Max静静地停在广场上,车主在车尾精心布置了一张折叠桌,上面放着PS5和显示器,而显示器上正播放着近期大...

山西特产之榆次苹果

山西特产之榆次苹果
榆次苹果,山西省晋中市榆次区特产,全国农产品地理标志。苹果树是乔木,高可达15米,多具有圆形树冠和短主干;小枝短而粗,圆柱形,幼嫩时密被绒毛,老枝紫褐色,无毛;冬芽卵形,先端钝,密被短柔毛。叶片椭圆形、卵形至宽椭圆形,长4.5-10厘米,宽3-5.5厘米,先端急尖,基部宽楔形或圆形,边缘具有圆钝锯齿,幼嫩时两面具...

啤酒面膜可以天天用吗

啤酒面膜可以天天用吗
啤酒面膜不建议天天使用。尽管啤酒中含有多种对肌肤有益的成分,如维生素B族、氨基酸和抗氧化物质等,这些成分在一定程度上可以滋养肌肤、改善肤色、收缩毛孔和保湿滋润,但过于频繁地使用可能会对肌肤造成负担。首先,肌肤需要一定的时间来吸收和利用面膜中的营养成分。如果每天使用啤酒面膜,肌肤可能无法完全吸收所有的营...

汤敏刘昱晗上演纯爱之恋,《又见仲夏夜之星》开播

汤敏刘昱晗上演纯爱之恋,《又见仲夏夜之星》开播
由东阳向上影业有限公司出品,北京天浩盛世娱乐文化有限公司、上海英谊影视文化传媒有限公司联合出品,汤敏、刘昱晗领衔主演,葛秋谷、沈瑶、迟宁宁、邱柏皓、郭欣禹、蓝禹等主演的青春浪漫爱情剧《又见仲夏夜之星》今日(5月4日)起在优酷全网独播,首更4集。该剧主要讲述了来自渔村的开朗少女林小夏与“珠宝帝国”家的傲骄公...

韩国的吃饭礼仪

韩国的吃饭礼仪
韩国的吃饭礼仪韩国也是一个极重礼仪的国家,今天我们给大家介绍一下韩国饮食礼仪。韩国人在饮食方面的礼仪也有很多,本文不可能面面俱到,但也讲出了韩国饮食礼仪。1、不能端起饭碗吃饭:韩国人认为端起饭碗吃饭这种行为不规矩。如果去到韩国家庭做客或有韩国客人在场,出于尊重,要记得桌子上的饭碗是不能用手端起来的,而...

《回廊亭》曝主题曲《光》MV 希望每个女孩成为自己的光

《回廊亭》曝主题曲《光》MV 希望每个女孩成为自己的光
由来牧宽执导,任素汐、刘敏涛领衔主演,东野圭吾原著小说改编的悬疑电影《回廊亭》今日曝光主题曲《光》MV,动情的画面搭配歌手小阿七极富感染力的嗓音,鼓励每位曾陷入“回廊亭”的女孩放下执念,勇敢“成为自己的光”。电影将于3月4、5、8日开启超前点映,3月10日全国上映,预售进行中。《回廊亭》今日发布了主题...

把握数字化机遇构筑制造业新优势

把握数字化机遇构筑制造业新优势
  制造业是我国立国之本、强国之基,是实体经济的根基,构筑未来发展战略优势的重要支撑。推动制造业数字化转型,已成为抢抓新一轮科技革命机遇、推动新一轮产业变革的关键环节,对于建设现代化产业体系、巩固壮大经济根基、构建新发展格局等,具有极为重要的战略意义。  各国普遍将产业数字化作为经济发展的重点和提升...

艺术高中是职高吗 哪个好

艺术高中是职高吗 哪个好
艺术高中是职高吗 哪个好艺术高中不是职高。艺术高中是一种特色高中,它以艺术方向为主要教学内容,对文化课成绩的要求相对较低。艺术高中的艺术氛围浓厚,学生可以在这样的环境中互相学习交流专业上的问题,并参加丰富的校园专业活动。艺术高中是职高吗艺术高中不是职高。艺术高中是一种特色高中,它以艺术方向为主要教学内...

陕西特色之西安凉皮

陕西特色之西安凉皮
陕西特色之西安凉皮西安凉皮西安凉皮简介:西安凉皮是陕西著名小吃,在西安无论是高级餐厅还是街头小贩都能看到凉皮的身影!西安街上贩卖的凉皮,米皮白且透亮,蒸笼有多大就能蒸出多大一张,蒸好后一张与一张之间略抹熟菜油,然后一层层摞起来,堆在案头如同招牌一般。吃的时候小贩会直接将米皮切成筷子般粗细,然后...

2023科目一驾考新规,驾照扣分题速记口诀整理

2023科目一驾考新规,驾照扣分题速记口诀整理
“正所谓分分分,司机的命根”,面对驾驶证一个记分周期内只有12分,每记一分都会让司机心疼不已,所以,对于现在正在考科目一的学员来说,打好理论基础,牢记驾考扣分规则就显得尤为重要。根据驾考新规,为大家整理总结了扣分口诀与违法行为,方便大家效率记忆,效率拿下驾照理论考试。记12分口诀酒驾一次记十二,轻...
返回顶部