【天天速看料】对话浪潮信息:AI大模型“源”炼造客服大脑
图片来源@视觉中国2018年至今,NLP领域经历了非常大的变化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT3 5
图片来源@视觉中国
2018年至今,NLP领域经历了非常大的变化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT 3.5的微调)的突破,NLP在预训练大模型的暴力拆解路上越走越远,这也让各行业开始相信:很多之前无法做到的场景、效果,现在可以有新的解法和落地。
(相关资料图)
智能客服,是NLP和深度学习技术落地的重要领域之一。客服可以基于提前设定好的规则,对用户意图进行判断并生成对应的固定话术。文本机器人、外呼机器人,可以替代掉原有重复性比较强的人工动作,逐渐转变为相对日常的落地场景。比如你日常所接听到的快递客服电话,订单咨询的对话框等等,背后都有来自客服机器人的驱动。
但在对客服要求比较高的企业级场景中,对多轮对话理解用户意图和知识专业度要求较高,现有的客服机器人仍有很高提升的空间。
一是系统整体搭建的维护成本比较高,效率比较低,因为大多数的企业级智能客服的知识库不是流程化的,而是技术知识库,需要人工/半自动的方式进行搭建。二是业务场景复杂,专门知识门槛会更高,往往会涉及不同客户的应用场景,与业务流程相关的复杂场景。三是持续突破比较难,边际效益递减明显,一般在良好技术知识库的支撑下,企业级智能客服的起步较快,但受制于方法论的影响,前期需要投入的大量人力、算力和数据,而到一定阶段则会陷入提升的瓶颈。这样的问题也曾经困扰浪潮信息的客服系统研发人员。
近日,钛媒体App对话浪潮信息服务总监陈彬、浪潮信息AI软件研发总监吴韶华,围绕智能客服市场当前解决的难题,以AI大模型的实际落地应用为视角,进行深入交流。
具体来讲,浪潮信息以AI大模型“源”为智能引擎,和InService智能服务平台,搭建出了“智能客服大脑”。
据介绍,“智能客服大脑”学习了2万余份产品文档和用户手册的数据,并结合百万条浪潮信息专家工程师服务对话、数十万份日志、工单数据等算法训练,具备语言理解、数据分析、自主学习和智能推理等能力,支持自然语言交互服务、已授权IT设备的智能运维与诊断、以及备品备件等资源的智能管理和调度。
AI大模型在应用过程中必然会面临各个行业的应用落地。在此之前,浪潮AI大模型“源”已经在人机交互、知识检索、语言翻译、文学创作等领域有所应用。
以大模型作为基础能力,通过大模型的蒸馏实现相关的小模型,不仅实现的速度更快,智能化水平更高,从技术角度来讲,大模型在落地过程中呈现出了与以往模型非常不同的技术特征,也带来了更好的智能化水平。不论对大模型进行微调,还是引入领域知识库的方式,均是业界在探索的路径。
在浪潮信息AI软件研发总监吴韶华看来,“大模型想要在某个方向上训练得更好,智能化水平更高,确实需要在具体落地场景引入额外的领域知识,才能解决实际问题。AI大模型有其自身特点,训练时使用的数据集主要来自互联网,在通用知识和领域知识的分布上存在不均,会影响其在具体行业的应用。”
举个例子,在浪潮信息服务所面临的主要客户问题,包括咨询和故障报修两大类:前者如各类的产品服务政策、设备使用、以及复杂的技术咨询,如技术咨询方面其实比较常见的是如何做系统安装、Raid配置等,因为这个过程比较复杂,常出现各种问题;产品咨询包括购买产品的内存配置、保修时长等等;故障报修相对会比较有针对性、更多元,例如无法开机、硬盘故障、内存故障等等。
在浪潮信息的咨询客户中,有80%的用户为非专业工程师,智能客服需要在准确理解用户、精准定义问题的基础上,通过多轮回答解决技术问题,给予客户满意的答案。对于客户而言,如若智能客服所给予的答案过于标准和冗余,却无法快速帮客户解决具体问题,客服所给予的答案只可被定义为对的答案而不是好的答案。
实际上,浪潮信息从4、5年前就开始进行客服的数字化转型和探索,并且在2019年开始着手应用业内在探索的FAQ、任务式对话、知识图谱等NLP领域相关技术,对客服系统进行了一定程度的改造和提升。
但当时遇到的瓶颈也十分明显,主要在于两方面:“一是企业产品信息更新快,造成模型训练任务非常大,加之模型知识库的封闭,在训练效果上也受到制约;二是机器人需要对上下文结合语境进行语义理解,引导客户提问并且精准识别问题,在专业知识领域的IT行业,难度非常高。”浪潮信息服务与实施部总监陈彬指出。
除了在大模型的落地中引入领域知识外,浪潮智能客服在研发过程中还重点考虑了其他几点因素:
第一,客服系统是不是真正地理解客户,是否能够通过多次对话了解到客户真实的服务意图。企业级场景中,客户有个报修问题,但无法用专业的技术语言对服务场景进行准确描述时,就非常考验客服系统的理解能力。
第二,是否需要投入额外和高昂的人力成本让客服机器人具备自主学习、迭代的能力。让专业工程师做重复的模型训练工作,既不符合企业成本要求,也不符合企业建设专家型团队的长期规划。
第三,B端客户对企业的服务体验、服务口碑要求高,训练出的客服系统是否能够让更多的客户接受、信任并满意地使用。相较于传统的智能客服采用多模型、多数据库的架构,浪潮信息智能客服系统最终实现统一架构支持多任务解决问题。而此前完成一套客服动作,往往涉及FAQ、任务式知识图谱、知识检索等模块,需要在多个知识库、模型之间进行任务调度,架构复杂且维护难度比较大。
此外,由于在模型训练上实现了自进化、快进化学习,而不是原有需要人工或半人工搭建和训练模型的过程,在人工标注和训练成本上得到了极大降低。
从浪潮信息数据中心服务的成效来看,在应用智能客服系统后,客户问答的匹配率(即覆盖率)达到92%,对常见的复杂问题的解决率目前能达到80%以上,平均解决率是65%左右。此外,服务整体人员规模占浪潮信息总人员规模的4%,而业内一般都占比15%到20%左右,在整体人均效能上得到了一定提升。
“服务作为一个公司的重要窗口业务部门,也是和客户交互最紧密的平台。所以我们首先考虑的是怎么把实际业务和AI算法结合在一起。本身IT的服务场景非常复杂,且面对是更多大量的B类客户,我们当初也在讨论,是否真的需要花这么大的精力,把传统的服务场景,做AI的相关技术和算法的落地,在项目初期也是比较有争议的。”陈彬表示。
但从目前取得的成效来看,当初的投入是值得的。
结合钛媒体的观察,客服机器人的背后仍是复杂的AI技术栈作为支撑。涉及语音识别、语义理解和生成、人机交互等等,存在系统搭建成本较高。如AI的边际成本,模型训练中对人工标注数据的成本,加之企业多数存在二次开发的定制化要求,导致部署交付成本也难以避免。
企业对技术的投入和成熟与否直接决定了体验的高低,而如今浪潮AI大模型“源”在智能客服场景的实际落地应用,为业界提供了一种另一种可参考的解决方案。
(本文首发钛媒体APP 作者 | 杨丽)
图片来源@视觉中国2018年至今,NLP领域经历了非常大的变化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT3 5
中国发展网讯国家发改委29日召开专题新闻发布会,介绍《“十四五”现代物流发展规划》相关情况。会上,国家发改委经济贸易司副司长张江波表示
这家券商资管业务或面临不利冲击。
证券代码:837856证券简称:德鲁泰主办券商:中航证券山东德鲁泰信息科技股份有限公司委托理财的公告本公司及董事会全体成员保证公
作为资本市场的“香饽饽”,发行热度背后,公募REITs也正在向持有人展现出持续优秀的盈利能力。华夏基金近日公告,华夏越秀高速REIT(180202)将
北京时间12月29日NBA常规赛篮网客场挑战老鹰。
不锈钢日评-期货上涨遇阻现货销售转凉(2022年12月28日)
同花顺(300033)金融研究中心12月29日讯,有投资者向四方光电提问,管理层好,公司子公司锐意自控官网中激光氨逃逸气体分析仪器是采用可调谐
投资活动现金流量解析(中)
哪里下载门市租赁合同范本第一篇出租人(以下简称甲方)________________身份证号码__________________________承租人(以下简称乙方)___________
智通财经APP获悉,12月28日,国家新闻出版署公布2022年12月份国产网络游戏审批信息,共计84款游戏获批。在此次获批版号的游戏中,重点游戏包括
12月27日有网友晒出在伦敦偶遇刘强东章泽天一家三口一起出行的画面,据网友在文中透露,最先迎面与奶茶妹妹对视,一看觉得好漂亮,再一看怎么
12月26日,中央广播电视总台《2023年春节联欢晚会》组织第一次彩排。晚会以“欣欣向荣的新时代中国,日新月异的更美好生活”为主题,通过各种
格隆汇12月27日丨盛航股份公布,根据公司全资子公司盛航海运(香港)有限公司(ShenghangShipping(HK)Co ,Limited)(“盛航香港”)与金海海运签署
12月27日,月亮岛街道社区卫生服务中心发布了各中心工作安排,以下是核酸采样安排,供大家进行参考。➤月亮岛街道基成社区卫生服务中心1 自费
优利德(688628)12月27日在投资者关系平台上答复了投资者关心的问题。
同花顺数据中心显示,海信视像12月26日获融资买入471 00万元,占当日买入金额的13 93%,当前融资余额4 10亿元,占流通市值的2 34%,低于历史10
汉王科技股份有限公司 独立董事关于第六届董事会第十八次(临时)会议 相关事项的独立意见 根据《深圳证券交易
新华社北京12月26日电(记者樊曦、史卫燕)记者从中国国家铁路集团有限公司了解到,26日,渝厦高铁常德至益阳段开通运营,常德至长沙实现高铁
同花顺(300033)金融研究中心12月26日讯,有投资者向全柴动力(600218)提问,公司有没有送股分红计划?公司回答表示,您好!根据《全柴动力
据悉,事发时,一艘土耳其货轮与一艘名为“马苏德1号”的毛塔轮船相撞,导致“马苏德1号”船身被彻底摧毁
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
中国互联网投资(00810)发布公告,公司股份的价格及成交量近期出现波动。董事会确认其并不知悉任何有关股份价格及成交量近期出现波动的原因或任
1983年出生的人属猪,天生有着非常温柔善良的特点,和他们在一起,总能给人感觉满满的正能量。这样的他们深受大家的喜欢,事实上,1983年出生
Copyright 2015-2022 东方酒业网 版权所有 备案号:沪ICP备2020036824号-8 联系邮箱:562 66 29@qq.com