Meta开源Llama 2,大模型“安卓时刻”要来了?
这两天,大模型混战再起波澜。Meta公布最新大模型Llama2,包含70亿、13
(资料图)
这两天,大模型混战再起波澜。Meta公布最新大模型Llama 2,包含70 亿、130 亿和 700 亿三种参数类型,可免费用于商业或者研究。同时,Meta 宣布与微软云服务Azure 合作开发基于Llama 2 模型的云服务,将进一步加速生成式人工智能技术的普及和大模型相关应用的落地。此外,高通也宣布与Meta合作,优化Llama 2在移动终端的执行。未来,Llama 2有望应用于各种领域,包括智能手机、汽车座舱和物联网终端等。此次开源,被认为是大模型发展的又一个“里程碑”,引发业界高度关注。
据介绍,相比于Llama 1 预训练模型1.4 万亿的训练token 数,Llama 2 预训练模型的训练数据提升了40%至2 万亿,且针对聊天用例进行的Chat 模型精调训练数据超过100 万人类标记数据,使用人类反馈进行强化学习从而提高模型安全性。此外,对于大模型非常重要的上下文长度限制,Llama 2 比Llama1 翻了一倍至4096 字符,能处理更多信息。Llama 2 模型在大多数基准测试中表现优于其他开源模型,包括编码、推理、知识、精通性测试等。不仅如此,Meta对实用性和安全性进行评估,认为Llama 2 有希望成为闭源模型的替代品。
目前,Meta已在GitHub上开源了Llama 2预训练模型的代码和参数,并允许研究人员进行探索。同时,Meta也开放了Llama 2的商业使用许可,为基于Llama 2的大模型产品的涌现打开了大门。业内专家普遍认为,Llama 2 开放开源免费使用,将加速大模型生态构建。
Meta CEO马克·扎克伯格将Llama 2称为大模型的“次世代”产品。他表示:“这是我们开源大语言模型的下一代产品。开源推动了创新,因为它让更多的开发者能够使用新技术。同时,软件开源意味着更多的人可以审查它,识别并修复可能存在的问题,从而提高了安全性。我相信如果生态系统更加开放,将会释放更多的进步,这就是我们开源Llama 2的原因。”
美国斯坦福大学基金会模型研究中心主任Percy Liang 表示,像Llama 2 这样强大的开源模型会对 OpenAI 构成相当大的威胁。尽管Meta 在其研究论文中承认,Llama 2 仍与GPT-4 存在较大的性能差距。“但对于许多应用场景来说,你不需要 GPT-4。”Percy Liang 表示,相较于一个庞大、复杂的专有模型,一个更可定制、更透明的模型——比如Llama 2,可能会帮助公司更快地创造产品和服务。
据了解,目前已有不少企业正在考虑将基础模型替换为Llama2。Meta副总裁、人工智能部门负责人杨立昆公开表示,Llama 2将改变大语言模型市场的格局。“Meta此次推出开源且可商业化的Llama 2大模型,背后的目的其实是为了建立一个类似安卓这样的开放的生态系统。”一位大模型创业公司的专家对记者分析说道:“以开源的方式吸引大批开发者,建立生态系统,不仅能让Llama2实现快速迭代,还能帮助Meta借此机会建立自己的技术壁垒,在目前的模型之争中抢占优势。不过这并不容易,最终生态是否能够成功搭建起来,还是要看市场和用户的选择。”
值得一提的是,一些大模型普遍面临的问题在Llama2上依然存在。比如Meta 没有公布用于训练 Llama 2 的数据集的信息,也不能保证其中不包含受版权保护的作品或个人数据。另外,Llama 2 同样存在产生虚假事实和攻击性语言的倾向等问题。
不过,如果将GPT的诞生比作大模型的“iPhone时刻”,那么这次Meta Llama 2的开源无疑将成为大模型的“安卓时刻”。曾经,开源让安卓阵营得以与iPhone分庭抗礼。今天,开源究竟能否让大模型走向生态开放的新阶段,让我们拭目以待。
关键词:
这两天,大模型混战再起波澜。Meta公布最新大模型Llama2,包含70亿、13
出品|WEMONEY研究室文|刘双霞小微金融是一条「长坡厚雪」的赛道。无论
今日头条极速版赚钱吸引不少用户注册使用,用户只要通过平台的任务来获
《科创板日报》7月12日讯(记者陈美)近日,一则融资消息引发市场注意
交易品类为金融债权,参考价格面议。
火烧博望坡的故事梗概,火烧博望坡的故事这个很多人还不知道,现在让我
Corley法官概述了她拒绝联邦贸易委员会(FTC)初步禁令请求的原因,其
原标题:国安队今晚客场挑战梅州客家北京日报讯(记者王洋)今晚,北京
CNMO从官方了解到,荣耀MagicPad是首款QQ音乐臻品认证空间音频平板。荣
【图说教育】 暑假期间,为减轻家长负担,有效缓解学生暑期“看护难
2023年暑运前夕,中国电信兰州分公司提前部署、反复检测,确保5G网络全
三年亏超百亿,“网红”山航股票退市
有望成为湖北省首家上市银行的湖北银行,其IPO之路上又遭遇股权流拍。7
7月7日,2023全球数字经济大会成果发布会在国家会议中心举行,作为大会
为了进一步加强新闻出版和电影行业阵地管理,推动创新发展和落实安全生
红网时刻新闻7月11日讯(通讯员杨加才)7月10日上午,为进一步规范游泳
来为大家解答以上问题。中兴zxhn-f603是千兆光猫吗,中兴f603是千兆光
舜网国内频道发布国内最新鲜的新闻,国内热点事件和民生事件。
同时,武昌区地区生产总值将突破1800亿元……”首场报告会上,武昌区
中新网南京7月11日电(记者杨颜慈)7月11日,江苏省人民政府新闻办公室举
为进一步加强孙吴县道路交通安全工作,7月10日,政府副县长邹文海带领
潮新闻客户端通讯员杨佳怡“小朋友们排好队,我们要准备开跑啦!”7月7
7月11日午盘收盘,国内期货主力合约多数上涨,纯碱、甲醇涨超4%,焦炭
当地时间7月10日,卡塔尔能源公司宣布,该公司与阿联酋国家石油公司签
2023江西村BA篮球大赛怎么报名?各设区市相关部门按照竞赛规程有关参赛
Copyright 2015-2022 东方酒业网 版权所有 备案号:沪ICP备2020036824号-8 联系邮箱:562 66 29@qq.com