文心大模型,又有新进展了! 4月16日,Create 2024百度AI开发者大会成功举办,又公布了一波智能体、代码、多模型等方面的新进展。 去年3月16日,文心一言发布,此后不断迭代。 基于更大的算力、更多的数据和更强的算法,依托飞桨平台,文心已经从3.0、3.5,进化到了4.0版本。 AI智能体,像人一样思考 毫无疑问,智能体是业内一致被看好的方向。 对此,百度CTO王海峰也表示,智能体会带来更多的应用爆发。 而如今的百度智能体,已经学会像人一样思考了! 在基础模型上,它进一步进行了思考增强训练,包括思考过程的有监督精调、行为决策的偏好学习、结果反思的增强学习,进而得到思考模型。于是,它学会了像人一样阅读说明书、学习工具试用,甚至还能调用工具完成任务。 为了详细说明这个过程,我们可以参考一下《思考,快与慢》这本书中的理论。 人的认知系统,可以划分为2个部分:系统1反应很快,但容易出错。系统2反应慢,但更理性,更准确。 在强大的基础大模型之上,百度的研发团队进一步研制了系统2,包括理解、规划、反思和进化。 这样,智能体的思考过程在一定程度上就白盒化了,于是机器可以像人一样思考和行动,自主完成复杂任务,持续学习,实现自主进化。 让我们来具体感受一下,百度智能体的思考过程。 在文心大模型4.0工具版上,我们可以这样提问—— 「我要到大湾区出差一周。想了解一下天气变化,好决定带什么衣服。请帮我查一下未来一周北京和深圳的温度,告诉我出差应该带什么衣服,并整理成表格。」 接下来,它就会展示真正的技术了。 首先,它会调用一个「高级联网」工具,来查询当地的天气信息。 然后,它会调用「代码解释器」,来画出一幅温度趋势图。 根据未来一周的天气,它选择了合适的衣物。 最后,它还对结果进行了思考和确认,自动汇总成了一个表格。 整个过程中,它展现出了娴熟的思考和规划能力,有条不紊地把用户需求拆解成多个子任务,一整套过程行云流水。 不仅如此,从万亿级的训练数据中,文心大模型学到的,除了自然语言能力外,还有代码能力。 代码智能体 顾名思义,这个智能体,能够帮我们写代码。 程序员和普通人的之间的壁垒,从此彻底打破,以前程序员才能做的事,现在人人都能做。 代码智能体,是由思考模型和代码解释器两个部分组成。 首先,思考模型会先理解我们的需求,经过一番思考后,把完成任务的指令和相关信息整合成提示,输入给代码解释器。 根据这个提示,代码解释器就把自然语言的用户需求翻译成了代码,随后执行,这样就得到了执行结果,或调试信息。 最后,思考模型还会对代码解释器的结果进行反思确认。 结果正确,就会把结果返回给用户;不正确,就会继续进行自主迭代更新。 在这次大会现场,王海峰更是当场让代码智能体秀了一番技能。 现场的任务是,让它为本次大会嘉宾定制邀请函。 只见一波操作之后,嘉宾的姓名都被填到了邀请函里正确的位置上。 而新生成的邀请函文件,也都是以嘉宾的名字命名的,并打包好一起输出。 动嘴开发,智能代码助手已来 而这位传说中的智能代码助手Comate,听名字就知道它更专业一些。 没错,它的角色是——程序员的AI同侪,也就是说,可以帮专业的程序员更高效地写出更好的代码。 过去,开发者用代码改变了世界。而现在,自然语言已经成为新的开发语言。也就是说,开发者们未来只需动动嘴,就能完成应用开发。 、 在模型效果不断提升的基础上,百度进一步构建了上下文增强、私域知识增强、流程无缝集成等能力。 因此,目前百度智能代码助手Comate整体采纳率达到了46%,新增代码中生成的比例已经达到了27%。 代码理解、生成、优化等各种能力,都被Comate无缝集成到研发的各个环节。 比如,仅需告诉Comate「帮我梳理当前项目的架构」,几秒的时间,它就以清晰的条理给出了解答。 它就像助理一样,能帮助程序员提升代码的开发质量和效率。 下面这个示例,就展示Comate是如何帮工程师接手代码的。 可以看到,只通过一条简单的指令,它就快速了解了整个代码的架构,甚至细到每一个模块的具体实现逻辑。 举个例子,当你问到更加细致,具体的内容时——「该项目核心RAG逻辑是如何实现的」,可以迅速得到解答。 更惊喜的是,还有直接跳转查阅的索引链接。 而且,它还可以根据当前的项目代码以及第三方代码,自动生成满足要求的新代码。 如下所示,给出一个外部的参考代码,以及千帆大模型的API,以生成调用Ernie Bot 4.0的代码。 Comate分分钟给出了一个基础代码示例。 大小模型一同训 此外,王海峰在现场还分享了「多模型」技术。 如今,我们为什么需要多模型? 在推进大模型应用落地的过程中,开发者、企业不仅需要关注成本,还需要顾及效果和效率。 因此,在实际应用中,就需要从落地场景出发,去选择最适合自己的模型。 一方面,高效低成本的模型生产亟待解决。 对此,百度研制了大小模型协同的训练机制,可以有效进行知识继承,高效生产高质量小模型。 小模型不仅推理成本低,响应速度快。而且在一些特定场景中,经过微调后的小模型,效果可以媲美大模型。 它也可以利用小模型实现对比增强,帮助大模型完成训练。 与此同时,百度还建设了种子模型矩阵,数据提质与增强机制,以及一系列配套工具链,从预训练、精调对齐、模型压缩到推理部署。 这样一来,高效低成本的模型生产机制,可以加速应用,降低部署成本,取得更优的效果。 我们最常见的MoE便是「多模型」技术的典型代表。 可以看到,不论是GPT-4(据猜测),还是开源Grok、Mistral都采用了MoE架构。 它们都在基准测试中,取得了优异的表现。 百度认为,未来大型的AI原生应用基本都是MoE架构。通过大小模型的混用,而非单一模型去解决问题。 因此,针对场景匹配,什么时候调用大模型,什么时候调用小模型,都需要技术考量。 另一方面,是多模型推理。 百度研制了基于反馈学习的端到端多模型推理技术,构建了智能路由模型,进行端到端反馈学习,充分发挥不同模型处理不同任务的能力,达到效果、效率和成本的最佳平衡。 正如Robin会上所言,通过强大的文心4.0裁剪出更小尺寸的模型,要比直接拿开源模型,微调出来的效果要好得多。 这段时间,一张开源模型与闭源模型之间的差距不断拉近的图,在全网疯转。 许多人乐观地认为,开源模型很快突破极限,取得逼近GPT-4,甚至替代闭源模型的能力。 实则不然,开源模型并非拿来即用,而需要更多定制化的微调。 这也是百度发布了ERNIE Speed、Lite、Tiny三个轻量模型的原因。 通过文心大模型4.0,压缩蒸馏出一个基础模型,然后再用专门数据训练。这要比基于开源模型,甚至重训一个模型效果好得多。 文心4.0性能提升52.5% 除了上述这些之外,文心4.0的创新还包括基于模型反馈闭环的数据体系、基于自反馈增强的大模型对齐技术,以及多模态技术等等。 发布后的半年时间,文心4.0的性能又提升了52.5%。 、 文心大模型之所以能如此快速持续地进化,离不开百度在芯片、框架、模型和应用上的全栈布局,尤其是飞桨深度学习平台和文心的联合优化。文心大模型的周均训练有效率达到98.8%。 相比而言,一年前文心一言发布时,训练效率直接提升到了当时的5.1倍,推理则达到了105倍。 截至目前,飞桨文心生态已经凝聚了1295万开发者,服务了24.4万家企事业单位。基于飞桨和文心,已经有89.5万个模型被创建出来。 如今,文心一言累计的用户规模已达2亿,日均调用量也达到了2亿。 这2亿用户的工作、生活和学习,已经被文心一言改变。 500万AI人才培养计划,提前收官 最后值得一提的是,百度的500万AI人才培养计划,提前收官! 在2020年,百度曾提出5年内要为全社会培养500万AI人才,如今目标已经提前完成。 而王海峰表示,在未来,百度还会继续投身人才培养,让人才的点点星光,汇成璀璨星河。 智能时代,人人都是开发者,人人都是创造者。 参考资料: https://create.baidu.com/?lng=zh 文章来源:新智元
|
原创栏目
IT百科
网友评论
聚超值•精选