百度文心大模型升级为文心大模型3.5-全球今热点

(资料图)

7月7日消息，2023世界人工智能大会期间，百度首席技术官王海峰发言指出，百度文心大模型现已升级为文心大模型3.5，已实现基础模型升级、精调技术创新、知识点增强、逻辑推理增强等，模型效果提升50%，训练速度提升2倍，推理速度提升30倍。

据王海峰介绍，在基础模型训练上，文心大模型3.5采用了飞桨自适应混合并行训练技术及混合精度计算策略，并采用多种策略优化数据源及数据分布，加快了模型迭代速度，显著提升了模型效果和安全性，同时还创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术，进一步提升模型效果及场景适配能力。

在知识增强和检索增强基础上，文心大模型3.5提出了“知识点增强技术”，对用户输入的查询、问题等进行分析理解，为大模型注入更具体、详细、专业的知识点，显著提升大模型对世界知识的掌握和运用。此外，文心大模型3.5还新增了插件机制，目前文心一言已对外发布官方插件百度搜索和ChatFile。

标签：