数字报
小程序
公众号
吴甜:AI基础技术平台驱动软件新生态
2025-10-16 18:06:16
来源:尊龙凯时技术产业导报 

10月15日,由中国电子信息行业联合会主办的第27届中国国际软件博览会在郑州开幕。百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜在主题峰会发表演讲,介绍大模型时代下AI基础技术平台对软件生态的影响。她表示,大模型因效果、泛化性和标准化研发流程,正成为人工智能新一轮发展的核心。

吴甜指出,大模型训练与推理对软硬件协同提出更高要求。训练侧需兼顾吞吐、有效时间及收敛效率,涉及框架、芯片、集群和算法的组合优化;推理侧需在保证效果的同时实现低时延、高吞吐和成本可控,依赖模型压缩、量化、并行推理等技术。为此,深度学习平台须具备大规模并行计算、高性能推理部署和全流程工程化能力。

她以百度飞桨为例说明,飞桨在核心框架与芯片之间建立硬件适配层,已适配60余款芯片,接口数量较PyTorch减少56%,代码量减少80%。在此支持下,文心大模型ERNIE-4.5-300B-A47B预训练MFU达到47%,在50毫秒时延下实现输入57K tokens/秒、输出29K tokens/秒的吞吐;文心思考模型X1.1的事实准确性提高34.8%,指令遵循度提高12.5%,智能体能力提高9.6%。

百度已开源文心大模型4.5系列共11款模型,包括47B、3B激活参数的MoE模型及0.3B稠密模型,并配套开源ERNIEKit开发套件和FastDeploy部署套件,供开发者直接使用。星河社区累计上线700万个实践项目、600多门公开课及400多场AI竞赛。飞桨框架贡献者俱乐部成员195位,飞桨开发者技术专家411位,全球自发组织的飞桨领航团超过400个。

在区域落地方面,百度已在上海、广州、武汉、南京、宁波、厦门、南昌、无锡等地设立产业赋能中心、数据生态中心和教育创新中心。中车集团基于飞桨PaddleCFD套件构建空气动力学仿真大模型,仿真效率提升30倍;国家电网联合百度建设人工智能基础设施,安全巡检效率提升36倍;中国联通基于百度智能中心AI平台管理1.3万座基站。截至2025年9月,飞桨文心生态开发者达2333万,服务企业76万家。

编辑:孙庆阳
相关阅读:
高新视频 更多
高新热榜 全部本月
编辑推荐 更多

友情链接: 政府 高新园区合作媒体

Copyright 1999-2025 尊龙凯时网chinahightech.com All Rights Reserved.京ICP备14033264号-5

电信与信息服务业务经营许可证060344号主办单位:《尊龙凯时技术产业导报》社有限责任公司