百度:AI基础技术平台驱动软件新生态
创始人
2025-10-16 07:16:04
0

第27届软博会召开。软博会组委会供图

10月15日,由中国电子信息行业联合会主办的第27届中国国际软件博览会在郑州举办。百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜分享了大模型时代AI基础平台驱动软件生态带来的新变化。她表示,大模型的爆发将人工智能推向一个新的高潮。

在开幕式暨主题峰会环节,吴甜表示,大模型具有效果好、泛化性强、研发流程标准化等特点,正引领人工智能的发展。在这一阶段,AI研发范式带来了开发、计算、部署的新挑战,尤其是大模型的高效训练和推理部署,需要软硬件协同发力。

她进一步讲到,大模型高效训练的关键要素包括训练吞吐、训练有效时间和收敛效率,这背后涉及框架、芯片、集群、算法等软硬件不同组合的协同优化。对大模型的推理部署来说,效果无损、低时延高吞吐、成本效益等要素极为关键,需要模型压缩与量化、并行推理、软硬件协同优化等技术的支持。

要解决大模型研发所带来的一系列挑战,深度学习平台关键需要具备大规模并行计算、高性能推理部署、全流程工程化三方面能力。以百度飞桨为例,作为百度自研的产业级深度学习开源开放平台,飞桨从核心框架、基础模型库,到端到端开发套件、工具与组件,以及星河社区等,全方位支持了文心大模型的演进过程。飞桨在核心框架和芯片之间构建了硬件适配层,打造多硬件统一适配方案,已适配60多款系列芯片,相比PyTorch,芯片基础适配的接口数减少56%,代码量减少80%。

在深度学习平台与大模型联合优化下,文心大模型的能力得到了拓展、效率得到了提升,ERNIE-4.5-300B-A47B模型上实现预训练MFU达47%,ERNIE-4.5-300B-A47B模型在TPOT 50ms时延条件下,实现了输入57K tokens/秒、输出29K tokens/秒的高吞吐性能。文心思考模型X1.1相比上个版本,事实性提升34.8%,指令遵循提升12.5%,智能体提升9.6%。

大模型与深度学习平台为科技创新和产业升级构筑了坚实的AI基础技术底座平台,但最终在各行各业广泛应用起来,应用生态建设至关重要。

百度进行了模型及相应配套工具的开源。文心大模型4.5系列已开源11款模型,涵盖47B、3B激活参数的混合专家(MoE)模型,与0.3B参数的稠密型模型,配套开源了文心大模型开发套件ERNIEKit、大模型高效部署套件FastDeploy,方便开发者在此基础上实现高效的模型开发和部署,进而在更广泛的行业加速AI的落地应用。

星河社区为开发者提供全方位服务,已上线700万个实践项目,600多门公开课以及400多场AI竞赛。开发者也在应用中反过来推动AI基础技术平台的完善。目前,飞桨框架贡献者俱乐部成员达到195位,飞桨开发者技术专家411位,全球各地开发者自主建立运营的飞桨领航团超过400个。

在文心大模型和飞桨深度学习平台的基础上,百度在上海、广州、武汉、南京、宁波、厦门、南昌、无锡等多地落地产业赋能中心、数据生态中心和教育创新中心,加快区域产业智能化升级。例如,在制造行业,中车集团依托百度飞桨产业级深度学习平台以及飞桨科学计算PaddleCFD套件,创新性地构建了空气动力学智能化仿真大模型,整体仿真效率提升30倍以上。在能源行业,国家电网联合百度打造的人工智能基础设施,让安全巡检效率提升了36倍。在通信行业,中国联通推出的智能中心AI平台,助力1.3万座基站安全作业。

公开资料显示,截至2025年9月,飞桨文心生态开发者已达到2333万,服务企业达到76万家。(文轩)

相关内容

热门资讯

“世界超市”启动万名商户AI技... 伴随着小商品城(600415)旗下义乌全球数贸中心的正式开业,一场更大规模的AI赋能行动,正在义乌市...
电子信息制造业全面拥抱AI 经济日报记者 赖奇春 电子信息制造业是国民经济的战略性、基础性、先导性产业,是稳定工业经济增长、维护...
DBA的AI自由 最近和客户的交流中遇到几件比较意外的事情,这也让我在未来AI大规模进入企业应用后DBA受到的冲击多了...
OPPO智慧服务吹起AI之风,... 移动应用服务的爆炸式增长,我们的生活需求几乎都能通过手机一键触达。但繁荣背后,暗藏着一场开发者的能见...
Meta 深化与 Arm 合作... IT之家 10 月 16 日消息,Meta 与 Arm 当地时间 15 日宣布将深化双方在软硬件领域...
AI演员“出道”搅动好莱坞_发... 【环球时报特约记者 董铭】近日,一则“人工智能(AI)演员即将出道”的新闻搅动了整个好莱坞。这名现实...
AI与机器人盘前速递丨领益智造... 【市场复盘】 本周三(10月15日),科创人工智能ETF(589010)报1.441元,上涨0.63...
AI手机发展进入新阶段,首款自... 封面新闻记者 孟梅 易弋力 10月15日,荣耀发布了年度旗舰新品——荣耀Magic8系列,并发布了自...
Meta与Arm合作扩大AI规... 10月16日消息,据外电报道,半导体设计公司 Arm 正与 Meta 合作,在前所未有的基础设施建设...
苹果AI部门再失大将,Siri... 钛媒体App 10月16日消息,据知情人士透露,苹果公司负责开发人工智能网页搜索的高管Ke Yang...