新闻中心

昆仑芯CEO欧阳剑:东数西算“芯”基建,加速大模型产业落地

芯见闻 发布于 2023-08-28 18:30

近日,“未来网络助力东数西算论坛”(以下简称“论坛”)在南京成功举办。作为第七届未来网络发展大会的主题活动之一,本次论坛邀请了政府领导、专家学者及行业精英,围绕“东数西算”工程的政策规划、工程实施、示范应用、产业链生态建设等方面展开深入探讨,以期形成未来网络支撑“东数西算”工程的共识,助力构建国家算力网络体系的新模式。

 

2022年,“东数西算”工程正式启动,并首次将算力资源提升到水、电、燃气等基础资源的高度。相关数据显示,到2023年底,全国数据中心总算力将超过200EFLOPS,高性能算力占比将达到 10%。我国算力基础设施迎来了大规模需求的繁荣期,而算力基础设施的核心正是AI芯片。

 

“将东部算力需求有序引导到西部,促进东西部协同联动为大势所趋。在此背景下,昆仑芯率先推出软硬一体的端到端解决方案,满足客户在不同场景的真实算力需求。”昆仑芯CEO欧阳剑受邀出席论坛,并带来题为《东数西算“芯”基建,加速大模型产业落地》的精彩分享。

 

昆仑芯CEO 欧阳剑

 

在论坛分享中欧阳剑表示:“昆仑芯深耕 AI加速领域十余年,拥有深刻的场景理解、深厚的技术积累、完备的软件生态等独特优势。目前,昆仑芯系列产品已在语义搜索、文心一格、能源行业大模型以及智源研究院等实际场景中得到规模应用。此外,昆仑芯全面拥抱开源社区,打造大模型开源推理套件,助力优化国内AI生态布局。面向未来,昆仑芯将继续携手生态伙伴,用算力筑牢东数西算‘芯’基建。”

 

“跨广域工业视觉大模型算网融合技术”重大成果正式对外发布

 

在本次大会上,昆仑芯助力百度智能云基于未来网络试验设施(CENI)打造“跨广域工业视觉大模型算网融合技术”。该技术作为重大成果在第七届未来网络发展大会上正式对外发布。

 

该技术成果依托于昆仑芯算力集群、百度文心视觉大模型、未来网络试验设施(CENI),将算力、网络、大模型和应用场景融合,实现行业大模型跨广域精调、推理服务,改变过去只能在工厂端就近部署算力和模型的方式,解决了工业场景产业链环节多、链条长等问题,降低企业使用行业大模型的门槛。

 

针对钢铁行业工业质检场景,在南京和上海之间,“算网融合技术”完成了跨广域间的“精调和推理”测试。

  • 测试结果显示,在相距超300公里的两地之间,可实现行业大模型的推理、训练图片数据丢包率为0,语料获取效率提升83%,推理效率提升42%,云端算力相比本地化算力部署,模型精调训练后精度提升10%。
  • 通过测试论证,算网融合技术能够同时满足企业对工业视觉大模型推理端到端业务和精调训练的性能需求,可以支撑后续视觉大模型在工业领域的场景落地和商业化。同时,基于昆仑芯的算力集群,大模型训练速度相比本地化算力部署显著提升。

 

过去六届未来网络发展大会发布了网络通信领域十余项全球领先的创新成果,其中相当一部分成果已被广泛应用于产业实践和国家关键领域的建设中。

 

未来,昆仑芯将继续发挥强大算力底座的关键支撑性作用,携手千行百业众多合作伙伴,加速算力网络创新成果转化和产业应用,稳步推进“东数西算”工程落地,助力我国数字化、网络化、智能化高质量发展。

 

 

第七届未来网络发展大会

第七届未来网络发展大会大会以“网络全球·决胜未来”为主题,旨在促进未来网络资源集聚、产业汇聚。围绕世界最新锐的网络技术趋势与课题方向,针对国家未来网络发展战略等重要议题,两院院士、国际院士等顶尖专家、龙头企业代表以及知名高校学者共百余位业界精英参会。