leyu.乐鱼-华为等成立“先进存力AI推理工作组”

据华为公家号近日动静，日前于2025中国算力年夜会上，中国信息通讯研究院结合华为数据存储、科年夜讯飞、海潮、曙光、沐曦、清微智能、中国挪动、中国电信、中国联通等企业，配合建立“进步前辈存力AI推理事情组”，标记着我国AI推理范畴进入“存算协同、生态共建”的新阶段。

华为先容道，事情组凝结财产界多方气力，成员笼罩芯片、模子、存储与行业运用等厂商和用户，聚焦AI推理范畴的理论研究、实践摸索与生态设置装备摆设，鞭策AI推理运用、AI推理框架、进步前辈存力与智能算力的协同成长，促成AI普惠运用。

于工信部引导下，事情组将缭绕四年夜焦点使命睁开事情：一是开展AI推理优化理论研究，夯实技能基础；二是推进立异技能推广，加快进步前辈方案落地；三是主导或者介入相干尺度制订，规范财产成长；四是深化用户实践与试点设置装备摆设，同时强化财产生态构建，鞭策配套政策结构落地，为AI推理财产提供“从技能到运用”的全链条支撑。

作为事情组焦点成员之一，华为近期发布的UCM推理影象缓存治理器，成为解决推理成本与体验难题的要害方案。该方案以KV Cache（键值缓存）为焦点，是一款交融多类型缓存加快算法东西的推理加快套件，可经由过程分级治理推理历程中的KV Cache“影象数据”，有用扩展推理上下文窗口，终极实现“高吞吐、低时延”的推理体验，显著降低单Token的推理成本。