近期,遇贤微电子正式加入的openFuyao 多样化算力集群软件开源生态,成为社区核心成员单位。遇贤将围绕CPU 架构级调度深度适配、多样化算力统一池化、云原生 AI 推理加速三大方向在社区开展深度技术探索,支撑数据中心与 AI 场景下的算力高效释放。
openFuyao开源社区聚焦“AI原生”,打造多样化算力互联的集群管理与调度能力,提供算力亲和组件及面向生产的社区发行版,实现集群算力的弹性调度和高效释放。已构建了AI分布式作业调度、K8s-native AI推理加速、超大规模集群管理、超节点接入与使能等能力,相关技术成果已在互联网、金融、运营商等十余个关键行业规模化应用。
遇贤微电子此次加入 openFuyao 生态,将深度适配 openFuyao 的多样化资源池化框架与高性能调度引擎,打通“CPU— 系统软件 — 集群调度 —AI 应用” 全栈优化链路,重点解决多样化算力协同效率低、资源利用率不足、大模型推理时延高、大规模集群运维复杂等产业共性痛点。
遇贤微电子将在社区开展重点技术探索:
1、CPU 架构级调度深度适配
针对 NUMA 拓扑、缓存层级、多样化管理特性,与openFuyao 容器编排SIG 组开展优化调度器内核,实现CPU 拓扑感知的任务亲和调度、跨NUMA 节点访问延迟降低,大幅提升集群整体吞吐与稳定性。
2、多样化算力统一池化
基于openFuyao的多样化算力接入与使能组件,探索算力资源的统一纳管、动态调度等技术能力,提升资源利用率,降低大模型训练/推理成本。
3、云原生 AI 推理加速
基于openFuyao K8s-native AI推理调度框架,针对大语言模型(LLM)与CV模型的推理特征,优化动态批处理、显存共享、分布式KVCache、智能路由能力,降低CPU集群推理延迟、提升吞吐量 ,支撑万卡级AI集群高效稳定运行。
openFuyao多样化算力集群软件开源社区的技术愿景与开放协作理念与遇贤微电子“全栈协同、生态共建”的战略高度契合。加入 openFuyao 生态,我们将深度参与社区技术共建,推动国产算力从“可用”到“好用”跨越,为中国算力基础设施建设贡献核心力量。