近日,异构智能计算平台服务商伯伦智汇宣布完成千万级天使轮融资,投后估值约1.5亿元。资金将用于核心调度技术迭代与团队扩充,标志着跨芯片算力整合赛道迎来新布局。
伯伦智汇核心团队多源自英特尔亚太研究院、IBM、华为云及燧原科技等机构。CEO刘金志曾参与国内首批英伟达SuperPod训练集群的搭建,CTO杨光则具备深厚的云原生分布式系统架构经验。随着各地智算中心建设提速,机柜上架率与实际算力产出之间存在显著落差。单一芯片规格并不等同于可用算力,从硬件部署到稳定输出令牌(Token)需跨越多道技术门槛。面对高端算力出口管制与国内图形处理器(GPU)生态快速崛起的现状,不同厂商芯片因指令集与驱动差异难以直接协同,成为制约算力池化效率的核心瓶颈。
TOLD架构实现万卡级异构资源统一调度
针对上述痛点,伯伦智汇自研了面向大规模分布式计算的令牌导向型大规模分布式架构(TOLD)。该平台基于深度改造的云原生底层,支持英伟达及国内主流厂商超过五种异构GPU的兼容接入。通过分布式调度算法,系统可将分散在不同地域的十万余张加速卡整合为统一算力池,实现跨架构芯片的并行推理与模型最优效率运行。该平台底层依赖RDMA高速网络进行低延迟通信,并内置显存虚拟化技术以突破单卡物理限制。目前,系统已完成千卡至万卡规模的真实业务验证,并在多个数据中心投入商用租赁服务,实测推理吞吐量较传统单机部署提升显著。
在全球AI令牌日调用量突破百万亿次、智能体复杂任务推高单次推理耗能的背景下,AI推理芯片市场规模已逼近500亿美元。刘金志指出,大模型训练算力仍存缺口,但中长期增量将集中于推理侧。TOLD架构采用分级令牌输出机制,可根据任务复杂度动态匹配硬件层级:文件整理或轻量代码生成等场景自动调度至性价比更高的国产GPU,而高负载多模态生成则优先分配至高性能算力节点。这种B2B2C多租户模式有效缓解了热门模型并发访问时的排队拥堵问题。
集成商选型与运维合规关注点
对于从事智算中心建设、算力租赁或AI应用落地的企业而言,此类异构调度平台的成熟度直接影响项目交付周期与长期运维成本。在采购与部署环节,建议重点评估调度软件对现有服务器硬件的兼容性边界,以及跨厂商固件版本更新后的稳定性表现。由于异构环境涉及不同微架构的指令集转换,系统集成时需预留充足的编译缓存空间,并严格遵循IEEE 754浮点运算标准以确保模型精度一致。数据中心的散热设计、网络带宽拓扑需提前与调度策略对齐,避免因通信延迟导致算力折损。平台提供的分级计费与资源隔离能力,有助于企业满足内部IT审计与跨境数据合规要求。
在实际落地过程中,工程团队可参考以下核对项以优化部署方案:
- 核查调度平台支持的GPU型号清单及最低显存与互联带宽要求,确保现有机柜电源与PDU容量匹配万卡级高密度部署。
- 确认云原生调度层与现有容器编排系统的API对接方式,评估二次开发适配工作量及数据迁移路径。
- 测试异构节点在长周期高负载下的故障切换时间,制定包含国产芯片在内的冗余容灾预案与热备策略。
当前国内智算市场正经历从硬件堆砌向软件定义的转型期。多地政府引导基金已明确将算力调度中间件纳入新型基础设施建设目录,鼓励采用兼容开放的调度协议。这一导向促使上游服务器厂商加速开放底层管理接口,下游应用企业则更倾向于采购具备跨平台迁移能力的算力服务,以降低单一供应商绑定风险。随着配套硬件产品的陆续推出,具备异构资源整合能力的中间件将成为智算产业链的关键枢纽。
