BOB半岛体育日前在 2024 开放计算中国峰会上，浪潮信息服务器产品线总经理赵帅表示，智能时代，开源模型和开放计算激发了人工智能产业生态的创新活力，面对大模型 Scaling Law 带来的 AI 基础设施 Scale up 和 Scale out 的挑战，数据中心需要以开放创新加速算力系统、管理和基础设施的全向 Scale 进程，推动 AI 产业的创新发展。

　　生成式人工智能的飞跃式进步正在加速智能时代的到来，数据中心基础设施面临全方位创新，将越来越依赖更加广泛的全球化开放协作，加速 AI 技术创新与应用，共同构建一个充满创新活力的智能世界，而激发人工智能创新活力，开源开放是核心和源泉。

　　模型开源激发人工智能创新活力。随着开源大模型能力的不断增强和开源生态的持续壮大，带动模型、应用到产业的全面发展，三分之二的基础模型选择开源，超过 80% 以上的 AI 项目使用开源框架进行开发，开源模型的下载量突破 3 亿次，并衍生出超过 3 万个新模型，Llama 3.1、通义千问、源 2.0 等开源大模型成为人工智能创新的驱动力。

　　硬件开放完善人工智能算力生态。人工智能带来指数级增长的算力需求，全球已有上百家公司投入新型 AI 芯片的研发与设计，百花齐放的算力芯片需要统一的算力平台才能快速推向市场，实现落地。开放加速规范 OAM 的出现大大加速多元算力芯片的适配兼容过程，大幅降低资源投入，使算力部署和迭代提速，支撑上层大模型和 AIGC 应用的快速迭代成熟。目前，90% 高端 AI 芯片基于 OAM 规范设计，去年浪潮信息刚刚发布的基于 OAM 规范的开放加速计算平台 NF5698G7 与多款主流 AI 加速芯片适配兼容，基于 OAM 的智算产业生态圈日趋完善BOB半岛体育。

　　我们可以看到，AI 时代，算力正在呈现出多元化的发展趋势。为应对 AIGC、云计算、大数据等应用复杂且不断变化的计算需求，不仅仅是 GPU,CPU、FPGA、ASIC 等芯片也在朝着更加多样化和专用化的方向发展。而且无论是手机、电脑、边缘设备、CPU 通用服务器、加速服务器都具有了 AI 计算的能力，可以说一切计算皆 AI,AI 算力已经深入到千行百业，渗透进每一个计算设备里。面向人工智能的算力范式不断革新，基于 CPU 的通用服务器不仅要承载大数据、关键计算、科学计算外，也要承担 AI 应用的重要任务，这也是 CPU 通用服务器的重大机遇。

　　但随着应用范式的多样化，目前 x86、ARM、RISC-V 等不同架构的 CPU 处理器百花齐放，仅中国，就有 10 多种 CPU 处理器，不同 CPU 协议标准不统一，同时为了更好的适合 AI 推理高并行的计算特点，CPU 总线互联带宽、内存带宽及容量也需要特别优化，使得系统功耗、总线速率、电流密度不断提升…… 多种因素叠加之下，硬件开发、固件适配、部件测试资源等时间激增，给算力系统设计带来巨大挑战。

　　为了缩短从芯片到算力系统的转化时间，给用户提供更快、更好的算力支撑，CPU 端也亟需构建智算时代的 CPU 统一底座，能够兼容不同芯片厂商、多代产品。2024 开放计算中国峰会上，开放算力模组 (OCM) 规范正式启动，首批成员包括中国电子标准院、百度、小红书、浪潮信息、联想、超聚变、英特尔、AMD 等机构和企业。

　　全新的开放算力模组 OCM 规范，旨在建立基于处理器的标准化算力模组单元，通过统一不同处理器算力单元对外高速互连、管理协议、供电接口等，实现服务器主板平台的深度解耦和模块化设计，兼容不同架构的多代处理器芯片，方便客户根据人工智能、云计算、大数据等多样化应用场景，灵活、快速匹配最适合的算力平台，推动算力产业高质量快速发展。

　　OCM 规范是国内首个服务器计算模组设计规范，产业界上下游伙伴将基于 OCM 规范，共同建立标准化的算力模组单元，构建开放合作、融合创新的产业生态，为用户提供更多通用性强、绿色高效、安全可靠的算力选择。

　　算力、算法和数据是推动人工智能发展的三驾马车，自 Transformer 架构出现以来，大模型性能与其参数量、计算当量、数据量的协同作用尤为显著，业界称之为大语言模型的第一性原理 ——Scaling Law。

　　智算时代，需要用开放的理念来加速算力系统全向 Scale, 从而应对大模型的 Scaling Law。随着大模型能力的持续进化，算法规模和复杂性不断增加、数据量越来越大，算力需求也在不断攀升，需要同时应对单系统性能提升 Scale up 与多系统大规模扩展 Scale out 两个方向扩展的挑战，对数据中心基础设施、算力管理、迭代升级等都提出了更高要求。

　　在算力方面BOB半岛体育，智算中心需要同时应对两个方向的扩展，分别是强算力支持、一机多芯、多元多模的单机系统 Scale up 要求和大规模 AI 组网BOB半岛体育、高带宽、资源池化的大规模化扩展 Scale out 要求，以开放加速模组和开放网络实现算力的 Scale。UBB2.0 开放标准支持更高算力规格的加速卡、可以实现更大的 OAM domain 互联，未来可以支持 8000 + 张加速卡 Scale up, 突破大模型 All to All 通信过程中的互联瓶颈。同时，大模型的发展需要更大规模的算力系统，浪潮信息开放网络交换机可实现 16000 + 个计算节点 10 万 + 加速卡的 Scale out 组网，满足加速卡之间的互联通信需求，带宽利用率高达 95%+。

　　在管理方面，需要解决跨平台适配、模块化架构、快速迭代的 Scale 要求，以开放的固件解决方案实现了管理的 Scale。当前，异构算力多元分化，异步迭代，管理接口规范各不相同，导致固件平台分支版本庞大，相互割裂，无法归一，单一企业资源在维护和适配如此众多的分支版本方面捉襟见肘。为解决一系列管理挑战，需要依托于开源社区的开源固件平台，构建原生解耦架构提升可扩展性，建立统一标准的接口规范，支持用户对于自主模块进行定制化，实现标准接口规范下的异步、自主定制迭代，以满足智算时代的算力迭代需求。

　　在基础设施方面，数据中心面临智能算力扩展的两大 Scale 挑战: 一是 GPU、CPU 算力提升，单芯片单卡功耗急剧增加BOB半岛体育，单机柜在供电和制冷上面临着 Scale up 支撑挑战；同时，Scaling Law 驱动 GPU 规模无限膨胀，达到万卡、十万卡级别，带来了数据中心层级 Scale out 的支撑挑战，需要开放标准和开放生态将实现基础实施的 Scale, 满足快速建设、高算力 / 高能耗支撑要求。采用开放标准、开放生态构建的数据中心基础设施，能更好地匹配智算时代多元、异构算力的扩展和迭代速度，进而支撑上层智能应用的进一步普及。以浪潮信息为例，基于开放标准推出的液冷冷板组件，支撑单机系统内 GPU 和 CPU 核心算力原件 Scale up 扩展；推出模块化、标准接口的 120kw 机柜，兼容液冷、风冷场景，支撑柜内更大的部署需求；推出基于开放标准的预制化集装箱数据中心，大幅压缩建设周期，其扩展性很好的满足了 AI 算力系统的 Scale 需要。

　　开放计算为数据中心的全向 Scale, 提供了一个可以迅速传递到整个产业链的“通道”。目前，开放加速模组和开放网络实现了算力的 Scale, 开放固件解决方案实现了管理的 Scale, 开放标准和开放生态实现了基础设施的 Scale。开放计算对于智算时代至关重要，需要用开放应对多元算力，用开放促进算力的 Scale, 基于开放创新构建的全向 Scale 能力将会成为未来 AI 基础设施的核心驱动力，加速智算时代的创新BOB半岛体育，加速人工智能的前行。

　　广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。