本文来自“英伟达Blachwell平台网络配置详解”。GTC大会英伟达展示了全新的 Blackwell 平台系列产品，包括 HGX B100 服务器、NVLINK Switch、GB200Superchip Computer Node、Quantum X800 交换机和 CX8 网卡（InfiniB

AI大模型的快速发展推动“算力”和“存力”需求快速增长，“内存墙”问题由来已久，在 AI 时代表现的愈发明显，“算力”和“运力”之间的差距越来越大。Transformer 类的模型参数的数量呈现指数增长，每两年增加 410 倍，而 GPU 内存仅以每两年 2 倍的速度扩展。1、AI时代“内存墙”问题

本文来自“光纤详解：光纤跳线如何分类，多向单模转换？”，光纤跳线作为光网络布线最基础的元件之一，被广泛应用于光纤链路的搭建中。如今，光纤制造商根据应用场景的不同推出众多类型的光纤跳线，如MPO/LC/SC/FC/ST光纤跳线，单工/双工光纤跳线，单模/多模光纤跳线等，它们之间各有特色，且不可替代。本

在日新月异的网络技术领域中，远程直接内存访问（RDMA）技术已成为优化数据传输流程、提升整体网络效能的关键驱动力。其中，以太网融合RDMA技术——RoCE（RDMA over Converged Ethernet），其第二代版本RoCE v2凭借显著的性能提升与更强的灵活性脱颖而出。本文来自“深度解

本文转自“英伟达：下一代GPU细节曝光”。Nvidia 正在准备该公司的 GeForce RTX 50 系列 (Blackwell) 产品，以与最好的显卡相竞争。著名硬件泄密者 @kopite7kimi 声称，根据他的信息，Blackwell系列的内存接口配置不会与Ada Lovelace系列有太大

随着AI技术和相关应用的不断发展，大模型、大数据和AI计算能力在AI发展中的重要性日益凸显。大模型和数据集构成AI研究的软件基础，而AI算力是关键的基础设施。在本文中，我们将探讨AI发展对数据中心网络架构的影响。下载链接：AI数据中心网络架构需求：400/800G光模块Fat-Tree数据中心网络架

本文来自“国产算力训练大模型的经验与教训”。本文介绍大模型的计算特征（国产平台介绍、系统挑战、算子实现、容错）、框架的并行性支持、未来算法等。随着ChatGPT的横空出世，人工智能大模型成为各行各业热议的焦点，国内外各种大模型如雨后春笋般涌现，引发了新一轮人工智能热潮。但在看到大模型取得巨大进步的同

本文来源于“沙利文：2023年中国服务器操作系统行业市场研究报告”。得益于新基建快速推进、政策引导下信创产业的蓬勃发展，国产服务器操作系统正逐步崛起。中国基础软件根技术自主掌控能力重视程度不断提高，越来越多的中国企业已经意识到其重要性，正在以更加积极拥抱的态度面对服务器操作系统领域的国产化替代趋势。

InfiniBand（IB）是由InfiniBand贸易协会（IBTA）建立的先进计算机网络通信标准。它在高性能计算（HPC）中的广泛采用归功于它能够为网络传输提供卓越的吞吐量、带宽和低延迟。InfiniBand是计算系统内部和外部的关键数据连接。无论是通过直接链路还是通过网络交换机进行互连，Inf

微服务（或称微服务架构）是一种云原生架构方法，在单个应用中包含众多松散耦合且可单独部署的小型组件或服务。这些服务通常拥有自己的技术栈，包括数据库和数据管理模型；通过一个REST API、事件流和消息代理组合彼此通信；以及按照业务能力进行组织，具有通常称为有界上下文的服务分隔线。本文来自“微服务技术：

根据TrendForce的数据，AI服务器的出货量约为130,000台，占全球服务器总出货量的约1%。随着微软、Meta、百度和字节跳动等主要制造商相继推出基于生成式AI的产品和服务，订单量显著增加。预测显示，在ChatGPT等应用的持续需求推动下，从2023年到2027年，AI服务器市场预计将保持

NVIDIA NVLink已成为高性能计算（HPC）和人工智能领域的关键技术。本文深入探讨了NVLink的复杂性，并介绍NVSwitch芯片、NVLink服务器和NVLink交换机，以揭示其在不断演进的先进计算领域中的重要性。关于CPU、服务器和存储详细技术，请参考“服务器基础知识全解(终极版)”，

01、术语与基础大模型训练一般都是用单机 8 卡 GPU 主机组成集群，机型包括 8*{A100,A800,H100,H800} 。下面一台典型 8*A100 GPU 的主机内硬件拓扑：| 典型 8 卡 A100 主机硬件拓扑本文来自“高性能GPU服务器硬件拓扑与集群组网”。本节将基于这张

本文来自“人工智能点燃算力需求，AI服务器迎来机遇”，Open AI的大型语言生成模型ChatGPT火热，它能胜任刷高情商对话、生成代码、构思剧本和小说等多个场景，将人机对话推向新的高度。全球各大科技企业都在积极拥抱AIGC，不断推出相关技术、平台和应用。1、AIGC火热，产业生态形成生成算法、预训

在数字化浪潮席卷全球的今天，数据成为了企业和个人最宝贵的资产之一。随之而来的，是对数据安全的关注也达到了前所未有的高度。《干货分享：数据安全100问》从基础概念到深入实践，从技术细节到管理策略，涵盖了数...

ChatGPT的爆火引发了Al行业的广泛讨论，作为人工智能行业的变革性应用，ChatGPT可以聊天，写代码，写诗歌和文章，使得沉寂许久的生成式Al重新回归焦点。AIGC是Al Generated Content的缩写，指利用人工智能技术生成内...

本文来自“AI服务器：详解接口互联芯片技术”，据 TrendForce 数据，AI 服务器出货约13万台，占全球服务器出货约1%，展望2023年，Microsoft、Meta、Baidu 与 ByteDance 相继推出基于生成式 AI 衍生的产品服务而积极加...

普遍会认为，随着当今对人工智能系统的所有投资，InfiniBand 互连销售的繁荣将蚕食数据中心高端

本文参考自“ODCC-2022企业级SSD技术与应用报告”，内容涵盖了企业级 SSD 存储总体情况，