NVIDIA和日本电信公司软银合作创建了一个基于NVIDIA的GH5 Grace Hopper Superchip的生成人工智能和6G/200G应用平台。
软银计划在日本建立数据中心，与英伟达一起，可以在共享服务器平台上容纳生成式人工智能和无线应用程序。这种多租户解决方案有望降低成本并提高能源效率。
拟议的平台将利用NVIDIA的全新MGX模块化参考架构和GH200超级芯片，从而提高应用程序工作负载的性能。Grace Hopper架构采用72个Arm Neoverse V2处理器内核和LPDDR5X，包括用于加速计算的中央处理器和图形处理单元的组合。
NVIDIA将在今年晚些时候推出MGX，软银是第一个测试该架构的客户。
电信现代化需要加速计算
在过去的六十年中，大多数计算架构主要以CPU为中心。这些传统设计用途广泛，可以很好地适应各种工作负载，但现在正被加速计算所取代。
加速计算使用全栈，这意味着它同时具有 CPU 和加速器协同工作以划分处理任务。此方法经过优化，可处理不同的工作负载。这两个元素之间的网络对于保持最佳性能至关重要。
该联合平台还将利用NVIDIA的BlueField-3数据处理单元来加速5G虚拟化无线接入网络和生成AI应用程序。预计它将在5 Gbps的下行链路容量范围内实现36G速度。
与单一用途的5G虚拟RAN相比，这种方法的投资回报率约为四倍，因为数据中心也可以用于AI，NVIDIA电信高级副总裁Ronnie Vasishta在与分析师的简报中解释说。
开放式 RAN 可实现更高的敏捷性
直到最近，电信的主要模型还是专有的RAN，它是作为单个单片堆栈开发的。这种方法提供高性能，但维护成本很高。许多公司已过渡到开放式虚拟化 RAN，将其计算工作负载转移到服务器架构。
但是，虚拟化RAN一直难以与专有RAN的性能相匹配。为了克服这个问题，引入了专用加速器。然而，这些单一用途的加速器只能用于RAN工作负载，导致性能不佳和云经济性不佳。
“纯粹用于5G的单一用途网络必须针对高峰需求而构建。随着新的人工智能应用的出现，高峰需求将会增长。电力需求将会增长。计算需求也将增长，“Vasishta说。“我们看到正在建设的网络利用率严重不足，5G的投资回报率相对较低。
NVIDIA 开发了一种 GPU 加速的软件定义架构，其中一个加速器可以同时运行 AI 任务和 RAN。这允许RAN和AI在数据中心内共存，数据中心可以是公共的、分布式的或本地的。这种方法本质上允许5G作为AI云上的软件覆盖运行，硬件保持不变。事实上，随着6G算法的发展，它们可以被整合到现有的硬件中，而不需要部署新的硬件。
生成式AI是“iPhone时刻”
Vasishta称这是“AI的iPhone时刻”人工智能对数据中心的改变游戏规则的影响，类似于iPhone如何彻底改变智能手机。
这一刻的特点是科技行业两个变革因素的融合：计算架构的变化和生成式人工智能的出现。Vasishta说，生成式AI需要横向扩展架构，这推动了对网络化“AI工厂”或数据中心的巨大需求。聊天机器人和视频会议等应用程序，通过生成式人工智能成为可能，正在对电信网络产生巨大的需求。
NVIDIA正在通过使5G基础设施不仅虚拟化，而且完全软件定义来解决这个问题。因此，可以在同一数据中心内运行高性能、高效的 5G 网络以及 AI 应用程序。这为软银等电信公司开辟了新的货币化机会，使他们能够成为区域云服务提供商。通过建立AI工厂，他们还可以提供RAN服务，从而更有效地使用他们购买的频谱。
软银正在探索5G在各个领域的应用，包括自动驾驶、增强现实和虚拟现实、计算机视觉和数字孪生。与 NVIDIA 的合作是数据中心发展的重要一步，其中对加速计算和生成式 AI 的需求推动了根本性的变化。
