(资料图片)

Inflection AI 是一家新初创公司，由 Deep Mind 前任负责人创立，并得到了微软和英伟达的支持，上周该公司以现金和云信贷的方式从行业重量级人物手中筹集了 13 亿美元。该公司似乎将利用这笔资金构建一个由多达 22,000 个 Nvidia H100 计算 GPU 提供支持的超级计算机集群，该集群的峰值理论计算能力性能可与Frontier 超级计算机相媲美。据路透社

报道，DeepMind 创始人兼 Inflection AI 联合创始人 Mustafa Suleyman 表示：“我们将建立一个由约 22,000 个 H100 组成的集群。 ” “这大约是用于训练所有 GPT-4 的计算量的三倍。速度和规模才是真正使我们能够构建差异化产品的因素。

由 22,000 个 Nvidia H100 计算 GPU 提供支持的集群理论上能够实现 1.474 exaflops 的 FP 性能——这是使用 Tensor 核心的结果。对于在 CUDA 内核上运行的通用 FP 代码，峰值吞吐量仅为一半：0.737 FP exaflops。与此同时，世界上最快的超级计算机 Frontier的峰值计算性能为 1.813 FP exaflops(矩阵运算的两倍，达到 3.626 exaflops)。这使得计划中的新计算机目前排名第二，但在El Capitan和Aurora全面上线后可能会跌至第四。

虽然 FP 性能对于许多科学工作负载很重要，但该系统对于面向 AI 的任务可能会更快。FP16/BF16 峰值吞吐量为 43.5 exaflops，而 FP8 吞吐量则翻倍至 87.1 exaflops。Frontier 超级计算机由 37,888 AMD Instinct MI250X 提供支持，其 BF16/FP16 峰值吞吐量为 14.5 exaflops。

该集群的成本尚不清楚，但请记住，Nvidia 的 H100 计算 GPU 零售价每台超过 30,000 美元，我们预计该集群的 GPU 成本将达到数亿美元。加上所有机架服务器和其他硬件，这将占 13 亿美元资金的大部分。

Inflection AI 成立大约一年后，目前估值约为 40 亿美元。它目前唯一的产品是一个名为 Pi 的新一代人工智能聊天机器人，Pi 是个人智能的缩写。Pi 旨在作为人工智能驱动的个人助理，采用类似于 ChatGPT 的生成式人工智能技术，支持规划、调度和信息收集。这使得 Pi 能够通过对话与用户进行交流，使人们可以提出疑问并提供反馈。除此之外，Inflection AI 还概述了 Pi 的具体用户体验目标，例如提供情感支持。

目前，Inflection AI 在 Microsoft Azure 云中运行基于 3,584 个 Nvidia H100 计算 GPU 的集群。拟议的超级计算集群的性能大约是当前基于云的解决方案的六倍。

标签：