General Compute

GPU 是为训练而不是推理而构建的。 General Compute 是在 ASIC 上运行的推理云，ASIC 是专为推理而设计的 Nvidia 芯片的专用替代品。我们为编码和语音代理等延迟敏感型工作负载提供了 5 倍更快的响应速度和更高的每用户吞吐量。我们的 OpenAI 兼容 API 意味着您可以交换基本 URL、保留现有工作流程，并在专为工作构建的基础设施上运行实时 AI。