【英伟达联合Equinix与Together AI发布企业级AI推理新方案】徽声在线9月3日消息，全球数据中心互联服务领军企业Equinix今日正式宣布，将携手芯片巨头英伟达及开源AI推理平台Together AI，共同推出革命性的分布式AI推理服务——"Equinix Inference Exchange"。据官方披露，该服务已进入最终测试阶段，预计将于2027年第一季度正式面向全球企业客户开放。

这项创新服务主要针对三大核心场景：首先通过边缘计算架构将AI推理能力部署在靠近用户和数据的节点，显著降低网络延迟，提升实时交互体验；其次为金融机构、制造业等成本敏感型行业提供从闭源模型向开源模型迁移的技术路径，帮助企业将模型部署成本降低40%以上；最后针对医疗、政务等受严格监管领域，通过区域化机房部署确保数据完全符合属地化存储要求，目前已在欧盟GDPR框架下完成合规验证。

技术架构方面，该方案整合了英伟达最新H200 Tensor Core GPU的加速能力、Equinix全球超过300个数据中心的网络资源，以及Together AI优化的开源模型库。三方联合研发的动态负载均衡算法，可使推理任务在多节点间自动分配，较传统方案提升30%的资源利用率。据内部测试数据显示，在金融风控场景中，该服务可将千亿参数模型的推理延迟控制在5毫秒以内。