Groq

Groq 是面向快速推理的新一代云平台，将基础设施、推理与控制整合于一体，供开发者构建和运行 AI 应用。公司开创了 LPU，并推出 LPX，与 NVIDIA 下一代 GPU 协同工作，以可靠、可负担的方式提供大规模推理能力，使速度与成本不再互为取舍。据其介绍，数百万开发者每周在 Groq 上运行数万亿 token；公司已完成 3.5 亿美元 A 轮融资，用于建设领先的 AI 推理云，并正在建设数百兆瓦算力容量。平台适合需要高吞吐、低延迟推理的开发者与企业，尤其是大规模部署 AI 智能体与在线服务的场景。