SambaNova

SambaNova 提供面向 AI 推理的软硬件一体化平台，主打推理速度与能效。产品包括云端服务 SambaCloud 和计算平台 SambaStack，硬件方面有 SambaRack 机架系统与自研 RDU 芯片，采用数据流架构和三层内存设计，在降低功耗的同时提升大模型推理速度；其中 SN40-16 面向低功耗、多模型并行运行，SN50 针对智能体推理优化。SambaOrchestrator 支持自动扩缩容、负载均衡、监控与模型管理，其 API 兼容 OpenAI，便于现有应用迁移。方案覆盖 Neoclouds、主权 AI、开发者与企业以及政府与公共部门，可部署在既有数据中心基础设施中。