高性能生成式 AI 推理平台。
Fireworks AI 是一家高性能生成式 AI 推理平台,以低延迟、高吞吐的函数调用式 API 服务开源与自研模型。
它在模型推理优化(量化、批处理)上投入,面向需要规模化、低成本调用 LLM/多模态模型的开发者。
以『快且省』定位,是开源模型推理服务中的性能派代表。
登录 后参与讨论
暂无讨论，来发表第一条评论吧
