LocalAI

LocalAI 是一款开源的本地推理网关,提供与 OpenAI 兼容的 API,使现有应用无需改代码即可调用本地模型。

能力

• 兼容 OpenAI API
• 支持 gguf、llama.cpp、扩散与语音
• 无需 GPU 也可 CPU 运行
• 保护数据不出域

定位

构建『自有 OpenAI』的常用后端,兼顾兼容性与数据隐私。