LiteLLM

产品简介

LiteLLM是一款用于模型服务与开发资源的工具，核心用途是用统一接口调用多个模型、配置模型网关和管理请求路由与用量。它适合需要选择或接入AI模型的开发者，可以围绕当前最需要解决的一项任务开始使用。

例如，根据输入类型、输出需求和部署条件选择模型服务。如果主要需要“用统一接口调用多个模型”，可先用少量真实材料检查结果，再根据需要继续使用“配置模型网关”或“管理请求路由与用量”等能力。

需要按官方安装文档配置运行环境；部分产品也提供托管服务，具体选择查看官网。官方资料提供免费软件或免费层级，并列有付费方案；免费与付费部分可能分别对应自托管、托管、功能或服务权益，具体条件以当前套餐为准。本次核验主要依据英文或其他语言官方资料，尚未确认软件是否具有中文界面。