PRODUCT REFERENCE
LiteLLM
以统一接口调用不同模型服务,并集中处理路由与用量记录。

LiteLLM 功能示意(周刊历史配图) · 图片可能展示来源记录时的界面。
先理解这个产品
给谁用,解决什么问题
- 目标用户
- 构建多模型应用的开发者
- 解决的问题
- 不同模型服务接口和监控方式不一致。
从具体的取舍中找灵感
值得参考的地方
- 用兼容接口隔离不同模型供应商的接入差异。
- 把路由、成本与请求日志集中到网关层。
资料来源
资料核对用于确认内容与出处,不代表独立验证历史财务结果或产品当前全部功能。
