Bifrost - Bifrost 是最快的 LLM 网关，在 5,000 RPS 下的开销仅为 11μs，比 LiteLLM 快 50 倍

宝藏资源
收藏
回帖
新手上路 11小时前
主楼
[资源名称]
Bifrost - Bifrost 是最快的 LLM 网关，在 5,000 RPS 下的开销仅为 11μs，比 LiteLLM 快 50 倍
[资源来源]
github.com
[资源介绍]
- Bifrost - Bifrost 是最快的 LLM 网关，在 5,000 RPS 下的开销仅为 11μs，比 LiteLLM 快 50 倍。
[资源合集]
LangChain 生态资源清单：框架、工具、智能体、项目与学习资料
回复 点赞 举报
😀 😊 😵‍💫 😡 🤝 🙏 👍 👎 ❤️