






















适合个人的 AI 聚合网关,开发该项目重点是将多个渠道“模型聚合”、“故障转移”与“熔断”,一个入口模型可以指定多个模型,支持配置熔断范围(模型/apiKey 级别),熔断冷却后自动可用,一个渠道可以支持多个 apiKey 。
熔断类型:
效果:

需要的话可以部署看看
部署:
git clone [email protected]:My-Search/my-ai-gateway.git
cd my-ai-gateway
cp .env.compose.example .env.compose
bash update.sh
# 卸载:docker-compose down && cd ../ && rm -rf ./my-ai-gateway
访问面板: http://<你的 ip>:3990
使用: http://<你的 ip>:3990/v1
开源地址: https://github.com/My-Search/my-ai-gateway
项目用 AI 开发的,可能有一点问题,可以提交 PR 完善。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。