惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园 - 三生石上(FineUI控件)
博客园 - Franky
GbyAI
GbyAI
B
Blog
WordPress大学
WordPress大学
D
Docker
小众软件
小众软件
月光博客
月光博客
博客园 - 【当耐特】
T
The Blog of Author Tim Ferriss
IT之家
IT之家
腾讯CDC
Engineering at Meta
Engineering at Meta
Vercel News
Vercel News
H
Help Net Security
M
MIT News - Artificial intelligence
L
LangChain Blog
云风的 BLOG
云风的 BLOG
S
SegmentFault 最新的问题
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
美团技术团队
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
V
V2EX
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻

博客园 - bregman

codexapp不能显示数学公式问题 统计用户使用目录 intel mac 安装 最新版torch node安装 使用Codex问题 测评数据集和大模型报告 容器中pytorch的cpu速度很慢,原因找到了 KL 散度 podman 替代docker 【代码片段】key-value格式解析 安装 flash-attention windows通过ssh去连接Linux服务器 大模型课件 CSE 234: Data Systems for Machine Learning 大模型训练ultrascale-playbook bash脚本片段 mac 下镜像使用 使用大模型 调用本地大模型 语言模型资料 使用Python内置的 pdb 模块 debug 快手MARM 文章理解 【脚本片段】cat中防止变量替换
litellm 使用介绍
bregman · 2026-01-28 · via 博客园 - bregman

作用: 为claude code 做代理,支持其他模型

  • litellm_config.yaml
model_list:
  - model_name: kimik2.5
    litellm_params:
      model: anthropic/aisearch_s3_dsv3_1basexxx
      api_key: os.environ/OPENROUTER_API_KEY
      api_base: https://aichat.xxx.com/api/anthropic
      custom_llm_provider: "anthropic"
      extra_headers:
        x-api-key: os.environ/OPENROUTER_API_KEY

  - model_name: m123b
    litellm_params:
      model: openai/aisearch_devstral_123bxxx
      api_key: os.environ/OPENROUTER_API_KEY
      api_base: https://antchat.xxx.com/v1
      custom_llm_provider: "openai"
      extra_headers:
        x-api-key: os.environ/OPENROUTER_API_KEY

litellm_settings:
  modify_params: true
  drop_params: true
  • 开启代理
OPENROUTER_API_KEY=<账号> litellm --config litellm_config.yaml --port 8000  2>&1 | tee debug.log
  • 使用claude
ANTHROPIC_BASE_URL=http://0.0.0.0:8000 ANTHROPIC_MODEL=kimik2.5 ANTHROPIC_DEFAULT_HAIKU_MODEL=kimik2.5 claude