惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

MyScale Blog
MyScale Blog
Apple Machine Learning Research
Apple Machine Learning Research
H
Help Net Security
雷峰网
雷峰网
V
Visual Studio Blog
G
Google Developers Blog
Microsoft Azure Blog
Microsoft Azure Blog
Hugging Face - Blog
Hugging Face - Blog
爱范儿
爱范儿
IT之家
IT之家
Engineering at Meta
Engineering at Meta
Microsoft Security Blog
Microsoft Security Blog
aimingoo的专栏
aimingoo的专栏
大猫的无限游戏
大猫的无限游戏
M
MIT News - Artificial intelligence
月光博客
月光博客
A
About on SuperTechFans
B
Blog RSS Feed
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
The GitHub Blog
The GitHub Blog
N
Netflix TechBlog - Medium
J
Java Code Geeks
云风的 BLOG
云风的 BLOG
Blog — PlanetScale
Blog — PlanetScale

博客园 - bregman

codexapp不能显示数学公式问题 统计用户使用目录 intel mac 安装 最新版torch node安装 使用Codex问题 测评数据集和大模型报告 容器中pytorch的cpu速度很慢,原因找到了 KL 散度 podman 替代docker 【代码片段】key-value格式解析 安装 flash-attention windows通过ssh去连接Linux服务器 大模型课件 CSE 234: Data Systems for Machine Learning 大模型训练ultrascale-playbook bash脚本片段 mac 下镜像使用 使用大模型 调用本地大模型 语言模型资料 使用Python内置的 pdb 模块 debug 快手MARM 文章理解 【脚本片段】cat中防止变量替换
litellm 使用介绍
bregman · 2026-01-28 · via 博客园 - bregman

作用: 为claude code 做代理,支持其他模型

  • litellm_config.yaml
model_list:
  - model_name: kimik2.5
    litellm_params:
      model: anthropic/aisearch_s3_dsv3_1basexxx
      api_key: os.environ/OPENROUTER_API_KEY
      api_base: https://aichat.xxx.com/api/anthropic
      custom_llm_provider: "anthropic"
      extra_headers:
        x-api-key: os.environ/OPENROUTER_API_KEY

  - model_name: m123b
    litellm_params:
      model: openai/aisearch_devstral_123bxxx
      api_key: os.environ/OPENROUTER_API_KEY
      api_base: https://antchat.xxx.com/v1
      custom_llm_provider: "openai"
      extra_headers:
        x-api-key: os.environ/OPENROUTER_API_KEY

litellm_settings:
  modify_params: true
  drop_params: true
  • 开启代理
OPENROUTER_API_KEY=<账号> litellm --config litellm_config.yaml --port 8000  2>&1 | tee debug.log
  • 使用claude
ANTHROPIC_BASE_URL=http://0.0.0.0:8000 ANTHROPIC_MODEL=kimik2.5 ANTHROPIC_DEFAULT_HAIKU_MODEL=kimik2.5 claude