惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

T
The Exploit Database - CXSecurity.com
F
Fortinet All Blogs
U
Unit 42
F
Full Disclosure
雷峰网
雷峰网
博客园 - 司徒正美
云风的 BLOG
云风的 BLOG
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
T
Tailwind CSS Blog
The Cloudflare Blog
Last Week in AI
Last Week in AI
罗磊的独立博客
D
DataBreaches.Net
C
Check Point Blog
www.infosecurity-magazine.com
www.infosecurity-magazine.com
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
O
OpenAI News
C
CXSECURITY Database RSS Feed - CXSecurity.com
aimingoo的专栏
aimingoo的专栏
S
Security @ Cisco Blogs
大猫的无限游戏
大猫的无限游戏
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
S
SegmentFault 最新的问题
NISL@THU
NISL@THU
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
The Hacker News
The Hacker News
Webroot Blog
Webroot Blog
Security Latest
Security Latest
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Google DeepMind News
Google DeepMind News
酷 壳 – CoolShell
酷 壳 – CoolShell
N
News | PayPal Newsroom
P
Proofpoint News Feed
B
Blog RSS Feed
MongoDB | Blog
MongoDB | Blog
C
Cybersecurity and Infrastructure Security Agency CISA
N
News and Events Feed by Topic
Google Online Security Blog
Google Online Security Blog
H
Help Net Security
Spread Privacy
Spread Privacy
T
Threat Research - Cisco Blogs
GbyAI
GbyAI
I
Intezer
Application and Cybersecurity Blog
Application and Cybersecurity Blog
M
MIT News - Artificial intelligence
Vercel News
Vercel News
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
IT之家
IT之家
MyScale Blog
MyScale Blog
腾讯CDC

V2EX

我用 AI 写代码,但终端管理反而成了累赘——于是我做了 codux - V2EX [调研] 各位在公司都用什么 ide 和 agent 写代码? 老运维 share 一个运维平台 新电脑 brew install node 之后,一个小设置可以提升对供应链投毒的防御 - V2EX GLM-Coding 调用持续报错: z.ai 的 Lite 套餐几乎无法使用,官方 Pro/Max 是否稳定? - V2EX 上海漕河泾内推,本组有 2 个 hc,一个后端,一个前端,预算都是 20k 左右,不打卡,氛围好 如果 V2EX 上有一组不永久保存聊天记录(比如只保存 7 天或者 24 小时)的聊天室,那么会开启哪些有用或者有趣的可能? - V2EX gemini cli 貌似挂了,一直返回 403 - V2EX 第一次在自媒体上赚到钱 收集了最近在使用的低价 GPT, Gemini,邮箱等 AI 会员的小店合集 讨论个大实话:现在企业还在说 AI 编程提效 20%, 30%的,真的太落后,没用懂 AI。因为包括很多前沿公司,已经狂奔到提效 200%-500%的情况 [招聘][远程][币安] 前端/后端/QA/iOS/Android 至少 3 年以上经验 目前有大量 HC 欢迎投递 Chatgpt Pro 用量用不完的可以开这些设置 面试的时候好像遇到钓鱼了,给各位避个坑 cursor 年续费 22 号到期, 自动续费是否还是老的计次套餐呢 - V2EX 被两件破事毁掉的一下午,琐碎的内耗消磨人的精力 使用 Planet 存储 Codex 的会话或者重要信息 - V2EX 如果业务部门领导不要你开发功能,而是要求你教会它用 claude code 开发功能,你会怎么做? 分享一个 MacOS 接绿联 CM818 USB 转 DP 转接器使用感受 - V2EX 我的 HR 朋友 10 年老 Java ,非全大专,大家帮忙看看简历 开源了一个 AI 口语练习工具,音素级发音评分,完全免费可自部署 V2EX 上有哪些你觉得很有趣、印象深刻的妹纸? 字节为啥不出个国内版 Vercel? 有在大马的朋友吗? 问个运营商问题 你们在有领导的公司大群发过的最大胆的消息是什么 公司裁员,目前没有工作。想试试摆摊,做一个移动鲜啤打酒车 我的硬盘 Memblaze Pblaze 5 Linux 下不识别,给 Linux 内核提交了补丁, AI 说有望被合并 - V2EX 只有我一个人觉得 codex 不好用? 做了个 AI + 真人专家监督的广告投放平台 Auxora, 7 个品牌跑出 6x ROAS 如何走出至亲的离世 Claude Web 端貌似 claude-opus-4-7 偷偷上了? 现在 Apple 开发者帳號應該是用哪个地区会更好? - V2EX 用回测筛选因子的一点经验分享 给女儿 vibe 了一个故事类的 app,做完发现,这类应用似乎上线难度极大? - V2EX 手机格式化 bitget 钱包没了,里面开通的银行卡还有机会拿到吗 - V2EX [送码] TransVoice - 我的第一款 App 上架啦!实时转写+翻译+字幕,会议听课好助手! PictureHub 高清摄影作品的画廊 Planet 的第一个使用 macOS 26 SDK 构建的 Insider 版本 20260416-1 - V2EX 成都二手房是不是在涨价,有点坐不住了 - V2EX claude 生态(skill mcp plugin)等 Studio Display XDR VESA 适配器脱落 有在用印度区 applestore 的大哥嘛,请教一下礼品卡去哪里买呢 - V2EX 我好像知道京东家政爆火的原因了 - V2EX 薅了公司的 a 家 api key,用机场 ip 做代理容易被封吗 如何在初期就识别 HR 在刷 KPI,没打算招你? [分享]精心打造一个 AI 编程知识库(算法/设计模式/提示词/Skills),助力程序员转型 港版 iPhone 在国内支持联通 5GA 吗?在广东用 想办港卡 AI 对 it 行业影响太大了 我做了个把照片变成 iOS 小组件贴纸的 App ChatGPT Pro 5x 套餐 量真的很足! I have found a method to directly generate advertising video materials using scripts 在小城市开个店,给人写软件,有前途吗 chrome 最新的 147 版直接卡爆炸了 - V2EX 为什么厂家不在 skill/mcp 这类的工具中塞广告呢?这样不是可以大赚嘛? minimax 真是脸都不要了,工作日下午 14:00 定时开启 529,脸都不要了。训练模型居然占用用户使用时间 外资非核心部门 vs 另一家外资的核心部门,该跳吗? iTad 标签 扩展 加小动作 ? - V2EX 去年 H200 能买,不让买是代替快出来了? - V2EX AI 赛事通 - 2026 年 4 月中国区新增 AI 竞赛和黑客松汇总 - V2EX V2EX › 登录 现在安卓开发都在做啥 - V2EX 浏览器插件 沉浸式翻译 是不支持自定义模型了吗? - V2EX Codex 里的 GPT5.4 也能降智?上午让它改两个问题,改了一个小时了, plus 额度用了一半了还是没改好,和前几天用的体感完全不一样。要它改的问题也不复杂。服了。 目前有使用 claude code 的收到人脸认证的吗 - V2EX 分享一个自己做的 Nginx 管理工具,实时请求动态预览!(无奈市面上实在找不到好用的,自己撸了个) - V2EX claude code 崩了么? 今天在反重力上用 claude 一点都不丝滑,有同样的感受吗? opencode 消息周知插件 今天 claude opus 和前两天比,质的飞跃 - V2EX 999 包月价? - V2EX 一个版本, 50 项更新:我们几乎重做了整个播放页 本地大模型多大显存够用? GOGDNS 一款简易的私人 DNS 服务器 - V2EX API key (GLM) 怎么使用 claude code desktop ? Claude 这样订阅有问题吗 - V2EX 帮我爸找回了一篇赛博兰亭集序 求推荐稳定、高性价比使用 Claude Opus 4.6 的渠道/平台 搞个云端 claude code 防止 封号 - V2EX 用 Claude 要实名了,内地用户怎么办? OpenAI Plus 和 Team 都缩水了吗 海外 Android 手机有什么好用的国内第三方应用市场推荐吗 - V2EX 把电脑伪装成电视,用 DLNA 投屏拿到视频号直播流地址 - V2EX claude 认证莫慌 北京互联网法院有什么攻略么?起诉北京智谱华章科技股份有限公司退款可行么? - V2EX Claude 开始引入身份验证 求 vscode 做笔记软件的插件推荐 - V2EX 讯飞星辰的 Coding Plan 如何? Anthropic 宣布在 Claude 平台推行身份验证机制 科普一下低价 gpt 是怎么来的 有没有长期关注 Claude 的朋友,我建了一个 Channel 自动抓取 Claude Team 的推文 啃了那篇 54 页的 Agent Harness 综述, 给大伙讲个省流版 现在那家的 coding plan 还能买到 是不是最近会有什么更聪明的大模型要发布了呀? 用多了 AI 后,有没有觉得 AI 生成的文章有很强的既视感? 如何 实践 Harness 工程? 今日份 GPT 5.4 笑话 如何建一个自己的号池,让 cursor 真正实现 token 自由 写了三个月 Agent Harness,我终于敢让 Claude Code 全自动写代码了
AI 正在进入本地时代,我开源了一个推理平台—— 支持多模型 / Agent / Workflow 的工程实现
fengzhizi715 · 2026-03-24 · via V2EX

2022 起始,伴随着 ChatGPT 的热潮,大语言模型( LLM )从科学殿堂走向商业应用,伴随着大模型的能力越来越强,大模型逐渐从个人与企业的“尝鲜工具”正演变成个人与企业真正的生产力倍增器与工作效率提升引擎。怎么更好的使用好大模型这样的生产力基础设施,已经成为摆在个人与企业面前一道必答题,越来越多大模型开发者、企业、个人用户开始思考大模型应用中几个关键痛点:

  • 个人与企业数据怎么隐私保护?
  • 推理成本是否可以完全可控?
  • 如何打通企业现有信息系统与大模型赋能的壁垒?
  • 大模型应用是否可以像传统信息化系统一样工程化构建?
  • 是否存在一个真正“平台级”的本地大模型模型解决方案?

"痛定思痛、痛何如哉",在不断实践大模型与智能体应用开发的实践过程中,我们越来越强烈地感受到企业对构建本地大模型与智能体的迫切需求:

我们拥有越来越多大模型与智能体工具,但缺少真正的大模型部署与智能体平台。

于是,我跟我的团队深度挖掘企业大模型与智能体应用的真实痛点,从 2025 年下半年开始,我们花了超过半年多的时间,从零开始,基于开源架构自主研发一套本地大模型部署与智能体管理平台。

我们决定让技术回归技术,为让更多的开发者、个人、企业从中受益,我们正式开源这个平台,它有一个很酷的名字:OpenVitamin (大模型与智能体应用平台)

为什么是 OpenVitamin

在做 AI 项目的过程中,我们尝试过很多工具链组合:

  • 用 Ollama / LM Studio 管理模型
  • 用不同 UI 工具测试对话
  • 用各类 Agent 框架做自动化实验
  • 用脚本拼装 Workflow

这些工具都很优秀,但它们更多是:

👉 单点能力工具,而不是平台。

当项目逐渐从 Demo 走向工程系统时,问题开始出现:

  • 本地模型管理分散
  • 推理接口不统一
  • Agent 能力难以复用
  • Workflow 无法系统化编排
  • 多模型协作复杂
  • 很难构建长期可维护的 LLM 应用架构

我们意识到:

企业需要的不是更多工具,而是一套 LLM Runtime + Control Plane 。

OpenVitamin 正是在这样的背景下诞生。

OpenVitamin 可以做什么

OpenVitamin 的目标非常明确: 👉 让开发者与中小企业能够零成本的构建本地可扩展的大模型应用系统。 围绕这个目标,目前已经实现了几个核心能力。

多模型统一推理平台

  • 支持多模型本地接入
  • 提供统一推理接口
  • 可作为推理后端被其他系统调用
  • 支持模型配置与推理参数控制
  • 支持与 OpenClaw 集成

开发者无需为每个模型重复造轮子。 chat.png

models.png

Agent 能力工程化落地

平台内置基础 Agent 框架:

  • Skill 机制
  • Plan / Step 执行模型
  • Tool 调用
  • 本地模型驱动决策

可以用于构建:

  • 编程 Agent
  • 办公 Agent
  • 自动化任务 Agent
  • AI 实验原型

agents.png

Workflow 编排系统(可视化)

OpenVitamin 提供 DAG 式 Workflow Runtime:

  • 节点编排
  • 条件分支
  • 并行执行(规划中)
  • Retry / Timeout 控制
  • 可视化运行状态

这使 AI 能力可以真正变成“流程系统”,而不是一次对话。

workflow.png

面向工程系统的设计

OpenVitamin 并不是一个聊天工具或 Demo UI ,而是一套平台型架构:

  • 插件式能力扩展
  • 可扩展推理后端
  • 多模型协作
  • 本地部署友好
  • 支持跨平台运行( macOS / Windows / Linux )

它更接近:

👉 本地 AI Runtime + AI Control Plane

整体架构

整体架构图.jpg

推理路径

推理路径图.jpg

智能体执行路径

智能体执行路径图.jpg

文生图控制面

文生图控制面.jpg

一些真实使用场景

目前 OpenVitamin 已被用于:

  • 本地 LLM 应用开发实验环境
  • 编程智能体原型验证
  • Workflow 自动化系统探索
  • 企业内部 LLM 部署算力平台
  • 多模型推理调度实验
  • 与 OpenClaw 集成作为推理后端

为什么选择开源

我们越来越相信:

  • 本地 LLM 会成为未来开发环境的重要组成部分
  • Agent 会成为新的软件形态
  • Workflow 会成为 AI 应用的基础结构
  • 推理平台会像数据库 / Web Server 一样成为基础设施

OpenVitamin 只是一个开始。

我们希望通过开源,让更多开发者、企业参与进来,一起探索大模型与智能体工程化的无限可能。

项目地址

GitHub: https://github.com/fengzhizi715/OpenVitamin

如果你对这些方向感兴趣:

  • 本地 AI 推理
  • Agent 架构
  • Workflow 系统
  • AI 工程化
  • 插件式 AI 平台

欢迎 Star / Issue / PR 。

Roadmap

未来计划包括:

  • 更多的 skill
  • 推理调度优化
  • 更强的 Workflow Runtime
  • 企业级部署能力
  • 更多模型支持

最后

AI 正在从能力变成基础设施。 而本地 AI ,可能会成为下一代开发环境的一部分。 如果你也在构建 AI 系统,欢迎一起交流。