惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Hugging Face - Blog
Hugging Face - Blog
Recent Announcements
Recent Announcements
V
Visual Studio Blog
博客园 - 叶小钗
H
Help Net Security
aimingoo的专栏
aimingoo的专栏
宝玉的分享
宝玉的分享
U
Unit 42
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
F
Fortinet All Blogs
V
V2EX
Stack Overflow Blog
Stack Overflow Blog
WordPress大学
WordPress大学
D
DataBreaches.Net
J
Java Code Geeks
H
Hackread – Cybersecurity News, Data Breaches, AI and More
A
About on SuperTechFans
酷 壳 – CoolShell
酷 壳 – CoolShell
量子位
C
Check Point Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
小众软件
小众软件
Microsoft Azure Blog
Microsoft Azure Blog
M
MIT News - Artificial intelligence

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
业务中“接入大模型”,到底有哪几种接入方法?
亨亨 · 2025-02-24 · via 人人都是产品经理

随着AI大模型技术的飞速发展,越来越多的企业开始探索如何将其融入自身业务,以提升效率、优化用户体验并创造新的价值。本文将详细梳理接入大模型的五种常见方式,帮助大家全面了解不同接入方式的适用场景、成本考量以及技术门槛。

DeepSeek 带来的国民级热度,很大程度上,是让整个社会都意识到,AI 大模型对于生产力提效的巨大价值,同时也带来了 AI 的洪流势不可挡、不拥抱就落伍的危机感。今年以来,很多公司都在积极拥抱 AI 实践,希望通过 AI,一方面提升自己企业、自己业务的效率,另一方面也希望为自己的用户提供 AI 的能力。

我们在新闻通稿中,会看到很多公司,都使用了“接入 DeepSeek”的说法,那么,所谓的“接入 DeepSeek 等大模型”,究竟都有哪几种形式?

其实不论是 DeepSeek,还是其他大模型,企业能够接入的方式,一般就是以下 5 种:

1. 个人直接使用平台功能

2.通过智能体平台搭建 Agent

3.API 调用

4.私有化本地部署

5.通过云服务商间接部署

01 个人直接使用平台功能

个人直接使用平台功能,就是以个人身份,直接使用大模型官方的 C 端的服务,比如直接登录 ChatGPT 官网、DeepSeek 官网使用,或者通过一些集成产品使用,但都是以个人身份使用通用的大模型产品。

这种方式对于小公司来说,实际落地的方式也就是作为内部的提倡,鼓励员工使用,或者公司出钱,买几个 ChatGPT 账号。比如我已知的几家大厂,程序员编程已经大规模使用 Cursor(一款 AI 编程软件),代码写得又快又好。

这种方式轻量简便,好处是能最快感受 AI 带来的工作变化,劣势是仅能作为个人工作提效的辅助,没有定制功能,数据安全也有风险。

02 通过智能体平台搭建 Agent

如果只是在官网中与 AI 进行简单的对话,AI 能够进行工作,也很有限,AI 的产出物也不太可控。实际工作当中,任何工作都有一个流程和标准的限制,才能让产出的结果,达到预定的标准。

比如「小红书运营」这项工作,如果让 AI 直接进行工作,是没有办法完成的,因为小红书运营包含着多种不同的工种环节。我们拆解一下,「小红书运营」这项工作,其实包含以下步骤:

选题-撰写文案-配图-发布-数据分析 

这种把工作拆解成标准执行动作的过程,就是一个工作流,在工作流中,我们分别识别出 AI 可以应用的点,然后调用不同的 AI,帮助我们完成一长串的工作。

就好像有好几个“AI 员工”相互配合,最终做出一个成品。

比如以上的「小红书运营」工作流,AI 介入后,就可以:

  • 通过可联网的大模型收集今日热点新闻
  • 通过大模型分析有哪些选题
  • AI 为选题生成文案
  • 通过大模型为文案的配图,创作一个生图的 Prompt
  • 调用文生图的大模型,使用 Prompt,生成配图
  • 【人工】将文案和图片手动发布至小红书(实际上,这一步通过 RPA 也能自动发布,但不可控因素比较多,亨亨 V:xiaozidaheng 建议手动发布)
  • 通过发布的笔记链接,抓取点赞收藏评论数据,进行数据分析

在每个环节,AI 都只解决一个具体的问题,然后把许多个 AI 的工作串起来,就成为了 AI 工作流(如下图)。

这种串联起来的工作流,就被称作 Agent 或者智能体,通过智能体搭建平台,可以方便的搭建出适合自己业务的智能体,并可以将智能体发布到企业内部的飞书、微信等平台,解决各种各样实际的问题。

智能体搭建平台,国内做得比较好的是扣子,集成了多种大模型。通过智能体平台,在企业内部部署 AI 的方式,好处很明显,就是能够低成本的将 AI 融合进企业的工作流当中,解决企业的实际问题,并且也不用开发,对于大多数不涉密的工作,这是性价比非常高的一种方式。缺点依然是使用公共的能力,不涉及私有部署,并且对于一些深度复杂的工作,还是没办法做好。

03 通过 API 调用

API 调用本质上也是在访问大模型厂商的能力,只不过无需去官网的对话框发消息,而是直接通过技术接口,将数据传递给大模型,大模型处理完成后,再通过 API 接口将处理结果返回。

调用 API 的好处是,能够将 AI 与自己的产品相结合,而无需跳转到 AI 大模型的网站。

04 私有化本地部署

DeepSeek R1 能够掀起 AI 应用的大浪潮,一方面是模型实力顶尖,另一方面是模型开源(DeepSeek 使用 MIT 协议开源)。开源就意味着,任何企业,都能够将 DeepSeek R1 部署到自己的服务器当中,并且可以通过微调,拥有一个属于自己的大模型。

目前宣布接入 DeepSeek 的企业中,几家大厂基本上都是采用私有部署的方式,为用户提供 DeepSeek 的能力。

私有部署的优势和劣势都很明显,适合有技术实力的公司。

优势:

1.企业自主可控的本地大模型,业务安全等级最高;

2.可对模型进行一定程度的微调,使其更符合企业业务需要。

劣势:

1.成本较高,不仅需要足够的算力,也需要人力进行运维;

2.需要比较高的技术能力,才能实现大模型的训练。

05 通过云服务商间接部署

DeepSeek 火爆之后,阿里云、腾讯云等云服务厂商,也第一时间推出了部署能力。这个过程,本质上是云服务厂商进行了私有部署,然后帮助使用云服务的企业,快速获得私有部署的能力。

这种部署方式,算是完全本地私有部署的优化版,牺牲一部分自主性,获得更方便的部署能力。

优势:

1.无需自行准备算力,可以使用云服务商的算力;

2.接入方便,成本较低,有一定的技术能力就可以完成接入;

3.可以进行小量的私有数据部署,实现大模型输出结果的小量定制。

劣势:

1.服务质量受到云服务商服务质量的影响;

2.并非完全自主可控,大部分信息是安全的,但绝密信息依然有风险。

06 总结

基本上,企业内部接入大模型的方式,就是以上 5 种。企业可以根据不同的情况和需要,选择合适的方式,进行部署。

我做了一张表,一目了然。

作者:亨哼;公众号:产品变量(ID:hengpaper)

本文由 @亨哼 原创发布于人人都是产品经理,未经许可,禁止转载

题图来自 Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。