惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

T
Threatpost
IT之家
IT之家
Hugging Face - Blog
Hugging Face - Blog
Engineering at Meta
Engineering at Meta
爱范儿
爱范儿
博客园 - Franky
博客园 - 【当耐特】
MyScale Blog
MyScale Blog
雷峰网
雷峰网
月光博客
月光博客
云风的 BLOG
云风的 BLOG
博客园 - 司徒正美
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
P
Proofpoint News Feed
The GitHub Blog
The GitHub Blog
N
Netflix TechBlog - Medium
WordPress大学
WordPress大学
罗磊的独立博客
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Y
Y Combinator Blog
Know Your Adversary
Know Your Adversary
宝玉的分享
宝玉的分享
L
Lohrmann on Cybersecurity
S
SegmentFault 最新的问题
L
LangChain Blog
K
Kaspersky official blog
P
Palo Alto Networks Blog
P
Privacy & Cybersecurity Law Blog
美团技术团队
Scott Helme
Scott Helme
B
Blog RSS Feed
T
Threat Research - Cisco Blogs
博客园_首页
L
LINUX DO - 热门话题
腾讯CDC
C
CERT Recently Published Vulnerability Notes
A
About on SuperTechFans
博客园 - 三生石上(FineUI控件)
J
Java Code Geeks
V
V2EX
Martin Fowler
Martin Fowler
T
The Exploit Database - CXSecurity.com
人人都是产品经理
人人都是产品经理
MongoDB | Blog
MongoDB | Blog
Latest news
Latest news
S
Schneier on Security
AWS News Blog
AWS News Blog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
端侧AI的最佳载体
赛先声 · 2025-04-16 · via 人人都是产品经理

随着人工智能技术的飞速发展,端侧AI大模型正逐渐成为行业关注的焦点。然而,尽管其优势明显,但端侧AI在算力、能耗和散热等方面仍面临诸多挑战。本文将探讨端侧AI大模型的崛起背景、优势与挑战,并深入分析汽车作为端侧AI大模型的理想载体的潜力。

当我们还在讨论手机、电脑如何部署端侧AI大模型时,一个更理想的载体一直被我们忽略了——那就是车。车极有可能成为端侧AI大模型的主战场,并将重塑我们的出行与生活方式。

一、端侧AI大模型:AI的本地化革命

1.1 端侧AI大模型的崛起与优势

随着AI的快速发展,AI模型从云端迁移到终端设备上运行的趋势日益明显。这种被称为”端侧AI”的技术路线,正在成为业界共识。谷歌、苹果、微软等科技巨头纷纷推出适合在终端设备运行的轻量级大模型,如谷歌的Gemini Nano、苹果的Apple Intelligence等。

同样,黄仁勋在CES 2025的演讲中提出:“AI的未来不应该仅限于云端,而是应该无处不在”。无处不在的本地/端侧算力是AI演进的必然方向。

事实上,端侧AI大模型相比云端模型具有多方面的优势:

  • 隐私:在隐私保护方面,数据无需上传至云端,用户的敏感信息可以完全保留在设备内;
  • 响应速度:端侧模型消除了网络传输延迟,能够实现毫秒级的响应;
  • 个性化体验:本地模型可以根据用户习惯持续学习调整,提供更贴合个人需求的服务;
  • 能效:避免了数据传输的能耗,整体能效更高;
  • 网络依赖性:端侧模型可以在离线状态下持续工作,不受网络质量波动影响。

这些优势使得端侧AI成为特定场景下的最佳选择,尤其是在对隐私要求高、需要实时响应、网络条件不稳定的应用场景中。

1.2 端侧AI的挑战:算力、能耗与散热

尽管端侧AI优势明显,但其发展仍面临诸多挑战。最主要的制约因素是终端设备的算力限制、能源供应不足以及散热能力有限。

以智能手机为例,其算力仅能支持参数量在10亿级别的小型AI模型。同时,手机的电池容量有限,难以支持大模型的长时间运行;散热系统也难以应对高强度计算带来的热量。

笔记本电脑虽然在算力和散热方面略胜一筹,但电池续航同样是短板,且便携性要求限制了其硬件扩展能力。

家用台式电脑则不受电源和散热的严格限制,但缺乏移动性,无法满足随时随地使用AI的需求。

在这样的背景下,端侧AI需要找到理想载体,它既能提供足够的算力、电力和散热能力,又具有移动性。车,正是这样一个理想的候选者。

二、车的天然优势:体验、空间、能源管理的完美结合

2.1 交互体验优势:沉浸式人机交互环境

与其他终端设备相比,汽车提供了更为丰富的人机交互界面。现代汽车配备大尺寸触控屏幕(有些甚至超过15英寸),高清显示效果远超手机;高级音响系统提供环绕立体声体验;智能座椅可根据用户偏好调节位置并提供按摩功能;智能空调系统可创造舒适的温度环境。

更重要的是,汽车提供了一个私密且相对固定的空间,用户可以在其中与AI进行更加自然和深入的交互。想象一下,在自动驾驶模式下,你可以与车载AI进行视频会议,同时享受座椅按摩;或者在停车休息时,通过车载大屏观看AI推荐的电影,同时调节最舒适的座椅角度和车内温度。

这种沉浸式交互环境,使汽车成为AI应用场景最为丰富的终端设备之一,能够充分发挥AI在娱乐、工作、健康管理等多方面的潜力。

2.2 空间优势:容纳高性能算力的理想场所

家用车拥有手机和笔记本电脑无法比拟的物理空间。一台中型家用轿车可以轻松容纳多块高性能GPU或专用AI芯片。

以特斯拉为例,其FSD(全自动驾驶)计算机已经在车内部署了多个定制AI芯片,总算力达到144 TOPS(每秒万亿次运算)。这种算力水平足以支持复杂的自动驾驶任务,而在未来,随着车内空间的进一步优化设计,部署更强大的AI计算单元将成为可能。

回顾计算机发展史,我们可以看到计算设备从最初占据整个房间的大型机,逐渐缩小到个人电脑,再到如今的手机。但对于AI大模型这种计算密集型应用,我们似乎需要重新思考”更大空间”的价值。汽车恰好提供了这样一个介于数据中心和个人设备之间的理想载体。

2.3 电力供应:充足的能量保障

车具有其他移动设备无法比拟的电力优势。燃油车通过发动机持续发电,能够提供稳定的电力输出;而电动汽车则自带70-100度电的大容量电池,这相当于一个小型家庭一周的用电量。相比之下,手机和笔记本电脑的电池容量微不足道,难以支撑大模型的持续运算需求。

以一辆普通电动车为例,其100kWh的电池容量足以支持一个中等规模AI模型连续运行数天。即使是燃油车,其发电系统也能持续为AI计算提供稳定的电力支持。这种电力自给自足的特性,使汽车成为移动场景下运行高性能端侧大模型的理想平台。

2.4 热管理能力:算力释放的关键保障

高性能计算芯片产生的热量是制约其性能发挥的主要因素,而家用车恰好具备优秀的热管理能力。现代汽车普遍采用先进的热泵系统和液冷技术,这些原本为发动机或电池设计的散热系统,可以轻松适配AI芯片的散热需求。

特别是电动汽车,其热管理系统已经相当成熟。以特斯拉、小米等厂商为例,它们的热管理系统不仅能在极端温度下保护电池,还能高效地将热量转移并利用,这对于发热量大的AI芯片来说是天然的优势。

计算机发展史上,从风冷到水冷,再到如今的相变散热,散热技术一直在进步。但对于消费级设备而言,散热空间始终是一个难以逾越的物理限制。汽车则不同,其成熟的热管理系统,为AI计算提供了理想的温控环境。

三、算力利用的最大化:静止与行驶状态的双重价值

3.1 停车时:家庭AI计算中心的角色

在美国,平均每辆家用车每天有23小时处于停放状态。在中国,这一数字可能更高。这意味着汽车上的计算资源在大部分时间里都处于闲置状态。如果能够合理利用这些闲置算力,将极大提高资源利用效率。

当车辆停在家中或办公场所时,车载AI系统可以转变为家庭或办公室的AI计算中心,处理各种需要本地运算的任务:从家庭安防视频分析、智能家居控制,到个人数据的隐私保护处理,甚至可以作为家庭成员的个人AI助手,提供各种信息服务和决策支持。

想象一下,你的汽车停在车库里,同时作为家庭的AI中枢,处理家庭成员的各种请求:帮孩子解答学习问题、为你规划旅行路线、管理家庭财务,甚至分析家人的健康数据并提供建议。这一切都在本地完成,无需将敏感数据上传到云端,既保护了隐私,又避免了网络延迟。

这种模式类似于早期的家庭服务器概念,但汽车作为载体比专门的家庭服务器更具优势:它不需要额外的空间,不需要专门的散热设施。

3.2 行驶时:自动驾驶与乘客体验的双重提升

当车辆行驶时,强大的本地算力可以全力投入自动驾驶任务,提供更安全、更智能的驾驶体验。业界普遍认为L3级别以上的自动驾驶需要强大的本地计算能力来处理复杂的感知、决策和控制任务。特斯拉的FSD系统就采用了本地计算方案,而非依赖云端。随着更强大的AI芯片在车上的部署,自动驾驶的能力将进一步提升。

同时,车内乘客也可以享受到AI大模型带来的智能服务:实时路况分析与最优路线规划、基于对话的车内环境控制、个性化的娱乐内容推荐等。这些功能不仅提升了驾乘体验,重新定义汽车作为”第三生活空间”的价值。

四、未来展望:汽车AI化的机遇与挑战

4.1 技术路线:专用芯片还是通用计算平台?

未来汽车AI计算平台的技术路线存在多种可能性。一种路线是采用专用的AI加速芯片,如特斯拉的FSD芯片;另一种路线是使用更通用的高性能计算平台,如NVIDIA的Drive系列或高通的Snapdragon Ride平台。

专用芯片在特定任务上效率更高,但灵活性较差;通用平台则更容易适应不同的应用场景,但可能在某些特定任务上效率不如专用芯片。未来可能会出现混合架构,结合两者的优势。

另一个关键问题是本地计算与云计算的平衡。虽然本地计算有低延迟、高可靠性的优势,但云计算可以提供更强大的算力和更丰富的数据。未来的汽车AI系统很可能是本地计算和云计算的混合体,根据任务需求动态分配计算资源。

4.2 商业模式:算力即服务的新范式

汽车AI化将催生新的商业模式。一种可能是”算力即服务”(Compute as a Service),车主可以在不使用车辆时,将车载计算资源出租给需要计算能力的用户或企业,创造额外收益。

这种模式实际上是车联网(V2X)技术的一种创新应用。传统的V2X主要关注车辆与基础设施、其他车辆或行人之间的信息交换,而”算力V2X”则关注计算资源的共享与交换。类似于电动汽车参与电网负载均衡的理念(V2G, Vehicle-to-Grid),汽车算力也可以实现类似的”V2C”(Vehicle-to-Computing)模式。

在V2G模式中,电动车可以在电网负荷高峰期向电网供电,在低谷期充电,帮助电网实现削峰填谷。同样,在V2C模式下,车载计算资源可以在算力需求高峰期提供服务,在低谷期执行本地任务,帮助整个社会的计算资源实现更高效的分配。

想象一个场景:夜间停放在小区的数百辆汽车,可以组成一个分布式的”超级计算机”,为科学研究、医疗分析或AI训练提供算力支持。车主不仅能获得额外收入,还能为社会贡献闲置资源,实现双赢。

还有一种可能是”数据价值变现”,车辆在行驶过程中收集的数据具有巨大价值,车主可以选择分享这些数据并获得相应回报。当然,这需要建立在严格的隐私保护和数据安全基础上。

4.3 社会影响:重新定义人车关系

汽车AI化将重新定义人与车的关系。传统上,汽车是一个交通工具,主要功能是载人和载物。随着AI的融入,汽车将成为一个智能伙伴,不仅能够自主驾驶,还能与人进行自然交流,理解意图,甚至预测意图。

这种变化将影响城市规划、交通管理、能源分配等多个领域。例如,具备强大AI能力的汽车可以更高效地利用道路资源,减少交通拥堵;可以优化充电或加油策略,降低能源消耗;还可以作为移动办公室或娱乐空间,提高人们的时间利用效率。

结语:四轮上的AI革命已启程

车作为端侧AI大模型的载体,具有其他设备无法比拟的优势:充足的物理空间、丰富的电力供应、成熟的热管理系统,以及高效的算力利用模式。这些优势有望使汽车成为AI大模型从云端走向端侧的理想平台。

汽车AI化的浪潮已经启程,未来已来,只是尚未均匀分布。能够把握这一趋势的企业将在这场变革中占据先机,重新定义人类与机器、出行与生活的关系。

作者:赛先声;公众号:奇点漫游者

本文由 @赛先声 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务