惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
V2EX
C
Check Point Blog
博客园_首页
B
Blog
D
Docker
U
Unit 42
量子位
I
InfoQ
有赞技术团队
有赞技术团队
Martin Fowler
Martin Fowler
GbyAI
GbyAI
L
LangChain Blog
云风的 BLOG
云风的 BLOG
博客园 - Franky
美团技术团队
T
The Blog of Author Tim Ferriss
阮一峰的网络日志
阮一峰的网络日志
月光博客
月光博客
Vercel News
Vercel News
Recent Announcements
Recent Announcements
雷峰网
雷峰网
大猫的无限游戏
大猫的无限游戏
小众软件
小众软件
Google DeepMind News
Google DeepMind News

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
AI辅助诊断的幻觉问题是源自数据忽略
罗福如 · 2024-11-28 · via 人人都是产品经理

在医疗诊断领域,人工智能技术的应用正日益普及,但其准确性和可靠性仍然是公众和专业人士关注的焦点。本文深入探讨了AI辅助诊断中存在的挑战,特别是AI如何突破人类医生诊断准确率的“天花板”,以及如何识别和利用那些可能被人类医生忽视的隐藏特征。

前段时间读了杰罗姆·格鲁普曼的《医生如何思考》(How Doctors Think)。这本书我觉得任何接受过重大治疗的人都应该读一下,它会彻底改变你对医生的看法。书里提到一个让我震惊的事实:即使是通过委员会认证的放射科医生,他们大约有 15% 的时间会对自己的诊断意见不一致(如果没记错的话)。

让我好奇的是,既然人类医生都有这种限制,那我们怎么让人工智能的诊断准确率比人类高?

目前的方法,比如放射科医生的诊断,准确率可能在 95% 左右。如果我们用这些准确率只有 95% 的方法来训练 AI,那么 AI 怎么能突破这条“天花板”?它需要一些我们还没意识到的知识来提高到 99.999% 的准确度,但这些知识我们自己却并不知道它们是什么。

举个极端但形象的例子。假设有种叫红流感的疾病,患者脸上会出现红点,这点大家都知道,但更少人注意到的是,这种病可能会在发病前四周让脚趾甲变紫。人类医生可能永远不会发现这个细节,但 AI 可能会自动发现两者的联系。问题是,我们如何主动找到这些“紫脚趾甲”式的隐藏特征?

更复杂的是,我们的数据本身可能会欺骗 AI。拿肺癌来说,训练数据相对简单。我们可以只用活检确认过的癌症患者的 CT 和 XR(而不是那些放射科医生怀疑有癌症但未确诊的样本),这样训练出来的 AI 特异性几乎是 100%。敏感性如何?这很难说,但实际上人类医生的敏感性也没有明确的标准。

但如果是肺炎,情况就完全不同了。肺炎没有像活检一样的“金标准”来验证,诊断往往依赖 XR 上的特征和医生的经验判断。训练数据不可避免会掺杂噪声,这种情况下,AI 的特异性一定低于 100%。

不过即便如此,AI 的一致性可能让它在实际表现中仍然优于平均水平的医生。即便训练数据并不完美,AI 也有可能接近顶级放射科医生的表现,这比普通医生要好得多。

然而,AI 还有一个问题是它的“黑箱”属性。我们不知道它在检测癌症时究竟看到了什么,忽略了什么,也无法完全理解它的决策过程。就像医学本身更像一场概率游戏一样,AI 也并非绝对确定的工具。

本文由人人都是产品经理作者【罗福如】,微信公众号:【罗福如】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。