惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

N
Netflix TechBlog - Medium
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
爱范儿
爱范儿
博客园_首页
雷峰网
雷峰网
Hugging Face - Blog
Hugging Face - Blog
V
Visual Studio Blog
The Cloudflare Blog
罗磊的独立博客
美团技术团队
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
大猫的无限游戏
大猫的无限游戏
阮一峰的网络日志
阮一峰的网络日志
V
V2EX
博客园 - 叶小钗
The GitHub Blog
The GitHub Blog
Last Week in AI
Last Week in AI
J
Java Code Geeks
MyScale Blog
MyScale Blog
G
Google Developers Blog
U
Unit 42
Y
Y Combinator Blog
P
Proofpoint News Feed
Vercel News
Vercel News

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派
ChatGPT生成一张“孩子出事”的照片,我爸信以为真,警惕AI诈骗...
2025-04-24 · via 少数派

前言:

写这篇文章的初衷,很大一部分原因是我自己的担忧。我常年在外地工作,离家远,爸妈年纪也大了。

现在AI换脸、合成语音、生成假照片的技术越来越真,诈骗手段也层出不穷,我真的很怕他们哪天就因为一张足以乱真的AI图片或者一段合成的语音而被骗。

如果你看到了这篇文章,记得转发给你的父母、长辈看看。给他们提个醒,告诉他们现在的AI有多厉害,遇到可疑的信息一定要多留个心眼,别轻易上当。


最近小红书上一位叫“快门不太快”的博主火了,他发布的一组少年“摄影作品”帅气逼人,光影氛围感十足,引来无数点赞。但很快,火眼金睛的网友们就发现了不对劲:这根本不是相机拍的,而是AI画的!

一开始,博主还嘴硬狡辩,坚称是实拍。但其他摄影博主们纷纷下场“打假”,甩出实锤:照片里模特的耳机换了好几款,背景细节也经不起推敲,更关键的是,当大家要求他@出模特本人时,他却始终支支吾吾@不出来。

在如山的铁证面前,最终被迫承认造假。然而,更讽刺的是,连他那篇道歉声明,都被网友怀疑是用AI生成的!

“快门不太快”的翻车事件并非个例。随着人工智能技术的狂飙突进,AI生成的图像已经达到了令人瞠目结舌的逼真程度。

不信?我们来做个有趣的测试。下面这三张照片:慈祥的老奶奶、路边的猫咪、阳光下的篮球场。你能分辨出哪张是真实拍摄,哪张又是AI的杰作吗?

揭晓答案:这三张照片,全部都是AI生成的!

是不是有点惊讶?别急,更“离谱”的还在后面。看看这两张照片:奥特曼与谢霆锋、外星人与胡歌的合影同样出自AI之手。

画面中的光影、构图和人物融合度,是不是显得异常真实自然?如果不是我设定天马行空,相信有不少人又会信以为真。

生成这些以假乱真照片的“幕后黑手”,正是大名鼎鼎的ChatGPT 4o。而且门槛低得惊人,只需要一句简单的提示词(Prompt),就能“召唤”出几乎任何你想要的画面。

甚至这些图片的真实程度已经可以骗过ChatGPT自己了,我拿它生成的图片问它是真的还是假的,给我的结果说是实拍,还啪啪啪甩出一顿分析。果然能打败ChatGPT的只有ChatGPT。

“人间一年,AI十年”

回想一两年前,AI生成的图片还带着明显的“AI味儿”:要么是扭曲变形的手指(经典六指琴魔),要么是混乱诡异的背景,要么是完全不讲逻辑的光影。

那时候,我们还能靠着一些“找茬”小技巧轻松分辨,比如多根或少根手指,牙齿排列不齐,或者数量不对。再比如背景里的文字、物体的物理逻辑出现混乱。

但现在,这些老方法越来越不好使了。像最新的多模态大模型ChatGPT-4o,它采用了一种叫做“自回归生成”(Autoregressive Generation)的技术。

简单解释一下: 传统的AI绘画(如扩散模型)有点像修复一张模糊的图片,逐步去噪变得清晰。而自回归生成,更像是“写”小说或“拼”乐高:模型把图像拆成一个个小方块(token),然后像写句子一样,一个块接着一个块地生成。每生成一小块,都会参考前面已经生成的部分,确保整体画面的连贯性和逻辑性。

更厉害的是,这种模型能同时理解和处理文本、图像甚至音频信息,实现了跨模态的深度关联。你给它一段文字描述,它就能精准地“翻译”成对应的视觉元素。这就是为什么它能创作出如此逼真、甚至能骗过我们眼睛的图像。

如何面对真假难辨的AI图片?

说实话,看到AI以假乱真的能力,我确实挺担心的。这些技术一旦被不法分子利用,后果不堪设想。

还记得前两年那个“假靳东”骗光中老年女性积蓄的新闻吗?当时很多人不理解,那么拙劣的视频怎么会有人信?

但现在呢?连我们年轻人都可能被高仿真的AI图片或视频骗到,更何况是信息辨别能力相对较弱的父母长辈?

想象一下,如果骗子用AI合成一张孩子“出事”的照片发给老人勒索钱财,或者伪造名人、明星的图片发布虚假信息,那将是多么可怕的场景。

虽然前面说了,以前那些“找茬”的老方法很多已经失效,面对一张高水平的AI生成图,想单凭肉眼100%断定真伪非常困难。但我们也不能完全束手无策。这里分享几个目前还相对适用的辨别思路,希望能帮你擦亮眼睛。

1.从图片本身出发去判断

我们刷小红书的时候,如果看到某些图片特别棒,我希望大家可以先预设这张图片是不是AI生成的。

找找图片中细微的破绽,来判断图片的真实性。

  • 实地考证: 如果照片里有明确的地标建筑或场景(比如某条街道、某个地铁站),可以上网搜搜实景图对比一下。AI在还原真实场景细节,尤其是文字标识、复杂结构时,常常会出错。
  • 物理逻辑: 观察光影是否统一、自然?有没有出现不合常理的反射或阴影?人物佩戴的饰品、衣服的褶皱在不同角度下是否一致?AI有时会在这些物理细节上“犯迷糊”。
  • 人物细节: 虽然AI画人越来越强,但偶尔还是会在手指、关节、牙齿、眼神等方面出现极其细微的不自然感。不过,这一点需要非常仔细地观察,而且AI还在飞速进步。

2.利用AI辅助判断

其次我们也可以问问AI,虽然现在ChatGPT可以生成近乎真实的照片了,但是其他大部分AI生图还是没有办法做到这一点的。

比如下面这张奥特曼送外卖的图片ChatGPT就可以识别出来是AI做的,甚至还可以反推出提示词。

反推提示词:

奥特曼穿着未来感战衣,扮演美团外卖骑手,在雨夜的霓虹中国街头骑着黄色电动车。画面风格为电影感,潮湿地面有灯光反射,车灯与奥特曼眼睛发光,背景有体积雾与景深模糊,整体为超现实3D渲染风格,细节丰富,极具视觉冲击力。

AI时代,如何与“真实”共存?

AI生成图片的技术已经发展到了一个令人惊叹的阶段,真假难辨已成为常态。未来,我们身边的信息环境只会更加复杂,充斥着由AI精心编织的“完美”谎言。

小红书博主的“翻车”事件,只是冰山一角,现在的各大社媒平台充斥着无数AI生成的虚假内容。

下次当你看到一张过于完美、引人注目的图片或视频时,不妨多问自己几个“为什么”:

  • 这真的符合常理吗?
  • 有没有哪些细节看起来不太对劲?
  • 信息的来源可靠吗?
  • 它想让我产生什么样的情绪或看法?

保持适度的怀疑,成为一个更清醒、更理性的信息消费者和思考者。主动去查证,去交叉对比信息,利用我们之前提到的方法,甚至借助AI工具本身去“反制”AI。

最后,还是想回到开头的担忧。如果你觉得这篇文章有点用,不妨也转给家里的长辈看看,跟他们聊聊这些新变化,帮他们一起提高警惕。毕竟,守护好他们,也是我们守护自己生活的一部分。