惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

U
Unit 42
T
The Blog of Author Tim Ferriss
H
Help Net Security
博客园 - 叶小钗
云风的 BLOG
云风的 BLOG
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
D
DataBreaches.Net
博客园 - 聂微东
A
About on SuperTechFans
大猫的无限游戏
大猫的无限游戏
P
Proofpoint News Feed
Martin Fowler
Martin Fowler
博客园 - 【当耐特】
S
SegmentFault 最新的问题
Blog — PlanetScale
Blog — PlanetScale
酷 壳 – CoolShell
酷 壳 – CoolShell
G
Google Developers Blog
I
InfoQ
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
GbyAI
GbyAI
B
Blog
Engineering at Meta
Engineering at Meta
V
V2EX
Hugging Face - Blog
Hugging Face - Blog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
AI 眼镜的终局会让个人隐私无处遁形吗?
科技旋涡 · 2024-10-08 · via 人人都是产品经理

随着AI技术的不断进步,智能眼镜逐渐成为我们日常生活中的一部分。然而,这种高科技产品在带给我们便利的同时,也引发了关于个人隐私保护的担忧。哈佛大学生的一项实验展示了AI眼镜可能带来的隐私泄露风险,引发了公众对于隐私权的关注和讨论。

众所周知,雷朋Meta和雷朋合作的Ray-Ban Meta 智能眼镜在今年早些时候就已经售出了 100 多万台,这也让Meta有信心在9月份发布首款AR智能眼镜Orion。

许多人都认为眼镜是未来AI最好的载体之一,但两位哈佛大学生用一个实验无情的揭示了AI眼镜最大的风险——隐私泄露。

AI眼镜识别,隐私不复存在

两位哈佛大学生,AnhPhu Nguyen 和 Caine Ardayfio,做了一个有趣的实验。他们戴着 Meta 的智能眼镜 Meta Ray-Ban,在校园、地铁等随机识别了数十个陌生人。拍下某人的一张照片,几秒之后,这个人的信息就会出现在手机上。

当然,Meta的智能眼镜本身并没有如此强大的功能。之所以会产生这样的节目效果是因为他们做了一些技术上的改动。先通过 Meta 智能眼镜的直播功能,将视频实时传输到 Instagram,然后用一个计算机程序监控这个视频流,并使用 AI 进行人脸识别。

随后,在互联网上搜索到某个人的更多照片,以及基于公共数据库,查找这个人的姓名、住址、电话号码,甚至亲属信息。最后,这些信息会传送到他们编写的一个手机 app,方便查看。

只是两个高材生为了视频效果就能够做到这种程度,那如果是不法分子呢?或许隐私问题将让所有人头疼,甚至于连外出都不敢以真面目示人。

如果再搭配上各类AI换脸工具,或许每个人都将“赤裸”的活着。此前,在仅三万人居住的西班牙阿尔门德拉莱霍 (Almendralejo) ,一个话题正在以“病毒”似的速度传播着,网上有学校里三十多名女孩子们的裸照。

西班牙国家司法警察总署就对此案作出了一些解释和报告:涉案人员总共有十人,其中三人使用了ClothOff,这是一款免费的人工智能应用程序,它可以让用户“脱掉”任何想要的人的衣服,这也意味着任何人都可以通过这样一款AI应用,以极低的成本来实施犯罪。

包括很早之前的案例,一位广州女生在地铁拍的美照,被个别网友,用AI一键脱衣软件生成了裸体照片。换脸的前提是需要拍下照片,普通手机举起的瞬间就有很大概率被注意到,而眼镜则可以悄无声息的进行拍摄。

AI眼镜正趋向于日常化、普通化,它长得像普通墨镜,让偷拍更加方便。Meta Ray-Ban 实际上是有提醒功能的,它有一个 LED 指示灯,当用户录制视频,它就会自动打开,提醒旁边的路人,但是,谁会去特地注意他人眼镜上的细节是个问题。

之前外媒The Verge 测评发现,在明亮的室外,Meta Ray-Ban 的 LED 和快门声都不明显,在拥挤嘈杂的公共场所,很多人往往不会注意到这种细节。

科技旋涡认为,AI眼镜正在抛弃臃肿的外形轮廓,向着轻量化、日常化迭代,本意是为了让人们更容易适应产品形态,但同时也暴露了隐私问题。

警惕但不必过于担心

当然,上述的情况也并非能够轻易达成的,毕竟主人公是两位哈佛高材生。两位学生是把各种现有的、成熟的技术组合在了一起,连生成式 AI 也参与了,才能实现隐私泄露。

智能眼镜:配备摄像头的智能眼镜,在公共场合捕捉人脸图像。

反向面部识别:通过 PimEyes 等人脸搜索引擎,将人脸图像与互联网的公开图像进行匹配,并返回这些图像的网页链接。

爬虫工具:使用 FireCrawl 爬虫工具,从这些网页链接中抓取所需的数据。

大语言模型:大语言模型从抓取的、杂乱的数据中推断出姓名、职业等细节。

数据库:在 FastPeopleSearch 等网站输入姓名,从公开记录、社交媒体中查找家庭住址、电话号码和亲属姓名等个人信息。

隐私泄露老生常谈,面部识别并不新鲜,偷拍问题也不是出现一天两天,大模型在两年间已经成了很多人离不开的生产力工具。彼此之间强强联合的化学反应,才导致了一个细思极恐的结果——仅凭大街上偶然的相遇,我们的个人信息就可能被有心人提取。两位学生没有对外公开技术细节,做这个实验的目的,是为了提醒人们保持警惕。

事实上,随着各类技术飞跃式的发展,许多国家都已经注意到了隐私问题。2016年以来,各国陆续发布相关政策法规,但进展仍赶不上技术的进步。去年10月,拜登签署美国首项人工智能监管行政令,为人工智能建立安全和隐私保护标准,但被指缺乏强制执行效能。

欧盟方面,虽然欧洲议会于3月13日通过《人工智能法案》,但是法案中的相关条款将分阶段实施,部分规则要到2025年才生效。日本执政党自民党直到最近才宣布计划在年内提议政府引入生成式人工智能立法。

近年来,我国也出台了《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策,一方面给AI有关技术的创新发展“鼓劲儿”,一方面又给其“立规矩”“划红线”,以确保相关技术的开发和使用遵守法律法规、尊重社会公德和伦理道德。

科技旋涡认为,隐私泄露问题确实值得注意,但也无须过度焦虑。如同时代的发展,人类社会也在自我调节中不断适应着新的变化,新技术短时间打破平衡,很快在社会的自我调节下恢复平稳。

写在最后

传播学者罗伯特·切斯尼形象地称之为,“说谎者的红利”,前所未有的隐私泄露和AI伪造问题让那个曾经遥远的问题,骤然变得现实而紧迫。

隐私和便利,在很多时候都是相伴而生的,当我们享受各种 AI 产品的趣味和个性化时,风险也如影随形。但我们也不能因噎废食,或许未来的AI眼镜会像如今的日版iPhone一样,拍摄或录制时强制开启快门声,或是其它手段最大限度防止隐私泄露。

编辑|孙浩南
本文由人人都是产品经理作者【孙浩南】,微信公众号:【科技旋涡】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。