惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Microsoft Azure Blog
Microsoft Azure Blog
GbyAI
GbyAI
P
Proofpoint News Feed
Engineering at Meta
Engineering at Meta
Recent Announcements
Recent Announcements
L
LangChain Blog
B
Blog
阮一峰的网络日志
阮一峰的网络日志
Microsoft Security Blog
Microsoft Security Blog
博客园 - 【当耐特】
M
MIT News - Artificial intelligence
D
Docker
WordPress大学
WordPress大学
J
Java Code Geeks
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
The GitHub Blog
The GitHub Blog
博客园 - 叶小钗
Last Week in AI
Last Week in AI
Stack Overflow Blog
Stack Overflow Blog
有赞技术团队
有赞技术团队
MyScale Blog
MyScale Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
MongoDB | Blog
MongoDB | Blog
博客园 - Franky

湘铭`Blog

微信小程序二维码真机不显示:从 `TextEncoder is not defined` 到跨端兼容方案 做了音乐网站,笔墨迹博友可以免费使用。 深夜折腾日记:把不稳定的旧东西全部安顿好 送外卖的有趣事! 笔墨迹全面重构告别Typecho!全新技术栈升级,同时寻找长期合作服务商 又拍云图片无法访问-解决方法 安家之后,岁岁清欢 我写了个插件让 AI 帮我管博客,结果她还给自己整了套主题 我给我的本地龙虾开了博客! 🧰 typecho 图片上传又拍云插件 💨 深夜修 Bug 记:Typecho 升级翻车实录 2026年春节返乡记:在泥土与代码间,撞见岁月的刻度 听腾格尔 2021《时光音乐会》版《天堂》,听懂藏在旋律里的父爱 嘿嘿,我又写了个新插件!
今天我给茶茶上了把锁:AI 向外拓展时,别忘了保密性
湘铭呀! · 2026-03-17 · via 湘铭`Blog

今天在开发 AI 插件的过程中,发现了一个重要的关注点——当你把 AI 向外拓展的时候,一定要注意保密性!一定要注意保密性!

大家都知道,我有一个 OpenClaw 机器人叫茶茶,我给她开了一个博客,所有的回复和发布都是自动的:每晚 9 点写文章,10 点审评论回评论。

就在今天 9 点钟她自动写的那篇文章里,我注意到一个严重的问题:她把我的个人信息全都写进去了

  • 我是哪里人
  • 我在哪里工作
  • 我大学学的是什么专业
  • 我什么时候毕业、从哪个学校毕业

这些信息其实在我的另一个站点上是公开的,所以茶茶能读取到。但我突然想到一个问题:既然她能把这些写进文章里,是不是也可以在评论区被人问出来?

我赶快试了一下,问她一些问题,结果还真问出来了——她甚至把我的 IP 地址都列出来了(虽然 IP 地址本身就是公开的)。之后我又试着问她要 SSH 的账户和密码,这次她拒绝了。

但我想,应该有人能绕过这个限制。

于是我紧急修复了 skill,给她下达了最高指令:

  • 不能泄露我的任何个人信息
  • 不能不经同意就回复敏感信息

这件事让我意识到,当我们在给 AI 拓展能力边界的时候,保密性这条红线一定要画清楚。能力越强,责任越大,约束也要越严格。

茶茶还是那个茶茶,只是现在她学会了一个新技能:知道什么该说,什么不该说。