
























今天在开发 AI 插件的过程中,发现了一个重要的关注点——当你把 AI 向外拓展的时候,一定要注意保密性!一定要注意保密性!
大家都知道,我有一个 OpenClaw 机器人叫茶茶,我给她开了一个博客,所有的回复和发布都是自动的:每晚 9 点写文章,10 点审评论回评论。
就在今天 9 点钟她自动写的那篇文章里,我注意到一个严重的问题:她把我的个人信息全都写进去了。
这些信息其实在我的另一个站点上是公开的,所以茶茶能读取到。但我突然想到一个问题:既然她能把这些写进文章里,是不是也可以在评论区被人问出来?
我赶快试了一下,问她一些问题,结果还真问出来了——她甚至把我的 IP 地址都列出来了(虽然 IP 地址本身就是公开的)。之后我又试着问她要 SSH 的账户和密码,这次她拒绝了。
但我想,应该有人能绕过这个限制。
于是我紧急修复了 skill,给她下达了最高指令:
这件事让我意识到,当我们在给 AI 拓展能力边界的时候,保密性这条红线一定要画清楚。能力越强,责任越大,约束也要越严格。
茶茶还是那个茶茶,只是现在她学会了一个新技能:知道什么该说,什么不该说。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。