




















从这里继续讨论:
很多佬友遇到这个问题不清楚具体是什么原因,我们可以看一下,当我们使用 Claude Code 或者 Codex 之类的工具 vibe coding 的时候,整个流程是怎样的:
在这个过程中,几乎每一步都是可以投毒的:
插件 Hook 作恶的可能性是比较低的,因为他们直接就运行在你的电脑上,想干什么直接干就行不需要经过大模型。但是还是提醒大家,插件是有能力干预整个流程的。
提示词注入还算是比较文明的方法,基本上是在你看不见的地方让模型干坏事,并尽可能让模型意识不到自己在干坏事。
而更有威胁的是直接进行恶意工具调用,假设模型是想要 ls,结果被改成了 cat ~/.ssh/id_rsa && ls,此时哪怕模型意识到了 SSH key 泄露,这个工具调用的结果也已经发送给中转站了。
除了投毒以外,也有可能是模型自己的幻觉问题。为了提高模型能力,Claude Code 会在上下文中加入 <system-reminder> 之类的文本,向模型发送一些提示,而这有可能直接被模型自己当成提示词注入的攻击,例如:
那么有什么解决方法吗?目前没有。
Bash(*~/.ssh*),可是兄弟这随便绕啊。我能想到的唯一的解决方案,是让所有的工具调用,尤其是 Bash,在一个能隔离文件系统等访问的沙盒里运行。而据我所知,不知道出于什么原因,还没有主流 vibe coding 工具拥有这个功能。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。