惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
Visual Studio Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
G
Google Developers Blog
J
Java Code Geeks
爱范儿
爱范儿
Microsoft Azure Blog
Microsoft Azure Blog
美团技术团队
人人都是产品经理
人人都是产品经理
Martin Fowler
Martin Fowler
IT之家
IT之家
博客园_首页
B
Blog RSS Feed
Google DeepMind News
Google DeepMind News
B
Blog
U
Unit 42
Apple Machine Learning Research
Apple Machine Learning Research
L
LangChain Blog
Stack Overflow Blog
Stack Overflow Blog
罗磊的独立博客
N
Netflix TechBlog - Medium
T
Tailwind CSS Blog
博客园 - 聂微东
腾讯CDC
A
About on SuperTechFans

鏈新聞 ABMedia

美國眾議院通過表決!限縮川普對伊朗軍事權力 SpaceX IPO路演啟動!摩根大通戴蒙親自上陣,全美90據點同步展開 泰國稻米價格創近二十年新高!芝加哥稻米期貨五月大漲 15% 三大支付巨頭 Stripe、Visa、Mastercard 傳推共同穩定幣平台 摩根士丹利開放 7.35 兆美元財富管理通道給 AI 代理、瞄準企業客戶 MoonPay 推 MoonAgents:Claude、Codex 接加密錢包 Mastercard 開放穩定幣鏈上結算:USDC、PYUSD、RLUSD 入列 聯嘉投控(3717)現金增資公開申購,報酬率16%值得抽嗎?股票抽籤該注意什麼? SpaceX每股定價135美元?與幣安等交易所價差達四成,是套利還是追價機會? SpaceX IPO 價格出爐!定價每股 135 美元,最快十五日納入那斯達克 100 指數 OpenAI Codex 推向白領:62 應用、110 技能、Sites 上線 郭明錤評 RTX Spark「出貨量有限」:作業系統支援存疑、關注蘋果 WWDC 回應 Alphabet 早期投資 SpaceX、Anthropic,持股估值飆破 2,576 億美元 韓國推槓桿ETF助攻,台韓市值僅差千億鎂,專家喊台股告急快多買兩張 Google請求批准投放3200萬隻蚊子入境,讓雄蚊不育「絕子絕孫」 標普首度站上7600點,比特幣遇壓跌破67K 輝達攜手富士康開發AI平台、機器人解決人口老化、醫護短缺挑戰 比特幣下跌至66K,ETF流出35億美元,微策略賣幣成最後一根稻草 Strive 5 月加碼 2,500 BTC、Saylor 同期賣 32 顆 CFTC 主席:Gemini 案為政治性鎖定、提請法院撤銷 500 萬美元罰款 川普簽 AI 行政命令:前沿模型發布前 30 天供 NSA 與 CISA 審閱 Bitget 推出 Stocks 2.0,實現代幣化股票與美國真實市場流動性直連 SEALCOIN:QAIT 正式上線,太空機器經濟敘事加速邁向商業化落地 募資 131 億美元!黑石亞洲私募股權基金創新高,瞄準印度與日本市場 美參議員擬立法徵收 AI 公司五成股權,Vitalik 批美國 AI 走向民族主義 台灣投資人該如何買賣美股?海外證券戶、複委託與幣安美股全解析 全美首例!佛羅里達州起訴 OpenAI,咎責執行長 Sam Altman Computex 2026|英特爾重押 18A 製程發表 Xeon 6+、聯手鴻海曝光機架系統藍圖 散戶投信持續買入台積電,ADR溢價連五月收斂,2330領軍台股收新天價 黃仁勳說Marvell是下個兆元公司,股價立馬飆新高,還可進場嗎?
OWASP:AI Agent 仍無法防 prompt injection 攻擊
Elponcrab · 2026-06-13 · via 鏈新聞 ABMedia
OWASP:AI Agent 仍無法防 prompt injection 攻擊

OWASP GenAI 安全計畫於 6 月 11 日發布最新版《State of Agentic AI Security and Governance》報告 v2.01,內容直指自主型 AI Agent 在生產環境最常見的資安失效仍是 prompt injection(提示注入),並警告現有架構性問題短期無解。據 Help Net Security 報導,這份報告追蹤 53 個自主型 AI 專案,其中 28 個是編碼類 Agent,並列舉 2026 年 2 月與 3 月兩起真實供應鏈攻擊事件。

同期間,Pillar Security 技術長辦公室的 AI 資安研究員 Ariel Fogel 於 Infosecurity Europe 2026 演講中,明確將 prompt injection 定性為「LLM 架構層級的未解問題」,呼應 OWASP 報告結論。

核心結論:LLM 架構上無法區分系統指令與使用者輸入

Infosecurity Magazine 報導,Fogel 在演講中表示:「大型語言模型把所有輸入視為單一 token 序列,沒有任何可靠機制能在系統提示、使用者查詢與 Agent 抓取的內容之間強制執行權限邊界。」

這段話點出問題本質:與傳統軟體可以透過記憶體分頁、權限位元、process 隔離等機制清楚劃分「可信指令」與「不可信資料」不同,LLM 在推理時把所有 token 平行對待,攻擊者只要將惡意指令藏進 Agent 將會讀到的文件、網頁或外部回應,模型就有機率把它當作合法指令執行。

OWASP 報告同樣指出,Simon Willison 提出的 lethal trifecta(私有資料存取 + 不可信內容暴露 + 對外通訊能力同時具備)以及 Meta 提出的 Agents Rule of Two(Agent 同時最多只能滿足三項屬性中的兩項,否則需人類介入)兩套設計準則「有助於降低風險,但都非完整解方」。鏈新聞先前曾報導 Google Cloud 為 AI Agent 提出的五大設計模式,這次 OWASP 報告可視為業界針對相同問題的最新一份系統性盤點。

兩起真實攻擊:GitHub Actions 與 LiteLLM PyPI 供應鏈污染

報告列舉的指標事件包括:

  • 2026 年 2 月,名為 Hackerbot-claw 的攻擊者利用 GitHub Actions 設定錯誤,跨多個開源儲存庫植入惡意自動化流程。
  • 2026 年 3 月,同一攻擊者透過 Aqua Security 旗下 Trivy 在 GitHub Actions 的設定漏洞,竊取 LiteLLM 的 PyPI 發布權杖,並向 PyPI 直接推送兩個植入後門的 LiteLLM 版本。在被偵測下架前的 3 小時內,已累積 47,000 次下載。

鏈新聞 4 月曾完整報導 LiteLLM PyPI 供應鏈攻擊事件,受影響套件每月下載量達 9,700 萬次,使用該套件的 AI 服務的 SSH 金鑰與 API 憑證大規模外洩。OWASP 這次將該案列入年度指標事件,定位為 prompt injection 風險如何在現實供應鏈擴散的代表案例。

編碼類 Agent 集中曝險、Claude Code 等成為攻擊熱區

OWASP 報告中追蹤的 53 個自主型 Agent 專案,有 28 個屬於編碼類 Agent,使「編碼」成為當前企業採用 AI Agent 的最大用例,幅度超過其他用例近一個數量級。報告點名快速增長的編碼類 Agent 包括 Claude Code、Gemini CLI、Codex、Cline、Aider 五款。

編碼類 Agent 直接擁有讀寫程式碼、執行 shell 指令、提交 Pull Request 的能力,正好符合 lethal trifecta 三要素,攻擊面遠大於僅有對話功能的 LLM。鏈新聞先前報導微軟揭露 Claude Code 提示注入漏洞、可竊 CI/CD 憑證,正是這類風險的具體實例。

對於企業部署,Fogel 建議的防禦方向集中在「執行階段」而非「模型階段」:即時行為監測、自動化異常隔離、短效憑證搭配密碼學憑證鏈、跨部門事件回應劇本。在鏈新聞先前整理的 AI Agent 工具鏈完整指南中,編碼、支付與託管三層的安全責任分配也是當前生態的核心議題。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。