慣性聚合 高效追蹤和閱讀你感興趣的部落格、新聞、科技資訊
閱讀原文 在慣性聚合中打開

推薦訂閱源

Google DeepMind News
Google DeepMind News
大猫的无限游戏
大猫的无限游戏
GbyAI
GbyAI
WordPress大学
WordPress大学
雷峰网
雷峰网
博客园_首页
L
LangChain Blog
Blog — PlanetScale
Blog — PlanetScale
Last Week in AI
Last Week in AI
博客园 - Franky
M
MIT News - Artificial intelligence
S
SegmentFault 最新的问题
博客园 - 【当耐特】
Jina AI
Jina AI
腾讯CDC
Y
Y Combinator Blog
酷 壳 – CoolShell
酷 壳 – CoolShell
Stack Overflow Blog
Stack Overflow Blog
宝玉的分享
宝玉的分享
罗磊的独立博客

DEV Community

Authentication Security Deep Dive: From Brute Force to Salted Hashing (With Java Examples) Why AI Systems Don’t Fail — They Drift Spilling beans for how i learn for exam😁"Reinforcement Learning Cheat Sheet" I Replaced Chrome with Safari for AI Browser Automation. Here's What Broke (and What Finally Worked) How Python Borrows Other People's Work The $40 Architecture: Processing 1 Billion API Requests with 99.99% Uptime Vibe Coding: A Workflow Guide (From Zero to SaaS) Most webhook security guides protect the wrong side. The scary part is delivery. Headless CMS for TanStack Start: Build a Blog with Cosmic EU Age Verification App "Hacked in 2 Minutes" — What Actually Happened Comfy Cloud’s delete function does not actually remove files Running AI Models on GPU Cloud Servers: A Beginner Guide Event-driven media intelligence with AWS Step Functions and Bedrock I scored 500 AI prompts across 8 quality dimensions — here's what broke How to Call Google Gemini API from Next.js (Free Tier, No Backend Needed) The Portal Protocol: Reclaiming Human Connection in the Age of AI How to Fix Your Team's Scattered Knowledge Problem With a Self-Hosted Forum Intro to tc Cloud Functors: A Graph-First Mental Model for the Modern Cloud Designing Multi-Tenant Backends With Both Ownership and Team Access I Built a Neumorphic CSS Library with 77+ Components — Here's What I Learned PostgreSQL Performance Optimization: Why Connection Pooling Is Critical at Scale Cómo construí un SaaS multi-rubro para gestionar expensas en Argentina con FastAPI + Vue 3 🚀 I Built an Ethical Hacking Scanner Tool – Open Source Project I Replaced /usage and /context in Claude Code With a Single Statusline A Pythonic Way to Handle Emails (IMAP/SMTP) with Auto-Discovery and AI-Ready Design I Collected 8.9 Million Polymarket Price Points — Here's What I Found About How Markets Really Move EcoTrack AI — Carbon Footprint Tracker & Dashboard Everyone's Using AI. No One Agrees How. 5 self-hosted ebook managers worth trying in 2026 Building Your First AI Agent with LangChain: From Chatbot to Autonomous Assistant Common SOC 2 Failures (Real World) Stop Vibe-Checking Your AI App: A Practical Guide to Evals How to Use SonarQube and SonarScanner Locally to Level Up Your Code Quality Your Next To-Do App Is Dead — I Replaced Mine with an OpenClaw AI Sign a Nostr event in 60 lines of Python using coincurve — no nostr-sdk, no nbxplorer, no rust toolchain ITGC Audit Explained Like You’re in Big 4 Patch Tuesday abril 2026: Microsoft parcha 163 vulnerabilidades y un zero-day en SharePoint Stop scraping everything: a better way to track competitor price changes Listing on MCPize + the Official MCP Registry while routing payments OUTSIDE the marketplace — how I kept 100% of my x402 revenue Building an AI-Powered Risk Intelligence System Using Serverless Architecture Why We Ripped Function Overloading Out of Our AI Toolchain Testing AI-Generated Code: How to Actually Know If It Works SaaS Churn Is Killing Your Business. Here Is What to Do About It (Without a Support Team) The Speed of AI Is No Longer Linear - And Self-Improving Models Are Why How to Implement RBAC for MCP Tools: A Practical Guide for Engineering Teams From Standard Quote to Persuasive Proposal: AI Automation for Arborists I built a CLI that scaffolds complete multi-tenant SaaS apps Axios CVE-2025–62718: The Silent SSRF Bug That Could Be Hiding in Your Node.js App Right Now The dashboard that ended our friendship Data Pipelines Explained Simply (and How to Build Them with Python)
偉大的AI信心詐騙
Tim Green · 2026-05-20 · via DEV Community

Nate 承諾了一項令人難以抗拒的服務:只需單擊一下,即可從任何網上商店購買任何商品,完全由人工智能驅動。創始人 Albert Saniger 告訴投資者,其神經網絡能夠「像消費者一樣理解 HTML 並在網站上進行交易」。這個說法非常成功。在 2019 年至 2021 年之間,Nate 從渴望下一個 AI 突破的風險投資者那裡籌集了約 4200 萬美元。但問題在於,據聯邦檢察官稱,Nate 所謂的智能系統實際上的自動化率幾乎為零。在光鮮亮麗的界面背後,數百名在菲律賓和羅馬尼亞的呼叫中心的工作人員正在手動完成每筆購買。當一場致命的熱帶風暴在 2021 年 10 月襲擊菲律賓時,Nate 動員在羅馬尼亞開設一個新的呼叫中心來處理積壓的訂單。Saniger 據稱向投資者和員工隱瞞了手動處理的事實,並限制對內部儀表板的訪問,將自動化率描述為商業秘密。在產品演示期間,Nate 工程師在幕後手動處理訂單,使該應用程式看似自動完成購買。在 2025 年 4 月,美國司法部和證券交易委員會指控 Saniger 虧欠證券詐騙和電信詐騙,每項罪名最高可判 20 年監禁。Nate 在 2023 年 1 月耗盡了資金,使其投資者面臨檢察官所描述的「幾乎完全」的損失。Saniger 個人獲得了利潤,在 2021 年 6 月將約 300 萬美元的 Nate 股份賣給了一個 A 輪投資者。

這不是偏離常軌的現象。這是一種症狀。隨著人工智慧成為自「破壞」以來最具影響力的行銷熱門詞,越來越多的公司參與了監管人員、投資者和技術專家現在被稱為「人工智慧漂洗」的行為,即虛假、誤導或極度誇大人工智慧能力的聲稱,以吸引客戶、投資者和人才。這種現象類似於綠色漂洗,其中公司誇大其環境資質,但賭注可能更高。預計到2025年底,全球人工智慧市場將達到約2500億美元,而且僅僅在2025年,風險投資公司就向人工智慧新創公司投入了記錄的2023億美元(根據Crunchbase數據,比2024年增加了75%),將「人工智慧驅動」標籤貼在任何東西上的財務誘因從未如此之高。

問題已不再是AI漂白是否存在。它確實存在,而且規模龐大。真正的問題是消費者、投資者和監管者應該如何應對它。

欺騙的規模

量度AI漂白的首個系統性嘗試發生於2019年,當倫敦-based的風險投資公司MMC Ventures發表《2019年AI現狀:分歧》,一份與Barclays合作製作的報告。研究人員個別審查了十三個國家聲稱使用AI的2,830間歐洲創業公司。他們的發現嚴峻:大約40%的情況下,沒有證據顯示人工智能對公司的價值主張有重大影響。這些公司未必是直接謊言。許多公司已被第三方分析平台分類為「AI公司」,而當時MMC Ventures的研究主管及合伙人David Kelnar指出,創業公司幾乎沒有動機糾正錯誤分類。被標記為AI驅動的公司籌集的資本比傳統軟件公司多15%到50%。僅英國就佔了近500間AI創業公司,佔歐洲總數的三分之一,是其他任何國家的兩倍,使得潛在誤報規模顯著。

六年過去了,這個問題還沒有改善。2025年2月,MMC Ventures調查了1,200家金融科技創業公司,發現40%自稱為「AI為先」的公司在生產中沒有一絲機器學習代碼。四分之一的公司只是簡單地將第三方API,例如OpenAI提供的API,通過一個新的用戶界面輸出。只有12%的公司在獨特的數據集上訓練了專有模型。然而,提到「生成式AI」的融資輪次,其中位估值比沒有提到的高出2.3倍。金融邏輯非常殘酷:使用AI術語的投資簡報能更快地達成交易並籌集到更多的資金。

此模式跨行業重複。亞馬遜的「即走」超市技術,部署在其 Fresh 超市,宣傳為完全自動化的 AI 驅動收銀系統。顧客可以進入、拿取物品並離開,而無需掃描任何東西。2024 年 4 月,《資訊》報導稱,2022 年每 1,000 笔「即走」交易中約有 700 笔需要印度約 1,000 名工人的人為審查,遠遠超過亞馬遜內部每 1,000 笔交易 50 次審查的目標。顧客經常在離開商店數小時後才收到收據,延遲是由於審查人員檢查攝影機畫面以驗證每筆交易所導致的。亞馬遜否認了這種描述,聲稱其「機器學習數據聯繫人」正在標註數據以改進底層模型。AWS 應用副總裁迪利普·庫瑪寫道:「「即走」技術依賴遠處人為審查的錯誤報導是不真實的。」然而,該公司隨後從大多數 Fresh 超市中移除了「即走」,改為更簡單的「Dash Carts」,並裁撤了在該技術上工作的美國籍員工。

然後有 DoNotPay,它宣傳自己是「世界上第一個機器人律師」。成立於 2015 年以幫助人們爭訟停車票,該公司擴展至更廣泛的法律服務,聲稱其 AI 可以取代人類律師。聯邦貿易委員會調查並發現,DoNotPay 的技術僅僅識別了詞語之間的統計關係,使用聊天機器人軟件與用戶互動,並通過 API 連接到 ChatGPT。這些都不曾在涵蓋法律、規章或司法決定的全面數據庫上進行培訓。該公司甚至從未測試過其「AI 律師」是否達到人類律師的水平。在 2025 年 2 月,FTC 最終作出一項命令,要求 DoNotPay 支付 193,000 美元的退款,並通知在 2021 年至 2023 年間訂閱的消費者。該命令禁止該公司未提供充分證據的情況下聲稱其服務像真實律師一樣。FTC 主席 Lina M. Khan 說得明確:「使用 AI 工具欺騙、誤導或欺詐人員是非法的。FTC 的執法行動表明,沒有 AI 免除現行法律的豁免權。」

當SEC來敲門時

執法審計於2024年3月嚴肅展開,當時美國證券交易委員會(SEC)宣布其首次針對AI漂白執法行動。目標是兩家投資諮詢公司:Delphia (USA) Inc.與Global Predictions Inc.。多倫多-based的Delphia公司,曾在SEC申報、新聞稿及其網站上聲稱其使用AI與機器學習來指導投資決策。當SEC於2021年審查Delphia時,該公司承認其實並未擁有此類演算法,但隨後仍就其在投資流程中使用演算法進行了更多虛假聲稱。Global Predictions,一家位於舊金山的公司,宣稱自己是「首個受監管的AI金融顧問」,聲稱能產生「專家級AI驅動預測」。SEC主席Gary Gensler坦率指出:「我們發現Delphia與Global Predictions向其客戶及潛在客戶宣稱其以特定方式使用AI,但事實上並非如此。」他將此與綠色漂白直接對比,警告說「當新技術出現時,它們可能會從投資者那裡製造輿論,同時也會由那些聲稱使用新技術的人製造虛假聲稱。」Delphia支付了22.5萬美元的民事罰款。Global Predictions支付了17.5萬美元。

這些處罰是相當輕微的,幾乎是象徵性的。接下來的案例則不然。

2025年1月,美國證券交易委員會(SEC)對Presto Automation Inc.(Presto Automation Inc.(原Nasdaq上市公司))提出指控,這是首次針對上市公司進行AI洗白行為的執法行動。Presto曾宣傳其「Presto Voice」產品為突破性的AI系統,能夠自動化快餐店 drive-through 的訂單處理。在2021年至2023年之間的SEC申報文件中,包括8-K、10-K和S-4表格,該公司將Presto Voice描述為內部開發的技術,並聲稱該系統「消除了人工訂單處理」。SEC的調查發現,語音識別技術實際上是由第三方擁有和運營的,而且該系統依賴於國外的人力員工來完成訂單。

在2025年4月,司法部及證券交易委員會聯合指控Nate的創辦人涉及詐騙,這是目前為止最積極的AI漂白起訴。並行的刑事及民事行動發出無可置疑的信號:AI漂白不再是監管灰色地帶。它是詐騙。

預計到2025年中,美國證券交易委員會(SEC)已成立專門的網絡安全與新興科技單位(CETU),專門追查與人工智能相關的不當行為。在2025年5月舉行的西區證券執法論壇上,SEC高級官員確認「徹底打擊」人工智能漂洗詐騙是即時執法優先項目。現有的證券法提供了足夠的權力來起訴誤導性的人工智能聲稱,而委員會不會等待新的立法。

隨後發生了私人訴訟。當股東在2025年6月提起證券詐欺集體訴訟時,蘋果成為最受矚目的目標,指控該公司虛假宣傳其在2024年6月揭曉的雄心勃勃的人工智能計劃「蘋果智慧」的能力和時間表。原告Eric Tucker提起的訴訟指控蘋果沒有Siri先進人工智能功能的可運行原型,並虛假宣傳交付它們所需的時間。當蘋果在2025年3月宣布無限期推遲多項基於人工智能的Siri功能時,股票在單一交易會中下跌了每股11.59美元,約為5%。後來,包括Siri總監Robby Walker在內的內部消息人士承認,該公司「在它們準備好之前就推廣了增強功能」,稱延遲是「醜陋和尷尬的」。到2025年4月,蘋果的股票價值已損失了近四分之一,市價總值約為9000億美元。該案件,Tucker v. Apple Inc.,No. 5:25-cv-05197,仍在加利福尼亞州北部地方法院待審。

AI 洗白聲明的解剖

要理解 AI 洗白是如何運作的,需要了解公司在宣稱使用「人工智慧」時實際在做什麼。這個詞本身也是問題的一部分。沒有普遍接受的 AI 定義,而且這個詞語變得如此彈性,可以涵蓋從真正複雜的深度學習系統到存在了數十年的簡單規則基礎自動化的一切。正如 CMS Law-Now 在 2025 年 7 月發表的法律分析中指出的,「AI 洗白可以構成誤導性廣告」,並代表一種不公平的競爭行為,但公司仍然利用詞語的模糊性。

最常見的AI漂白形式可分為幾種可辨識的類別。首先是重新標籤:公司將現有的軟體、演算法或自動化流程重新品牌化為「AI驅動」,但在功能性上沒有任何有意義的改變。一個使用基本協作過濾的推薦引擎變成「我們的專利AI」。一個基於決策樹的聊天機器人變成「我們的智能助理」。其次是API透過:公司整合第三方AI服務,通常是來自OpenAI、Google或Anthropic,將其包裝在自訂界面中,並將其呈現為他們自己的技術。第三是能力膨脹:公司將願景功能描述為當前能力,將他們希望建立的呈現為已經存在的事物。第四,也是最嚴重的,是幕後有人模型,其中所謂的AI系統主要依賴人工勞動,例如Nate的案例,以及或許是Amazon的Just Walk Out技術。

此現象並非僅限於新創公司。正如賓夕法尼亞大學教授本傑明·謝斯塔科夫斯基所觀察到的,人工智能存在一個灰色地帶,「裡面有數百萬名在秘密工作的人」,他們通常被僱傭來訓練演算法,但最終卻做了大部分的工作。這通常涉及「將人力外包給其他國家,因為那些地方可以獲得低工資地區的勞動力」。將人力隱瞞作為人工智能的實踐在科技行業有著悠久的歷史,但當前這波人工智能熱潮使其加速發展。

加利福尼亞管理評論期刊於2024年12月發表了一篇分析,探討導致組織內AI誇張的文化陷阱。該研究發現其中最普遍的問題是「高層領導缺乏技術素養。雖然許多是優秀的商業領導者,但他們往往對AI的能力和限制缺乏精細的理解,在頂層造成了顯著的知識差距。」這個差距使市場團隊能夠做出工程團隊知道是不受支持的聲明,而執行官缺乏技術流利度來質疑他們。

建立消費者防衛

那普通人該如何應對這個環境?答案在於培養研究者所稱的「AI素養」,這個詞迅速從學術的偏僻角落走向主流的緊迫。長和馬格爾科被廣泛引用的學術定義將AI素養描述為「一套使個人能夠批判性地評估AI技術;與AI有效溝通和合作;並在線上、家中和職場中將AI作為工具的技能。」經濟合作與發展組織在2025年5月發布了其AI素養框架,旨在供小學和中學教育使用,但其原則適用於任何人。該框架強調AI素養並非關於學習編程或理解神經網絡架構。它關乎培養批判性思維技能,以評估AI聲明、理解限制,並做出明智的決策。世界經濟論壇現在將AI素養分類為公民技能,對參與民主程序至關重要,沒有它,人們會對錯誤信息、偏見系統以及不透明的算法做出的決策保持脆弱。

經濟合作與發展組織(OECD)的框架確立了一個核心原則:「在AI環境中實踐批判性思維涉及驗證AI系統提供的信息是否準確、相關且公平,因為AI系統可能生成令人信服但錯誤的輸出。」這同樣適用於評估AI產品本身。消費者需要不僅問AI系統能做什麼,還要問它應該做什麼,以及為誰做。該框架還要求使用者考慮AI系統的環境成本,這些系統需要大量的能源、材料和水源,同時也貢獻於全球碳排放。

現已出現幾個實用的框架,以協助消費者和專業人士評估 AI 声稱。由烏爾斯特大學圖書館指南開發的 ROBOT 清單,以最基礎的問題開始:可靠性。該公司對其技術有多透明?它分享了哪些關於工具創建時間、最後更新時間、訓練數據以及用戶數據處理方式的資訊?

俄亥俄大學的研究,發表於2025年11月,確立了AI素養的四大整合領域:有效實踐(理解不同AI平台能做與不能做的事)、倫理考量(認識偏見、隱私風險及功耗)、修辭意識(理解AI行銷如何塑造觀感)及專業知識(具備足夠的領域專業知識以批判性評估AI輸出)。這些領域並非可以獨立教導的獨立技能,而是相互共存並相互啟發。

根據這些框架和執行紀錄,消費者可以發展一套實用的工具包來識別AI漂白。首先要問的是具體性:公司是否清楚地解釋其AI的功能,還是依賴模糊的術語?真實的AI公司往往對其模型、訓練數據和能力很具體。從事AI漂白的公司往往使用「由AI驅動」或「AI驅動洞察」這樣的術語,但又不解釋其背後的技術。第二個問題是透明度:公司是否發布技術文件、模型卡或性能基準?值得信賴的AI公司越來越主動發布這些信息。第三個問題是來源:公司是自行開發其AI,還是使用第三方服務?基於現有的AI平台建設並沒有什麼錯誤,但消費者有權知道他們實際上在為什麼付費。第四個問題是關於限制:公司是否承認其AI無法做到的事情?每個合法的AI系統都有顯著的限制,任何將其AI宣稱為無懈可擊或普遍能夠的公司幾乎肯定是在誇大其詞。

或許最重要的原則是最簡單的:如果一家公司的AI聲稱聽起來好得難以置信,那它很可能就是如此。技術正在飛速發展,但它不是魔法,AI實際上今天能交付的和銷售部門承諾之間的差距仍然巨大.

監管拼湊

對於人工智能漂白行為的監管反應正逐漸增強,但它在不同管轄區域和機構之間仍然分崩離析,各自擁有不同的權力、優先順序和方法。

在美国,執法主要透過現有的法律框架進行,而非新的AI專屬立法。SEC已使用證券詐騙法條。FTC則依賴其長期權力來監管不公平和欺騙的商業行為。2024年9月,FTC發動「行動AI合規」,一項聯合執法行動,針對五家公司欺騙性的AI聲稱進行打擊。該機構還對由William Basta和Kenneth Leung運營的Ascend(一組企業)提起訴訟,指控其通過虛假聲稱其AI工具有法寶收入,從消費者身上騙取超過2500萬美元。2025年6月提出的一項和解方案課以部分暫緩的2500萬美元金錢判決。2025年8月,FTC對Air AI提起訴訟,指控其宣傳一款會話AI工具有法寶收入,據稱導致商業損失高達25萬美元。

司法部在各行政任內均維持執法連續性。儘管在川普政府下,出現了更廣泛的鬆綁規範趨勢,但司法部並未撤銷貝聯登政府下開始的人工智慧執法倡議。它在2025年4月提起了一起新的刑事人工智慧漂白案件,即對奈特創始人的起訴,暗示兩黨共識認為虛假人工智慧聲稱值得刑事起訴。

自從2025年1月以來,州議會已提出超過1,000項與人工智能相關的法案。科羅拉多州的《人工智能法案》,於2024年5月生效,要求高風險人工智能系統的開發者和部署者必須採取「合理注意」以避免算法歧視。加利福尼亞州提出的SB 1047法案,雖然在2024年9月被州長加文·纽瑟姆否決,但引發了對人工智能傷害嚴格責任的激烈爭論。

歐洲聯盟已採取最全面的立法方法,發布了《歐盟人工智慧法案》((EU) 2024/1689),刊登於歐洲聯盟官方公報,並於2025年起分階段實施。該法案採取風險基礎方法,涵蓋180項理由和113項條文。對於構成不可接受風險的人工智慧系統的禁止措施於2025年2月2日生效。通用型人工智慧系統的透明度義務將在十二個月的時間表內跟進。不遵守規定的懲罰非常嚴重:最高達3500萬歐元或全球年營業額的7%,以較高者為準。雖然該法案並未明確設計用於打擊人工智慧漂白,但其對構成人工智慧系統的嚴格定義及其透明度要求創造了一種環境,在這種環境中,虛假或誇大的聲稱承擔著顯著的法律風險。歐洲聯盟法院目前正在審理的一個案件已經在測試該法案人工智慧定義的界限。正如法律分析師所指出,該規範的清晰度正在產生「布魯塞爾效應」,從巴西到加拿大塑造了對人工智慧治理的期望。

在英國,監管方法特色上更基於原則。金融行為管理局於2025年9月確認不會推出針對AI的特定監管規則,並引述該技術「每三至六個月」的快速發展。相反地,金融行為管理局總裁Nikhil Rathi宣布,監管機構將依賴現有框架,特別是消費者責任和高级經理及認證規則,來處理與AI相關的傷害。金融行為管理局於2025年9月發布了AI實驗室,使企業能在監管監督下開發和部署AI系統,並預計其Mills審查將於2026年夏季報告關於零售金融服務中AI的建議。

英國在 AI 洗腦方面更重要的發展可能是 2024 年數位市場、競爭與消費者法案,該法案於 2024 年 5 月 24 日獲得王室核准。該法案賦予競爭與市場行動局廣泛的新直接執法權力。首次,該局可以不經法院程序調查和判定消費者保護法規的違規行為,並可處以最高達全球年營業額 10% 的罰款。儘管該法案不包含針對 AI 的具體條款,但其廣泛禁止誤導行為和疏忽明確涵蓋了誇大的 AI 宣稱。該局首席執行官莎拉·卡德爾將該立法描述為消費者保護的「轉捩點」。該局表示將將初步執法重點放在「更嚴重的違規行為」上,包括向消費者提供「客觀上虛假」的信息。

投資維度

AI 洗腦不僅僅是消費者保護問題。它越來越成為金融市場的系統性風險。高盛承認,由於許多涉及 AI 的公司估值顯著上漲、對 AI 建設的持續大規模投資以及 AI 生态系统日益增強的循環性,AI 泡沫擔憂「回歸,而且可能比以往任何時候都更嚴重」。該公司的分析指出,「過去的創新驅動型繁榮,如 1920 年代和 1990 年代,即使其基礎創新是真實的,也導致市場過度支付了未來的利潤。」

數字令人咋舌。從2025年到2027年,超級大規模資本支出預計將達到1.15萬億美元,比2022年到2024年所支出的4,770億美元多出一倍以上。最初對2025年相關人工智能資本支出的估計為2,500億美元,現已膨脹至超過4,050億美元。高盛集團CEO David Solomon表示他預計“大量被投資的資本將無法產生回報。”亞馬遜創始人 Jeff Bezos將當前環境稱為“一種工業泡沫。”即使是OpenAI CEO Sam Altman也警告說“人們將過度投資並損失錢。”

當流動資本進入一個產業達到這種規模時,誇大人工智慧能力的誘因幾乎難以抗拒。無法展示真正人工智慧差異化的公司,風險會失去資金給予競爭對手,那些能夠做到,或者至少聲稱能做到的。這創造了一個惡性循環:誇大的聲稱提高了估值,吸引更多資本,這又製造了更多誇大的壓力,這扭曲了投資者依賴以有效配置資源的市场信號。

摩根大通資產管理公司的Michael Cembalest觀察到「與人工智能相關的股票佔了S&的75%」P 500 的回報,80% 的盈利增長和 90% 的資本支出增長,自 2022 年 11 月 ChatGPT 發布以來。當市場價值如此依賴於一項其實際回報仍然不確定的技術時,廣泛的 AI 洗禮的後果遠遠超過個別消費者的傷害。它們變成了市場整體的問題.

真正智慧的監管看起來像什麼

當前監管拼湊已取得一些顯著成就,特別是SEC的執法行動和FTC的AI Comply行動。但規模性地解決AI漂洗問題需要的不僅是個案起訴,它需要創建誠實的激勵機制和欺騙的懲罰機制。

應有數項原則指導此項工作。首先,強制技術揭露。將產品宣稱為「具備人工智能」的公司應被要求以簡明易懂的語言揭露,其使用的具體人工智能技術為何、是自行研發還是授權第三方、用於訓練其數據為何,以及其記錄的性能指標是什麼。這並非不合理的負擔。藥品行業必須揭露其銷售每種藥品的組成和臨床試驗結果。金融服務行業必須揭露每種投資產品相關的風險。人工智能公司應面對同等的義務。

其次,標準化的定義。由於「人工智慧」缺乏普遍接受的定義,公司得以將這個詞彙擴張到難以辨認的程度。監管機構應與技術標準機構合作,為何時一個產品可以合法地被描述為「AI驅動」設定明確的門檻,正如「有機」在食品標籤上的用法受到監管一樣。

第三,第三方審計。正如財務報表需要獨立審計,AI聲稱應該受到獨立技術驗證。歐盟AI法案對高風險AI系統合規評估的要求指明了這個方向,但這個原則應該擴展到更廣泛的關於AI能力的營銷聲稱。

第四,適當的懲罰。對Delphia課以225,000美元罰款,以及對Global Predictions課以175,000美元罰款,這些只是姿态,並非威懾。當公司能夠透過欺騙性的人工智能聲稱籌集數百萬美元時,罰款必須調整以消除欺騙的財務誘因。歐盟人工智能法案的罰款最高達全球營業額的7%,以及英國競爭與市場行動署(CMA)新賦予的罰款最高達全球營業額的10%的權力,代表了正確的量級。

第五,大規模消費者教育。單純的監管執法無法保護消費者免受AI漂白。政府應投資公共AI素養計劃,參考經濟合作與發展組織(OECD)、聯合國教科文組織(UNESCO)及學術機構發展的框架。微軟2025年教育AI報告發現,66%的組織領導者表示他們不會聘請沒有AI素養的人,表明市場本身開始要求這項能力。對AI素養的公共投資應與2000年代初數字素養宣傳活動一樣緊急。

正直的折衷之道

這並非表示人工智能僅僅是炒作。這項技術是實實在在的,其能力正在快速進步,其潛在應用也確實具有變革性。問題不在於人工智能本身,而在於人工智能實際能做到的與公司宣稱它能做到的之間的差距。這個差距就是人工智能漂洗得以滋生的地方,要縮小這個差距需要公司的誠實、消費者的懷疑以及監管者的警惕。

2024年和2025年的執法行動代表了一個轉捩點。首次,公司因誇大其人工智能能力而面臨有意義的法律後果。SEC、FTC、DOJ、歐盟監管機構以及英國的CMA都正在趨向同一個信息:現行法律已禁止欺騙和誤導性聲稱,「人工智能」標籤並不提供豁免權。

但執行本質上就是反應式的。它會在造成損害後才抓住最嚴重的違規者。要建立一個消費者能信任AI聲稱的世界,需要更根本的東西:透明文化的建立、證據標準,以及一個有足夠知識去提出正確問題的人口。這項技術本身既不是這個故事的英雄,也不是反派。它僅僅是一個工具,就像所有工具一樣,它的價值完全取決於使用它的那些人的誠實。


參考文獻與來源

  1. 美國司法部,紐約南部地區。 (2025)。 “起訴書:美利堅合眾國 v. 阿爾伯特·山格爾。” 2025年4月。 https://www.justice.gov/usao-sdny/media/1396131/dl

  2. 證券交易委員會。 (2024)。 “證交會指控兩位投資顧問虛假並誤導其使用人工智能的聲明。” 報告稿 2024-36,2024年3月。https://www.sec.gov/newsroom/press-releases/2024-36

  3. 維爾許創投和花旗銀行。 (2019年)。 “2019年人工智能的狀態:分歧。” 2019年3月。 由CNBC報導:https://www.cnbc.com/2019/03/06/40-percent-of-ai-start-ups-in-europe-not-related-to-ai-mmc-report.html

  4. 麻省理工科技評論。 (2019年)。 “約40%的歐洲人工智能公司根本沒有使用任何人工智能。” 2019年3月。 https://www.technologyreview.com/2019/03/05/65990/about-40-of-europes-ai-companies-dont-actually-use-any-ai-at-all/

  5. The Information. (2024). 《亞馬遜無需出門技術人員審查率報告》。2024年4月。華盛頓時報報導:https://www.washingtontimes.com/news/2024/apr/4/amazons-just-walk-out-stores-relied-on-1000-people/

  6. 聯邦貿易委員會。 (2025). “FTC Finalizes Order with DoNotPay That Prohibits Deceptive 'AI Lawyer' Claims.” 2025年2月。https://www.ftc.gov/news-events/news/press-releases/2025/02/ftc-finalizes-order-donotpay-prohibits-deceptive-ai-lawyer-claims-imposes-monetary-relief-requires

  7. 證券交易委員會. (2025). Presto Automation Inc. 裁決行動. 一月 2025. 報導者 White & 案件: https://www.whitecase.com/insight-alert/new-settlements-demonstrate-secs-ongoing-efforts-hold-companies-accountable-ai

  8. DLA Piper. (2025). “證券交易委員會強調重點在於「AI 洗白」,儘管感知到執法緩慢。” https://www.dlapiper.com/en/insights/publications/ai-outlook/2025/sec-emphasizes-focus-on-ai-washing

  9. DLA Piper. (2025). “DOJ 和 SEC 對「AI 洗白」發出警告,以指控科技新創公司創辦人。” 2025年4月。 https://www.dlapiper.com/en/insights/publications/2025/04/doj-and-sec-send-warning-against-ai-washing-with-charges-against-technology-startup-founder

  10. Tucker v. Apple Inc., et al., No. 5:25-cv-05197. 2025年6月提交。由 Bloomberg Law 報導:https://news.bloomberglaw.com/litigation/apple-ai-washing-cases-signal-new-line-of-deception-litigation

  11. 聯邦貿易委員會. (2024). “FTC 宣布加強打擊欺騙性 AI 声稱和計劃。” 2024年9月。https://www.ftc.gov/news-events/news/press-releases/2024/09/ftc-announces-crackdown-deceptive-ai-claims-schemes

  12. 歐洲議會. (2024). “歐盟人工智慧法案:首部人工智慧法規。” https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

  13. 金融行為管理局. (2025). “人工智慧與金融行為管理局:我們的方針。” 2025年9月。 https://www.fca.org.uk/firms/innovation/ai-approach

  14. 2024年數位市場、競爭與消費者法案. 英國議會. https://bills.parliament.uk/bills/3453

  15. CMS Law-Now. (2025). “避免 AI 洗腦:符合法律規範的人工智慧廣告。” 七月 2025。 https://cms-lawnow.com/en/ealerts/2025/07/avoiding-ai-washing-legally-compliant-advertising-with-artificial-intelligence

  16. 加利福尼亞管理評論. (2024). “AI 洗腦:導致誇大其詞的文化陷阱以及總裁如何阻止它們。” 十二月 2024。 https://cmr.berkeley.edu/2024/12/ai-washing-the-cultural-traps-that-lead-to-exaggeration-and-how-ceos-can-stop-them/

  17. 高盛. (2025). “首選話題:AI:在泡沫中?”https://www.goldmansachs.com/insights/top-of-mind/ai-in-a-bubble

  18. 經濟合作與發展組織(OECD). (2025). “為AI時代赋能學習者:一個AI素養框架。”審查草稿,2025年5月。https://ailiteracyframework.org/wp-content/uploads/2025/05/AILitFramework_ReviewDraft.pdf

  19. 科技匯報(TechCrunch). (2025). “金融科技創始人因「AI」購物應用程式被控詐騙,發現實際由菲律賓人操作。”2025年4月。https://techcrunch.com/2025/04/10/fintech-founder-charged-with-fraud-after-ai-shopping-app-found-to-be-powered-by-humans-in-the-philippines/

  20. 富比士. (2025). “一名科技執行長因宣稱其電商新創公司由人工智能驅動而被指控詐騙。”四月 2025. https://fortune.com/2025/04/11/albert-saniger-nate-shopping-app-fraud-ai-justice-department/

  21. DWF Group (DWF集團). (2025). “人工智能漂洗:了解風險。”四月 2025. https://dwfgroup.com/en/news-and-insights/insights/2025/4/ai-washing-understanding-the-risks

  22. 克莱德 & 公司 (Clyde & Co.). (2025). “人工智能熱潮的細則:人工智能漂洗的法律風險。”五月 2025.https://www.clydeco.com/en/insights/2025/05/the-fine-print-of-ai-hype-the-legal-risks-of-ai-wa

  23. Darrow. (2025). “AI 洗腦引發投資者訴訟和 SEC 審查。” https://www.darrow.ai/resources/ai-washing

  24. Crunchbase. (2025). 2025年AI產業資金數據.

  25. Ulster University Library Guides. (2025). “AI 讀寫能力:ROBOT 清單。” https://guides.library.ulster.ac.uk/c.php?g=728295&p=5303990

  26. 俄亥俄大學. (2025). “一個考慮AI素養的框架。”十一月 2025. https://www.ohio.edu/news/2025/11/framework-considering-ai-literacy

  27. 長, D. 和 麥格羅, B. (2020). “什麼是AI素養?能力與設計考慮。”人機互動系統人因工程會議.

  28. 金融行為監管局. (2025). “米爾斯審查將考慮AI如何重塑零售金融服務。”https://www.fca.org.uk/news/press-releases/mills-review-consider-how-ai-will-reshape-retail-financial-services

  29. Womble Bond Dickinson. (2024). “數位市場、競爭與消費者法案2024解釋。” https://www.womblebonddickinson.com/uk/insights/articles-and-briefings/digital-markets-competition-and-consumers-act-2024-explained-cmas


Tim Green

Tim Green
英國系統理論家&獨立科技作家

Tim 探索人工智慧、去中心化認知與後人類倫理的交匯點。他的作品發表於 smarterarticles.co.uk,挑戰了技術進步的主導敘事,同時提出了跨學科框架,用於集體智慧與數位治理。

他的作品曾發表在Ground News,並由學術界和科技界的獨立研究者分享.

ORCID: 0009-0002-0156-9795
電郵: tim@smarterarticles.co.uk