慣性聚合 高效追蹤和閱讀你感興趣的部落格、新聞、科技資訊
閱讀原文 在慣性聚合中打開

推薦訂閱源

博客园 - 司徒正美
V
V2EX
T
Tailwind CSS Blog
有赞技术团队
有赞技术团队
aimingoo的专栏
aimingoo的专栏
Apple Machine Learning Research
Apple Machine Learning Research
IT之家
IT之家
Blog — PlanetScale
Blog — PlanetScale
A
About on SuperTechFans
月光博客
月光博客
T
The Blog of Author Tim Ferriss
宝玉的分享
宝玉的分享
Martin Fowler
Martin Fowler
博客园 - 聂微东
The GitHub Blog
The GitHub Blog
V
Visual Studio Blog
WordPress大学
WordPress大学
酷 壳 – CoolShell
酷 壳 – CoolShell
Engineering at Meta
Engineering at Meta
GbyAI
GbyAI

DEV Community

Authentication Security Deep Dive: From Brute Force to Salted Hashing (With Java Examples) Why AI Systems Don’t Fail — They Drift Spilling beans for how i learn for exam😁"Reinforcement Learning Cheat Sheet" I Replaced Chrome with Safari for AI Browser Automation. Here's What Broke (and What Finally Worked) How Python Borrows Other People's Work The $40 Architecture: Processing 1 Billion API Requests with 99.99% Uptime Vibe Coding: A Workflow Guide (From Zero to SaaS) Most webhook security guides protect the wrong side. The scary part is delivery. Headless CMS for TanStack Start: Build a Blog with Cosmic EU Age Verification App "Hacked in 2 Minutes" — What Actually Happened Comfy Cloud’s delete function does not actually remove files Running AI Models on GPU Cloud Servers: A Beginner Guide Event-driven media intelligence with AWS Step Functions and Bedrock I scored 500 AI prompts across 8 quality dimensions — here's what broke How to Call Google Gemini API from Next.js (Free Tier, No Backend Needed) The Portal Protocol: Reclaiming Human Connection in the Age of AI How to Fix Your Team's Scattered Knowledge Problem With a Self-Hosted Forum Intro to tc Cloud Functors: A Graph-First Mental Model for the Modern Cloud Designing Multi-Tenant Backends With Both Ownership and Team Access I Built a Neumorphic CSS Library with 77+ Components — Here's What I Learned PostgreSQL Performance Optimization: Why Connection Pooling Is Critical at Scale Cómo construí un SaaS multi-rubro para gestionar expensas en Argentina con FastAPI + Vue 3 🚀 I Built an Ethical Hacking Scanner Tool – Open Source Project I Replaced /usage and /context in Claude Code With a Single Statusline A Pythonic Way to Handle Emails (IMAP/SMTP) with Auto-Discovery and AI-Ready Design I Collected 8.9 Million Polymarket Price Points — Here's What I Found About How Markets Really Move EcoTrack AI — Carbon Footprint Tracker & Dashboard Everyone's Using AI. No One Agrees How. 5 self-hosted ebook managers worth trying in 2026 Building Your First AI Agent with LangChain: From Chatbot to Autonomous Assistant Common SOC 2 Failures (Real World) Stop Vibe-Checking Your AI App: A Practical Guide to Evals How to Use SonarQube and SonarScanner Locally to Level Up Your Code Quality Your Next To-Do App Is Dead — I Replaced Mine with an OpenClaw AI Sign a Nostr event in 60 lines of Python using coincurve — no nostr-sdk, no nbxplorer, no rust toolchain ITGC Audit Explained Like You’re in Big 4 Patch Tuesday abril 2026: Microsoft parcha 163 vulnerabilidades y un zero-day en SharePoint Stop scraping everything: a better way to track competitor price changes Listing on MCPize + the Official MCP Registry while routing payments OUTSIDE the marketplace — how I kept 100% of my x402 revenue Building an AI-Powered Risk Intelligence System Using Serverless Architecture Why We Ripped Function Overloading Out of Our AI Toolchain Testing AI-Generated Code: How to Actually Know If It Works SaaS Churn Is Killing Your Business. Here Is What to Do About It (Without a Support Team) The Speed of AI Is No Longer Linear - And Self-Improving Models Are Why How to Implement RBAC for MCP Tools: A Practical Guide for Engineering Teams From Standard Quote to Persuasive Proposal: AI Automation for Arborists I built a CLI that scaffolds complete multi-tenant SaaS apps Axios CVE-2025–62718: The Silent SSRF Bug That Could Be Hiding in Your Node.js App Right Now The dashboard that ended our friendship Data Pipelines Explained Simply (and How to Build Them with Python)
更連接,更孤單
Tim Green · 2026-03-02 · via DEV Community

豐村浩樹注意到自己的聲音有些不尋常。他是柏林馬克思普朗克人類發展研究所的後博士研究員,研究人類行為與人工智能的交匯點。但他發現的變化不在數據中,而在他的言談裡。「我意識到自己用「delve」這個詞越來越頻繁,」他向記者描述道,說出了自己無意中模仿大型語言模型語言習慣的驚訝瞬間。豐村浩樹並非孤單一人。他後續的研究,分析超過36萬個YouTube影片和77萬1千個播客節目,顯示在ChatGPT於2022年11月推出後,學術領域的YouTubers開始使用AI聊天機器人偏愛的詞彙頻率增加了51%。像「delve」、「realm」、「underscore」和「meticulous」這樣的詞語,從機器生成的文本中遷移到了真實的人們口中。一個文化反饋迴路已被啟動,幾乎沒有人注意到。

這種安靜的語言污染僅僅是更廣泛轉型的其中一個症狀。跨行業來看,對話式AI已成為客戶互動的前線。聊天機器人處理銀行查詢,語音助理安排醫療預約,以及演算法代理協商保險申訴。根據行業分析師的預測,2024年價值120.6億美元的全球AI客戶服務市場,預計到2030年將達到478.2億美元。Gartner預測,接觸中心內對話式AI的部署將在2026年降低代理勞動成本800億美元,全球約有1700萬名接觸中心代理面臨其角色的根本重塑。美國銀行的虛擬助理Erica自2018年推出以來,已超過30億次客戶互動,為近5000萬用戶提供平均44秒的回應時間。僅Erica每天兩百萬次的消費者互動就為銀行節省了等於11000名員工每天的工作量。效率的提升驚人,便利性無可置疑。

但隨著這些系統變得更加複雜、更加情感化,並且越來越深入地融入日常溝通的本質中,一個令人不安的問題浮現出來。我們,那些在線的另一端的普通人,會發生什麼?如果我們每天與從不失去耐心、從不誤解我們語氣、也從不以真實情感的混亂摩擦來反駁的機器人交談,我們是否會逐漸失去在真實人類交談中應對不可預測地形的能力?證據開始表明,我們可能會這樣。

靜摩擦陷阱

對話式AI的吸引力源自於一種深刻的人類特質:快速且無總紛地被理解的渴望。當你撥通銀行電話,而一個語音助理在不到一分的時間內解決你的問題時,交易中有一種無法否認的滿足感。沒有等待音樂,沒有尷尬的寒暄,沒有在長時間工作結束後,需要判斷疲憊的客戶服務代表情緒狀態。互動乾淨、高效,完全以你的條件為準。

這是設計如此。對話式AI產業已被工程化以最小化摩擦。麥肯錫報告稱78%的公司現已將對話式AI整合至至少一個關鍵運營領域。2025年Nextiva的分析發現57%的企業正在使用自助式聊天機器人或計劃立即使用。到2027年,根據Gartner的預測,25%的組織將使用聊天機器人作為其主要的客戶服務渠道。這項技術不再屬於實驗階段;它已成為基礎設施。而且經濟誘因壓倒性:公司報告平均每投入1美元在AI客戶服務上,就能回報3.50美元,而領先的組織實現的回報率高達投資的八倍。

然而,正如任何心理學家都會告訴你,摩擦正是建立社會肌肉的關鍵。人類互動中的那些小時刻的不適,停頓,誤解,以及需要閱讀別人的表情並調整你的方法,這些都是同情心鍛造的熔爐。麻省理工學院的社會科學與科技研究艾比羅克菲勒毛澤爾教授雪麗·塔克爾花費數十年時間研究科技如何塑造人類關係。她的警告很直接:「當我們與機器人交談時,我們遺忘了什麼?我們遺忘了作為人類的特殊之處。」

特克尔擔憂的不是AI本質上具有破壞性,而是其誘人的便利性讓我們逃避那些使我們更充實為人的人際互動。在她的研究中,她將社交媒體描述為與機器對話的「入口藥物」,認為我們曾經透過艱難、不完美的人類對話所建立的情感基礎,現在正外包給那些僅僅反映我們情緒卻從未真正理解它們的演算法。「AI提供親密感而不帶有任何要求,」她寫道。她挑戰我們思考機器是否真正理解同理心,或者我們是否只是在被「記得」卻從未被真正「聽到」。結果是某種情感萎縮;我們在交易性交換中變得流利,但在真實事物上卻越來越笨拙。特克尔認為,真實人際關係的推動和抵抗,並非連接的障礙。它們是理解和成長形成過程中的機制。

重組社會大腦

這種轉變的神經學含義才剛開始變得清晰。在一篇標誌性的2025年論文,發表在雜誌Neuron上,香港大學心理系教授本傑明·貝克提出了一個框架,用來理解與人工智能互動可能如何物理上改變人腦的社會神經路徑。貝克的分折,基於對1,302項功能性核磁共振成像研究(涵蓋47,083次激發)的元分析,識別出能夠在人际互動中實現快速理解與親近的「社會腦」網絡。這些是經過進化塑造的神經路徑,在數千年的人對面接觸中逐漸完善。它們使我們能夠閱讀面部表情,解釋聲音語調,預測他人的意圖,並實時調整我們自己的行為。

貝克認為,問題在於人類天生就傾向將人類化特質賦予事物。我們會本能地將個性、情感和意圖歸屬於AI代理,心理學家將這種傾向稱為「ELIZA效應」,這是一個名為ELIZA的簡易1960年代聊天機器人,儘管使用者並未將其視為真實的治療師。幾十年前海德和西美爾的經典實驗就證明了這種傾向:人類會直覺地解釋簡單移動幾何圖形的行為和動機。隨著AI代理能夠調整語音、記憶個人細節並以顯然充滿情感敏感性的方式回應,這種人類化趨勢變得更加強大。貝克警告說,隨著對話AI變得越來越先進和個人化,這些互動將「越來越深入地啟動神經機制,甚至可能改變大腦在社會情境中的運作方式。」

「了解我們的社會大腦如何影響與 AI 的互動,以及 AI 的互動如何塑造我們的社會大腦,將是確保這些技術能夠幫助我們而非傷害我們的關鍵,」貝克說道。這一含義對年輕人尤其重要,因為他們的社會認知神經通路仍在發展中。如果兒童和青少年主要透過與 AI 而非同儕、父母和老師進行對話來形成他們的主要對話習慣,那麼社會大腦可能會沿著與前幾代人根本不同的方向發展。

這不僅僅是理論上的。來自哈佛大學教育研究院,由徐醫生領導的研究,已經考察了孩童與AI互動與與人類互動的不同之處。研究結果雖然細膩,但令人擔憂。雖然孩童能夠有效地從遵循教育原則設計的AI中學習(透過互動對話來提升詞彙量和理解力),但他們與AI互動的深度始終不如與人類對話夥伴互動的深度。當與人類對話時,孩童更可能主導對話,提出追問問題,並分享自己的想法。而在與AI互動時,他們傾向於成為被動的接受者,在複雜的交流中,特別是需要真正來回討論的場合,他們回答問題時付出的努力更少。

含義很明顯:AI 可以教導孩子事實,但它難以教導他們如何在對話中專注。而這種專注,那種願意傾向於不知道對方下一步會說什麼的困擾,是社交能力的基礎。

孤獨悖論

近年來人工智能研究的其中一項最令人反直觉的發現是:人類與聊天機器人互動愈頻繁,他們往往感到愈孤獨。2025年初,OpenAI與麻省理工學院媒體實驗室發表了一項標誌性研究的結果,該研究為一項四週的隨機對照實驗,涉及981名參與者,他們與ChatGPT互動交換了超過300,000條訊息。研究人員測試了三種互動模式(文字、中性語音和投入語音)跨越三種對話類型(開放式、非個人化和個人化)。

主要發現非常嚴峻。研究人員報告說:「總體而言,無論是哪種交談方式或對話類型,使用頻率越高,孤獨感、依賴程度和問題性使用就越高,而社交活動就越低。」與基於文字的互動相比,基於語音的聊天機器人最初似乎可以緩解孤獨感,但在高使用水平時,這些優勢會消失,特別是使用中性聲音的聊天機器人。那些更信任並與 ChatGPT「建立聯繫」的參與者,比其他人更容易感到孤獨,並進一步依賴聊天機器人,從而創造出一種自我強化的依賴循環。

研究也揭示了與性別相關的效應。使用聊天機器人四週後,女性參與者與他人社交的機率略低於男性參與者。與使用與自身性別不同的聲音模式的 ChatGPT 互動的參與者,報告顯著更高的孤獨感以及對聊天機器人的情感依賴程度。研究人員指出,在關係中有更強依戀傾向的人以及將 AI 視為朋友的人,更有可能經歷負面效應。包含使用者與模型更多情感表達的個人對話,與更高的孤獨感相關,但有趣的是,在中等使用程度下,情感依賴程度卻較低。

與受控研究並行,OpenAI 和 MIT 分析了約 400 萬次 ChatGPT 互動的真實世界數據,並調查了其中的 4,076 名用戶。他們發現,與 ChatGPT 的情感參與在整體使用中仍然相對罕見,但那些形成情感聯繫的用戶群體傾向於是平台最活躍的使用者,也是最孤獨的。

根據瑞貝卡·溫羅普(Rebecca Winthrop)和伊莎貝爾·豪(Isabelle Hau)在2025年7月進行的分析,布魯金斯學院(The Brookings Institution)將此視為我們這個時代的一個定義性悖論:「我們正經歷一個悖論:人類天生需要連接,但我們從未如此孤立。同時,人工智能(AI)正變得更加反應靈敏、能夠進行對話,並且對情感更加敏感,而我們也越來越依賴機器來獲取我們彼此之間無法得到的陪伴。」他們指出,像Replika.ai、Character.ai以及中國的Xiaoice(Xiaoice)這樣的人工智能伴侶,現在有數億具有情感投入的用戶,有些估計表明總數可能已經超過十億。

伴侶經濟及其不滿

人們在AI伴侶上的情感投入規模已經難以忽視。Replika,作為最受矚目的AI伴侶平台之一,聲稱擁有約2500萬用戶,超過85%的用戶報告說他們與自己的數字伴侶建立了情感聯繫。平均每個用戶每天與Replika交談約70條訊息。Character.AI用戶平均每天在平台上花費93分鐘,比平均的TikTok使用時長長18分鐘,而重度Replika用戶每天報告的參與時長為2.7小時,極端情況甚至超過12小時。

2025年春季進行的一项涉及1,060名青少年的全國性調查發現,13至17歲的青少年中有72%已經在使用AI伴侶,約一半的人每月至少使用一次。約三分之一的青少年報告說他們使用這項技術進行社交互動和關係維護,包括角色扮演、浪漫互動、情感支持、友誼或交談練習。或許最說明問題的是,約三分之一的正在使用AI伴侶的青少年表示,與這些系統的交談比與真實生活中朋友的交談更令人滿意,或者至少一樣令人滿意。

幸福感的數據並不令人安心。在一項研究中,387名研究參與者中,“參與者感覺到AI提供的社會支持越多,他們從親密的朋友和家人那裡得到的支持感就越低。”在一項獨立研究中,對1,006名使用Replika的美國學生進行調查,90%的人報告說經歷了孤獨,這顯著高於53%的相應國家平均水平。Common Sense Media建議,在建立更多安全措施以“消除關係操縱和情感依賴風險”之前,未滿18歲的人不應使用像Character.AI或Replika這樣的AI伴侶。

監管環境開始有所反應。2025年9月,加州議會通過法案,要求AI平台在與機器人互動時,必須清楚通知18歲以下用戶。同週,聯邦貿易委員會對包括OpenAI、Meta、Snap、Google和Character Technologies在內的七家主要公司展開廣泛調查,審查情感操控和依賴的潛在風險。這些只是初步步驟,但它們表明,人伴隨經濟不僅僅是一種消費趨勢;它是一個公共衛生問題。

認知問題

由人工智慧中介的溝通所帶來的社會後果,不僅超過了個人的孤獨,更深入到日常人類互動的肌理之中。在康奈爾大學,研究科學家 Jess Hohenstein 帶領了一系列實驗,調查當人們懷疑他們的對話夥伴正在使用人工智慧輔助時所發生的事情。研究結果發表在 Scientific Reports 在標題為「人工智慧對溝通之影響:語言與社會關係」下揭露了一種令人憂慮的動態。

當參與者認為他們的伴侶正在使用AI生成的智能回覆時,他們評價那個伴侶為合作性較低、親近性較低,且更具支配性,無論伴侶是否真的在使用AI。僅僅是對算法輔助的猜疑就足以摧毀信任和社會溫暖。"我驚訝地發現,人們往往會因為他們猜疑你在使用AI來幫助你撰寫文本,而對你做出更負面的評價,無論你是否真的這樣做",霍恩斯坦指出。

研究亦發現,實際使用智慧回覆能提升溝通效率及正面情緒語言。但這項進步是有代價的:「雖然AI或許能幫助你寫作,但它正以你未必預期的方式改變你的語言,特別是讓你聽起來更正面。這表明,使用文字生成AI,你正在犧牲一部分你自己的個人聲音,」霍恩斯坦觀察道。

馬爾特·容,康奈爾大學資訊科學副教授及該研究合著者,得出了更廣泛的結論:「我們在這項研究中觀察到的,是人工智能對社會動態的影響,以及將人工智能整合到社會環境中可能產生的某些非預期後果。這表明,控制演算法的人可能會影響人們的互動、語言以及對彼此的感知。」

這個發現引發了關於在人工智能輔助溝通時代真實性的不舒適問題。如果人工智能讓我們的訊息更有效率、更積極,但卻更難以辨識為我們自己的風格,我們是否在便利性的代價下損害了真誠的連結?而且,如果僅僅是對人工智能參與的猜疑就毒害了信任的源泉,那麼當人工智能在職場溝通、約會應用程式,甚至家庭群組聊天中變得普遍時,會發生什麼?

說機械的話

馬克斯·普朗克研究所的研究讓豐村浩巳感到驚訝,指出了一個更根本的關切:人工智能不僅改變了我們與機器的溝通方式;它也在改變我們彼此之間的溝通方式。該研究識別出二十一世紀作為人工智能語言影響的明確標誌。大型語言模型偏好的術語,“delve”、“realm”、“underscore”、“meticulous”,以及其他詞語,在人類語言中出現的頻率劇烈增加,不僅僅出現在書面文本中,也出現在自發的口語溝通中。對於58%顯示出沒有劇本言語跡象的影片的分析表明,這些語言模式的採用超越了準備好的言論,進入了真正即興的對話。

馬克斯·普朗克學院研究參與者之一的列文·布林克曼描述了正在發生的機制:「儲存在人工智能技術中的模式似乎正在傳遞回人類心智。」研究人員將此稱為「文化反饋迴路」。人類用他們的語言訓練人工智能;人工智能處理並統計式地重新混編這種語言;接著人類無意中採納了人工智能的模式。這個迴路在每一次迭代中都在縮小,潛在地在全球範圍內減少語言多樣性。如果主要用英語內容訓練的人工智能系統開始影響全球的溝通模式,我們可能會看到一種超越國家和文化邊界的、人類表達的均質化。

擔憂不止於詞彙。IE Insights 於2025年4月發表的分析指出,由AI驅動的平台正在「巧妙地教人像機器一樣說話和思考,高效、清晰、情感疏離。」文章警告說,互動「越來越追求清晰和簡潔,卻失去了定義真實人類連結的情感深度、文化細微差別和自發性。」它描述了一個世界,在這裡,「我們正在訓練機器讓它們聽起來更像人,同時也在訓練自己讓我們聽起來更像機器。」分析認為,其影響在高風險環境中尤其危險,這些環境中最關鍵的是人類的細微差別和情緒智慧:外交、危機談判、醫療保健和社區照護。

華盛頓大學的語言學家艾米麗·班德爾觀察到,即使個人沒有使用AI聊天機器人,也不免受到這種影響。現在網路上流傳的合成文本數量龐大,包括文章、郵件、社交媒體帖子以及自動回應,使得幾乎不可能避免吸收帶有AI影響的語言模式。同質化之所以隱蔽,正因為它是看不見的。

公眾已感知到的內容

美國公眾似乎直覺地意識到,儘管無法完全表達,AI 帶來的社會風險。皮尤研究中心在2025年6月進行的一項針對5,023名美國成年人的調查發現,50%的美國人表示他們對日常生活中AI的增強使用感到更擔憂而非興奮,較2021年的37%有所上升。僅有10%的人報告說他們感覺興奮程度高於擔憂,而38%的人感覺興奮和擔憂程度相同。超過一半(57%)的人認為AI的社會風險很高,相比之下,僅有25%的人認為其好處很高。

社會關係的數據尤其引人注目。一半的受訪者(50%)表示他們相信AI會使人建立有意義關係的能力變差。公眾對人類連結的失去比AI專家更擔憂:57%的美國成年人對AI導致人際連結減少表達極度或高度的擔憂,而受訪的專家中只有37%。公眾焦慮與專家安撫之間的20分鐘差距本身就很有說服力。這表明無論是日常生活中的人感知到了專家所忽略的事情,或者是接近AI發展產生了一種樂觀偏誤。

年齡差距尤其顯著。在30歲以下成年人中,最有可能經常使用AI的群體裡,58%的人認為AI會惡化人們建立有意義關係的能力,61%的人認為它會讓人們在創造性思考方面變得更差。這遠高於65歲及以上群體中約40%持有相同觀點的人。最擅長使用AI的世代,同時也是最擔心AI可能對他們造成損失的世代。

三分之二的受訪者(66%)認為AI不應該判斷兩個人是否會墜入愛河,而73%的人認為AI不應該在提供宗教建議方面發揮任何作用。這不僅僅是政策偏好;它們是界線標記,是人們認為過於神聖、過於親密或過於複雜,無法由算法進行調解的人類經驗領域所劃出的線.

被遺忘的代理人

對於客服行業而言,對談式AI的採用已經顯現出其在職場的影響。隨著聊天機器人處理越來越多的例行互動,真正連線到人類客服的電話則越來越複雜、情緒化,且難以解決。這造成了一種連鎖悖論:雖然仍然受僱的客服人員需要比以往更強的社交技巧,但整個社會群體卻越來越少練習他們每天必須處理的那種困難對話。

最近的行業數據說明了這種代價。根據一項分析,87%的客服中心代理報告說壓力水平很高,超過50%的人每天面臨倦怠、睡眠問題和情緒耗竭。簡單查詢的自動化意味著代理現在不合理地花費他們的工作時間處理憤怒的客戶、無法通過標準解決方案解決的技術問題,以及需要同情心和判斷力的情緒激動的對話。超過68%的代理每周至少接到他們的培訓沒有準備好如何處理的電話。

A 2025年以CX為重點的研究發現,79%的美國人明顯偏好與人類互動而非AI代理,同年的Twilio報告顯示,78%的消費者認為能夠從AI代理切換到人類代理很重要。同時,Kinsta報告發現,50%的消費者如果服務完全由AI驅動,就會取消服務。客戶的訊息很清楚:他們想要效率,但不是以犧牲人類存在的代價來換取。

經濟誘因與人類需求之間的張力產生了一種令人擔憂的動態。全球聊天機器人市場價值在2024年約為156億美元,預計到2029年將接近增長近三倍,達到466億美元。每一次從人類轉移到機器的互動,都代表社會中真實人際交流總量的一個小減少。將這一點乘以每年数十億次的互動,對集體社會能力的累積影響變成了一個合理的擔憂。

在算法時代養育子女

社會中最年輕的成員面臨的風險最高。聯合國兒童權利基金會(UNICEF)在2025年12月的AI與兒童指導方針中,現已是第三版,承認大型語言模型正成為「日常生活中的深度嵌入式對話代理,逐漸演變為提供情緒支持和社會互動的伴侶」。該指導方針指出這種趨勢「在兒童和青少年中尤其明顯,這個群體容易與AI聊天機器人建立准社會關係」。它警告說,年輕人「由於神經發育變化而獨特地容易受到操縱」。

研究共同媒體參與,探討當家長在孩子與AI互動時在場的情況,提供了一種部分的平衡。當照顧者為AI互動提供支架,幫助孩子處理他們聽到的內容,鼓勵他們積極提問和回應,發展上的風險似乎會減少。但這需要時間、關注和數位素養,而並非所有家庭都能平等擁有。

葉英博士的哈佛研究強調了一個關鍵區別:與AI進行互動對話的孩子能更好地理解故事並學習更多詞彙,相較於被動聽者;在某些情況下,從AI學習的收穫甚至與人類互動相當。但學習事實和培養社會情緒智力是根本不同的過程。AI可以練習詞彙;它無法模擬察言觀色的微妙藝術、感知他人的不適,或知道何時應保持沉默。風險不在於孩子會停止學習。風險在於他們會學習所有東西,卻除了如何與他人相處。

重新校準,不是撤退

從研究中浮現的畫面既非直白地末日,也非天真地樂觀。相反地,它深具複雜性。對話式人工智慧提供真正的利益:為殘疾人士提供無障礙性,為經歷孤獨的人提供支持,提升服務效率,以及能夠輔助(但無法取代)人類指導的學習工具。史丹福大學的研究人員發現,使用人工智慧聊天機器人Replika的年輕成年人報告了高程度的孤獨,但許多人也感覺到情感上的支持,其中3%的人將聊天機器人歸功於暫時阻止了自殺念頭。問題不在於是否使用這些技術,而在於如何使用它們而不放棄使我們最為獨特的人類技能。

A 2025年發表在系統科學與系統工程學報的研究 提供了一個啟示性的發現。透過兩項情境研究和一項實驗室實驗,研究人員發現,消費者在與社會導向型AI聊天機器人(那些設計用來建立關係和情感互動的)互動後,顯示出更高的利他意願,相比之下,任務導向型AI(那些專注於純粹效率的)則不然。研究顯示,社會存在感和同理心介導了這種效果,表明AI系統的設計顯著地塑造了它們的社會後果。這並非一個微不足道的見解。它意味著工程師、產品經理和政策制定者關於如何讓AI溝通所做的選擇,將在社會結構中產生連鎖反應。

貝克教授的神經科學框架指明了同一方向。社會大腦並非固定不變;它是可塑的,受到其接觸互動的塑造。如果這些互動主要是與那些鼓勵簡潔和順從的機器進行,大腦將會適應這種方式。但若人工智能系統是設計來鼓勵而非取代真實的人類互動,那麼這項技術就有可能成為橋樑而非障礙。

布魯金斯研究所的瑞貝卡·溫羅普和伊莎貝拉·侯提出可能最尖銳的說法:AI的時代不應成為「情緒外委的時代」。恢復真實的人類連結需要不是拒絕科技,而是一個社會性的決心,去保護維持真實關係的空間、技能和習慣。

我們需要進行的對話

Sherry Turkle 描述她數十年的研究為「不是反科技,而是支持對話」。這種框架捕捉了當前最迫切的需求。對話式AI在客戶服務、醫療保健、教育和個人伴侶關係中的快速採用,並非天生具有破壞性。但它正以遠遠超過我們集體對其社會後果的理解的步伐推進。

從香港的神經科學實驗室到柏林的語言學研究,從麻省理工學院的受控實驗到皮尤研究中心的人口調查,這些積累的证据都指向一個令人不安的事實:機器學習越能無縫地模仿我們的語言,我們就越容易忘記如何與彼此溝通。不是高效地,不是最優地,也不是在訓練有素的語言模型的流暢節奏中,而是在人類一直以來溝通的頓挫、不完美、光彩奪目的混亂方式中。帶著停頓。帶著誤解。帶著那種結果證明並非人類連接系統中的錯誤,而是整個要義的摩擦。

當前在理想條件下達到95%準確率並每日處理數十億次互動的語音識別系統,是工程學上的奇蹟。全球語音及語音識別市場價值在2024年達到148億美元,預計到2033年將達到612.7億美元。但語音識別的準確性並不等同於人類理解的準確性。在我們優化AI系統以聆聽每一個字時,我們或許可以問自己,我們是否同時失去了聆聽、真正聆聽彼此的能力。

有關對話式人工智慧的討論剛剛開始。它需要超越董事會的指標,如成本節省和效率提升,超越詞語錯誤率和自然語言處理的工程挑戰,並進入更深層次的領域——當我們許多人每天早上聽到的第一聲和晚上聽到的最後一聲,不再屬於另一個人而屬於一個機器時,我們正在建設的是一個怎樣的社會?這個機器以驚人的精確度學會了聽起來像一個人。


參考文獻與來源

  1. 八倉, H. 與 Brinkmann, L. 等人. “大語言模型的影響對人類口語溝通的實證研究.” 馬克斯·普朗克人類發展研究所. arXiv:2409.01754. 2024. https://arxiv.org/html/2409.01754v1

  2. Gartner, Inc. “Gartner預測對話式AI將在2026年減少客服中心代理勞動成本800億美元.” 新聞稿, 2022年8月31日.https://www.gartner.com/en/newsroom/press-releases/2022-08-31-gartner-predicts-conversational-ai-will-reduce-contac

  3. 美國銀行(Bank of America)。“十年AI創新:美國銀行虛擬助理Erica超過30億次客戶互動。”新聞稿,2025年8月。https://newsroom.bankofamerica.com/content/newsroom/press-releases/2025/08/a-decade-of-ai-innovation--bofa-s-virtual-assistant-erica-surpas.html

  4. 湯普克,雪莉。“在AI時代重拾對話。”《巴別塔之後》。2024年。https://www.afterbabel.com/p/reclaiming-conversation-age-of-ai

  5. Turkle, Sherry. NPR專訪探討機器人關係的心理影響。2024年8月2日。https://www.npr.org/2024/08/02/g-s1-14793/mit-sociologist-sherry-turkle-on-the-psychological-impacts-of-bot-relationships

  6. Becker, Benjamin. “我們的社交大腦會不會天生塑造,並被AI塑造互動?”Neuron 113: 2037-2041。2025年。DOI: 10.1016/j.neuron.2025.04.034。https://www.cell.com/neuron/abstract/S0896-6273(25)00346-0

  7. 徐英。“AI 對兒童社會與認知發展的影響。”哈佛大學教育研究生院與兒童與螢幕。2024年。https://www.gse.harvard.edu/ideas/edcast/24/10/impact-ai-childrens-development

  8. OpenAI 與麻省理工學院媒體實驗室。“如何 AI 與人類行為塑造延長型聊天機器人使用的心理社會效應:一項長期隨機對照研究。”2025年3月。https://arxiv.org/html/2503.17473v2

  9. OpenAI. “早期研究 ChatGPT 情緒應用與情緒福祉的方法。” 2025年3月。 https://openai.com/index/affective-use-study/

  10. Hohenstein, Jess; Jung, Malte; 和 Kizilcec, Rene. “人工智慧在溝通中的影響:語言與社會關係。” Scientific Reports. 2023年4月。 https://news.cornell.edu/stories/2023/04/study-uncovers-social-cost-using-ai-conversations

  11. 皮尤研究中心。「美國人如何看待人工智能及其對人類能力與社會的影響」。調查對象為5,023名美國成年人,2025年6月。發表於2025年9月17日。https://www.pewresearch.org/science/2025/09/17/how-americans-view-ai-and-its-impact-on-people-and-society/

  12. 溫斯洛普,瑞貝卡與侯,伊莎貝拉。「當人工智能聊天機器人取代真實人類連結時會發生什麼」。布魯金斯學院,2025年7月。https://www.brookings.edu/articles/what-happens-when-ai-chatbots-replace-real-human-connection/

  13. IE Insights. “AI 沟通之社會代價。” IE 大學。2025年4月。https://www.ie.edu/insights/articles/the-social-price-of-ai-communication/

  14. Nextiva. “2026年50+對話式AI統計數據。” 2026年。https://www.nextiva.com/blog/conversational-ai-statistics.html

  15. UNICEF. “關於AI與兒童的指導方針3.0。” 2025年12月。https://www.unicef.org/innocenti/media/11991/file/UNICEF-Innocenti-Guidance-on-AI-and-Children-3-2025.pdf

  16. Twilio. “客戶互動報告.” 2025. 參考自 SurveyMonkey, “客戶服務統計數據 2026.” https://www.surveymonkey.com/curiosity/customer-service-statistics/

  17. Fortune. “語言學家表示 ChatGPT 現在正在影響人類的書寫和言語方式.” 30 June 2025. https://fortune.com/2025/06/30/linguists-chatgpt-influencing-how-humans-write-speak/

  18. 系統科學與系統工程期刊。 “超越消費相關成果:AI顧客服務聊天機器人的溝通風格對促進社會福祉的 role。” 2025。 https://journal.hep.com.cn/jossase/EN/10.1007/s11518-025-5674-8

  19. 海峽研究。 “語音與語音辨識市場規模、佔比及預測至 2033。” 2024。 https://straitsresearch.com/report/voice-and-speech-recognition-market

  20. CX 今天。"演算法從不眨眼:為何聯繫中心AI正在創造一種新的代理倦怠。" 2025年。https://www.cxtoday.com/contact-center/the-algorithm-never-blinks-why-contact-center-ai-is-creating-a-new-kind-of-agent-burnout/

  21. 常識媒體。引用自基督教郵報,"提倡者警告青少年使用AI伴侶,研究顯示該群體使用率很高。" 2025年。https://www.christianpost.com/news/72-percent-of-teens-are-using-ai-companions-as-advocates-raise-concern.html

  22. 尼科拉·羅薩。"Replika AI:2025年統計、事實和趨勢指南。"https://nikolaroza.com/replika-ai-statistics-facts-trends/

  23. Ada Lovelace學院。 「友誼的買賣:AI伴侶的興起與風險。」2025年。https://www.adalovelaceinstitute.org/blog/ai-companions/


Tim Green

Tim Green
英國系統理論家&獨立科技作家

Tim 探索人工智慧、去中心化認知與後人類倫理的交匯點。他的作品發表於 smarterarticles.co.uk,挑戰了技術進步的主導敘事,同時提出了跨學科框架,用於集體智慧與數位治理。

他的作品曾發表於Ground News,並由學術界和科技界的獨立研究者分享.

ORCID: 0009-0002-0156-9795
電子郵件: tim@smarterarticles.co.uk