數位鑑識專家哈尼・法里德研究深偽超過 25 年，他說一般人現在已很難只靠眼睛和耳朵判斷動態牆裡的影像、影片或聲音是真是假；更棘手的是，即使專家仍能用工具追查造假，網路傳播速度往往比鑑識快得多，社會對「到底發生了什麼」的共同認知也因此變得脆弱。
數位鑑識專家哈尼・法里德說，AI 生成影像、影片與聲音已愈來愈逼真。｜Photo Credit:Courtesy GetReal
本文為《Business Insider》訪談數位鑑識專家、加州大學柏克萊分校前教授哈尼・法里德（Hany Farid）後整理而成，法里德也是數位鑑識與資安新創 GetReal Security 的共同創辦人。
今天在網路上，一般人已經很難判斷自己看到的影像、影片或聽到的錄音是真是假。
我們做過這方面的感知研究，人類的視覺與聽覺系統，根本不足以可靠完成這件事。
這不代表我們完全無法判斷，我們有計算與數學工具，只要拿到內容、給我們一點時間，我們可以查出來。
但我共同創辦的數位鑑識新創 GetReal Security 能做的事，和一般人在社群上無止境滑手機時能做的事，差距非常大。
我在 1999 年於達特茅斯學院展開學術生涯。
現在很難回想 1999 年的世界，那時我們大致還活在類比時代，照片仍用底片拍攝，數位相機剛開始出現，網路也在萌芽，但還談不上什麼規模，社群媒體基本上還不存在。
沒有人知道事情會往哪裡走，我開始思考法庭上的數位證據，因為這類證據本質上可以被修改，當時沒有人覺得這是問題，他們當時也沒錯，但我認為它可能會變成問題，因為數位革命不太可能停下來。
於是我們開始做數位鑑識，當時那是非常客製、非常小眾、非常小、甚至有點奇怪的領域，只有我和達特茅斯一群很優秀的研究生在寫論文，大家的反應大多是，這很酷，但到底有什麼用。
後來數位世界爆發，公民記者出現，我們開始看到美聯社和路透社問，別人提交給我們的照片，我們要怎麼知道它是真的。
多年下來，問題從每月聽到媒體和法院詢問、每年聽到國家安全領域詢問，變成每天都會發生。
突然之間，整個世界被翻了過來。
在這個領域剛開始時，我主要思考的是照片，影片很難造假，因為每秒有 24 到 30 格畫面，還有音軌，相比之下，用 Photoshop 這類工具改照片容易得多。
好消息是，當時修圖仍需要技術，所以你會找到錯誤，找到痕跡，例如影子對不上、幾何關係不對、尺寸錯誤，有時還會看到後設資料寫著照片曾用 Photoshop 編輯。
今天，造假不需要技術，不需要時間，幾乎什麼都不需要，只要鍵盤和網路連線，你可以輸入指令，要它對影像、聲音或影片做什麼，AI 就會接手，做出 5 到 10 年前無法想像的效果。
看任何技術時，不能只看現在做到什麼程度，更要看它接下來會往哪裡發展。
我們知道終有一天，內容會在視覺上難以分辨，未必是在計算上無法分辨，但肉眼會很難判斷。
影像可能最早跨過恐怖谷，接著是聲音，包括語氣、笑聲和停頓。
影片現在也正在跨過恐怖谷，如果有人給我 30 分鐘的高畫質影片，它大概不是 AI 生成，但如果是 15 到 30 秒，也就是網路上常見的短影片，光靠視覺線索已經很難判斷，至少目前如此。
AI 生成影片以前大約只有 4 秒，現在有人透過拼接做到 30 或 40 秒。
內容會變得更好，成本會更低，使用也會更容易，最後會到處都是。
生成式 AI 可以做出看起來逼真的畫面，但它並不理解 3D 世界裡光線、陰影和物理規則如何運作。
AI 可以生成讓人腦覺得相當好的東西，但其中的物理規則會有細微錯誤。
只要你做出物理上不合理的東西，我們就有可以偵測的訊號。
有時候，找出假內容可以很快，也相對容易，只要發現錯誤，事情差不多就結束了。
反過來，要證明某個內容是真的就困難得多，你反覆做測試，什麼錯都沒找到，這代表它是真的嗎，其實不是，只代表你沒有找到問題。
平均來說，這項工作可能需要約 1 小時，但 1 小時在網路上很長，幾乎等於永恆。
通常我們接到電話時，某個內容已經有 100 萬次觀看，我們開始查、和記者說明，記者再做報導，這時觀看數可能已經到 1000 萬。
在這個意義上，我們有點像事後檢驗，事實查核總是在事情發生後才來。
判斷錯誤的代價和後果愈來愈高，你可能讓人進監獄，可能做出地緣政治決策，也可能在向 80 億人報導世界正在發生什麼，你必須做對。
最讓我害怕的是，我們作為社會，正在失去對現實的共同認知。
我們爭論的已經不是稅率要訂多少、政府角色是什麼、外交政策要怎麼走，或其他本來就可以也值得意見不同的事。
我們正在爭論 2 加 2 是不是等於 4，我說 2 加 2 等於 4，對方說，不，答案不是，它是蘋果泥。
這就是現在對話的語氣。
我不確定，如果沒有共同的現實認知，穩定的民主制度要怎麼存在，我們可以意見不同，這沒問題，分歧是好事，但我們不能說某件事發生了，另一方卻說不，沒有發生。
社會不能這樣運作。
◎本文經 《Business Insider》 US 授權刊登，原文發表於此，作者為 Lloyd Lee。
本文初稿由《Business Insider》TW 使用 AI 協助翻譯，並經人工審校確認。
責任編輯：羅弘旭 / 核稿編輯：林筠騏
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。