辉格 @ 2024-04-07 19:52  阅读(0)  评论   分类：未分类        

【2023-08-11】

@whigzhou: 在我的閲讀視野中，有關AI的談論似乎有個盲點，就是很少人會區分集中式大系統和小型分立系統，其實這個區別還蠻重要的，

所謂小型分立系統，在我心目中大概是這麽個樣子：
1）它足夠便宜，因而可以大量複製，
2）每個複製體從某一原型複製而來，起初只是個空模型，和少量的先天知識，唯有經歷一個探索/學習/成長過程之後，才擁有足夠的經驗，足以提供有價值的服務，
3）達到這個程度后，它便有了獨立面對世界，自主行動的能力，無須依賴任何在綫資源（比如大型集中式數據庫、大型計算機之類），只需依靠能從市場上買到的商品和服務便可維持自我存續，

很明顯，肉人就是這樣的，

依我看，分立系統在幾方面有關鍵優勢：
1）因爲便宜，它們可以海量存在，
2）因爲海量，可以加速變異和進化，向各種方向并行探索可能性，
3）它能實現真正的個人化服務，而同時又解決了隱私和信任問題，比如，讓一個接入並高度依賴集中式系統的robot來做你的貼身僕人，既做不好，你也信不過，鬼知道采集的數據會被用到哪裏去，
4）因爲每個複製體是從空模型開始的，如果我們能對其學習/成長經歷和效果有某種驗證機制，那麽解決信任問題的潛力便遠大於集中式系統，

今天我仔細想了一下第4點，發現其中大有文章可做，
1）因爲分立系統的資源有限，必須在某種訓練環境中接受培訓，才能擁有足夠好的經驗，
2）這種訓練環境可以利用大型系統的資源優勢，受訓者獲得的只是學習結果，所以資源要求沒那麽高，
3）爲解決信任問題，受訓者和訓練環境之間必須是鬆耦合的，不要有類似腦機接口之類直接寫入而你又無法檢查究竟寫入了些什麽的東西，學習結果的表徵須是可驗證的，
4）這一可驗證性可由兩種方式得到保證：A）要麽是語義化的，因而是可以被理解與核查的，B）要麽是模塊化的，因而是可以以模塊為單位接受QA的，

有關A我之前已經説過不少，這裏説一下B，

未來會出現robot學校，提供各種robot專項訓練服務，他們可以宣稱，一個robot只要來我這兒接受了某項訓練，便可習得某種技能，而且沒有惡性副作用，

對此宣稱，第三方可以來驗證，比如對若干前受訓者進行行爲跟蹤評估，或者置入某種演習環境中，看看其表現是否合格，包括技能合格與否，在各種場景設定中有沒有表現出乖張頑劣之舉，

有些學校還可以提供整套成長訓練，從常規基本技能，通識教育，舉止禮儀，道德教化，等等，確保從這裏畢業的robot都擁有健全人格，基本常識，基礎技能，和善良端莊的品格，

正因爲分立系統是海量的，每個技能模塊也會有大量安裝副本，其内置的任何惡意成分（無論來自製造環節還是訓練環節）很難不被發現，而大型集中式系統裏如果有這種惡意成分，被發現時可能已經太晚了，