從個人態度的觀點
維根斯坦傳：天才的責任
天才的意識是最遠離涵擬階段的；「它具備最強最清澈的明確和清晰」。天才具有最發達的記憶力，具有形成明確判斷的最強大能力，因此對於真假好壞的差異有著最精細的感覺。邏輯和倫理根本上是一回事：「它們無非是對自己的責任」。天才「是最高的道德，因此它是每一個人的責任」。
天才並不是一種選擇，而是必須達成的義務。每個人都有成為天才的潛能，只要絕對的服從「真理」，能感知到自己必須要對全世界負責的責任。選擇平庸就是一種道德上的墮落。如果一個人有能力覺醒卻選擇昏睡，那就是對生命的背叛。
當我們把所有問題不加思索地丟給 LLM，並全盤接受其產出時，我們實際上是放棄了「形成明確判斷」的權利。如果選擇平庸是一種道德墮落，那麼在有能力學習時選擇依賴黑盒子，便是工程師對自身專業生命的背叛。
從解決工程問題的觀點
讓我們實際一點，因為就現在來看，LLM 並沒有辦法正確解答所有問題。而為了更具體地討論這個問題，我們可以引用 CRPG（電腦角色扮演遊戲）的機制，並結合機率論的視角來重新審視「解決問題」這件事。
檢定機制
假設每一個工程問題都有一個特定的複雜度閾值（Difficulty Threshold, ），範圍在 1 到 10 之間。解決問題的過程，等同於進行一次技能檢定：只要你的「產出點數」大於 ，問題即被解決；否則即為失敗。
兩種分佈模型
在這個賽局中，有兩個變數：LLM 與人類。
LLM 的能力可以被視為一個預訓練好的常態分佈，甚至是左偏分佈（Left-skewed Distribution）。它的參數是凍結的。在短時間內，它的平均值（）與變異數（）固定不變。它的進步來自於模型迭代，與身為使用者的你無關。
人類的初始狀態極不穩定，對於陌生領域，其期望值可能趨近於 0。不過，人類具備可塑性。雖然初始參數極低，但透過學習與除錯的過程，人類可以持續且穩定地將分佈曲線的峰值向右推移，甚至改變分佈的形狀以適應高難度的邊緣案例。
情境模擬
一般的開發流程可能如下：
- 遭遇問題。
- 人類嘗試拆解問題。
- LLM 生成解法。
- （可選）人類驗證並學習。
- 問題解決。
邊際效應遞減
在專案初期，問題難度通常較低（），LLM 的分佈範圍足以輕鬆覆蓋這些需求。這會產生一種「我很強」或「開發很簡單」的錯覺。
然而，隨著專案規模擴大，系統熵值增加，問題的複雜度會逐漸逼近 甚至 。此時會發生兩種情況：要馬問題超出了 LLM 訓練資料的覆蓋範疇，導致它開始產生幻覺或給出似是而非的錯誤代碼。又或是人類因為缺乏基礎知識，無法將高維度的複雜問題拆解為 LLM 能處理的低維度子問題。
分水嶺
如果你過去一直跳過「驗證並學習」的步驟，你的能力分佈將一直停留在初始的 0 點附近。當 LLM 擲出的點數低於閾值時，你將沒有任何補救能力。或著更糟糕的是，人類可能根本意識不到 LLM 擲出了錯誤的點數，而因此誤把錯誤答案當成正確解答。
當專案因為 LLM 的錯誤建議而崩潰，或者引入了嚴重的安全漏洞時，Git Blame 上顯示的是你的名字，而不是模型的版本號。
在實務上，你需要為這個錯誤負責。上級要求修復時，長期依賴 LLM 而放棄思考的工程師，將面臨巨大的恐慌。你被迫在極短的時間內，回頭去補足那些你本該循序漸進習得的基礎知識。因為根據我的經驗法則 LLM 如果在一個地方出錯，通常它就會開始一直出錯，最後只能我們上場 debug，然後開始還認知債。
Karma is a bitch. 這就是你放棄判斷的懲罰。LLM 是一個強大的工具，你可以使用 LLM，但你沒有權利放棄學習。 因為唯有透過學習建立起的判斷力，才能讓你履行維根斯坦所說的，對真理與專業的責任。