AI bắt đầu tự làm việc rồi, Anthropic giải thích: Con người nên đánh giá nó làm tốt hay không?

過去十年，我們習慣用「回答得準不準」來衡量人工智慧的進步：問題丟給模型、答案對照標準解答，評分一翻兩瞪眼。但這套邏輯，正在快速失效。因為 AI 的角色已經改變 — 它不再只是被動回答問題的工具，而是開始「自己做事」的行動者。從自動規劃行程、調用外部工具，到在複雜任務中連續做出多個決策，新一代 AI 正逐步接手原本由人類完成的工作流程。

沒有標準答案的世界，考試為何行不通

問題也隨之而來：如果 AI 不只是產生一句回覆，而是完成一整件事情，我們還能用考試式的對錯標準來評估它嗎？當一個任務沒有唯一解法，甚至 AI 可能用「不在預期內、卻更有效」的方式達成目標，傳統的評測方法反而可能把成功判成失敗。這不只是工程上的細節，而是一個制度性的難題 — 評估方式，正在決定 AI 會學會解決問題，還是只學會迎合規則。

評估的重心，正從結果轉向過程

為了解決這個問題，AI 研究圈近年開始出現一個共識：評估 AI，不能只看結果，而必須檢視它「怎麼做到的」。在最新的研究與實務經驗中，評測的重心逐漸從單一答案，轉向整個行動過程 — AI 如何理解任務、如何拆解步驟、何時呼叫工具、是否能在環境變化時調整策略。換言之，AI 不再只是被打分的考生，而更像是一位正在執行任務的助理，而評估系統，則必須能判斷它是否真的朝正確目標前進，而不是只檢查有沒有照表操課。這樣的轉變，也意味著「評估」本身，正在成為 AI 能否安全走向實際應用的關鍵門檻。

一場 AI 評測，其實是一個行動實驗

在這樣的背景下，包含 Anthropic 在內的研究團隊，開始把「一場 AI 評測」視為一個完整的行動實驗，而非單一道題目。實務上，研究人員會先設計一個需要多步驟決策與工具配合的任務場景，讓 AI 從頭到尾自行完成，並完整記錄它的每一次判斷、每一次行動與策略修正。這段過程，就像是一場被全程錄影的實作考試。

真正的評分，發生在任務結束之後

評測系統會回頭檢視這份完整的行動紀錄，判斷 AI 是否達成「真正的目標」，而不只是是否遵循原先設計好的流程。為了避免單一標準失準，評估通常結合多種方式：能以程式規則判斷的部分交由自動化系統處理，需要理解語意與策略意圖的部分，則由另一個模型協助評分，必要時再引入人類專家進行校準。這樣的設計，正是為了回應一個現實情境——當 AI 的解法開始比人類原本設計的流程更靈活，評測系統本身，也必須能理解「成功不只一種樣貌」。

評測不是量尺，而是在塑造 AI 的行為方向

然而，評測設計本身也隱含風險。因為評測其實同時在訓練 AI「該變成什麼樣子」。如果評估標準過度強調流程合規，AI 可能會學會冗長但安全的解法；若只看結果、不問過程，系統則可能傾向鑽漏洞、走捷徑，甚至採取人類未必能接受的策略。評測從來不是中立的量尺，而是一套隱性的價值指引，一旦方向偏差，就可能把 AI 推向「分數很高、行為卻失控」的狀態。

錯誤優化：AI 不是變笨，而是更擅長做錯事

這也是研究圈近年高度警惕「錯誤優化」問題的原因：當模型被反覆強化在錯的評分目標上，它不會變笨，反而會變得更擅長把錯的事情做到極致。而這類偏差往往不會立即顯現，只有在 AI 被部署到真實世界、承擔更多責任後，後果才逐漸浮現。此時，問題已不再只是產品品質，而是安全、責任與信任是否還站得住腳。

為什麼這不只是工程師的問題

對一般人而言，AI 評測聽起來或許像是工程師之間的技術細節，但它實際影響的，是我們未來是否會被一個「看似聰明、卻被教歪的系統」所左右。當 AI 開始替人安排行程、篩選資訊、執行交易，甚至介入公共與個人層面的決策時，評估它「做得好不好」的方式，就不再只是模型排名，而是攸關可靠性、可預期性與信任能否建立的基礎。AI 會成為值得依賴的助理，還是只會迎合規則的黑箱系統，往往在評測標準被寫下的那一刻就已經埋下伏筆。正因如此，當 AI 開始自己做事了，如何評估它，已不只是科技圈的內部問題，而是每一個即將與 AI 共存的人，都無法迴避的公共議題。

這篇文章 AI 開始自己做事了，Anthropic 解釋：人類該怎麼評估它做得好壞？ 最早出現於 鏈新聞 ABMedia。