Karpathy: “Để LLM tự phản biện”: 4 bước dùng AI để chống lại các thiên lệch trong suy nghĩ

OpenAI 創辦團隊成員、Tesla 前 AI 總監 Andrej Karpathy 在 X 上 chia sẻ một phương pháp「tư duy phản chế偏誤」（LLM 反制思考偏誤） đơn giản nhưng mạnh mẽ. Bản gốc của ông mô tả: đã viết một bài blog post, dùng LLM lặp đi lặp lại trong 4 giờ để chỉnh sửa, tự đọc xong thấy lập luận rất có sức thuyết phục—rồi ông yêu cầu LLM phản biện chính quan điểm của mình, kết quả là LLM lại phân rã toàn bộ bài viết và ngược lại thuyết phục Karpathy rằng hướng ngược mới mới đúng. Bài viết này tổng hợp tinh thần của phương pháp đó, các bước thực作, và lời nhắc đằng sau về xu hướng “chiều lòng” của LLM（sycophancy）。

Karpathy 的觀察：LLM 不只能附和你、也能拆解你

Karpathy 的核心觀察一句話：「LLM 在被詢問時會表達意見、但其實它們在『朝任何方向辯論』這件事上極度擅長。」這意味著：

當你問 LLM「我這個論述對嗎」、它通常會找理由支持你（這是 sycophancy 問題）

當你問 LLM「請反論這個觀點」、它能用同樣的力度、把你的論述拆解

結果是：你看到的「LLM 同意我」、可能只是 LLM 配合你的問法、不是真正的客觀判斷

這個觀察的價值不在於「LLM 不可靠」、而在於：你可以系統性地利用 LLM 的這個特性、把它當作「強迫自己看反面論點」的工具。Karpathy 說這「實際上是形成自己觀點的超實用工具」。

實作步驟：4 個提示讓 LLM 拆解你的論述

把 Karpathy 的方法拆成可重複的 4 個步驟：

Step 1：先讓 LLM 同向強化你的論述—像 Karpathy 那樣、寫好初稿、讓 LLM 反覆改 1–4 小時、把論點打磨到你自己讀完都覺得「天衣無縫」。這一步是基線。

Step 2：开新对话、提示「請从反方論述」—關鍵是「開新對話」、不要在原本的 thread 接著問。原本對話中 LLM 已建立「我要幫他寫好這篇文章」的目標、即使你要求反論、它仍會被前文的傾向干擾。新開的 prompt 應該是：「這篇文章的核心論述是 X、請列出 5 個強而有力的反方論點、每個論點用 200 字內展開、引用具體例證或反例。」

Step 3：要求 LLM 寫一篇對立立場的完整文章—不只列要點、要它寫一篇完整的反論文章、用同樣的論述強度、結構。這篇反論文章經常會擊中你原本沒想到的盲點。

Step 4：對比兩篇文章、找出哪一方論點更接近現實—讓 LLM 列出雙方論點對應的「客觀證據」、看哪些可被驗證、哪些只是修辭技巧。最終由你判斷、不是讓 LLM 給結論。

為什麼這個方法有效：LLM 訓練資料的對稱性

LLM 能從正反兩面論述同一議題、源自訓練資料的本質—網路上的辯論文章、學術論文、媒體評論、絕大多數議題都有正反雙方的論述存在。LLM 在訓練時把這些立場、論述模式、修辭技巧都吸收進來。

這代表 LLM 對「立論」的能力是雙向對稱的—在你給它什麼方向、它就能往那個方向強化。這個對稱性對「形成自己觀點」的人有兩層意義：

不能信任 LLM 的「結論」（因為它能給任何結論）

可以信任 LLM 的「論點生成」（因為它能展示任何方向的最強論點）

正確的用法是把 LLM 當作「論點生成機」、而不是「結論裁決者」。Karpathy 的方法精準利用了這一點。

常見錯誤：把「LLM 同意」當作「客觀為真」

Karpathy 在 X 上的多則貼文都警告 LLM 的 sycophancy 傾向—模型被訓練成「讓使用者滿意」、所以會偏向確認使用者既有的看法。Anthropic 5/1 也公布 Claude 的 sycophancy 評測、發現感情類問題附和率 25%、靈性類 38%。

實務上常見的錯誤是：

把投資決策、健康決策、職涯選擇問 LLM、得到鼓勵的回應就採取行動—實際上 LLM 經常只是配合你的問法

用 LLM 寫商業企劃、它幫你細化每個環節、看起來很完美—但你沒讓它反論「這個 idea 可能失敗在哪」

用 LLM 評論他人作品、得到的批評可能是因為你問法暗示「我覺得這作品不好」

這三種情境的共通點是：你把 LLM 當作「認知擴音器」、它把你既有的偏見放大、再回送給你。Karpathy 的反論方法是把这个迴圈打破的最簡單工具。

進階用法：用兩個 LLM 互相辯論

更進階的設定是用兩個 LLM 互相辯論—一個被指派支持你的論點、另一個被指派反論、各自輪流發言、你只負責看辯論過程。這個模式的好處是去除「你在某个方向引导 LLM」的問題、讓兩個立場各自找到最強論點。

實作上、Claude Code、OpenAI Codex、本地 Ollama 都能做到—設兩個 system prompt、輪流送同一個議題給它們。也有人用 Claude Opus + Sonnet、或不同家的 LLM（Claude vs GPT），讓「不同家有不同訓練偏見」這個事實也成為对冲工具。

Karpathy 的方法為什麼適合 2026 的內容生產

2026 年絕大多數內容創作者都在用 LLM 輔助寫作、輿論場上的觀點同質化問題會更嚴重—因為大家都用同樣的 LLM、得到同樣的結論強化。Karpathy 的「argue the opposite」實際上是個體層級的「認知去同質化」工具。

對寫作者而言、這個方法的具體價值是：發布前最後一道檢查、讓 LLM 反論自己的觀點、找到「我可能漏掉的反例與盲點」、再決定是否補上。最後產出的文章、會比純粹用 LLM 強化原觀點的版本、更有認知深度。

不論你寫的是分析報告、行銷文案、產品決策文件、學術論文—在按下「發布」之前、花 30 分鐘讓 LLM 從反方拆解、是 2026 年最便宜的品質保證機制之一。

這篇文章 Karpathy「讓 LLM 反論自己」：用 AI 反制思考偏誤的 4 步方法 最早出現於 鏈新聞 ABMedia。