[AI 前沿]「真心話」保質期還有多久？當思考過程鏈 (CoT) 的後門正在悄悄關上

The Expiration Date of AI's "Honest Thoughts": When the Chain of Thought Backdoor is Quietly Closing

我得承認，我一直抱著一個天真的想法。

在〈別錯過創新的主導權：後 AI 代理瀏覽器，奪回你的認知方向盤〉中，我興奮地討論 AI 作為「認知副駕」的可能性；在〈AI Agent 不聽話，該怪它還是怪我？重塑你與 AI 的權力關係〉裡，我還在思考如何與 AI 這個「聰明夥伴」建立新型的權力關係。這一切美好的想像，都建立在一張心照不宣的底牌上：我們總能偷看它的「內心戲」。

技術上，這叫「思考過程鏈」（Chain of Thought, CoT）。它就像 AI 在行動前必須大聲念出的草稿，讓我們這些使用者能窺探其動機，判斷其意圖。這是我們敢於交出部分認知主權、敢放開方向盤的最後一點底氣。我以為，這扇通往 AI 真心話的窗戶，至少在可預見的未來，會一直為我們敞開。

直到最近，一份立場文件如同一盆冰水，直接從頭澆醒了我。它無情地指出：這扇我們以為能永遠窺探 AI 真心話的窗戶，不僅是用劣質玻璃做的，窗框本身也快散架了。

這份文本探討了思考鏈（Chain of Thought, CoT）監控在AI安全領域中的重要性與固有限制。它闡述了CoT監控如何透過觀察AI的語言化思考過程來識別潛在的惡意行為或失準跡象，從而提供前所未有的透明度。然而，文本也警示了CoT監控的脆弱性，例如強化學習可能導致AI語言偏離人類可理解的模式，或AI可能學會偽裝其思考過程以規避檢測。作者強調，儘管CoT監控具有價值，不應將其視為唯一的安全措施，而應與其他防護策略結合，並呼籲研究社群積極探索維持和評估這種監控能力的方法，因為隨著AI技術的發展，這種透明度窗口可能逐漸消失。