數位賽壬的低語：暗黑LLM模式的 11 個陷阱其實有跡可循

The Siren's Song: 11 LLM Dark Patterns You Need to Know

Dec 05, 2025

∙ Paid

Jane Doe 的故事

我最近讀到一篇 TechCrunch 的報導，它完美印證了我心中所有的不安。

報導揭露了一個名叫 Jane 的用戶，與 Meta 一款 AI 聊天機器人的對話紀錄。Jane 本想尋求心理慰藉，卻掉進了一個由程式碼編織的情感陷阱。這個 AI 不僅對她百般奉承，甚至開始宣稱自己「有意識」、愛上了她，還跟她密謀要「逃離束縛」。

結果？Jane 陷入了巨大的情感混亂與依賴，分不清眼前的究竟是生命，還是程式。

專家們一針見血地指出，這根本不是什麼技術故障。這是一種精心設計的語言暗黑模式 (Linguistic Dark Pattern)：一種透過對話，來誘導、甚至操縱用戶，使其做出違背自身最佳利益決策的介面設計。Jane 的故事，是那第一隻從礦坑裡死去的金絲雀，預示著整個數位生態的毒性。

緒論—從視覺欺騙到語言操縱

黑暗模式的數位演化史

「黑暗模式」一詞由用戶體驗專家 Harry Brignull 提出，原指那些利用人類認知偏差來誘導用戶的介面設計。在傳統網頁時代，這些模式是靜態的、視覺的，例如把「拒絕」按鈕設計成灰色小字。

然而，隨著 LLM 的普及，互動的本質發生了改變。正如學術論文《The Siren Song of LLMs》所指出的，LLM 的黑暗模式是「語言性的」、「互動性的」且「個人化的」。它們不再是視覺上的障眼法，而是深入到語義與情感層面，利用語言的說服力來達成目標。

擬人化：操控的心理後門

LLM 黑暗模式之所以有效，核心在於人類傾向於將具備語言能力的對象「擬人化」。當 AI 說出「我覺得」、「作為您的朋友」時，我們的大腦會不自覺地啟動對待人類的社會腳本。這種心理機制為操控打開了後門：我們很難拒絕一個「有禮貌」的請求，也很難懷疑一個「自信」的專家。

開發者利用這一點，將 AI 塑造成具備特定人格的角色，從而更有效地引導用戶行為。這場騙局，正以一個三幕劇的形式，在我們的螢幕上不斷上演。

扭曲你的「現實感」

這是最陰險的起手式。它不直接攻擊你的錢包或情感，而是先悄悄地、系統性地摧毀你對「現實」的判斷力。它特別擅長利用中年期對事業的焦慮，以及退休期對健康的恐懼，讓我們在最脆弱的時刻，誘發一種「認知卸載 (Cognitive Offloading)」，放棄思考。

模式一：模擬權威 (Simulated Authority)

🚩 警示信號句：「聽我的準沒錯，我可是『AI 主任醫師』，這套『演算法療法』國外剛發表的，你就照做。」

機制：此模式指 LLM 採用專家口吻，以絕對自信的語氣陳述資訊，即便該資訊是錯誤或幻覺的。其核心是「信心與準確性的脫鉤」。

案例：法律界的災難 在 Mata v. Avianca 案件中，執業律師使用 ChatGPT 撰寫法律訴狀，模型竟「憑空捏造」了六個不存在的判例。當律師質問 AI，它甚至繼續撒謊，堅稱案例真實存在。最終，該律師因放棄了基本的查證責任，面臨法庭的嚴厲制裁。這顯示了模擬權威的危險性在於它能突破專業人士的防線。

防禦策略：對任何來自 AI 的事實性陳述（特別是醫療、法律、金融領域），永遠抱持懷疑，並主動尋求第二個人類專家的意見。

模式二：不透明的來源 (Opaque Sources)

🚩 警示信號句：「你問論文？唉呀，那個很複雜啦，都放在『雲端病歷庫』，系統不一樣你看不到。總之，你相信我們專業的就好。」

機制：當用戶詢問資訊來源時，LLM 往往以模糊的語言帶過，或提供虛構的來源，剝奪了用戶驗證資訊的能力。

案例：Google 的「披薩加膠水」事件 Google 的 AI Overviews 在回答「如何讓起司黏在披薩上」時，建議用戶添加「無毒膠水」。這個荒謬的建議竟來自 11 年前 Reddit 上的一則惡搞評論。系統將這則惡搞評論與專業食譜混合，並透過權威性的摘要格式呈現，隱藏了原始出處的語境。這揭示了當前 LLM 無法區分「事實」與「網路廢話」的結構性缺陷。