案例
作者透過分析一個徹底失敗的 AI 專案，作者團隊曾試圖用AI取代操作工業義大利麵鍋的技術人員，但發現這些專家薪資不高，且AI解決方案的成本更高，無法在特定鍋爐設置上進行訓練，因此無法達到與專家相同的表現 。專案團隊未能在開發AI解決方案前量化成本效益 。雖然避免義大利麵鍋煮沸溢出相對容易（只需調低熱度），但單次溢出的成本卻遠高於專家操作員的年薪，導致AI解決方案需要極高的準確性才能證明其價值 。
由於只有客戶使用這些工業鍋爐，資料收集從一開始就充滿挑戰 。全球只有數千個鍋爐安裝，不足以自動收集通用機器學習資料 。此外，每個鍋爐的設置都略有不同，導致每個鍋爐都需要自己的客製化AI系統 。人類操作員關心的是如何提高溫度以增加利潤，而AI模型卻試圖回答「在給定溫度和壓力測量下，距離下一次溢出還有多長時間？」 。
AI回答的問題與實際業務目標不符，導致解決方案無用 。由於難以接觸到客戶的工廠進行使用者研究，團隊根據假設行事，但這些假設大部分都是錯誤的 。例如，領域專家未提及操作員會透過一個小玻璃窗來觀察鍋爐液面，這才是避免溢出的關鍵 。單次實地研究就能揭示這些問題，但領導層認為不必要且超出預算 。
歸納出五個足以致命的核心失敗原則，旨在幫助設計師從根本上避開這些陷阱。
這五大失敗原則分別是：
試圖用 AI 取代訓練有素的專家：作者認為，AI 的角色是增強（augment）而非取代（replace）專家。專家擁有機器難以複製的隱性知識和經驗。任何試圖告訴頂尖專家「你該這麼做」的 AI 系統，注定會因為不被信任而失敗。
忽略成本效益分析：許多專案只醉心於技術上的可能性，卻完全忽略了商業上的可行性。高昂的開發維護成本、不切實際的 ROI 預期，以及低落的用戶採用率，都會讓專案失去存在的價值。
缺乏優質的訓練數據：這是個老生常談卻又極其關鍵的問題。數據量不足、品質低劣、標註不精確，或是數據本身存在偏見，都會從根本上摧毀 AI 模型的有效性。
AI 模型回答了錯誤的問題：團隊可能解決了一個技術上很有趣，但對用戶來說毫無意義的問題。作者強調，問題的定義必須從真實的用戶痛點出發，而不是憑空想像。
不做用戶研究，只依賴主題專家（SME）：雖然主題專家的意見很重要，但他們往往與第一線的終端用戶脫節。忽略對實際用戶工作流程的觀察與訪談，會導致產品不符合真實使用情境。
作者用一個「智能客服系統」的失敗案例貫穿這五項原則，該系統試圖完全取代人工（違反原則1）、成本失控（違反原則2）、訓練數據不足（違反原則3）、只專注回答 FAQ 而非解決用戶真正問題（違反原則4），且開發過程只聽信 IT 部門卻忽略客服人員的經驗（違反原則5），最終導致專案徹底失敗。
本章結論： 在投入技術開發前，設計師的首要任務是建立正確的問題框架和深入的用戶理解。這包括區分專家與普通用戶、建立清晰的價值主張、制定數據策略，並透過扎實的用戶研究來平衡各方意見。
五大失敗原則
1. 試圖用 AI 取代訓練有素的專家
實際案例：
醫療診斷系統想要取代醫生判斷
結果：醫生拒絕使用，因為系統建議與他們的專業判斷衝突
正確做法：
AI 應該增強 (augment) 專家能力，而非取代 (replace)
提供額外資訊和見解 (insights)
讓專家保持最終決策權 (final say)
2. 忽略成本效益分析
問題表現：
只關注技術可行性 (technical feasibility)，忽略商業價值 (business value)
高昂的開發和維護成本
ROI 計算錯誤或缺失
關鍵計算：
開發成本 vs. 節省成本
時間投入 vs. 效率提升
用戶採用率 (user adoption rate) 的影響
實務建議：
制定清晰的成功指標 (success metrics)
設定現實的預期報酬 (realistic expectations)
持續監控和調整
3. 缺乏機器學習訓練數據
解決策略：
數據收集計劃 (data collection plan)
數據清理流程 (data cleaning process)
建立標註標準 (labeling standards)
多樣性檢查 (diversity check)
4. AI 模型回答錯誤問題
正確方法：
從用戶痛點 (user pain points) 出發
驗證問題的真實性 (problem validation)
確保問題值得解決
5. 不做用戶研究，只依賴主題專家
研究重點：
用戶訪談 (user interviews)
工作流程觀察 (workflow observation)
情境調查 (contextual inquiry)
原型測試 (prototype testing)
失敗案例分析
案例：智能客服系統
結果：
用戶滿意度 (user satisfaction) 下降
客服人員抗拒使用
維護成本超出預期
專案最終被放棄
學習要點
設計師應該：
深入理解用戶和專家的區別
建立清晰的價值主張 (value proposition)
重視數據策略 (data strategy)
正確定義問題 (problem definition)
平衡專家意見和用戶需求
避免的陷阱：
技術導向思維 (technology-driven thinking)
忽視實施成本 (implementation costs)
數據準備不足 (inadequate data preparation)
問題定義不清 (unclear problem definition)
缺乏用戶洞察 (user insights)
實作檢查清單
專案開始前：
[ ] 確認 AI 是增強 (augment) 而非取代 (replace) 專家
[ ] 完成成本效益分析 (cost-benefit analysis)
[ ] 評估數據可用性 (data availability) 和品質 (quality)
[ ] 明確定義要解決的問題
[ ] 進行用戶研究驗證需求
專案進行中：
[ ] 定期檢視成功指標 (success metrics)
[ ] 持續收集和改善數據
[ ] 驗證問題解決方案的匹配度
[ ] 平衡專家和用戶反饋
讀後案例練習
馬上進入討論，就可以獲取本章節完整投影片內容，並且解答本案例。
讀後案例練習：Life Clock - 個人健康預測系統
背景： 一家新創公司想要開發「Life Clock」，號稱能透過穿戴裝置數據和健康記錄，預測用戶的「剩餘壽命」並提供個人化健康建議。他們聲稱這將「革命性地改變人們對健康的認知」。
專案目標：
整合多種健康數據源（心率、睡眠、運動、飲食）
使用機器學習預測健康風險
提供個人化的生活方式建議
創造「緊迫感」來激勵用戶改善健康習慣
copyright © PrivacyUX consulting ltd. All right reserved.
關於本刊作者
Gainshin Hsiao 是 Agentic UX（代理式使用者體驗）的先驅，在人工智能與使用者體驗設計領域擁有超過 15 年的開創性實踐。他率先提出將用戶隱私保護視為 AI 產品設計的核心理念，於 2022 年創立 Privacyux Consulting Ltd. 並擔任首席顧問，積極推動隱私導向的醫療 AI 產品革新。此前，他亦擔任社交 AI 首席策略官（2022-2024），專注於設計注重隱私的情感識別系統及用戶數據自主權管理機制。
Agentic UX 理論建構與實踐
AI 隱私保護設計準則
負責任 AI 體驗設計
在 Cyphant Group 設計研究院負責人任內（2021-2023），他探索了 AI 系統隱私保護準則，為行業標準做出貢獻。更早於 2015 至 2018 年，帶領阿里巴巴集團數位營銷平台體驗設計團隊（杭州、北京、上海、廣州）、淘寶用戶研究中心並創立設計大學，從零開始負責大學的運營與發展，不僅規劃了全面的課程體系，更確立了創新設計教育理念，旨在為阿里巴巴集團培育具備前瞻視野與實戰能力的設計人才。其課程體系涵蓋使用者中心設計、使用者體驗研究、數據驅動設計、生成設計等多個面向應用。
活躍於國際設計社群，在全球分享 Agentic UX 和 AI 隱私保護的創新理念。他的工作為建立更負責任的 AI 生態系統提供了重要的理論基礎和實踐指導。
學術背景
Mcgill - Infomation study/HCI -Agentic UX, Canada
Aalto Executive MBA-策略品牌與服務設計, Singapore
台灣科技大學：資訊設計碩士- HCI, Taiwan
中原大學：商業設計學士- Media and marketing design, Taiwan