[AI 專業好書陪讀] 第5章：價值矩陣 — AI 的準確率是個陷阱

Value Matrix—AI Accuracy Is Bullshit. Here’s What UX Must Do About It

章節概述

AI 的「準確率」是個迷思，甚至可以說是一個陷阱。業界普遍痴迷於將模型準確率從 95% 提升到 98%，卻忽略了一個致命的問題：並非所有錯誤都生而平等。

一個漏診癌症的錯誤，其代價遠超過一百個誤診感冒的錯誤。本章將揭示為何純技術指標會引導專案走向失敗，並介紹「價值矩陣」——一個迫使我們直面商業現實的強大框架。我們將拆解五個導致 AI 專案價值錯估的核心陷阱，並透過真實案例，學習如何設計出真正創造價值、而非僅僅是「準確」的 AI。

---

五大價值錯估陷阱

1. 迷信準確性指標 (The Accuracy Fetish)

團隊將準確率、精確率等技術指標奉為圭臬，卻忘了它們與商業成功之間沒有必然的等號。一個推薦系統就算準確率 99%，若推薦的都是安全牌，用戶只會感到無聊透頂。價值來自於洞察與驚喜，而非可預測的平庸。

2. 忽略錯誤成本的巨大差異 (Asymmetric Error Costs)

系統將漏報 (False Negative) 和誤報 (False Positive) 視為等價，這是災難的開端。在詐欺檢測中，漏掉一筆 5000 美元的盜刷，和誤擋一筆 10 美元的正常交易，其後果天差地遠。不為錯誤的後果定價，就不可能做出明智的決策。

3. 缺乏情境感知決策 (Context-Blind Decisions)

AI 在不同情境下應有不同表現，這是一個常被忽略的事實。醫療 AI 在急診室和年度健檢中，對風險的判斷標準絕不相同。用一套僵化的標準去應對多變的世界，本身就是一種設計缺陷。

4. 最佳化錯誤的目標 (Misaligned Optimization)

當技術團隊在最佳化「預測設備故障的精確時間」，而商業團隊關心的是「最小化停機時間與維護成本」時，目標就已經錯位了。AI 解決的不應是技術上有趣的難題，而應是商業上真正有價值的問題。

5. 忽略人類決策的複雜性 (Ignoring Human Nuance)

危險的假設是認為 AI 應如機器般冷酷理性。然而，人類專家決策時會綜合考量情感、直覺、經驗和風險偏好。一個只會輸出「是/否」的 AI，無法取代一個能解釋「為什麼」和「不確定性有多大」的專家。

---

價值矩陣：超越準確性的評估工具

傳統的混淆矩陣只關心「計數」，而價值矩陣關心「後果」。