AI 妙算健康方，Google DeepMind 高級研究總監 Barral 洞見指方向
AI's Healing Might, Barral's Vision, Shining Bright
人物
Joelle Barral：Google DeepMind 的高級研究總監，專注於負責任的 AI 開發、安全與倫理。她在推動 AI 技術在醫療健康領域的應用與發展方面扮演關鍵角色。
Barral 擁有豐富的學術背景和產業經驗，在 AI 與醫療健康領域深耕多年。她不僅領導 DeepMind 的醫療 AI 研究團隊，更致力於確保 AI 技術的發展符合倫理標準，並能真正造福人類健康。在她的帶領下，團隊開發了多個突破性的醫療 AI 應用，包括糖尿病視網膜病變檢測系統等。
在醫療資源分配不均的全球背景下，Barral 致力於探索如何運用 AI 技術彌補醫療資源缺口，特別是在發展中國家和偏遠地區。她相信 AI 技術應該成為醫生的得力助手，而不是取代者，最終目標是提升整體醫療服務的質量和可及性。
觀點：AI 將徹底改變醫療保健，但表象可能變化不大
Barral 認為，AI 將增強醫療保健的各個方面，包括診斷、治療和個性化醫療。未來的醫療系統底層會有巨大變革，但使用者體驗到的流程可能與現今相似。
值得注意的原因：點出了 AI 影響的深遠性與潛在的漸進式展現。 "從現在起 10、15 年後，我們可能仍然会去看我們的初級保健醫生，然後接著去看專科醫生等等。但他們每個人都將由一個人工智能代理來增強。因此，在底層，系統將截然不同，但它可能看起來與我們今天所知的並沒有那麼大的區別。"
觀點：AI 在醫學影像診斷已取得突破，甚至超越人類專家
AI 在分析醫學影像（如糖尿病視網膜病變檢測）方面表現出色，能發現人類專家可能忽略的細微資訊，例如透過眼底血管判斷性別。
值得注意的原因：揭示了 AI 在特定醫療任務上的精準度和潛力。 "對於這些特定任務，機器在協助醫生分析圖像方面做得非常出色。" "意識到這些圖像包含的資訊比我們最初想像的要多得多，這既有趣又具有科學啟示意義。"
觀點：AI 整合多模態數據，實現全面的疾病理解與個性化醫療
AI 不僅限於影像，還能整合聲音（如咳嗽聲檢測肺結核）、基因組學、行為數據（如睡眠、步數）等多種來源的資訊，以更全面地理解疾病、健康狀況，並提供個性化建議。
值得注意的原因：強調了 AI 在數據整合與個性化醫療方面的巨大潛力。 "通過結合這些模式（指多模態數據），並在細胞层面深入理解疾病機制，我們將最終能夠攻克，例如三陰性乳癌等更具挑戰性的晚期癌症，或是我們今天還沒有良好解決方案的其他難題。" "健康體現在我們所做的一切中。這包括您今天走了多少步、吃了什麼、是否與朋友互動或整天孤獨。"
觀點：AI 是醫生的強大助手，有助於解決醫療資源短缺
Barral 強調 AI 應作為增強醫生能力的工具，最終決策權仍在醫生手中。同時，AI 有潛力彌補醫療資源不足的地區的服務空缺。
值得注意的原因：釐清了 AI 在醫患關係中的定位及社會價值。 "我認為最終拍板的仍是醫生。因此，由他們保留控制權，做出決定，並在報告上簽字，這至關重要。" "這與其說是醫生過度依賴AI的問題，不如說是我們如何培養下一代醫生的問題。"
觀點：RAI 至關重要，需關注數據隱私、倫理與避免濫用
在醫療領域應用 AI 必須謹慎，重視數據質量、隱私保護和倫理考量，避免使用者自行利用生成式 AI 進行診斷，並確保研究成果惠及數據來源地。
值得注意的原因：突顯了在醫療 AI 發展中，倫理先行與負責任創新的必要性。 "一旦擁有真正保護數據的技術，還需要建立問責制。也就是說，如果我們聲稱這項研究將對人們有益，那麼最終這項研究必須確實惠及數據來源地的人們。" "你不能簡單地拿一個現成的通用大型模型，然後直接應用於醫療保健領域並指望它能被接受。"
總結
Joelle Barral 的演講揭示了 AI 在醫療健康領域的巨大潛力與深刻變革。從提升診斷準確性、整合多模態數據以深化疾病理解，到輔助個性化醫療與彌補資源缺口，AI 正逐步重塑醫療的各個層面。然而，這一切進展都必須建立在負責任的開發、嚴謹的倫理考量和對數據隱私的尊重之上。AI 並非要取代醫生，而是作為強大的協作夥伴，協助醫療專業人士提供更優質、更普及的健康服務，最終目標是找回醫學實踐的樂趣，並讓每個人都能更健康。
[實際應用]
對於醫療機構與決策者：
對於醫療機構與決策者而言，人工智慧（AI）的浪潮不僅帶來了前所未有的機遇，也提出了嚴峻的挑戰。要成功駕馭這股變革力量，首要之務便是積極擁抱變革，並有策略地逐步整合 AI 技術。這意味著醫療機構不能再將 AI 視為遙不可及的未來科技，而是應當認識到其作為提升醫療服務質量和運營效率的關鍵驅動力。一個清晰的整合策略至關重要，建議從 AI 技術已相對成熟且能快速見效的領域入手，例如輔助診斷系統的引入，或是利用 AI 優化繁瑣的行政流程與資源調度。
透過這些初步的成功案例，機構可以積累經驗，建立信心，為更深層次的 AI 應用鋪平道路。Google DeepMind 在泰國部署的糖尿病視網膜病變 AI 篩查項目便是一個極具說服力的案例。該項目已成功篩查超過七十萬人，有效地彌補了當地眼科醫生資源嚴重不足的困境。這個案例清晰地表明，在醫療資源匱乏的地區，AI 的早期介入不僅可行，更能產生顯著的社會效益與臨床價值，為全球醫療資源的公平分配提供了新的思路。
然而，AI 系統的效能高度依賴於其賴以學習的數據。因此，健全的數據治理與統一的標準建立是 AI 在醫療領域成功應用的基石。高質量的數據，如同肥沃的土壤，是孕育出精準、可靠 AI 模型的必要條件。醫療機構必須投入足夠的資源，建立一套標準化的數據收集、管理和共享機制。這不僅包括技術層面的數據庫建設和接口統一，更涉及到流程上的規範化，確保數據的完整性、一致性和及時性。
與此同時，數據隱私保護是不可逾越的紅線。所有數據處理活動都必須嚴格遵守相關的隱私保護法規，例如歐盟的《通用數據保護條例》（GDPR），確保患者數據的安全與合規使用。Joelle Barral 在演講中提到的一個挑戰發人深省：在訓練 AI 模型時，即使是經驗豐富的醫學專家，對於「真實情況（ground truth）」的判斷也可能存在分歧。這一觀察深刻揭示了建立一致性數據標註標準的極端重要性與現實難度。如果沒有統一的標準，數據的「噪音」將會極大地影響模型的訓練效果，甚至導致錯誤的診斷或治療建議。因此，投入精力於數據的標準化和質量控制，是確保 AI 系統發揮其最大潛力的前提。
在積極推進 AI 應用的同時，倫理框架的構建與嚴謹的風險管理更是重中之重。醫療領域的特殊性決定了任何技術的應用都必須將患者的福祉和安全置於首位。因此，醫療機構必須建立完善的 AI 倫理審查機制和全面的風險管理流程。這要求 AI 系統的決策過程盡可能透明化、可解釋化，讓醫生和患者能夠理解 AI 作出判斷的依據，而不是將其視為一個無法理解的「黑箱」。同時，必須建立明確的責任歸屬制度，一旦 AI 系統出現失誤並造成不良後果，能夠迅速追溯責任方。
正如 Barral 所指出的：「這與其說是醫生過度依賴 AI 的問題，不如說是我們如何培養下一代醫生的問題。」這句話將焦點從對現有醫生適應能力的擔憂，轉向了對未來醫學教育和人才培養體系的前瞻性思考，強調了從源頭上培養具備 AI素養的新一代醫療專業人才的重要性。這包括在醫學院課程中引入 AI 相關內容，鼓勵跨學科合作，以及為在職醫護人員提供持續的學習和發展機會，確保他們能夠跟上技術發展的步伐，並將 AI 的潛力最大限度地發揮出來，以改善患者護理。
綜上所述，醫療機構與決策者在迎接 AI 時代的到來時，必須採取一種全面而審慎的策略。這包括了勇於擁抱變革、逐步整合 AI 技術的決心；建立堅實的數據治理基礎、確保數據質量與安全的承諾；構建完善的倫理框架、有效管理潛在風險的智慧；以及大力投入人才培養、促進醫護人員技能轉型的遠見。唯有透過這樣多管齊下的努力，才能真正釋放 AI 在醫療健康領域的巨大潛力，推動醫療服務向更高效、更精準、更公平和更具人文關懷的方向發展，最終造福廣大患者。
對於 AI 開發者與研究人員：
對於 AI 開發者與研究人員而言，其肩負的使命遠不止於技術的精進，更在於如何將尖端科技轉化為改善人類健康的實際力量，這需要他們在研發過程中秉持一系列核心原則與實踐路徑。
首要的核心原則便是以人為本，解決真實需求。這意味著 AI 的研發方向必須始終錨定在提升患者福祉和有效應對臨床實踐中遇到的真實挑戰，而非僅僅沉醉於追求算法的複雜度或技術指標的突破。Joelle Barral 博士提出的願景——“我希望人工智能能幫助找回醫學實踐的樂趣”——為此提供了深刻的註解。這句話不僅僅是一種美好的期盼，更是對開發者們的明確指引：應當深入思考如何運用 AI 技術，去實質性地減輕醫護人員的日常工作負擔，例如自動化繁瑣的數據錄入與分析、輔助閱片以提高效率等，從而讓他們能夠從重複性的勞動中解放出來，將更多的時間和精力投入到與患者的直接溝通、情感關懷以及更為核心的診斷與治療決策中。這種以人為本的開發理念，才能確保 AI 技術真正服務於醫療的初衷，帶來有溫度的創新。
在此基礎上，多模態融合與深度理解成為了推動醫療 AI 向前發展的關鍵技術路徑。AI 的獨特優勢在於其處理和整合來自多種來源、不同類型數據的能力。開發者應持續探索如何更有效地融合影像數據（如 X 光片、CT 掃描）、基因組學信息、來自可穿戴設備的生理數據（如心率、睡眠模式）、甚至聲音信號（如咳嗽聲、語音模式）等多模態信息。這種融合並非簡單的數據疊加，而是旨在從多維度視角構建對個體健康狀況和疾病發展的全面而深入的理解。
Barral 博士在演講中提及的幾個例子極具啟發性：例如，利用 AI 分析咳嗽聲的細微特徵來輔助檢測肺結核，這為資源匱乏地區提供了一種低成本、易普及的篩查手段；又如，通過分析眼底影像不僅可以診斷眼科疾病，還能判斷個體性別或預測心臟病等全身性疾病的風險。這些案例充分展示了多模態數據應用的巨大潛力，它們能夠揭示單一數據源難以察覺的隱藏關聯和早期信號。AI 開發者和研究人員的任務，就是不斷優化算法，挖掘這些跨模態數據中的深層價值，以期在疾病的極早期發現、更精準的疾病分型、以及真正意義上的個性化治療方案制定方面取得實質性突破，最終實現對疾病從預防、診斷到治療的全鏈條智能化管理。
然而，無論 AI 模型多麼強大，其在醫療領域的應用前提是獲得醫護人員的信任與接納。因此，模型的可解釋性與可靠性是 AI 開發者必須攻克的另一重要課題。致力於提升 AI 模型的可解釋性（Explainable AI, XAI）至關重要，這意味著模型不僅要給出結果，更要能以人類可理解的方式闡釋其作出特定診斷或推薦的決策依據。當醫生能夠理解 AI 的「思考過程」，他們才更有可能將其視為可靠的助手，而非一個難以捉摸的「黑箱」，從而建立起有效的人機協作關係。與此同時，模型的可靠性是醫療 AI 的生命線。開發者必須投入大量精力，對模型進行嚴格而全面的測試，以確保其魯棒性（即在面對輸入數據的微小擾動或噪聲時，仍能保持穩定和準確的性能）和泛化能力（即在未曾見過的數據上依然表現良好）。
這包括努力減少模型的「幻覺」（即生成看似合理但實則錯誤或無意義的輸出）和各種潛在的錯誤。Google DeepMind 在其 MedGemini 項目中的實踐為此提供了有益借鑒：他們將其通用的基礎大模型 Gemini，在海量的專業醫學語料庫上進行了針對性的微調，並針對特定的醫療應用場景（如醫學問答、影像報告生成等）進行了嚴格的多維度評估。這種從通用到專用，並輔以嚴謹驗證的過程，正是確保醫療 AI 可靠性、安全性的關鍵步驟。在醫療這一高風險領域，任何微小的錯誤都可能對患者的健康造成嚴重影響，因此，對模型可靠性的追求永無止境。
Joelle Barral 博士的強調——“一旦擁有真正保護數據的技術，還需要建立問責制”——深刻指出了這一點。這提醒開發者，在致力於開發先進的數據加密和隱私保護技術的同時，更要深入思考技術應用背後的社會責任和長遠影響。問責制的建立，意味著要明確 AI 系統在決策鏈中的角色，以及在出現問題時的責任歸屬，確保技術的發展始終以患者利益為中心，並真正惠及數據的貢獻者和整個社會。這種負責任的態度，是確保 AI 技術能夠行穩致遠，並持續為醫療健康事業貢獻積極力量的根本保障。
綜上所述，AI 開發者與研究人員在推動醫療 AI 發展的道路上，應始終堅守以人為本的初心，不斷探索多模態數據的潛能，著力提升模型的可解釋性與可靠性，並以負責任的態度積極開展跨界合作。唯有如此，才能確保人工智能這一強大工具真正服務於增進人類福祉的崇高目標，為醫療健康領域帶來深刻而積極的變革。
對於一般大眾與患者：
即便 AI 技術日新月異，民眾仍應極力避免僅憑網路資訊或利用生成式 AI 自行進行診斷。醫療決策是一個極其複雜的過程，需要醫師結合患者的具體病史、生理狀況以及多方面因素進行綜合判斷。正如 Joelle Barral 所警告的：「即使在此之前，您也確實不應該那样做。你不應該給自己當醫生。」目前，AI 在臨床實踐中主要扮演的是輔助角色，是醫療專業人士的得力助手，而非替代者。清晰理解這一點，對於患者安全和醫療質量至關重要。
其次，醫療 AI 的長足發展與個人健康數據的貢獻息息相關，因此，公眾在參與數據共享時應抱持審慎的態度，共同促進醫學的進步。個人健康數據是訓練和優化 AI 模型的寶貴資源，能夠幫助開發出更精準、更有效的醫療解決方案。這正呼應了 Barral 所提倡的「良性循環」概念：數據的貢獻推動了醫學研究的深入，而研究成果最終將惠及更廣泛的患者群體，形成一個持續改進的閉環。Barral 對此呼籲道：「他們知道如果生病的同时贡献数据用于研究，就是在帮助下一个可能面临同样命运的人少受些痛苦。
因此，我认为真正实现这种良性循环，是我们应努力的方向。」然而，實現這一願景的前提是必須妥善處理「數據隱私問題」，這無疑是 AI 醫療發展過程中不容忽視的一大挑戰。患者在考慮貢獻個人健康數據時，擁有絕對的知情權。醫療機構和研究單位必須提供清晰、詳盡的說明，解釋數據的具體用途、將採取的匿名化措施以及完善的隱私保護政策，確保患者在充分知情並自願同意的基礎上參與，其隱私權得到切實而嚴格的保障。唯有建立起堅實的信任基礎，才能鼓勵更廣泛的數據共享，從而加速醫學創新的步伐。
再者，隨著 AI 工具日益普及，民眾應學習善用這些工具來管理個人健康，同時不斷提升自身的數位素養，以批判性和建設性的態度與新技術互動。AI 工具，例如各類「智能健康管理平台」，能夠提供「客制化的健康建議」，協助個人改善生活習慣，提升自我健康管理的能力。這逐步實現了 AI 作為「家庭醫生助理」的願景，為個體提供更具個性化和前瞻性的健康支持。Barral 博士也展望未來，AI 或能像一位了解個體的家庭醫生一樣，提供長期的、個性化的健康指導。
總而言之，AI 在醫療健康領域的應用與發展，需要社會各界的共同努力和智慧參與。一般大眾與患者透過理性看待 AI 的潛能與侷限、堅守專業診斷的優先性、審慎參與數據共享、以及善用 AI 工具並提升數位素養，能夠在這個變革的時代中扮演積極且正面的角色。通過各方的共同努力，謹慎而積極地推動 AI 在醫療健康領域的應用，我們有理由相信，一個更高效、更公平、更具人文關懷的未來醫療體系正穩步向我們走來，最終造福全人類的健康福祉。
copyright © PrivacyUX consulting ltd. All right reserved.
關於本刊作者
Gainshin Hsiao 是 Agentic UX（代理式使用者體驗）的先驅，在人工智能與使用者體驗設計領域擁有超過 15 年的開創性實踐。他率先提出將用戶隱私保護視為 AI 產品設計的核心理念，於 2022 年創立 Privacyux Consulting Ltd. 並擔任首席顧問，積極推動隱私導向的醫療 AI 產品革新。此前，他亦擔任社交 AI 首席策略官（2022-2024），專注於設計注重隱私的情感識別系統及用戶數據自主權管理機制。
Agentic UX 理論建構與實踐
AI 隱私保護設計準則
負責任 AI 體驗設計
在 Cyphant Group 設計研究院負責人任內（2021-2023），他探索了 AI 系統隱私保護準則，為行業標準做出貢獻。更早於 2015 至 2018 年，帶領阿里巴巴集團數位營銷平台體驗設計團隊（杭州、北京、上海、廣州）、淘寶用戶研究中心並創立設計大學，從零開始負責大學的運營與發展，不僅規劃了全面的課程體系，更確立了創新設計教育理念，旨在為阿里巴巴集團培育具備前瞻視野與實戰能力的設計人才。其課程體系涵蓋使用者中心設計、使用者體驗研究、數據驅動設計、生成設計等多個面向應用。
活躍於國際設計社群，在全球分享 Agentic UX 和 AI 隱私保護的創新理念。他的工作為建立更負責任的 AI 生態系統提供了重要的理論基礎和實踐指導。
學術背景
Mcgill - Infomation study/HCI -Agentic UX, Canada
Aalto Executive MBA-策略品牌與服務設計, Singapore
台灣科技大學：資訊設計碩士- HCI, Taiwan
• • 中原大學：商業設計學士- Media and marketing design, Taiwan