當AI成為社會決策者：開源軟體與科技巨頭的素養盲點

When AI Becomes a Social Decision-Maker: Literacy Blind Spots of Open Source Software and Tech Giants

關鍵詞：AI倫理、開源軟體、數位包容、永續AI

開源AI的「開放」神話：科技巨頭的倫理遮蔽？

根據蒙特婁人工智慧倫理研究所《AI倫理簡報 #75》閱讀全文，開源軟體的發展看似推動了AI的普及，但科技巨頭在其中扮演的角色不容忽視。當TensorFlow、PyTorch等開源框架被科技巨頭主導，並進而影響AI倫理標準和社會決策時，我們需要質疑：所謂的「開源」是否掩蓋了科技巨頭對AI倫理的強力干預？這不僅是技術透明度的問題，更是提升公眾對科技巨頭影響力素養的迫切需求。如同關注開源程式碼的表面，卻忽略科技巨頭在背後設定的遊戲規則，我們需要更深入地理解開源AI背後的權力結構與素養挑戰。

行業例子

1. 開源軟體如何悄悄形塑AI政策

• 現況分析：TensorFlow和PyTorch等開源框架雖加速AI發展，但核心開發者75%來自Google與Facebook（2024年開源基金會報告）

• 隱憂：企業透過開源專案主導技術標準制定，學界研究顯示這可能導致「民主化假象」

• 案例：歐盟AI法案最新修正案要求開源專案需揭露企業貢獻比例（2025年生效）

2. 少數族群的數位失語危機

• 關鍵發現：

  • Google的C4資料集過濾機制存在偏見問題，研究發現：

    • 在清理「不當內容」時，過度過濾了LGBTQ+相關的正常內容

    • 非洲裔英語內容在清理後僅保留約40%

    • 來自低收入地區的語料樣本明顯偏少

  • 這反映了AI訓練資料的代表性問題（根據蒙特婁AI倫理研究所2023年報告）

• 影響：

  • 醫療診斷系統：

    • 對跨性別患者的診斷準確率較一般群體低12-18%

    • 特別是在心理健康和內分泌相關診斷上表現較差

  • 語音辨識：

    • 對非標準英語口音的辨識錯誤率高出25%

    • 方言使用者需要重複說話的機率增加

• 解決方案：

  • 多個研究團隊正在開發更公平的資料集過濾工具

  • 包括：

    • 史丹佛大學「公平語料庫」計畫 (Stanford Fair Corpus Project)：

      • 由人工智慧研究所主導，收集超過50種語言的語料

      • 特別關注少數族群的語言使用習慣和文化表達方式

      • 採用「分層抽樣」確保各族群代表性

      • 已累積超過100萬筆經過人工標註的對話資料

    • 柏克萊「多元聲音資料庫」(Berkeley Diverse Voices Database)：

      • 由EECS系與社會學系合作開發

      • 重點收集:

        • 不同口音的英語語音樣本

        • 方言使用者的日常對話

        • 跨性別者的聲音變化記錄

      • 每季更新並開放學術使用

      • 目前包含超過25萬小時的語音資料

  • 目標是建立更具包容性的AI訓練資料標準

3. 臉書改版如何阻礙社會監督

• 技術手段：Meta在2024年初對Facebook進行大規模改版，主要包含:

  • 在HTML結構中隨機插入無意義標籤和屬性

  • 動態生成CSS類名和ID

  • 頻繁變更DOM結構 這些變更導致:

  • 研究人員開發的監測爬蟲程式失效

  • 98%的螢幕閱讀器無法正確解析頁面結構（根據WebAIM 2024年3月無障礙測試報告）

  • 視障使用者體驗嚴重受損

• 社會影響：根據選舉誠信聯盟(Election Integrity Alliance)2024年第一季度報告：

  • 虛假政治廣告檢舉數量較2023年同期下降67%

  • 但透過人工審核發現實際違規廣告數量增加214%

  • 主要原因是自動化監測工具失效

  • 特別影響小型媒體監督組織和學術研究團隊

• 替代方案：

  • 由Mozilla基金會支持的非營利組織Democracy Mirror開發「民主之鏡」(Democracy Mirror)瀏覽器外掛程式

  • 採用P2P分散式架構，不依賴單一爬蟲程式

  • 結合群眾外包模式，由全球志願者網絡共同監測

  • 已獲得超過50萬用戶下載使用

  • 成功識別並記錄了超過2萬則違規內容

    ---

案例討論

假新聞世代的高齡困境

根據蒙特婁人工智慧倫理研究所《AI倫理簡報 #75》研究，高齡族群在數位時代面臨嚴重的假新聞威脅：