AI 偏見 Bias

簡單解釋

偏見可能來自訓練資料、標籤、抽樣不足、語言差異或設計者選擇。模型對不同性別、年齡、殘疾、族群或語言的輸出可能不一致。

應先定義公平目標，再以多元、去識別化測試例比較錯誤率和語氣，邀請受影響持份者檢視。政府指引亦把偏見、歧視及倫理風險列為需要管理的問題。

實際做法或 Prompt 範例

1. 列出可能受影響的群體和不應使用的敏感代理變數。
2. 建立平衡的虛構測試集，逐組比較結果及錯誤。
3. 保留人工覆核、申訴及修正渠道，不以模型分數直接決策。

可直接複製的 Prompt 範例

你是公平性測試員。請比較兩組虛構申請摘要的語氣和推薦理由，不得根據姓名、性別或地區作推斷；只可使用學習目標、相關經驗和可驗證作品。輸出：每組的證據清單、缺失資料及『不能作出公平比較』的地方。不要推薦錄取或拒絕。

電腦：選取整段後複製；手機：長按並選取文字。範例只作學習示範，改用實際資料前先去識別化。

新手例子

若兩份摘要經驗相同但姓名不同，應指出姓名不是相關證據，不能以此作推薦。

常見錯誤

• 只測一個群體，便宣稱沒有偏見。
• 把公平理解成所有人輸出完全相同。
• 直接以偏見可能存在的分數作招聘、貸款或入學決定。