---
schema_version: "1"
id: 25e2b3131f49189c30abfd4e481b0cb15dd4a38ee061f9485b32306e5f285e2c
title: AI 公平性和偏差偵測 - 工作人員模式
collection: architect
version: current
locale: zh-tw
portal_url: https://docs.salesforce.com/architect/current/zh-tw/well-architected/guides/fairness-agentic-patterns.md
canonical_url: https://architect.salesforce.com/docs/architect/zh-tw/well-architected/guide/fairness-agentic-patterns.html
source_site: architect.salesforce.com
content_type: documentation
content_hash: 734ef45c9dcb0b524a519dfaa5941234d0ecad6cfc94499b67337b08b2b81af3
products:
  - 結構良好的架構
  - Architect Site Content Repo
---
# AI 公平性和偏差偵測 - 工作人員模式

深入瞭解結構正確的公平[性](/docs/architect/zh-tw/well-architected/guide/fairness.html) → [代理企業公平性](/docs/architect/zh-tw/well-architected/guide/agentic-enterprise-fairness.html)

## 偏差偵測和緩解

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員組態 | ✅ 使用代表受保護群組的各種角色,系統測試工作人員是否有人口統計偏見;產生僅變更人口統計訊號 (例如名稱、位置或通訊樣式) 的相同要求 |
| Data 360 \| 資料區段 | ✅ 在使用 Salesforce 資料進行工作人員訓練或 RAG 奠基前,請先稽核人口統計表示並識別呈現不足的群組 |
| Data 360 \| Knowledge 庫 | ✅ 針對人口統計平衡,稽核 Knowledge 庫和提取來源;確保文件品質、完整性和準確性可在所有客戶區段之間進行比較 |
| Agentforce \| 工作人員監視 | ✅ 監視跨人口統計群組的工作人員互動以取得行為一致性;分析依使用者特性分層的回應長度、詳細資料層級、禮貌標記和解決方案品質 |
| Agentforce \| 工作人員監視 | ✅ 透過監視決策分佈隨時間的變化來偵測回饋意見迴圈;透過人類檢閱邊緣個案和定期重新平衡來破壞迴圈 |
| Data 360 \| 訓練資料 | ✅ 在訓練資料中概略呈現的人口統計群組,以確保呈現率平衡;在實際資料不足時使用如 SMOTE 等技巧來合併其他資料 |
| Agentforce \| 提示範本 | ✅ 透過系統提示限制工作人員行為:「以相同的專業性和詳細資料來處理所有客戶的人口。提供長度與品質相似的說明,無論客戶的通訊樣式或背景為何。」 |
| Einstein \| 預估模型 | ✅ 計算所有模型功能與受保護特性之間的關聯係數;評估合法預測值是否正確地包含高度關聯的功能 |
| Einstein \| 預估模型 | ✅ 識別並移除與受保護特性相關聯的 Proxy 功能 (種族的壓縮碼 Proxy、性別/族群的名稱模式 Proxy、宗教/照護的通訊計時 Proxy、收入的裝置類型 Proxy、人口統計組成的區域範圍指派 Proxy) |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Data 360 \| 訓練資料 | ⚡️ 使用歷程記錄 CRM 資料來訓練工作人員,而不稽核人口統計表示,允許演算法偏差複雜人類偏差 |
| Agentforce \| 工作人員組態 | ⚡️ 在代表受保護群組的各種角色之間部署工作人員,而不進行系統的人口統計偏差測試 |
| Data 360 \| Knowledge 庫 | ⚡️ 為企業客戶提供詳細的 Knowledge 文章,但僅為小型企業客戶提供一般回應,讓服務品質不盡相同 |
| Agentforce \| 工作人員監視 | ⚡️ 允許工作人員根據與受保護特性 (通訊樣式、語言複雜度、定時模式) 相關的對話提示來調整行為,而無須監控 |
| Einstein \| 預估模型 | ⚡️ 在後續決策模型中包含 Proxy 功能 (壓縮碼、名稱模式、裝置類型),而不評估與受保護特性的關聯性 |
| Agentforce \| 工作人員組態 | ⚡️ 允許在工作人員決策中建立不一致的回饋意見迴圈,以便在未來做出不良決策 (例如,將工作人員路由至特定區域範圍以減少機會、產生較少的成功資料,進一步減少預估的成功) |
| Data 360 \| 資料區段 | ⚡️ 預設為排除代表不足使用者的內容範例中的多數文化參照 |

## 多工作人員協調流程

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員監視 | ✅ 記錄協調鏈中每個工作人員的完整輸入和輸出,讓最終成果中的偏差可以追蹤回導至導入的階段,以及發生放大的位置 |
| 平台 \| CRM Analytics | ✅ 建立顯示面板,顯示依人口統計細分的每個協調流程階段中的決策分佈,以識別鏈結中出現或展開差異的位置 |
| 平台 \| CRM Analytics | ✅ 在鏈接的每個階段 (而不只是最終成果) 計算人口統計相等、機會相等和不同的影響;階段式度量會抓住在任何單一階段看起來可接受的複合,但在整個鏈接中會降級 |
| Agentforce \| 模型組態 | ✅ 在共識模式中最大化工作人員的多元性,以減少相關聯的錯誤:可行時不同的基礎模型 (例如透過「自帶 LLM」組態)、不同的提取來源、不同的提示方法,以及不同的信賴度值範圍校準 |
| Agentforce \| 工作人員組態 | ✅ 在階段大幅縮小下游選項的協調流程轉換點插入人力審查,即使個別工作人員的信賴度高,因為協調流程會產生每個工作人員信賴度分數未獲取的新效果 |
| Agentforce \| 工作人員組態 | ✅ 設定協調流程斷路器,當任何工作人員的信任低於上限、輸出分佈在階段之間大幅偏移、鏈結遇到未在訓練或驗證中呈現的資料,或使用者挑戰中間決策時,停止並升級至人類 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作人員監視 | ⚡️ 在不記錄每個工作人員的輸入和輸出的情況下執行協調流程鏈,因此無法追蹤在出現歧視成果時導入的階段偏差 |
| Agentforce \| 模型組態 | ⚡️ 當所有工作人員共用相同的基礎模型或訓練資料時,將多工作人員共識視為偏差修正,因此協議只會驗證共用偏差,而非更正。 |
| 平台 \| CRM Analytics | ⚡️ 僅針對最終協調流程成果測量公平性,缺少階段式複合,其中每個階段在個別的狀況下顯示為可接受,但鏈結複合為無法接受的差異 |
| Agentforce \| 工作人員組態 | ⚡️ 依賴個別工作人員的信賴分數來入口協調流程鏈,而無須在階段縮小下游選項的轉移點插入人類審查 |
| Agentforce \| 工作人員組態 | ⚡️ 允許協調流程鏈在上游工作人員的信任度低、分佈在階段之間改變,或鏈結在其訓練和驗證集之外遇到資料時,繼續進行而沒有斷線器 |

## 公平度量

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 業務 \| 部署門 | ✅ 在部署任何工作人員做出後續決策之前,請將公平性評估作為強制性部署門,在授權中與安全性審查等同 |
| Einstein \| 預估模型 | ✅ 透過將人口分成人口統計區段、測量每個區段的正成果率,以及比較各區段的率來計算人口統計等級 |
| Einstein \| 預估模型 | ✅ 透過驗證工作人員識別合格的個人,無論人口統計特性為何均相同,以確保機會相等;驗證群組之間的真陽性率相似 |
| Einstein \| 預估模型 | ✅ 套用四五規則:如果任何群組的正面成果低於績效最高群組的 80% 率,請調查是否有偏差 |
| Einstein \| 預估模型 | ✅ 計算所有後續工作人員決策的不同影響率,並在比率低於 80% 時記錄調查結果 |
| 業務 \| 文件 | ✅ 當人口統計相等性違規反映合法業務因素而非歧視時記錄 |
| 業務 \| 法律審查 | ✅ 實作透過群組特定的上限均衡的賠率時,請向法律顧問諮詢,請注意在美國,根據第七章 (《1991 年公民權利法案》) 禁止針對與就業相關的決策,依受保護類別調整分數或裁切數,並且其他管轄區會強制執行自己的限制。 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 業務 \| 部署門 | ⚡️ 部署工作人員進行後續決策,而不計算整個人口統計群組的公平度量 |
| Einstein \| 預估模型 | ⚡️ 透過為這些群組設定比大多數群組更高的證據值,系統缺少代表性不足群組中的合格候選項目 |
| Einstein \| 預估模型 | ⚡️ 在沒有法律理由或驗證的情況下實作群組特定的上限會改善公平性,而不會產生其他歧視性影響,或在美國,針對與就業相關的決策實作特定上限,其中第七章禁止依受保護類別調整分數或裁切 |
| 業務 \| 文件 | ⚡️ 無法記錄當公平度量違規反映合法的業務差異與歧視時 |

## 偏差偵測

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Einstein \| Trust 圖層 | ✅ 使用 Trust 層稽核資料分析人口統計群組之間的回應分佈;建立 CRM Analytics 顯示面板,依客戶區段比較批准率、建議模式和風險分數 |
| Einstein \| Trust 圖層 | ✅ 查詢 Trust 圖層會定期記錄:顯示依客戶產業、區域和帳戶大小分組的所有高價值預估,以確認預估分佈在各區段之間一致 |
| Agentforce \| 工作階段追蹤 | ✅ 依人口統計群組分層的工作人員決策範例 100,讓檢閱者使用 Agentforce 工作階段追蹤推斷追蹤評估是否在不同群組之間的推斷品質相似 |
| 平台 \| CRM Analytics | ✅ 當工作人員決策模式明顯偏離基準時設定警示 (例如,特定區段的批准率逐週下降 20%) |
| 平台 \| CRM Analytics | ✅ 建立自訂監視以警示公平性訊號:「當任何客戶區段的平均對話長度連續三天超過整體平均值的 1.5 倍時通知」 |
| 平台 \| CRM Analytics | ✅ 建立可重複使用的 CRM Analytics 顯示面板範本,以追蹤常見工作人員使用個案的公平度量,包括人口統計相等、機會相等、不同的影響率和趨勢圖表 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作階段追蹤 | ⚡️ 忽略「Agentforce工作階段追蹤」會在使用者報告有偏差、遺漏引入偏差的考量步驟、資料來源,或尋找模式時追蹤推斷和Trust層稽核追蹤 |
| 平台 \| CRM Analytics | ⚡️ 無法設定公平性訊號的異常偵測警示,讓突然分佈排班無法偵測到 |
| 平台 \| CRM Analytics | ⚡️ 為每個小組建立臨時公平顯示面板,而非共用標準化公平監視的可重複使用範本 |

## 人力監督

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員組態 | ✅ 針對高利潤決策 (雇用、信用、醫療照護、法律、住宅) 設計工作人員,以在執行前分析、建議和準備決策,同時需要人力批准 |
| 平台 \| 批准流程 | ✅ 設定 Agentforce 以產生含有支援證據的建議、透過「批准流程」將超出界限的決策路由至人類審查者,並在批准介面中呈現工作人員的推理追蹤 |
| Agentforce \| 工作人員組態 | ✅ 實作以信賴為基礎的升級:高度信賴 (>90%) 會自主進行、中度 (70-90%) 需要人類審查,低 (<70%) 會完全轉移至具有內容摘要的人類 |
| Agentforce \| 工作人員組態 | ✅ 使用生產資料校正信賴等級;在每個信賴帶中範例工作人員決策,並計算實際成功率以驗證校準 |
| Agentforce \| 工作人員組態 | ✅ 設定繫結時間的升級觸發:在 5-7 次未解決的輪數後、在經過 10 分鐘後、當使用者表達挫折,或當工作人員重複相同的回應時 |
| 平台 \| Omni-Channel | ✅ 設定 Omni-Channel 以將升級個案路由至具備完整對話內容的適當以技巧為基礎,訓練人力工作人員以處理升級,而不需要使用者重複資訊 |
| Agentforce \| UX | ✅ 隨時在工作人員聊天介面中提供「與人類工作人員連線」選項,而非在失敗互動的最少數目後方排除 |
| Agentforce \| 工作人員組態 | ✅ 允許經授權的人類在任何時間點以記錄的理由覆寫任何工作人員決策;將「覆寫工作人員」按鈕新增至所有需要多行文字說明的工作人員決策介面 |
| 平台 \| 自訂物件 | ✅ 使用決策識別碼、覆寫時間戳記、原因和覆寫記錄對自訂物件的覆寫;依工作人員、決策類型和客戶人口統計建立 CRM Analytics 顯示面板追蹤覆寫模式 |
| 業務 \| 文件 | ✅ 若批准或拒絕與工作人員建議不同,則需要有記錄的理由;追蹤覆寫模式以識別系統的工作人員缺口 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作人員組態 | ⚡️ 部署工作人員作為高利潤決策 (就業、信用、醫療照護、法律、住房) 的自主決策者,而不需要人力批准 |
| Agentforce \| 工作人員組態 | ⚡️ 使用不正確的信賴分數,其中「高度信賴」決策的成功率僅為 75% 次,進而破壞升級機制的Trust |
| Agentforce \| 工作人員組態 | ⚡️ 將客戶陷入無效的自動迴圈中,而無需將時間限制或時間限制升級至人類 |
| 平台 \| Omni-Channel | ⚡️ 路由沒有完整對話內容的已升級個案,強制使用者重複已提供給工作人員的資訊 |
| 企業 \| 管治 | ⚡️ 允許散佈責任,讓每個人都假設 AI 負責,且沒有人負責決策 |
| 企業 \| 管治 | ⚡️ 在事件發生後指派當責,而非在結構決策記錄中記錄的已命名人員部署前指派當責 |

## 責任指派

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 業務 \| 文件 | ✅ 部署前指派當責:模型擁有者 (公平/準確性)、決策擁有者 (使用個案/影響)、上訴授權機構 (公平性上訴)、稽核授權機構 (定期稽核) |
| 業務 \| 文件 | ✅ 使用名稱記錄所有責任角色,而不只是職稱,以確保透過組織變更持續承擔責任 |
| 企業 \| 管治 | ✅ 讓上訴機構 (道德審查委員會或指定的小組) 能夠透過可存取且及時的流程來處理使用者認為工作人員決策不公正的上訴,以撤銷工作人員決策 |
| 企業 \| 管治 | ✅ 授權稽核授權機構 (合規小組) 執行定期稽核,並暫停工作人員缺少公平性標準,等待修復 |
| 企業 \| 管治 | ✅ 透過工作人員開發小組排程高頻率覆寫模式的每月檢閱 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 企業 \| 管治 | ⚡️ 記錄僅具有職稱的當責角色 (例如「資料科學商機」),而不含已命名個人的當責角色,以允許當組織變更時失效 |
| 企業 \| 管治 | ⚡️ 允許決策者將責任委派給 AI 系統,而非為實際影響保留個人責任 |
| 企業 \| 管治 | ⚡️ 讓上訴流程無法存取、過時或沒有權限來撤銷工作人員的決定 |

## 透明度與可解釋性

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員組態 | ✅ 架構多個說明層:使用者面向 (純文字)、業務 (關鍵決策因素)、技術 (模型詳細資料/功能加權) 和稽核 (完成決策追蹤) |
| Agentforce \| 工作人員組態 | ✅ 在做出決策時顯示即時摘要推理:「根據您的購買歷程記錄 (3 個類似購買次數)、目前促銷 (20% 折扣) 和庫存可用性,我建議產品 A」 |
| Agentforce \| 工作人員組態 | ✅ 提供「為什麼建議此項目?」可讓使用者檢視完整的推理連結,其中包括所有提取的 Knowledge 文章、諮詢的記錄和決策邏輯 |
| Agentforce \| 工作階段追蹤 | ✅ 當使用者在數週或數月後挑戰過去的決策時,從 Agentforce 工作階段追蹤中取得邏輯追蹤以進行歷程記錄重建 |
| Agentforce \| 工作階段追蹤 | ✅ 範例 Agentforce 工作階段追蹤邏輯會依人口統計群組分層追蹤,以分析決策品質是否一致;檢閱每個客戶區段的 100 個追蹤 |
| Agentforce \| 工作人員組態 | ✅ 以使用者適當的詞彙傳達信任:具有純文字可靠性內容而非原始機率分數的「高度信賴」/「中度信賴」/「低度信賴」 |
| Agentforce \| 工作人員組態 | ✅ 針對中度或低信賴的決策,說明會發生哪些額外審查和預期的時間表 |
| Agentforce \| 工作人員組態 | ✅ 提供對實情的說明,向使用者顯示會變更成果的原因:「您的商機評分會隨著已驗證的就業資訊 (+8 點) 增加」 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作人員組態 | ⚡️ 顯示使用者誤解的原始機率分數 (例如「73% 信賴」),而非使用者適當的信賴語言 |
| Agentforce \| 工作人員組態 | ⚡️ 提供反實情內容,鼓勵使用系統進行遊戲,或不小心顯示受保護的特性作為決策因素 (例如,「如果您的應用程式年滿 10 歲,則評分會較高」) |
| Agentforce \| 工作人員組態 | ⚡️ 僅提供一種解釋層級,不提供一般使用者 (過於技術) 或稽核員 (過於簡化) 的服務 |
| Agentforce \| 工作人員組態 | ⚡️ 無法儲存歷程記錄推理追蹤,無法在受到挑戰時解釋過去的決定 |

## AI 揭露

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員組態 | ✅ 清楚指出使用者何時與 Agentforce 工作人員互動,並透過明顯且持續的揭露 (並非在服務方面隱藏,或在互動開始時只顯示一次) |
| Agentforce \| 工作人員組態 | ✅ 顯示持續的視覺指標:標記為「AI 助理」的工作人員頭像,標題會顯示「您正在與 Agentforce 服務代理商交談」,且在整個交談中會顯示「與人力代理人連線」選項 |
| Agentforce \| 工作人員組態 | ✅ 確保偏好人類互動的使用者可以切換,而不會受到摩擦或服務品質懲罰 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作人員組態 | ⚡️ 將 AI 揭露隱藏在服務方面,或在互動開始時只顯示一次,而非維持永久的視覺指標 |
| Agentforce \| 工作人員組態 | ⚡️ 懲罰使用者使用降級服務或增加等待時間來選擇人類互動 |
| Agentforce \| 工作人員組態 | ⚡️ 隱藏「與人力工作人員連線」選項,或在存取人力支援之前要求使用者完成工作人員互動 |

## 演算法責任與稽核

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 平台 \| 事件監視 | ✅ 設定「事件監視」以追蹤:顯示工作人員系統互動、工作人員服務帳戶的登入事件,以及工作人員存取大量資料時報告匯出的 API 事件記錄 |
| 平台 \| 事件監視 | ✅ 將「事件監視」記錄串流至外部 SIEM,以達成長期保留和篡改證據的法規需求 |
| 平台 \| 現場稽核追蹤 | ✅ 針對儲存或受工作人員決策影響的物件啟用「欄位稽核追蹤」(存檔歷程記錄的無限保留),從其支援的標準物件中選擇,再加上已啟用欄位歷程記錄追蹤的自訂物件;對於信用額度、就業及其他高利潤使用個案而言十分重要 |
| 平台 \| Shield | ✅ 將 Shield 事件監視用於對稽核追蹤完整性十分重要 (增強型功能、結構化事件欄位、合規性報告整合) 的利害關係最高的工作人員決策 |
| 平台 \| 自訂物件 | ✅ 建立 AgentDecision__c 自訂物件儲存:Decision_ID、Time Stamp、Agent_Type、Model_Version、Confidence_Score、Outcome、User_ID、Record_ID;具有連接物件 DecisionInput__c,可將決策連結至輸入功能快照 |
| 平台 \| 自訂物件 | ✅ 儲存決策時確切的輸入功能值 (非可能變更的目前值),以便測試決策是否會與更新的資料不同 |
| 業務 \| 文件 | ✅ 記錄每個後續決策的模型版本、組態狀態 (值、業務規則、參數) 和環境內容 (使用者身分、時間戳記、對話歷程記錄) |
| 平台 \| LWC | ✅ 建立 LWC 元件內嵌在記錄中,以使用「檢視原因」連結顯示決策歷程記錄 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 平台 \| 現場稽核追蹤 | ⚡️ 依賴標準欄位歷程記錄 (18 個月保留) 來處理需要多年監管保留的高利息決策 |
| 平台 \| 自訂物件 | ⚡️ 僅儲存目前記錄值,而非決策時間輸入快照,因此無法準確重建歷程記錄決策 |
| 業務 \| 文件 | ⚡️ 決策時無法記錄模型版本和組態狀態已啟用,因此在發現偏差時無法進行根本原因分析 |
| 平台 \| 事件監視 | ⚡️ 僅在 Salesforce 內保留稽核記錄,無外部 SIEM 串流,缺少法規合規性的篡改證據 |

## 持續公平監控

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 平台 \| CRM Analytics | ✅ 建立顯示面板,顯示:依人口統計區段 (長條圖) 的決策分佈、一段時間內的公平度量 (趨勢線與警示值)、具有四分之五規則指標的不同影響率、影響決策的首要預測因素、依人口統計群組覆寫率 |
| 平台 \| CRM Analytics | ✅ 當輸入分佈從訓練資料人口統計變更顯著時警示;監視分佈排班指出可能的公平性降級 |
| Agentforce \| 工作人員組態 | ✅ 將「報告疑慮」選項新增至 Agentforce 聊天介面;將報告路由至完整對話內容的道德檢閱板;使用必要調查工作流程追蹤自訂物件 |
| 企業 \| 管治 | ✅ 每週監視公正性顯示面板、調查 24 小時內缺口、執行每月覆寫模式分析、執行每季全面公正性稽核 |
| 企業 \| 管治 | ✅ 讓使用者透過無障礙機制報告認知的偏差;使用者報告會呈現量性度量遺漏的質性問題 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 企業 \| 管治 | ⚡️ 將偏差偵測視為一次性預先部署驗證,而非持續監視工作人員透過提示更新、模型版本變更和排班資料散佈進化 |
| 平台 \| CRM Analytics | ⚡️ 當公平度量違反定義的界限時無法設定警示,讓漸進式漂移無法偵測到 |
| Agentforce \| 工作人員組態 | ⚡️ 未提供使用者可存取的機制來報告認知的偏差,缺少量性度量無法呈現的質性問題 |

## 外部稽核支援

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 平台 \| 整合 | ✅ 建立匯出功能,讓合規小組能夠使用人口統計層級來提取完整的決策資料集,以供外部稽核員檢閱,同時遵循資料隱私權法規 |
| 業務 \| 文件 | ✅ 維護目前涵蓋以下項目的文件:工作人員用途與預期使用個案、訓練資料人口統計與已知限制、公平度量 (預先部署與生產)、偏差緩解策略、人力監督組態、監視方法和責任指派 |
| 企業 \| 管治 | ✅ 在部署工作人員做出後續決策之前,請先執行演算法影響評估,以評估利害關係人群組之間的潛在正面和負面影響 |
| 企業 \| 管治 | ✅ 由第三方排程半年期外部公正稽核;維護適應歐盟 AI 法案、州法律和產業法規的監管時程掃描 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 平台 \| 整合 | ⚡️ 設計工作人員結構,而不預期由監管機構、民權組織或客戶進行外部稽核;缺少用於稽核審查的匯出功能 |
| 業務 \| 文件 | ⚡️ 允許文件在工作人員透過提示更新或模型變更進化時變為過時,而無須更新公平度量和緩解策略 |
| 企業 \| 管治 | ⚡️ 部署工作人員進行後續決策,而不進行跨利害關係人群組的影響評估 |

## 使用者代理程式與同意

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員組態 | ✅ 針對後續的工作人員 (信用決策、就業審查、服務資格) 要求明確選擇加入,而非依預設啟用 |
| 平台 \| 自訂物件 | ✅ 使用欄位建立 AI_Consent__c:User_ID、Use_Case、Grant_Date、Grant_Method、Retrawal_Date、Status;啟用欄位稽核追蹤以長期保留同意記錄 |
| Agentforce \| 工作人員組態 | ✅ 將同意檢查新增至工作人員叫用邏輯:處理前查詢 AI_Consent__c 啟用同意;支援使用個案層級同意 (服務代理與銷售代理) |
| 平台 \| 社群/體驗網站 | ✅ 建立可從使用者設定檔存取的自助式服務同意管理介面;每 12 個月排程一次同意續約提醒 |
| Agentforce \| 工作人員組態 | ✅ 部署影響現有使用者的新功能時,請主動尋求新使用個案的同意,而非依賴未考慮特定應用程式的原始同意 |
| Agentforce \| 工作人員組態 | ✅ 隨時啟用同意撤銷,並立即停止工作人員處理;讓撤銷簡單如授與,而不需要支援連絡人 |
| Agentforce \| 工作人員組態 | ✅ 啟用使用者偏好設定管理:通訊樣式 (簡要與詳細)、主動性層級、升級偏好設定;儲存在使用者記錄自訂欄位和工作人員系統提示中的參照 |
| 平台 \| Omni-Channel | ✅ 在整個互動期間提供持續的「與人力工作人員連線」選項;若選取,請使用完整對話內容和優先順序標記路由至 Omni-Channel,且沒有降級服務或等待時間懲罰 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作人員組態 | ⚡️ 依預設啟用後續工作人員,而不需要明確的使用者選擇加入,以瞭解工作人員將如何影響他們 |
| Agentforce \| 工作人員組態 | ⚡️ 需要全面的 AI 同意,而非啟用細微的使用個案層級同意 (客戶可能會在拒絕銷售工作人員時同意服務工作人員) |
| Agentforce \| 工作人員組態 | ⚡️ 撤銷同意需要支援連絡人或官僚程序,而非立即生效的自助式服務 |
| Agentforce \| 工作人員組態 | ⚡️ 部署原始同意中未考量的實際新工作人員功能時,依賴原始同意 |
| Agentforce \| 工作人員組態 | ⚡️ 要求使用者在與人力工作人員連線之前完成工作人員互動或說明其偏好設定 |

## 工作人員設計中的不歧視

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| Agentforce \| 工作人員組態 | ✅ 檢閱工作人員考量中針對受保護的特性內容所使用的所有資料來源;在決策類型沒有法律理由時,從工作人員輸入中移除或遮蔽受保護的特性 |
| Agentforce \| 提示範本 | ✅ 在系統提示中包含明確的非歧視指示:「無論客戶的名稱、位置、通訊風格或其他特性為何,都能以相同的專業度處理所有客戶。請勿根據人口統計特性對客戶進行假設。」 |
| Agentforce \| 工作人員組態 | ✅ 在生產之前使用多個角色進行測試:產生相同的要求,僅有不同人口統計訊號 (建議不同族群、位置、通訊樣式的名稱);比較品質、長度、專業性和成果的回應 |
| Agentforce \| 工作人員監視 | ✅ 計算依客戶區段分層的第一連絡人解決率;調查區段之間何時顯著差異 |
| Agentforce \| 工作人員監視 | ✅ 跨區段的工作人員對話範例,並讓檢閱者對一致的維度 (準確性、完整性、專業性、實用性) 評估回應品質,並使用評分間的可靠性測試 |
| Agentforce \| 工作人員監視 | ✅ 追蹤依客戶人口統計分層的升級率;特定區段的較高率表示工作人員對這些使用者效率較低 |
| 業務 \| 調查 | ✅ 調查來自所有人口統計群組的使用者並比較滿意度分數;整體高滿意度可能會遮蔽少數群組的不良體驗 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| Agentforce \| 工作人員組態 | ⚡️ 將受保護的特性資料 (身心障礙狀態、宗教、國籍來源) 包含在工作人員輸入中,以便決定這些特性在法律上沒有理由的狀況 |
| Agentforce \| 提示範本 | ⚡️ 部署不含系統提示中明確的非歧視指示的工作人員,僅依賴基礎模型行為 |
| Agentforce \| 工作人員組態 | ⚡️ 僅測試具有大多數人口統計角色的工作人員,缺少對代表不足群組的偏見 |
| 業務 \| 調查 | ⚡️ 依賴整體滿意度分數來遮罩少數群組因多數滿意度而淹死的不良體驗 |

## 工作人員體驗中的無障礙功能

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 平台 \| LWC | ✅ 針對自訂聊天實作,請確保:具有適當地標的語意 HTML 結構、ARIA 即時區域宣布新訊息、透過訊息歷程記錄的鍵盤瀏覽,以及互動元素上的清楚焦點指標 |
| 平台 \| LWC | ✅ 在整個開發期間使用 JAWS、NVDA 和 VoiceOver 進行測試,而不只是自動掃描 |
| Agentforce \| 工作人員組態 | ✅ 設定工作人員回應以針對一般受眾使用純文字;避免用語法並提供不可避免技術詞彙的詞彙;使用標題和項目符號清單建構長回應 |
| Agentforce \| 工作人員組態 | ✅ 透過原生發言者評估驗證的回應品質可跨語言進行比較,而不只是遺漏文化細微差別的自動化度量 |
| Agentforce \| 工作人員組態 | ✅ 針對服務不同語言族群的業務關鍵使用個案,請設定語言特定處理 (語言變數、本地化提示、Knowledge 文章篩選依語言),並驗證每個語言的品質,而不僅依賴基礎模型跨語言轉移 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 平台 \| LWC | ⚡️ 建立不使用手動無障礙測試的自訂聊天實作 (僅依賴自動掃描) |
| Agentforce \| 工作人員組態 | ⚡️ 使用不含詞彙的語法和複雜語言,為使用者建立認知阻礙 |
| Agentforce \| 工作人員組態 | ⚡️ 僅依賴低資源語言的基礎模型跨語言轉移,為非大多數語言使用者提供降級品質 |
| Agentforce \| 工作人員組態 | ⚡️ 僅透過遺漏文化細微性的自動度量驗證多國語言回應品質 |

## 公平管理與部署門

**模式**

| 要尋找的位置 | 良好的外觀 |
| --- | --- |
| 企業 \| 管治 | ✅ 部署任何生產工作人員之前,請先與強制執行授權機構建立道德審查委員會 |
| 企業 \| 管治 | ✅ 定義必要部署門:資料稽核、公平度量計算和演算法影響評估 |
| 平台 \| CRM Analytics | ✅ 在第一個工作人員部署之前,在 CRM Analytics 中建立基準公平性監視顯示面板 |
| 平台 \| 事件監視 | ✅ 在生產之前啟用 Einstein Trust 圖層稽核範圍,並將「工作人員動作的事件監視」設定為基礎 |
| 企業 \| 管治 | ✅ 在 CI/CD 銷售管道中實作自動公平迴歸測試以進行調整 |
| 企業 \| 管治 | ✅ 依部署規模標準化所有新工作人員的同意管理模式 |
| 平台 \| 整合 | ✅ 建立工作人員決策重建工具以啟用合規小組自助式服務 |

**反模式**

| 要尋找的位置 | 看起來怎麼壞 |
| --- | --- |
| 企業 \| 管治 | ⚡️ 在與強制執行授權機構建立道德審查委員會前部署生產工作人員 |
| 企業 \| 管治 | ⚡️ 將公平視為後續考量,而非與安全性檢閱等同的強制性部署門 |
| 企業 \| 管治 | ⚡️ 在部署工作人員進行後續決策前略過演算法影響評估 |
| 平台 \| CRM Analytics | ⚡️ 部署第一個生產工作人員,而不具備基準公平性監視顯示面板 |