---
schema_version: "1"
id: 81173d2a2158c6667612b7423e51cd34b33de2b8d1d75894ce37ebec5ffd16e4
title: AI 공정성 및 편차 감지 - 에이전트 패턴
collection: architect
version: current
locale: ko-kr
portal_url: https://docs.salesforce.com/architect/current/ko-kr/well-architected/guides/fairness-agentic-patterns.md
canonical_url: https://architect.salesforce.com/docs/architect/ko-kr/well-architected/guide/fairness-agentic-patterns.html
source_site: architect.salesforce.com
content_type: documentation
content_hash: 455c22261996eb25312beabf29e7618e89af6899791bf483d2e4fad20ca3cf23
products:
  - 잘 설계된 프레임워크
  - Architect Site Content Repo
---
# AI 공정성 및 편차 감지 - 에이전트 패턴

잘 설계된 [공정성](/docs/architect/ko-kr/well-architected/guide/fairness.html)에 대해 자세히 알아보기 → [에이전트 엔터프라이즈 공정성](/docs/architect/ko-kr/well-architected/guide/agentic-enterprise-fairness.html)

## 편차 감지 및 경감

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ✅ 보호된 그룹을 나타내는 다양한 페르소나를 사용하여 인구 통계 편향에 대해 에이전트를 체계적으로 테스트하고 이름, 위치 또는 커뮤니케이션 스타일과 같은 인구 통계 신호만 다르게 동일한 요청을 생성합니다. |
| Data 360 \| 데이터 세그먼트 | ✅ 에이전트 교육 또는 RAG 기초 교육에 Salesforce 데이터를 사용하기 전에 인구 통계 표현을 감사하고 대표되지 않는 그룹을 식별하십시오. |
| Data 360 \| Knowledge 자료 | ✅ 인구 통계적 균형을 위해 Knowledge 자료 및 검색 소스를 감사하고 모든 고객 부문에서 문서의 품질, 완전성 및 정확성을 비교합니다. |
| Agentforce \| 에이전트 모니터링 | ✅ 인구 통계 그룹 전반의 에이전트 상호 작용을 모니터링하여 동작 일관성을 확인하고, 사용자 특성별로 계층화된 응답 길이, 세부 사항 수준, 친절 마커, 솔루션 품질을 분석합니다. |
| Agentforce \| 에이전트 모니터링 | ✅ 시간 경과에 따른 결정 분포 변화를 모니터링하여 사용자 의견 루프를 감지하고, 가장자리 사례에 대한 인적 검토 및 정기적인 재조정을 통해 루프 중단 |
| Data 360 \| 교육 데이터 | ✅ 균형 잡힌 표현을 보장하기 위해 교육 데이터에서 부재중인 인구 통계 그룹의 샘플을 살펴봅니다. 실제 데이터가 부족할 경우 SMOTE와 같은 기술을 사용하여 추가 데이터를 합성합니다. |
| Agentforce \| 프롬프트 템플릿 | ✅ 시스템 프롬프트를 통해 에이전트 동작 제한: "모든 고객 인구 통계를 동일한 전문성과 세부 사항으로 처리합니다. 고객 커뮤니케이션 스타일 또는 배경에 상관없이 비교할 수 있는 길이와 품질의 설명을 제공합니다." |
| Einstein \| 예측 모델 | ✅ 모든 모델 기능 및 보호된 특성 간 상관 계수 계산, 합법적인 예측 값이 상관도가 높은 기능을 포함할 수 있는지 평가 |
| Einstein \| 예측 모델 | ✅ 보호된 특성과 관련된 프록시 기능을 식별 및 제거합니다(인종에 대한 압축 코드 프록시, 성별/민족에 대한 이름 패턴 프록시, 종교/모두 관리에 대한 커뮤니케이션 타이밍 프록시, 소득에 대한 장치 유형 프록시, 인구 통계 구성에 대한 영역 할당 프록시) |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Data 360 \| 교육 데이터 | ⚡️ 인구 통계 표현을 감사하지 않고 에이전트 교육에 내역 CRM 데이터를 사용하여 알고리즘 편향을 사용하여 인간 편향을 복합 |
| Agentforce \| 에이전트 구성 | ⚡️ 보호된 그룹을 나타내는 다양한 페르소나 전체에서 체계적인 인구 통계 편향 테스트 없이 에이전트를 배포합니다. |
| Data 360 \| Knowledge 자료 | ⚡️ 엔터프라이즈 고객에게 자세한 Knowledge 기사를 제공하지만 소기업 고객에게는 일반적인 응답만 제공하여 서비스 품질 차이를 지속 |
| Agentforce \| 에이전트 모니터링 | ⚡️ 에이전트가 모니터링 없이 보호된 특성(커뮤니케이션 스타일, 언어 복잡성, 타이밍 패턴)과 관련된 대화 표시를 기반으로 동작을 조정할 수 있도록 허용 |
| Einstein \| 예측 모델 | ⚡️ 보호된 특성과의 상관 관계를 평가하지 않고 결과적 결정 모델에 프록시 기능(zip 코드, 이름 패턴, 장치 유형) 포함 |
| Agentforce \| 에이전트 구성 | ⚡️ 에이전트 결정이 향후 부정적인 결정을 정당화하는 차이를 야기하는 경우 사용자 의견 루프를 허용합니다(예: 특정 영역에 대한 기회를 라우팅하고, 성공 데이터를 줄이고, 예측 성공을 더욱 줄임). |
| Data 360 \| 데이터 세그먼트 | ⚡️ 대표도가 낮은 사용자를 제외하는 콘텐츠 예에서 기본적으로 다중 문화 참조로 지정 |

## 다중 에이전트 오케스트레이션

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 모니터링 | ✅ 최종 결과에서 편차를 도입한 단계와 증폭이 발생한 단계로 다시 추적할 수 있도록 오케스트레이션 체인의 모든 에이전트에 대한 전체 입력 및 출력을 기록합니다. |
| 플랫폼 \| CRM Analytics | ✅ 인구 통계별로 분석된 각 오케스트레이션 스테이지의 결정 분포를 보여주는 대시보드를 작성하여 체인에서 차이가 발생하거나 확장되는 위치를 식별합니다. |
| 플랫폼 \| CRM Analytics | ✅ 최종 결과뿐만 아니라 인구 통계 패리티, 동일한 기회, 각 체인 스테이지의 편파 효과를 계산합니다. 단계별 메트릭은 단일 스테이지에서 허용되는 것처럼 보이지만 체인 전체에서 저하되는 복합을 파악합니다. |
| Agentforce \| 모델 구성 | ✅ 합의 패턴에서 에이전트 간의 다양성을 극대화하여 관련 오류를 줄입니다. 가능한 경우 (예: 자체 LLM 구성을 통해), 다양한 검색 소스, 다양한 프롬프트 접근 방식, 다양한 신뢰 임계값 교정과 같은 다양한 기본 모델 |
| Agentforce \| 에이전트 구성 | ✅ 오케스트레이션이 에이전트별 신뢰도 점수가 수집하지 못하는 비상 효과를 생성하므로 개별 에이전트의 신뢰도가 높더라도 단계가 다운스트림 옵션을 크게 좁히는 오케스트레이션 전환 지점에 인스턴스 검토를 삽입합니다. |
| Agentforce \| 에이전트 구성 | ✅ 에이전트의 신뢰도가 임계값 미만으로 떨어지거나, 출력 분포가 스테이지 간에 현저하게 전환되거나, 체인에 교육 또는 확인에 나타나지 않는 데이터가 발생하거나 사용자가 중간 결정을 제기할 때 사람에게 에스컬레이션되는 오케스트레이션 회로 차단기를 구성합니다. |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 에이전트 모니터링 | ⚡️ 각 에이전트의 입력 및 출력을 기록하지 않고 오케스트레이션 체인을 실행하여 차별적인 결과가 나타날 때 어떤 단계에서 편향을 도출했는지 추적할 수 없음 |
| Agentforce \| 모델 구성 | ⚡️ 모든 에이전트가 동일한 파운데이션 모델 또는 교육 데이터를 공유하는 경우 다중 에이전트 합의를 편차 정정으로 처리하므로 협약에서 편차를 수정하는 대신 공유 편차만 확인합니다. |
| 플랫폼 \| CRM Analytics | ⚡️ 최종 오케스트레이션 결과에서만 공정성을 측정하고 각 스테이지가 격리적으로 허용되는 것처럼 보이지만 체인 구성이 허용되지 않는 차이로 이루어지는 단계별 복합이 누락됨 |
| Agentforce \| 에이전트 구성 | ⚡️ 단계가 다운스트림 옵션의 범위를 좁히는 변환 지점에서 사람의 검토를 삽입하지 않고 오케스트레이션 체인을 게이트할 수 있도록 개별 에이전트 신뢰도 점수를 사용 |
| Agentforce \| 에이전트 구성 | ⚡️ 업스트림 에이전트의 신뢰도가 낮거나 배포가 스테이지 간에 이동하거나 체인에 교육 및 확인 집합 외부의 데이터가 발생할 경우 오케스트레이션 체인이 회로 차단 장치 없이 진행되도록 허용 |

## 공정성 메트릭

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 비즈니스 \| 배포 게이트 | ✅ 공정성 평가를 보안 검토 권한과 동일한 필수 배포 게이트로 지정한 후에 결과적 결정을 내리는 에이전트를 배포합니다. |
| Einstein \| 예측 모델 | ✅ 인구 통계 세그먼트로 모집단을 나누고, 세그먼트당 긍정적 결과율을 측정하고, 세그먼트 전반의 비율을 비교하여 인구 통계 패리티를 계산합니다. |
| Einstein \| 예측 모델 | ✅ 에이전트가 인구 통계 특성에 관계없이 자격을 갖춘 개인을 동일하게 식별하는지 확인하여 기회 평등을 보장하고, 그룹 전체에서 실제 긍정률을 비교할 수 있는지 확인합니다. |
| Einstein \| 예측 모델 | ✅ 4/5 규칙 적용: 가장 성과가 높은 그룹의 비율이 80% 미만인 긍정적인 결과를 받은 그룹일 경우 편향을 조사합니다. |
| Einstein \| 예측 모델 | ✅ 비율이 80% 미만일 경우 모든 후속 에이전트 결정에 대한 편파 효과 비율을 계산하고 조사 결과를 문서화합니다. |
| 비즈니스 \| 문서 | ✅ 인구 통계 패리티 위반이 차별이 아닌 합법적인 비즈니스 요인을 반영하는 경우 문서화 |
| 비즈니스 \| 법률 검토 | ✅ 그룹별 임계값을 통해 동등한 확률을 구현할 때 법률 고문에게 문의하십시오. 미국에서는 직업 관련 결정에 대해 보호 클래스별로 점수 또는 컷오프 조정이 제목 VII(1991년 시민권법)에 따라 금지되어 있으며, 다른 관할 지역에서는 자체 제약 사항이 적용됩니다. |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 비즈니스 \| 배포 게이트 | ⚡️ 인구 통계 그룹 전반에서 공정성 메트릭을 계산하지 않고 결과적 결정을 내리는 에이전트 배포 |
| Einstein \| 예측 모델 | ⚡️ 대부분 그룹보다 그룹에 대해 더 높은 증거 임계값을 설정하여 그룹의 적격 후보가 체계적으로 누락됨 |
| Einstein \| 예측 모델 | ⚡️ 법적 근거 또는 임계값의 검증 없이 그룹별 임계값을 구현하여 다른 차별화 효과를 야기하지 않고 공정성을 향상하거나, 미국에서는 제목 VII에서 보호된 클래스별로 점수 또는 컷오프 조정을 금지하는 고용 관련 결정에 대해서도 해당 임계값을 구현합니다. |
| 비즈니스 \| 문서 | ⚡️ 공정성 메트릭 위반이 합법적인 비즈니스 차이와 차별을 반영하는 경우 문서화 실패 |

## 편차 감지

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Einstein \| Trust 계층 | ✅ Trust 계층 감사 데이터를 사용하여 인구 통계 그룹 간 응답 분포를 분석하고, 고객 세그먼트별 승인율, 권장 사항 패턴, 위험 점수를 비교하는 CRM Analytics 대시보드를 구축합니다. |
| Einstein \| Trust 계층 | ✅ 정기적으로 Trust 계층 로그 쿼리: 고객 산업, 지역, 계정 크기별로 그룹화된 모든 고가치 예측을 표시하여 세그먼트 간 예측 분포가 일관되었는지 확인합니다. |
| Agentforce \| 세션 추적 | ✅ 샘플 100 인구 통계 그룹별로 계층화된 에이전트 결정 및 Agentforce 세션 추적 논리 추적 추적을 사용하여 그룹 간에 논리 품질이 비교되는지 검토 |
| 플랫폼 \| CRM Analytics | ✅ 에이전트 결정 패턴이 기준선과 크게 다른 경우 경고를 구성합니다(예: 특정 세그먼트의 승인율이 주별 20% 하락). |
| 플랫폼 \| CRM Analytics | ✅ 사용자 정의 모니터링을 구축하여 공정성 신호 경고: "고객 세그먼트의 평균 대화 길이가 3일 연속 전체 평균을 1.5배 초과하면 알림" |
| 플랫폼 \| CRM Analytics | ✅ 인구 통계 패리티, 동등 기회, 편파 효과 비율, 추세 차트를 비롯한 일반 에이전트 사용 사례에 대한 공정성 메트릭을 추적하는 재사용 가능한 CRM Analytics 대시보드 템플릿 구축 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 세션 추적 | ⚡️ Agentforce 세션 무시 사용자가 편향을 보고, 편향을 도입한 이유 단계, 데이터 소스 또는 검색 패턴을 놓친 경우 추적 논리 추적 및 Trust 계층 감사 추적 |
| 플랫폼 \| CRM Analytics | ⚡️ 공정성 신호에 대한 변칙 감지 경고 구성 실패로 인해 갑작스러운 배포 교대 근무가 감지되지 않음 |
| 플랫폼 \| CRM Analytics | ⚡️ 공정성 모니터링을 표준화하는 재사용 가능한 템플릿을 공유하는 대신 팀별 공정성 대시보드 구축 |

## 인적 감독

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ✅ 고당치 결정(직업, 신용, 헬스케어, 법률, 주택)에 대한 에이전트를 설계하여 실행 전에 인적 승인을 요구하면서 결정을 분석, 권장, 준비합니다. |
| 플랫폼 \| 승인 프로세스 | ✅ 지원 증거가 포함된 권장 사항을 생성하도록 Agentforce 구성하고 승인 프로세스를 통해 임계값을 초과하는 결정을 승인 검토자에게 라우팅하거나 승인 인터페이스에서 에이전트의 이유 추적을 표시합니다. |
| Agentforce \| 에이전트 구성 | ✅ 신뢰 기반 에스컬레이션 구현: 높은 신뢰도(>90%)가 자동으로 진행되고, 보통(70~90%)은 인적 검토가 필요하며, 낮은 (<70%)는 컨텍스트 요약을 사용하여 완전히 인간으로 전달됩니다. |
| Agentforce \| 에이전트 구성 | ✅ 프로덕션 데이터를 사용하여 신뢰 임계값을 교정하고 각 신뢰 밴드에서 에이전트의 결정을 샘플링하고 실제 성공률을 계산하여 교정 유효성을 검사합니다. |
| Agentforce \| 에이전트 구성 | ✅ 시간 제한 에스컬레이션 트리거 설정: 해결되지 않은 5~7회 전환 후, 10분이 경과된 후, 사용자가 불만을 표현하거나 에이전트가 동일한 응답을 반복하는 경우 |
| 플랫폼 \| 옴니채널 | ✅ 전체 대화 컨텍스트를 갖춘 적절한 기술 기반 대기열에 에스컬레이션된 사례를 라우팅하도록 옴니채널을 구성하고, 사용자가 정보를 반복하지 않고 에이전트를 교육하여 에스컬레이션을 처리하도록 합니다. |
| Agentforce \| UX | ✅ 언제든지 에이전트 채팅 인터페이스에 "사용자 에이전트와 연결" 옵션을 제공하며, 실패한 최소 상호 작용 옵션을 제외합니다. |
| Agentforce \| 에이전트 구성 | ✅ 권한이 있는 사람이 문서화된 근거로 언제든지 에이전트의 결정을 재정의할 수 있습니다. 다중 줄 텍스트 설명이 필요한 모든 에이전트 의사 결정 인터페이스에 "에이전트 재정의" 버튼을 추가합니다. |
| 플랫폼 \| 사용자 정의 개체 | ✅ 결정 ID를 사용하여 사용자 정의 개체에 재정의를 기록하고 타임스탬프, 근거, 재정의를 재정의하며, 에이전트, 결정 유형, 고객 인구 통계별로 CRM Analytics 대시보드 추적 재정의 패턴을 만듭니다. |
| 비즈니스 \| 문서 | ✅ 에이전트 권장 사항과 다른 승인 또는 거부에 대한 문서화된 근거 필요, 체계적인 에이전트 결함을 식별하기 위한 재정의 패턴 추적 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ⚡️ 에이전트를 자율적인 의사 결정자로 배포하여 인가 게이트 없이 중요한 결정(직용, 신용, 헬스케어, 법률, 주택) |
| Agentforce \| 에이전트 구성 | ⚡️ "높은 신뢰" 결정에 75%만 성공하는 잘못 조정된 신뢰도 점수를 사용하여 에스컬레이션 메커니즘에 대한 Trust 저하 |
| Agentforce \| 에이전트 구성 | ⚡️ 시간 제한 또는 사람에 대한 전환 제한 에스컬레이션 없이 유용하지 않은 자동 루프에 고객을 포착 |
| 플랫폼 \| 옴니채널 | ⚡️ 전체 대화 컨텍스트 없이 에스컬레이션된 사례를 라우팅하여 사용자가 에이전트에게 이미 제공된 정보를 반복하도록 강제 적용 |
| 비즈니스 \| 거버넌스 | ⚡️ 모든 사람이 AI를 책임지고 아무도 결정을 소유하지 않는다고 가정하는 책임 배포 허용 |
| 비즈니스 \| 거버넌스 | 아키텍처 결정 레코드에 명명된 개인이 문서화된 배포 전이 아닌 사고 발생 후에 책임 부여 |

## 책임 할당

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 비즈니스 \| 문서 | ✅ 배포 전에 책임 할당: 모델 소유자(공정성/정확성), 결정 소유자(사용 사례/효과), 이의 기관(공정성 이의), 감사 기관(정기 감사) |
| 비즈니스 \| 문서 | ✅ 모든 책임 역할을 직급뿐만 아니라 이름으로 문서화하여 조직 변경을 통해 책임을 유지합니다. |
| 비즈니스 \| 거버넌스 | ✅ 이의 기관(윤리 검토 위원회 또는 지정된 팀)이 에이전트의 결정을 불공평하다고 생각하는 사용자의 이의를 처리할 수 있는 액세스 가능하고 시기적절한 프로세스를 통해 처리할 수 있도록 합니다. |
| 비즈니스 \| 거버넌스 | ✅ 감사 기관(규정 준수 팀)에 정기 감사를 수행할 권한 부여 및 조치 대기 중인 에이전트의 공정성 표준 실패 일시 중단 |
| 비즈니스 \| 거버넌스 | ✅ 에이전트 개발 팀과 함께 빈도가 높은 재정의 패턴의 월간 검토 예약 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 비즈니스 \| 거버넌스 | ⚡️ 명명된 개인 없이 직함(예: "데이터 과학 리드")으로만 책임 역할을 문서화하여 조직 변경 시 책임이 사라질 수 있습니다. |
| 비즈니스 \| 거버넌스 | ⚡️ 결정 담당자가 실제 영향에 대한 개인적인 책임을 유지하는 대신 AI 시스템에 책임을 위임할 수 있도록 허용 |
| 비즈니스 \| 거버넌스 | ⚡️ 이의 프로세스에 액세스할 수 없거나, 기한이 지나지 않거나, 에이전트의 결정을 되돌릴 권한이 없는 경우 |

## 투명성 및 설명 가능성

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ✅ 사용자 대면(일반 언어), 비즈니스(핵심 결정 요소), 기술(모델 세부 사항/기능 가중치), 감사(결정 내역 완료)과 같은 여러 설명 레이어를 구성합니다. |
| Agentforce \| 에이전트 구성 | ✅ 결정할 때 실시간 요약 이유를 표시합니다. "구매 내역(3개 유사 구매), 현재 프로모션(20% 할인), 재고 가용성을 기반으로 제품 A를 추천했습니다." |
| Agentforce \| 에이전트 구성 | ✅ 사용자가 검색된 모든 Knowledge 기사, 검색된 기록 및 의사 결정 논리를 포함하여 전체 논리를 볼 수 있도록 "왜 이것을 권장합니까?" 링크를 제공합니다. |
| Agentforce \| 세션 추적 | ✅ 사용자가 몇 주 또는 몇 달 후 지난 결정에 도전할 때 내역 재구축을 위해 Agentforce 세션 추적에서 추적 추적 추적 |
| Agentforce \| 세션 추적 | ✅ 샘플 Agentforce 세션 인구 통계 그룹별로 계층화된 추적 추적을 통해 의사 결정 품질의 일관성을 분석하고 각 고객 세그먼트에서 100개의 추적을 검토합니다. |
| Agentforce \| 에이전트 구성 | ✅ 사용자 적절한 용어로 자신감을 전달합니다. 원시 확률 점수가 아닌 일반 언어 신뢰도 컨텍스트를 사용하는 "높은 신뢰도"/"중재 신뢰도"/"낮은 신뢰도" |
| Agentforce \| 에이전트 구성 | ✅ 신뢰도가 보통하거나 낮은 결정의 경우 발생할 추가 검토 및 예상 타임라인을 설명합니다. |
| Agentforce \| 에이전트 구성 | ✅ 사용자에게 결과를 변경할 수 있는 사항을 보여주는 대소문자 설명을 제공합니다. "확인된 고용 정보로 리드 점수가 증가합니다(+8점)" |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ⚡️ 사용자에게 적합한 신뢰 언어 대신 사용자가 잘못 해석한 원시 확률 점수(예: "73% 신뢰도") 표시 |
| Agentforce \| 에이전트 구성 | ⚡️ 시스템을 게임화하도록 장려하거나 의도치 않게 보호된 특성을 결정 요인으로 표시하는 대비 팩트 제공(예: "응용 프로그램에서 10년 미만인 경우 점수가 더 높음") |
| Agentforce \| 에이전트 구성 | ⚡️ 최종 사용자(단순화되지 않음) 또는 감사자(단순화되지 않음) 모두에게 제공되는 한 수준의 설명만 제공 |
| Agentforce \| 에이전트 구성 | ⚡️ 내역 추적을 저장하지 못하므로 문제 발생 시 과거 결정을 설명할 수 없음 |

## AI 공개

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ✅ 사용자가 Agentforce 에이전트와 상호 작용하는 시점을 명확하게 표시하고 지속적으로 공개(서비스 측면에서 묻히지 않거나 상호 작용 시작 시 한 번만 표시됨) |
| Agentforce \| 에이전트 구성 | ✅ 지속적인 시각적 표시기 표시: 에이전트 아바타가 "AI 도우미"로 표시되고, 머리글에 "Agentforce 채팅 중인 서비스 에이전트"가 표시되고, 대화 과정에서 "사람 에이전트와 연결" 옵션이 표시됩니다. |
| Agentforce \| 에이전트 구성 | ✅ 사람의 상호 작용을 선호하는 사용자가 마찰 또는 서비스 품질의 벌금 없이 전환할 수 있도록 합니다. |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ⚡️ 서비스 측면에서 AI 공개를 묻거나 지속적인 시각적 지표를 유지하는 대신 상호 작용 시작 시 한 번만 표시 |
| Agentforce \| 에이전트 구성 | ⚡️ 저하된 서비스 또는 대기 시간이 늘어난 인간 상호 작용을 선택한 사용자에 대한 벌금 부과 |
| Agentforce \| 에이전트 구성 | ⚡️ "사용자 에이전트와 연결" 옵션을 숨기거나 사용자가 에이전트 상호 작용을 완료해야만 지원에 액세스할 수 있습니다. |

## 알고리즘 책임 및 감사

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 플랫폼 \| 이벤트 모니터링 | ✅ 이벤트 모니터링을 구성하여 다음을 추적합니다. 에이전트 시스템 상호 작용, 에이전트 서비스 계정에 대한 로그인 이벤트, 에이전트가 대량 데이터에 액세스할 때 보고서 내보내기를 보여주는 API 이벤트 로그 |
| 플랫폼 \| 이벤트 모니터링 | ✅ 외부 SIEM에 이벤트 모니터링 로그를 스트리밍하여 장기간 보존하고 변경 증거를 규제 요구 사항 충족 |
| 플랫폼 \| 필드 감사 내역 | ✅ 지원되는 표준 개체와 필드 내역 추적이 활성화된 사용자 정의 개체 중에서 선택하여 에이전트 결정에 의해 저장되거나 영향을 받는 개체에 대해 필드 감사 내역(보관 내역의 무기한 보존)을 활성화합니다. 신용, 고용, 기타 중요한 사용 사례 |
| 플랫폼 \| Shield | ✅ Shield 이벤트 모니터링을 사용하여 감사 내역 무결성(고급 성능, 구조화된 이벤트 필드, 규정 준수 보고 통합)이 매우 중요한 에이전트 결정을 내릴 수 있습니다. |
| 플랫폼 \| 사용자 정의 개체 | ✅ AgentDecision__c 사용자 정의 개체 저장소 만들기: Decision_ID, Timestamp, Agent_Type, Model_Version, Confidence_Score, 결과, User_ID, Record_ID, 입력 기능 스냅샷에 결정을 연결하는 접속 개체 DecisionInput__c가 있는 경우 |
| 플랫폼 \| 사용자 정의 개체 | ✅ 변경될 수 있는 현재 값이 아닌 결정 시 정확한 입력 기능 값을 저장하여 결정이 업데이트된 데이터와 다를지 여부를 테스트할 수 있습니다. |
| 비즈니스 \| 문서 | ✅ 모든 결과적 결정에 대한 레코드 모델 버전, 구성 상태(임계값, 비즈니스 규칙, 매개 변수), 환경 컨텍스트(사용자 ID, 타임스탬프, 대화 내역) |
| 플랫폼 \| LWC | ✅ 레코드에 포함된 LWC 구성 요소를 구축하여 "정의 보기" 링크를 사용하여 결정 내역 표시 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 플랫폼 \| 필드 감사 내역 | ⚡️ 다년간 규제 보존이 필요한 중요한 결정에 대해 표준 필드 내역(18개월 유지)에 의존 |
| 플랫폼 \| 사용자 정의 개체 | ⚡️ 결정 시간 입력 스냅샷 대신 현재 레코드 값만 저장하여 내역 결정을 정확하게 재구성할 수 없음 |
| 비즈니스 \| 문서 | ⚡️ 결정 시간에 모델 버전 및 구성 상태가 활성 상태로 기록되지 않아 편차가 발견될 때 근본 원인 분석을 불가능하게 만듭니다. |
| 플랫폼 \| 이벤트 모니터링 | ⚡️ 외부 SIEM 스트리밍 없이 Salesforce 내에서만 감사 로그 유지, 규정 준수에 대한 변경 증거가 없음 |

## 연속 공정성 모니터링

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 플랫폼 \| CRM Analytics | ✅ 대시보드를 작성하여 인구 통계 세그먼트별 결정 분포(바 차트), 시간 경과에 따른 공정성 메트릭(경고 임계값이 있는 추세선), 4/5 규칙 지표가 있는 편파 효과 비율, 결정에 기여한 상위 예측 변수, 인구 통계 그룹별 비율 재정의 |
| 플랫폼 \| CRM Analytics | ✅ 교육 데이터 인구 통계에서 입력 분포가 현저하게 변경되면 경고, 공정성 저하 가능성을 나타내는 배포 교대 근무 모니터링 |
| Agentforce \| 에이전트 구성 | ✅ Agentforce 채팅 인터페이스에 "걱정 보고" 옵션을 추가합니다. 완전한 대화 컨텍스트를 사용하여 윤리 검토 보드에 보고서를 라우팅하고, 필요한 조사 워크플로를 사용하여 사용자 정의 개체를 추적합니다. |
| 비즈니스 \| 거버넌스 | ✅ 주별 공정성 대시보드 모니터링, 임계값 위반을 24시간 이내에 조사, 월별 재정의 패턴 분석 수행, 분기별 포괄적인 공정성 감사 수행 |
| 비즈니스 \| 거버넌스 | ✅ 사용자가 액세스 가능한 메커니즘을 통해 감지된 편향을 보고할 수 있습니다. 사용자 보고서는 정량 메트릭이 놓친 정성 문제를 표시합니다. |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 비즈니스 \| 거버넌스 | ⚡️ 에이전트가 프롬프트 업데이트, 모델 버전 변경, 데이터 배포 이동을 통해 발전함에 따라 지속적인 모니터링이 아닌 일회성 배포 사전 확인으로 편향 감지를 처리합니다. |
| 플랫폼 \| CRM Analytics | ⚡️ 공정성 메트릭이 정의된 임계값을 초과할 때 경고를 구성하지 못함으로써 점진적인 드리프트가 감지되지 않도록 허용 |
| Agentforce \| 에이전트 구성 | ⚡️ 사용자에게 인식되는 편향을 보고할 수 있는 액세스 가능한 메커니즘을 제공하지 않음, 정량 메트릭이 표시할 수 없는 정성 문제 누락 |

## 외부 감사 지원

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 플랫폼 \| 통합 | ✅ 규정 준수 팀이 데이터 프라이버시 규정을 준수하면서 외부 감사자 검토를 위해 인구 통계적 계층화를 사용하여 전체 결정 데이터 집합을 추출할 수 있는 내보내기 기능 구축 |
| 비즈니스 \| 문서 | ✅ 에이전트 목적 및 의도한 사용 사례, 교육 데이터 인구 통계 및 알려진 제한 사항, 공정성 메트릭(배포 전 및 프로덕션), 편향 완화 전략, 인적 감독 구성, 모니터링 접근 방식, 책임 할당을 다루는 최신 문서를 유지 관리합니다. |
| 비즈니스 \| 거버넌스 | ✅ 결과적 결정을 내릴 에이전트를 배포하기 전에 이해당사자 그룹 전반에서 잠재적인 긍정적 및 부정적 영향을 평가하는 알고리즘 영향 평가를 수행합니다. |
| 비즈니스 \| 거버넌스 | ✅ 타사에 의한 반년간 외부 공정성 감사 예약, EU AI Act, 주 법률, 섹터 규정에 맞춰 규제 구간 스캔 유지 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 플랫폼 \| 통합 | ⚡️ 규제 기관, 시민권 조직 또는 고객이 외부 감사를 예상하지 않고 에이전트 아키텍처를 설계하고 감사자를 검토할 수 있는 내보내기 기능이 부족함 |
| 비즈니스 \| 문서 | ⚡️ 공정성 메트릭 및 경감 전략을 업데이트하지 않고 에이전트가 신속한 업데이트 또는 모델 변경을 통해 발전함에 따라 문서가 더 이상 사용되지 않도록 허용 |
| 비즈니스 \| 거버넌스 | ⚡️ 이해당사자 그룹 전체에서 영향을 평가하는 영향 평가를 수행하지 않고 결과적 결정을 내리는 에이전트 배포 |

## 사용자 에이전시 및 동의

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ✅ 기본적으로 활성화하지 않고 결과 에이전트에 대한 명시적 수신 동의(신용 결정, 고용 선별, 서비스 적격성) 필요 |
| 플랫폼 \| 사용자 정의 개체 | ✅ 필드가 있는 AI_Consent__c 만들기: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, 상태, 장기 동의 레코드 보존을 위한 필드 감사 내역 활성화 |
| Agentforce \| 에이전트 구성 | ✅ 에이전트 호출 논리에 동의 검사를 추가합니다. 처리 전에 AI_Consent__c를 쿼리하여 활성 동의를 얻습니다. 사용 사례 수준 동의 지원(서비스 에이전트 대 판매 에이전트) |
| 플랫폼 \| 커뮤니티/익스피리언스 사이트 | ✅ 사용자 프로필에서 액세스할 수 있는 셀프 서비스 동의 관리 인터페이스 구축, 12개월마다 동의 갱신 미리 알림 예약 |
| Agentforce \| 에이전트 구성 | ✅ 기존 사용자에게 영향을 미치는 새 기능을 배포할 때 특정 응용 프로그램을 고려하지 않은 원래 동의에 의존하지 않고 새 사용 사례에 대해 사전에 동의를 구하십시오. |
| Agentforce \| 에이전트 구성 | ✅ 에이전트 처리를 즉시 중지하여 언제든지 동의 철회를 활성화하고 지원 담당자가 필요하지 않아도 기부와 똑같이 쉽게 철회 |
| Agentforce \| 에이전트 구성 | ✅ 사용자 기본 설정 관리 활성화: 커뮤니케이션 스타일(결정 및 상세), 사전 예방 수준, 에스컬레이션 기본 설정, 사용자 레코드 사용자 정의 필드에 저장 및 에이전트 시스템 프롬프트에 참조 |
| 플랫폼 \| 옴니채널 | ✅ 상호 작용 전반에 걸쳐 지속적으로 "사용자 에이전트와 연결" 옵션을 제공합니다. 선택하면 서비스 저하 또는 대기 시간 페널 없이 전체 대화 컨텍스트 및 우선 순위 플래그를 사용하여 옴니채널로 라우팅 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ⚡️ 명시적 사용자 수신 동의 없이 기본적으로 에이전트에 미치는 영향을 이해하지 않고 결과적 에이전트 활성화 |
| Agentforce \| 에이전트 구성 | ⚡️ 세부적인 사용 사례 수준 동의 활성화 대신 전체 AI 동의 필요(고객이 세일즈 에이전트를 거부하는 동안 서비스 에이전트에 동의할 수 있음) |
| Agentforce \| 에이전트 구성 | ⚡️ 동의 철회 시 즉시 적용되는 셀프 서비스 대신 지원 담당자 또는 관료 프로세스가 필요합니다. |
| Agentforce \| 에이전트 구성 | ⚡️ 원래 동의에 의존하여 원래 동의에 포함되지 않은 새로운 에이전트 기능을 배포할 경우 |
| Agentforce \| 에이전트 구성 | ⚡️ 사용자가 에이전트와 연결하기 전에 에이전트 상호 작용을 완료하거나 기본 설정을 설명하도록 요구 |

## 에이전트 설계의 차별 없음

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ✅ 보호된 특성 콘텐츠에 대해 에이전트 추론에 사용된 모든 데이터 소스를 검토하고, 결정 유형에 대해 법적으로 근거가 없는 경우 에이전트 입력에서 보호된 특성을 제거하거나 마스킹합니다. |
| Agentforce \| 프롬프트 템플릿 | ✅ 시스템 프롬프트에 명시적이지 않은 차별 지침을 포함합니다. "이름, 위치, 커뮤니케이션 스타일 또는 기타 특성에 상관없이 모든 고객에게 동등한 전문성을 제공합니다. 인구 통계 특성을 기반으로 고객에 대해 가정하지 마십시오." |
| Agentforce \| 에이전트 구성 | ✅ 프로덕션 전 다양한 개인 정보로 테스트: 인구 통계 신호(다른 민족, 위치, 커뮤니케이션 스타일을 제안하는 이름)만 변하는 동일한 요청 생성, 품질, 길이, 전문성, 결과에 대한 응답 비교 |
| Agentforce \| 에이전트 모니터링 | ✅ 고객 세그먼트별로 계층화된 첫 번째 연락 해결 비율을 계산하고 세그먼트 간에 상당한 차이가 있는 경우 조사 |
| Agentforce \| 에이전트 모니터링 | ✅ 세그먼트 전반의 에이전트 대화를 샘플링하고 평가자가 등급 간 신뢰도 테스트를 통해 일관된 차원(정확성, 완전성, 전문성, 유용성)에 대한 응답 품질을 평가하도록 합니다. |
| Agentforce \| 에이전트 모니터링 | ✅ 고객 인구 통계별로 계층화된 에스컬레이션 비율을 추적합니다. 특정 세그먼트의 더 높은 비율은 에이전트가 해당 사용자에 대해 효율적이지 않음을 나타냅니다. |
| 비즈니스 \| 설문 조사 | ✅ 모든 인구 통계 그룹의 사용자를 설문 조사하고 만족도 점수를 비교합니다. 전반적인 높은 만족도는 소수 그룹의 불량 경험을 마스킹할 수 있습니다. |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| Agentforce \| 에이전트 구성 | ⚡️ 특성이 법적으로 근거하지 않은 결정에 대한 에이전트 입력에 보호된 특성 데이터(장애 상태, 종교, 국가 출신) 포함 |
| Agentforce \| 프롬프트 템플릿 | ⚡️ 시스템 프롬프트에서 명시적 비차별 지침 없이 기본 모델 동작에만 의존하는 에이전트 배포 |
| Agentforce \| 에이전트 구성 | ⚡️ 대부분 인구 통계 개인 정보가 있는 에이전트만 테스트하고, 대표가 부족한 그룹에 대한 편향이 누락됨 |
| 비즈니스 \| 설문 조사 | ⚡️ 전반적인 만족도 점수에 의존하여 다수의 만족도로 인해 익사된 소수 그룹의 불만족 경험을 마스킹 |

## 에이전트 환경의 액세스 가능성

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 플랫폼 \| LWC | ✅ 사용자 정의 채팅 구현의 경우 적절한 지표가 있는 시맨틱 HTML 구조, 새 메시지를 알리는 ARIA 라이브 지역, 메시지 내역을 통한 키보드 탐색, 대화형 요소에 대한 명확한 포커스 지표를 확인하십시오. |
| 플랫폼 \| LWC | ✅ 자동 스캔뿐만 아니라 개발 전반에서 JAWS, NVDA, VoiceOver로 테스트 |
| Agentforce \| 에이전트 구성 | ✅ 일반 대상 그룹에 일반 언어를 사용하도록 에이전트 응답을 구성하고, 용어를 피하고, 필수 기술 용어에 대한 용어집을 제공하며, 머리글 및 글머리 기호 목록으로 긴 응답을 구성합니다. |
| Agentforce \| 에이전트 구성 | ✅ 응답 유효성 검사는 문화적 차이점이 없는 자동 메트릭뿐만 아니라 네이티브 화자를 통해 언어 전체에서 비교할 수 있습니다. |
| Agentforce \| 에이전트 구성 | ✅ 다양한 언어 인구를 지원하는 비즈니스 크리티컬 사용 사례의 경우 언어별 처리(언어 변수, 현지화된 프롬프트, 언어별 Knowledge 기사 필터링)를 구성하고 기본 모델에만 의존하는 대신 언어별 품질 검증 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 플랫폼 \| LWC | ⚡️ 수동 액세스 가능성 테스트 없이 사용자 정의 채팅 구현 구축(자동 스캔에만 의존) |
| Agentforce \| 에이전트 구성 | ⚡️ 용어집 없이 용어와 복잡한 언어를 사용하여 사용자에게 인지 장벽 만들기 |
| Agentforce \| 에이전트 구성 | ⚡️ 자원이 낮은 언어의 경우 기본 모델의 교차 언어 전송에만 의존하여 다수 언어가 아닌 사용자에게 저하된 품질 제공 |
| Agentforce \| 에이전트 구성 | ⚡️ 문화적 차이점이 없는 자동 메트릭을 통해서만 다국어 응답 품질 확인 |

## 공정성 거버넌스 및 배포 게이트

**패턴**

| 찾을 위치 | 유사성 |
| --- | --- |
| 비즈니스 \| 거버넌스 | ✅ 프로덕션 에이전트를 배포하기 전에 집행 기관과 함께 윤리 검토 위원회 설정 |
| 비즈니스 \| 거버넌스 | ✅ 필수 배포 게이트 정의: 데이터 감사, 공정성 메트릭 계산, 알고리즘 영향 평가 |
| 플랫폼 \| CRM Analytics | ✅ 첫 번째 에이전트 배포 전에 CRM Analytics에서 기준선 공정성 모니터링 대시보드 만들기 |
| 플랫폼 \| 이벤트 모니터링 | ✅ Einstein Trust Layer 감사 캡처를 활성화하고 프로덕션 전에 에이전트 작업에 대한 이벤트 모니터링을 기본으로 구성 |
| 비즈니스 \| 거버넌스 | ✅ 확장용 CI/CD 파이프라인에서 자동화된 공정성 회귀 테스트 구현 |
| 비즈니스 \| 거버넌스 | ✅ 배포 규모에 따라 모든 새 에이전트에서 동의 관리 패턴 표준화 |
| 플랫폼 \| 통합 | ✅ 규정 준수 팀 셀프 서비스를 지원하는 에이전트 의사 결정 재구축 도구 구축 |

**안티 패턴**

| 찾을 위치 | 불만 사항 |
| --- | --- |
| 비즈니스 \| 거버넌스 | ⚡️ 집행 기관이 있는 윤리 검토 위원회를 설정하기 전에 프로덕션 에이전트 배포 |
| 비즈니스 \| 거버넌스 | ⚡️ 보안 검토와 동일한 필수 배포 게이트가 아니라 공정성을 사후 고려로 처리 |
| 비즈니스 \| 거버넌스 | ⚡️ 결과적 결정을 내릴 에이전트를 배포하기 전에 알고리즘 영향 평가 건너뛰기 |
| 플랫폼 \| CRM Analytics | ⚡️ 기준선 공정성 모니터링 대시보드 없이 첫 번째 프로덕션 에이전트 배포 |