---
schema_version: "1"
id: 0bec74db13df15375087b23936029af17650fe454abda1e46b2eaea08975fdfc
title: Detecção de viés e imparcialidade de IA – Padrões agentes
collection: architect
version: current
locale: pt-br
portal_url: https://docs.salesforce.com/architect/current/pt-br/well-architected/guides/fairness-agentic-patterns.md
canonical_url: https://architect.salesforce.com/docs/architect/pt-br/well-architected/guide/fairness-agentic-patterns.html
source_site: architect.salesforce.com
content_type: documentation
content_hash: 2f59f0a7617d0388ea813fe130b1398212da163195827e5339bb2d231ac20f85
products:
  - Estrutura bem arquitetada
  - Architect Site Content Repo
---
# Detecção de viés e imparcialidade de IA – Padrões agentes

Saiba mais sobre [Fairness](/docs/architect/pt-br/well-architected/guide/fairness.html) bem arquitetado → [Agent Enterprise Fairness](/docs/architect/pt-br/well-architected/guide/agentic-enterprise-fairness.html)

## Detecção e mitigação de viés

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Configuração do agente | ✅ Teste os agentes sistematicamente quanto ao viés demográfico usando diversas personas representando grupos protegidos; gere solicitações idênticas variando apenas sinais demográficos, como nomes, locais ou estilos de comunicação |
| Data 360 \| Segmentos de dados | ✅ Antes de usar dados do Salesforce para treinamento do agente ou fundamentação de RAG, audite a representação demográfica e identifique grupos subrepresentados |
| Data 360 \| Base de Knowledge | ✅ Auditar bases de Knowledge e fontes de recuperação para o equilíbrio demográfico; garantir que a qualidade, a completude e a exatidão da documentação sejam comparáveis em todos os segmentos de clientes |
| Agentforce \| Monitoramento do agente | ✅ Monitore interações do agente entre grupos demográficos para a consistência do comportamento; analise a duração da resposta, o nível de detalhes, os marcadores de educadeza e a qualidade da solução estratificados por características do usuário |
| Agentforce \| Monitoramento do agente | ✅ Detectar loops de feedback monitorando alterações de distribuição de decisão ao longo do tempo; quebrar loops por meio de revisão humana de casos de ponta e reequilibramento periódico |
| Data 360 \| Dados de treinamento | ✅ Exemplo de grupos demográficos subrepresentados em dados de treinamento garantindo representação equilibrada; sintetize dados adicionais usando técnicas como SMOTE quando os dados reais forem insuficientes |
| Agentforce \| Modelo de prompt | ✅ Restringir o comportamento do agente por meio de avisos do sistema: "Tratar todas as demografias do cliente com o mesmo profissionalismo e detalhes. Forneça explicações de comprimento e qualidade comparáveis, independentemente do estilo ou do segundo plano de comunicação do cliente." |
| Einstein \| Modelo de previsão | ✅ Calcule coeficientes de correlação entre todos os recursos do modelo e características protegidas; avalie se o valor preditivo legítimo justifica a inclusão de recursos altamente correlacionados |
| Einstein \| Modelo de previsão | ✅ Identifique e remova recursos de proxy que estão correlacionados com características protegidas (proxy de código zip para raça, proxy de padrões de nome para gênero/etnia, proxy de tempo de comunicação para religião/atendimento, proxy de tipo de dispositivo para renda, proxy de atribuição de território para composição demográfica) |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Data 360 \| Dados de treinamento | ⚡️ Usar dados históricos do CRM para treinamento do agente sem auditar a representação demográfica, permitindo um viés algorítmico para complicar o viés humano |
| Agentforce \| Configuração do agente | ⚡️ Implementar agentes sem testes de viés demográfico sistemáticos em várias personas que representam grupos protegidos |
| Data 360 \| Base de Knowledge | ⚡️ Fornecer artigos do Knowledge detalhados para clientes corporativos, mas apenas respostas genéricas para clientes de pequenas empresas, perpetuando disparidades de qualidade de serviço |
| Agentforce \| Monitoramento do agente | Permitir que os agentes adaptem o comportamento com base em dicas conversacionais correlacionadas a características protegidas (estilo de comunicação, complexidade de linguagem, padrões de tempo) sem monitoramento |
| Einstein \| Modelo de previsão | Incluir recursos de proxy (código zip, padrões de nome, tipo de dispositivo) em modelos de decisão consequente sem avaliar a correlação com características protegidas |
| Agentforce \| Configuração do agente | Permitir loops de feedback em que as decisões do agente criam a discrepância que justifica futuras decisões adversas (por exemplo, roteamento do agente reduzindo oportunidades para determinados territórios, gerando menos dados de sucesso, reduzindo ainda mais o sucesso previsto) |
| Data 360 \| Segmentos de dados | ⚡️ Referências de cultura majoritária como padrão em exemplos de conteúdo que alienam usuários subrepresentados |

## Orquestração de vários agentes

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Monitoramento do agente | ✅ Registrar entradas e saídas completas para cada agente em uma cadeia de orquestração para que o viés em um resultado final possa ser rastreado de volta para o estágio que o lançou e onde a ampliação ocorreu |
| Plataforma \| CRM Analytics | ✅ Crie painéis mostrando distribuições de decisão em cada estágio de orquestração divididas por demografia para identificar onde as discrepâncias na cadeia surgem ou se expandem |
| Plataforma \| CRM Analytics | ✅ Calcule a paridade demográfica, a igualdade de oportunidades e o impacto distinto em cada estágio da cadeia, não apenas no resultado final; métricas de estágio capturam a composição que parece aceitável em qualquer estágio, mas degrada em toda a cadeia |
| Agentforce \| Configuração do modelo | ✅ Maximize a diversidade entre agentes em padrões de consenso para reduzir erros correlacionados: diferentes modelos de base quando possível (como por meio de configurações de Traga o seu LLM), diferentes origens de recuperação, diferentes abordagens de prompt e diferentes calibrações de limite de confiança |
| Agentforce \| Configuração do agente | ✅ Insira revisão humana em pontos de inflexão da orquestração em que um estágio restringe significativamente as opções a jusante, mesmo quando a confiança do agente individual é alta, pois a orquestração cria efeitos emergentes que as pontuações de confiança por agente não capturam |
| Agentforce \| Configuração do agente | ✅ Configure quebradores de circuito de orquestração que param e aumentam para um humano quando a confiança de qualquer agente cair abaixo do limite, produzir turnos de distribuição de saída significativos entre os estágios, a cadeia encontrar dados não representados no treinamento ou na validação ou o usuário desafiar uma decisão intermediária |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Monitoramento do agente | Executar cadeias de orquestração sem registrar entradas e saídas de cada agente, impossibilitando rastrear qual estágio introduziu um viés quando um resultado discriminatório aparece |
| Agentforce \| Configuração do modelo | ⚡️ Tratar o consenso de vários agentes como correção de viés quando todos os agentes compartilham o mesmo modelo de base ou dados de treinamento, de modo que o acordo valida apenas o viés compartilhado em vez de corrigi-lo |
| Plataforma \| CRM Analytics | ⚡️ Medindo a equidade apenas no resultado final da orquestração, sem composição por estágio em que cada estágio parece aceitável em isolamento, mas a cadeia se compõe em uma discrepância inaceitável |
| Agentforce \| Configuração do agente | Confiar em pontuações de confiança de agente individuais para criar um gateway para uma cadeia de orquestração sem inserir revisão humana em pontos de inflexão em que um estágio restringe as opções a jusante |
| Agentforce \| Configuração do agente | Permitir que uma cadeia de orquestração continue sem interruptor quando um agente a montante tiver baixa confiança, as distribuições mudarem entre estágios ou a cadeia encontrar dados fora de seus conjuntos de treinamento e validação |

## Métricas de fairness

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Negócios \| Gate de implementação | ✅ Torne a avaliação de imparcialidade um gateway de implementação obrigatório equivalente em autoridade à revisão de segurança antes de implantar qualquer agente tomando decisões consequentes |
| Einstein \| Modelo de previsão | ✅ Calcule a paridade demográfica dividindo a população em segmentos demográficos, medindo as taxas de resultados positivos por segmento e comparando as taxas entre segmentos |
| Einstein \| Modelo de previsão | ✅ Garanta a igualdade de oportunidades verificando se os agentes identificam indivíduos qualificados igualmente bem, independentemente das características demográficas; verifique se as taxas de positivos verdadeiros são comparáveis entre os grupos |
| Einstein \| Modelo de previsão | ✅ Aplicar a regra de quatro quintos: se qualquer grupo receber resultados positivos em menos de 80% da taxa do grupo com melhor desempenho, investigue quanto ao viés |
| Einstein \| Modelo de previsão | ✅ Calcule proporções de impacto diferentes para todas as decisões consequentes do agente e documentos resultados da investigação quando as proporções estiverem abaixo de 80% |
| Negócios \| Documentação | ✅ Documente quando violações de paridade demográfica refletem fatores comerciais legítimos em vez de discriminação |
| Negócios \| Revisão legal | ✅ Consulte um consultor jurídico ao implementar odds igualizadas por meio de limites específicos do grupo, observando que nos Estados Unidos, o ajuste de pontuações ou cortes por classe protegida para decisões relacionadas ao emprego é proibido pelo Título VII (Lei de Direitos Civis de 1991), e que outras jurisdições impõem suas próprias restrições |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Negócios \| Gate de implementação | ⚡️ Implementar agentes tomando decisões consequenciais sem calcular métricas de equidade entre grupos demográficos |
| Einstein \| Modelo de previsão | ⚡️ Ausência sistemática de candidatos qualificados de grupos subrepresentados definindo limites de evidência mais altos para esses grupos do que para grupos de maioria |
| Einstein \| Modelo de previsão | ⚡️ Implementar limites específicos do grupo sem justificação legal ou validação que os limites melhorem a equidade sem criar outros efeitos discriminatórios ou, nos Estados Unidos, implementá-los para decisões relacionadas ao emprego, em que o Título VII proíbe ajustar as pontuações ou cortes por classe protegida |
| Negócios \| Documentação | ⚡️ Falha em documentar quando violações de métrica de imparcialidade refletem diferenças de negócios legítimas versus discriminação |

## Detecção de viés

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Einstein \| Camada Trust | ✅ Use dados de auditoria da Camada de Trust para analisar distribuições de resposta entre grupos demográficos; crie painéis do CRM Analytics comparando taxas de aprovação, padrões de recomendação e pontuações de risco por segmento de cliente |
| Einstein \| Camada Trust | ✅ Consulta Camada Trust registra regularmente: mostrar todas as previsões de alto valor agrupadas por setor do cliente, região e tamanho da conta para verificar se as distribuições de previsão são consistentes entre segmentos |
| Agentforce \| Rastreamento de sessão | ✅ Amostra de 100 decisões dos agentes estratificadas por grupo demográfico e que os revisores avaliem se a qualidade do raciocínio é comparável entre os grupos usando os rastreamentos de raciocínio de rastreamento de sessão do Agentforce |
| Plataforma \| CRM Analytics | ✅ Configure alertas quando os padrões de decisão do agente se desviarem significativamente da linha de base (por exemplo, taxas de aprovação para um segmento específico caem 20% semana a semana) |
| Plataforma \| CRM Analytics | ✅ Criar monitoramento personalizado para alertar sobre sinais de imparcialidade: "Notifique quando a duração média da conversa para qualquer segmento de cliente exceder 1,5x a média geral por três dias consecutivos" |
| Plataforma \| CRM Analytics | ✅ Crie modelos de painel do CRM Analytics reutilizáveis que rastreiam métricas de equidade para casos de uso de agente comuns, incluindo paridade demográfica, igualdade de oportunidades, proporções de impacto diferentes e gráficos de tendências |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Rastreamento de sessão | Ignorar os rastreamentos de raciocínio de rastreamento de sessão do Agentforce e a trilha de auditoria da Camada de Trust quando os usuários relatam um viés, perdendo quais etapas de raciocínio, fontes de dados ou padrões de recuperação introduziram o viés |
| Plataforma \| CRM Analytics | ⚡️ Falha na configuração de alertas de detecção de anomalia para sinais de fairness, permitindo que turnos de distribuição súbitos não sejam detectados |
| Plataforma \| CRM Analytics | Criar painéis de fairness ad-hoc por equipe em vez de compartilhar modelos reutilizáveis padronizando o monitoramento de fairness |

## Supervisão humana

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Configuração do agente | ✅ Projetar agentes para decisões de alto interesse (emprego, crédito, saúde, legal, habitação) para analisar, recomendar e preparar decisões e exigir aprovação humana antes da execução |
| Plataforma \| Processo de aprovação | ✅ Configure o Agentforce para gerar recomendações com evidências de apoio, encaminhar decisões acima dos limites para revisores humanos por meio do Processo de aprovação e detectar rastreamentos de raciocínio do agente na interface de aprovação |
| Agentforce \| Configuração do agente | ✅ Implementar a escalação baseada em confiança: alta confiança (>90%) prossegue de modo autônomo, moderado (70-90%) requer revisão humana, baixo (<70%) adiamento totalmente para humano com resumo de contexto |
| Agentforce \| Configuração do agente | ✅ Calibrar limites de confiança usando dados de produção; amostrar decisões do agente em cada faixa de confiança e calcular taxas de sucesso reais para validar a calibração |
| Agentforce \| Configuração do agente | ✅ Definir acionadores de escalação com prazo definido: após 5 a 7 turnos sem resolução, após 10 minutos, quando o usuário expressa frustração ou quando o agente repete a mesma resposta |
| Plataforma \| Omni-Channel | ✅ Configure o Omni-Channel para rotear casos escalonados para filas baseadas em habilidades adequadas com contexto de conversa completo; treine agentes humanos para lidar com escalonamentos sem exigir que os usuários repitam informações |
| Agentforce \| UX | ✅ Forneça uma opção "Conectar-se ao agente humano" nas interfaces de chat do agente a qualquer momento, não ficando atrás de um número mínimo de interações com falha |
| Agentforce \| Configuração do agente | ✅ Permita que os humanos autorizados substituam qualquer decisão do agente a qualquer momento com uma justificativa documentada; adicione o botão "Substituir agente" a todas as interfaces de decisão do agente que exigem uma explicação de texto de várias linhas |
| Plataforma \| Objeto personalizado | ✅ Registrar substituições em objeto personalizado com ID de decisão, substituir carimbo de data e hora, fundamento e substituto; criar padrões de substituição de rastreamento de painel do CRM Analytics por agente, tipo de decisão e demografia do cliente |
| Negócios \| Documentação | ✅ Exigir a fundamentação documentada para aprovações ou recusas que divergem da recomendação do agente; rastrear padrões de substituição para identificar deficiências sistemáticas do agente |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Configuração do agente | ⚡️ Implementar agentes como tomadores de decisão autônomos para decisões de alto interesse (emprego, crédito, saúde, legal, habitação) sem portões de aprovação humana |
| Agentforce \| Configuração do agente | ⚡️ Usando pontuações de confiança mal calibradas em que as decisões de "alta confiança" são bem-sucedidas apenas 75% do tempo, minando a Trust nos mecanismos de escalação |
| Agentforce \| Configuração do agente | ⚡️ Arrastar clientes em loops automatizados não úteis sem escalonamento com limite de tempo ou de turno para humanos |
| Plataforma \| Omni-Channel | ⚡️ Roteamento de casos escalonados sem contexto de conversa completo, forçando os usuários a repetir as informações já fornecidas ao agente |
| Negócios \| Governança | Permitir a difusão de responsabilidade quando todos presumem que a IA é responsável e ninguém assume o controle das decisões |
| Negócios \| Governança | ⚡️ Atribuir responsabilidade após incidentes, em vez de antes da implantação, com indivíduos nomeados documentados em registros de decisão de arquitetura |

## Atribuição de responsabilidade

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Negócios \| Documentação | ✅ Atribuir responsabilidade antes da implantação: proprietário do modelo (justiça/precisão), proprietário da decisão (use caso/impacto), autoridade de recurso (apelidos de justiça), autoridade de auditoria (auditorias periódicas) |
| Negócios \| Documentação | ✅ Documente todos os papéis de responsabilidade com nomes, não apenas títulos, garantindo que a responsabilidade persista por meio de alterações organizacionais |
| Negócios \| Governança | ✅ Capacitar a autoridade de recurso (comissão de análise de ética ou equipe designada) para lidar com recursos de usuários que acreditam que as decisões do agente eram injustas com processos acessíveis e oportunos que podem reverter as decisões do agente |
| Negócios \| Governança | ✅ Autorizar a autoridade de auditoria (equipe de conformidade) a realizar auditorias periódicas e suspender agentes com falha nos padrões de imparcialidade aguardando remediação |
| Negócios \| Governança | ✅ Agende a revisão mensal de padrões de substituição de alta frequência com a equipe de desenvolvimento do agente |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Negócios \| Governança | ⚡️ Documentar papéis de responsabilidade apenas com títulos (por exemplo, "Data Science Lead") sem indivíduos nomeados, permitindo que a responsabilidade desapareça durante alterações organizacionais |
| Negócios \| Governança | Permitir que os proprietários de decisão delegem a responsabilidade a sistemas de IA em vez de reter a responsabilidade pessoal para o impacto do mundo real |
| Negócios \| Governança | ⚡️ Tornar os processos de recurso inacessíveis, atrasados ou sem autoridade para reverter as decisões do agente |

## Transparência e capacidade de explicação

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Configuração do agente | ✅ Arquite várias camadas de explicação: voltado para o usuário (linguagem simples), negócio (principais fatores de decisão), técnico (detalhes do modelo/pesos de recurso) e auditoria (traços de decisão completos) |
| Agentforce \| Configuração do agente | ✅ Exiba o raciocínio de resumo em tempo real ao tomar decisões: "Recomendi o Produto A com base em seu histórico de compras (3 compras semelhantes), promoção atual (20% de desconto) e disponibilidade de inventário" |
| Agentforce \| Configuração do agente | ✅ Forneça "Por que você recomendou isso?" link que permite aos usuários visualizar o raciocínio completo, incluindo todos os artigos do Knowledge recuperados, registros consultados e lógica de decisão |
| Agentforce \| Rastreamento de sessão | ✅ Recupere rastreamentos de raciocínio do Rastreamento de sessão do Agentforce para reconstrução histórica quando os usuários desafiarem decisões anteriores semanas ou meses depois |
| Agentforce \| Rastreamento de sessão | ✅ Exemplo de Sessão do Agentforce Rastreamento de raciocínio estratificado por grupos demográficos para analisar se a qualidade da decisão é consistente; examine 100 rastreamentos de cada segmento de cliente |
| Agentforce \| Configuração do agente | ✅ Comunique confiança em termos adequados ao usuário: "Alta confiança" / "Moderar confiança" / "Baixa confiança" com contexto de confiabilidade de linguagem simples em vez de pontuações de probabilidade brutas |
| Agentforce \| Configuração do agente | ✅ Para decisões moderadas ou com baixa confiança, explique qual revisão adicional ocorrerá e a linha do tempo esperada |
| Agentforce \| Configuração do agente | ✅ Forneça explicações contrafatuais mostrando aos usuários o que mudaria o resultado: "Sua pontuação de lead aumentaria com informações de emprego verificadas (+8 pontos)" |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Configuração do agente | Exibir pontuações de probabilidade brutas (por exemplo, "confiança de 73%") que os usuários interpretam incorretamente em vez de usar a linguagem de confiança apropriada para o usuário |
| Agentforce \| Configuração do agente | ⚡️ Fornecer contrfatuais que incentivam o uso do sistema ou revelam inadvertidamente características protegidas como fatores de decisão (por exemplo, "Sua solicitação pontuaria mais se você fosse 10 anos mais novo") |
| Agentforce \| Configuração do agente | ⚡️ Fornecer apenas um nível de explicação que não atende aos usuários finais (técnicos demais) nem aos auditores (simplificado demais) |
| Agentforce \| Configuração do agente | ⚡️ Falha na armazenagem de rastreamentos históricos, impossibilitando a explicação de decisões anteriores quando desafiadas |

## Divulgação de IA

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Configuração do agente | ✅ Indicar claramente quando os usuários interagem com agentes Agentforce com divulgação proeminente e contínua (não enterrado em termos de serviço ou mostrado apenas uma vez no início da interação) |
| Agentforce \| Configuração do agente | ✅ Exibir indicadores visuais persistentes: Avatar do agente marcado como "AI Assistant", o cabeçalho mostrando "Você está conversando com um agente de serviço Agentforce" e a opção "Conectar-se com um agente humano" é visível ao longo da conversa |
| Agentforce \| Configuração do agente | ✅ Garanta que os usuários que preferem interação humana possam alternar sem fricção ou penalidades de qualidade do serviço |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Configuração do agente | ⚡️ Ocultar a divulgação de IA em termos de serviço ou mostrá-la apenas uma vez no início da interação em vez de manter indicadores visuais persistentes |
| Agentforce \| Configuração do agente | Penalizar usuários que escolhem interação humana com serviço degradado ou tempos de espera maiores |
| Agentforce \| Configuração do agente | Ocultar a opção "Conectar-se ao agente humano" ou exigir que os usuários concluam interações com o agente antes de acessar o suporte humano |

## Auditoria e responsabilidade algorítmica

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Plataforma \| Monitoramento de evento | ✅ Configure o Monitoramento de evento para rastrear: Logs de evento de API mostrando interações do sistema do agente, eventos de login para contas de serviço do agente e exportações de relatório quando os agentes acessam dados em massa |
| Plataforma \| Monitoramento de evento | ✅ Registrar o Monitoramento de evento de streaming para SIEM externo para retenção de longo prazo e comprovação de adulteração atendendo aos requisitos regulatórios |
| Plataforma \| Trilha de auditoria de campo | ✅ Habilite a Trilha de auditoria de campo (manutenção indefinida do histórico arquivado) nos objetos que armazenam ou são influenciados por decisões do agente, escolhendo entre os objetos padrão que ele oferece suporte, além de objetos personalizados com rastreamento de histórico de campo habilitado; crítico para crédito, emprego e outros casos de uso de alto risco |
| Plataforma \| Shield | ✅ Use o Monitoramento de evento Shield para decisões de agente de maior interesse em que a integridade da trilha de auditoria é crítica (funcionalidades aprimoradas, campos de evento estruturados, integração de relatórios de conformidade) |
| Plataforma \| Objeto personalizado | ✅ Criar armazenamento de objeto personalizado AgentDecision__c: Decision_ID, Timestamp, Agent_Type, Model_Version, Confidence_Score, Resultado, User_ID, Record_ID; com o objeto de junção DecisionInput__c vinculando decisões a instantâneos de recursos de entrada |
| Plataforma \| Objeto personalizado | ✅ Armazene valores de recurso de entrada exatos no momento da decisão (não valores atuais que podem mudar) para habilitar o teste de se as decisões difeririam com os dados atualizados |
| Negócios \| Documentação | ✅ Registrar a versão do modelo, o estado da configuração (limites, regras de negócios, parâmetros) e o contexto ambiental (identidade do usuário, carimbo de data e hora, histórico da conversa) para cada decisão consequente |
| Plataforma \| LWC | ✅ Criar integração de componente do LWC em registros para exibir o histórico de decisão com links "Visualizar fundamento" |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Plataforma \| Trilha de auditoria de campo | ⚡️ Com base no histórico de campo padrão (18 meses de retenção) para decisões de alto nível que exigem retenção regulatória de vários anos |
| Plataforma \| Objeto personalizado | ⚡️ Armazenar apenas valores de registro atuais em vez de instantâneos de entrada de hora de decisão, impossibilitando a reconstrução de decisões históricas com precisão |
| Negócios \| Documentação | ⚡️ Falha ao registrar a versão do modelo e o estado de configuração ativos no momento da decisão, tornando a análise de causa raiz impossível quando o viés é descoberto |
| Plataforma \| Monitoramento de evento | ⚡️ Manter registros de auditoria apenas no Salesforce sem streaming de SIEM externo, sem evidência de adulteração para conformidade regulatória |

## Monitoramento de imparcialidade contínuo

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Plataforma \| CRM Analytics | ✅ Criar painéis mostrando: distribuição de decisão por segmento demográfico (gráficos de barras), métricas de imparcialidade ao longo do tempo (linhas de tendência com limites de alerta), proporção de impacto distinta com indicador de regra de quatro quintos, principais preditores que contribuem para decisões, taxa de substituição por grupo demográfico |
| Plataforma \| CRM Analytics | ✅ Alerta quando as distribuições de entrada mudam significativamente da demografia de dados de treinamento; monitore o turno de distribuição indicando uma possível degradação de equidade |
| Agentforce \| Configuração do agente | ✅ Adicione a opção "Relatar preocupação" à interface de chat do Agentforce; encaminhe relatórios ao painel de análise de ética com contexto de conversa completo; rastreie no objeto personalizado com o fluxo de trabalho de investigação necessário |
| Negócios \| Governança | ✅ Monitorar painéis de imparcialidade semanalmente, investigar violações de limite em 24 horas, realizar análises de padrão de substituição mensais, realizar auditorias de imparcialidade abrangentes trimestrais |
| Negócios \| Governança | ✅ Permitir que os usuários relatem viés percebido por meio de mecanismos acessíveis; os relatórios do usuário detectam problemas qualitativos que as métricas quantitativas ignoram |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Negócios \| Governança | ⚡️ Tratar a detecção de viés como validação de pré-implementação única, em vez de monitoramento contínuo conforme os agentes evoluem por meio de atualizações de prompt, alterações de versão do modelo e distribuições de dados de turno |
| Plataforma \| CRM Analytics | ⚡️ Falha na configuração de alertas quando métricas de justiça violam limites definidos, permitindo que o desvio gradual não seja detectado |
| Agentforce \| Configuração do agente | ⚡️ Não fornecer aos usuários mecanismos acessíveis para relatar viés percebido, sem problemas qualitativos que as métricas quantitativas não podem detectar |

## Suporte para auditoria externa

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Plataforma \| Integração | ✅ Criar a funcionalidade de exportação que habilita as equipes de conformidade a extrair conjuntos de dados de decisão completos com estratificação demográfica para revisão do auditor externo, respeitando as normas de privacidade de dados |
| Negócios \| Documentação | ✅ Mantenha a documentação atual abrangendo: propósito e casos de uso pretendidos do agente, demografia de dados de treinamento e limitações conhecidas, métricas de equidade (pré-implementação e produção), estratégias de mitigação de viés, configurações de supervisão humana, abordagem de monitoramento e atribuições de responsabilidade |
| Negócios \| Governança | ✅ Antes de implantar agentes tomando decisões consequenciais, realize avaliações de impacto algorítmicas avaliando possíveis efeitos positivos e negativos entre grupos de partes interessadas |
| Negócios \| Governança | ✅ Agende auditorias de imparcialidade externas semestral por terceiros; mantenha a leitura de horizonte regulatório adaptada à Lei de IA da UE, às leis estaduais e aos regulamentos do setor |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Plataforma \| Integração | ⚡️ Projetar arquiteturas de agente sem prever auditorias externas por reguladores, organizações de direitos civis ou clientes; sem recursos de exportação para revisão de auditores |
| Negócios \| Documentação | Permitir que a documentação se torne obsoleta à medida que os agentes evoluem por meio de atualizações de prompt ou alterações de modelo sem atualizar métricas de fairness e estratégias de mitigação |
| Negócios \| Governança | ⚡️ Implementar agentes tomando decisões consequenciais sem realizar avaliações de impacto avaliando os efeitos entre grupos de partes interessadas |

## Consentimento e agência do usuário

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Configuração do agente | ✅ Exigir adesão explícita para agentes consequenciais (decisão de crédito, triagem de emprego, elegibilidade para serviço) em vez de ativar por padrão |
| Plataforma \| Objeto personalizado | ✅ Criar AI_Consent__c com campos: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; habilite Trilha de auditoria de campo para retenção de registro de consentimento de longo prazo |
| Agentforce \| Configuração do agente | ✅ Adicionar verificação de consentimento à lógica de invocação do agente: consultar AI_Consent__c para consentimento ativo antes do processamento; dar suporte ao consentimento no nível do caso de uso (agente de serviço vs. agente de vendas) |
| Plataforma \| Site da comunidade/Experiência | ✅ Criar interface de gerenciamento de consentimento por autoatendimento acessível a partir do perfil de usuário; agendar lembretes de renovação de consentimento a cada 12 meses |
| Agentforce \| Configuração do agente | ✅ Ao implantar novos recursos que afetam os usuários existentes, proativamente procure consentimento para novos casos de uso em vez de contar com o consentimento original que não contemplava aplicativos específicos |
| Agentforce \| Configuração do agente | ✅ Habilite a retirada de consentimento a qualquer momento com o encerramento imediato do processamento do agente; torne a retirada tão fácil quanto conceder sem exigir contatos de suporte |
| Agentforce \| Configuração do agente | ✅ Habilitar o gerenciamento de preferências do usuário: estilo de comunicação (conciso vs. detalhado), nível de proatividade, preferência de escalação; armazenamento em campos personalizados de registro do usuário e referência em avisos do sistema do agente |
| Plataforma \| Omni-Channel | ✅ Forneça a opção "Conectar-se ao agente humano" persistente em interações; quando selecionada, encaminhe para o Omni-Channel com contexto de conversa completo e sinalizador de prioridade sem penalidades de tempo de espera ou serviço degradado |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Configuração do agente | Ativar agentes consequenciais por padrão sem aceitação explícita do usuário para entender como os agentes os afetarão |
| Agentforce \| Configuração do agente | ⚡️ Exigir consentimento de IA geral em vez de habilitar o consentimento granular no nível de caso de uso (um cliente pode consentir com agentes de serviço enquanto recusa agentes de vendas) |
| Agentforce \| Configuração do agente | Fazer a retirada do consentimento requer contatos de suporte ou processos burocráticos em vez de autoatendimento com efeito imediato |
| Agentforce \| Configuração do agente | ⚡️ Com base no consentimento original ao implantar funcionalidades de agente materialmente novas que não foram consideradas no consentimento original |
| Agentforce \| Configuração do agente | ⚡️ Exigir que os usuários concluam interações com agentes ou expliquem suas preferências antes de conectá-los a um agente humano |

## Não discriminação no design do agente

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Agentforce \| Configuração do agente | ✅ Revise todas as fontes de dados usadas no raciocínio do agente para conteúdo de características protegidas; remova ou mascare características protegidas de entradas do agente quando não for legalmente justificado para o tipo de decisão |
| Agentforce \| Modelo de prompt | ✅ Inclua instruções explícitas de não discriminação em avisos do sistema: "Tratue todos os clientes com o mesmo profissionalismo, independentemente de nome, local, estilo de comunicação ou qualquer outra característica. Nunca faça pressuposições sobre os clientes com base nas características demográficas." |
| Agentforce \| Configuração do agente | ✅ Teste com diversas personas antes da produção: gerar solicitações idênticas variando apenas sinais demográficos (nomes sugerindo diferentes etnias, locais, estilos de comunicação); comparar respostas quanto à qualidade, ao comprimento, ao profissionalismo e aos resultados |
| Agentforce \| Monitoramento do agente | ✅ Calcular taxas de resolução de primeiro contato estratificadas por segmento do cliente; investigar quando há discrepâncias significativas entre os segmentos |
| Agentforce \| Monitoramento do agente | ✅ Amostra de conversas do agente entre segmentos e faça os revisores avaliarem a qualidade da resposta em dimensões consistentes (precisão, completude, profissionalismo, utilidade) com testes de confiabilidade entre classificações |
| Agentforce \| Monitoramento do agente | ✅ Rastreie taxas de escalação estratificadas por demografia do cliente; taxas mais altas para determinados segmentos indicam que os agentes são menos eficazes para esses usuários |
| Negócios \| Pesquisas | ✅ Pesquise usuários de todos os grupos demográficos e compare as pontuações de satisfação; a alta satisfação geral pode mascarar experiências ruins para grupos minoritários |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Agentforce \| Configuração do agente | Incluir dados de características protegidos (status de deficiência, religião, origem nacional) em entradas do agente para decisões em que essas características não são legalmente justificadas |
| Agentforce \| Modelo de prompt | ⚡️ Implementar agentes sem instruções explícitas de não discriminação em avisos do sistema, dependendo apenas do comportamento do modelo de base |
| Agentforce \| Configuração do agente | ⚡️ Testar agentes apenas com personas de maioria demográfica, sem viés em relação a grupos subrepresentados |
| Negócios \| Pesquisas | ⚡️ Com base em pontuações de satisfação geral que mascaram experiências ruins para grupos minoritários afogados pela satisfação da maioria |

## Acessibilidade em experiências do agente

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Plataforma \| LWC | ✅ Para implementações de chat personalizadas, garanta: estrutura HTML semântica com marcos adequados, regiões ativas do ARIA anunciando novas mensagens, navegação por teclado no histórico de mensagens, indicadores de foco claros em elementos interativos |
| Plataforma \| LWC | ✅ Teste com JAWS, NVDA e VoiceOver em todo o desenvolvimento, não apenas verificação automatizada |
| Agentforce \| Configuração do agente | ✅ Configure as respostas do agente para usar linguagem simples para públicos gerais; evite jargões e forneça glossários para termos técnicos inevitáveis; estruture respostas longas com títulos e listas com marcadores |
| Agentforce \| Configuração do agente | ✅ Validar a qualidade da resposta é comparável entre idiomas por meio da avaliação do locutor nativo, não apenas métricas automatizadas que ignoram nuances culturais |
| Agentforce \| Configuração do agente | ✅ Para casos de uso críticos para negócios que atendem populações de idiomas diversas, configure o tratamento específico do idioma (variáveis de idioma, avisos localizados, filtragem de artigos do Knowledge por idioma) e valide a qualidade por idioma, em vez de depender apenas da transferência multilíngue do modelo de base |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Plataforma \| LWC | Criar implementações de chat personalizadas sem testes de acessibilidade manuais (com base apenas em verificação automatizada) |
| Agentforce \| Configuração do agente | ⚡️ Usar jargão e linguagem complexa sem glossários, criando barreiras cognitivas para os usuários |
| Agentforce \| Configuração do agente | ⚡️ Dependendo apenas da transferência multilíngue do modelo de base para idiomas de recursos inferiores, fornecendo qualidade reduzida para usuários de idiomas não maioritários |
| Agentforce \| Configuração do agente | ⚡️ Validar a qualidade da resposta multilíngue apenas por meio de métricas automatizadas sem nuances culturais |

## Gates de implementação e governança de justiça

**Padrões**

| Onde procurar | Qual é a boa aparência |
| --- | --- |
| Negócios \| Governança | ✅ Estabelecer o painel de análise de ética com a autoridade de imposição antes de implantar agentes de produção |
| Negócios \| Governança | ✅ Defina os portões de implantação obrigatórios: auditoria de dados, cálculo de métricas de equidade e avaliação de impacto algorítmico |
| Plataforma \| CRM Analytics | ✅ Criar painéis de monitoramento de equidade de linha de base no CRM Analytics antes da primeira implantação do agente |
| Plataforma \| Monitoramento de evento | ✅ Habilite a captura de auditoria da Camada de Trust do Einstein e configure o Monitoramento de evento para ações do agente como base antes da produção |
| Negócios \| Governança | ✅ Implementar o teste de regressão de equidade automatizado em pipelines de CI/CD para escala |
| Negócios \| Governança | ✅ Padronizar padrões de gerenciamento de consentimento em todos os novos agentes conforme a escala de implantações |
| Plataforma \| Integração | ✅ Criar ferramentas de reconstrução de decisão do agente habilitando o autoatendimento da equipe de conformidade |

**Anti-Padrões**

| Onde procurar | Qual é a aparência ruim |
| --- | --- |
| Negócios \| Governança | ⚡️ Implementar agentes de produção antes de estabelecer um conselho de análise de ética com autoridade de imposição |
| Negócios \| Governança | ⚡️ Tratar a imparcialidade como uma reflexão, em vez de um gateway de implementação obrigatório equivalente à revisão de segurança |
| Negócios \| Governança | ⚡️ Ignorar avaliações de impacto algorítmico antes de implementar agentes tomando decisões consequentes |
| Plataforma \| CRM Analytics | ⚡️ Implementar o primeiro agente de produção sem painéis de monitoramento de equidade de linha de base em vigor |