--- schema_version: "1" id: be6caf5489b9e29a154b89db1feb13b1097094ebe101a22d15766c45f26e705b title: Ética e governança de IA – Padrões collection: architect version: current locale: pt-br portal_url: https://docs.salesforce.com/architect/current/pt-br/well-architected/guides/fairness-ai-ethics-patterns.md canonical_url: https://architect.salesforce.com/docs/architect/pt-br/well-architected/guide/fairness-ai-ethics-patterns.html source_site: architect.salesforce.com content_type: documentation content_hash: 93c607f3d19b8a5b6883bced76153c8b43983c4d910bee3006f9106db614087e products: - Estrutura bem arquitetada - Architect Site Content Repo --- # Ética e governança de IA – Padrões Saiba mais sobre a [justiça](/docs/architect/pt-br/well-architected/guide/fairness.html) bem arquitetada → [Praxis Ethical AI Governance](/docs/architect/pt-br/well-architected/guide/fairness.html#practice-ethical-ai-governance) ## Detecção de viés e validação de imparcialidade **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Einstein \| Dados de treinamento | ✅ Os dados do Salesforce CRM são auditados quanto a lacunas de representação demográfica e inconsistências de medição antes de treinar modelos preditivos | | Einstein \| Dados de treinamento | ✅ Os dados de conversão históricos são analisados pela demografia do cliente para identificar segmentos subrepresentados que exigem excesso de amostragem ou coleta de dados adicionais | | Einstein \| Implantação | ✅ A avaliação de imparcialidade é tratada como um gateway obrigatório equivalente à revisão de segurança antes que os modelos preditivos cheguem à produção | | Einstein \| Implantação | ✅ Paridade demográfica, igualdade de oportunidades e índices de impacto diferentes são calculados entre grupos protegidos antes da implementação | | Einstein \| Implantação | ✅ As métricas de imparcialidade são avaliadas em relação à regra de quatro quintos (limite de 80%) como um acionador de triagem, não uma linha de aprovação/falha legal, para todos os segmentos do cliente antes da implantação do modelo | | Einstein Discovery \| Instrumentação | ✅ Dados de decisão de modelo preditivo – entradas de previsão, saídas e versões de modelo – são capturados por meio do Einstein Discovery e de instrumentos personalizados que permitem a detecção de viés | | CRM Analytics \| Monitoramento | ✅ Painéis do CRM Analytics analisam dados de decisão de modelo preditivo capturados para padrões de decisão em grupos demográficos ao longo do tempo | | CRM Analytics \| Monitoramento | ✅ Os alertas do CRM Analytics são acionados quando as métricas de paridade demográfica ou de igualdade de oportunidades ultrapassam limites aceitáveis | | Einstein \| Engenharia de recursos | ✅ Todos os recursos do modelo preditivo são analisados quanto à correlação com características protegidas usando métodos estatísticos | | Einstein \| Engenharia de recursos | ✅ Recursos de proxy (território, CEP, padrões de nome da conta, momento da atividade, tipo de dispositivo) são identificados e avaliados quanto à correlação demográfica | | Einstein \| Engenharia de recursos | ✅ Recursos de proxy são removidos ou transformados depois de avaliar se o valor preditivo justifica a inclusão apesar dos efeitos de proxy | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Einstein \| Dados de treinamento | A pontuação de lead é treinada com base em 10 anos de dados históricos sem examinar a representação demográfica ou as diferenças de qualidade do serviço | | Einstein \| Dados de treinamento | Dados de conversão históricos são usados diretamente sem auditar se diferentes demográficos receberam tratamento diferente | | Einstein \| Implantação | Os recursos do Einstein são implementados apenas com base em métricas de precisão gerais sem avaliação de equidade | | Einstein \| Implantação | ⚡️ Paridade demográfica ou índices de impacto diferentes não são calculados antes da implementação da produção | | Einstein \| Camada Trust | ⚡️ As interações do Agentforce são implementadas sem habilitar a captura de auditoria da Camada de Trust para detecção de viés | | CRM Analytics \| Monitoramento | Padrões de decisão não são rastreados por grupos demográficos ao longo do tempo; o desvio de viés não é detectado | | Einstein \| Engenharia de recursos | Características protegidas são removidas dos dados de treinamento presumindo que isso elimine automaticamente o viés | | Einstein \| Engenharia de recursos | Padrões de território, CEP e nome da conta são usados como recursos sem análise de correlação de proxy | | Einstein \| Engenharia de recursos | Recursos de proxy que servem como proxies demográficos perfeitos são retidos sem avaliar alternativas | ## Monitoramento de imparcialidade contínuo **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Agentforce \| Análise | ✅ Os painéis do CRM Analytics rastreiam os resultados da decisão do Agentforce por demografia do cliente usando dados de auditoria da Camada de Trust do Einstein | | Agentforce \| Análise | ✅ Taxas de aprovação, tempos de resposta de serviço, taxas de escalação e pontuações de satisfação são monitorados estratificados por grupo demográfico | | Agentforce \| Análise | ✅ Os alertas do CRM Analytics são configurados para serem acionados quando métricas de justiça violam limites definidos exigindo investigação | | Agentforce \| Monitoramento de evento | ✅ Os registros de Monitoramento de evento são roteados para SIEM externo para retenção de longo prazo excedendo os limites de retenção nativos | | Agentforce \| Monitoramento de evento | ✅ Consultas SIEM identificam concentrações anômalas de resultados negativos para populações de usuários específicas | | Agentforce \| Trilha de auditoria de campo | ✅ A Trilha de auditoria de campo é ativada em objetos personalizados que armazenam dados de decisão do Agentforce, mantendo o histórico arquivado indefinidamente até ser excluído | | Agentforce \| Trilha de auditoria de campo | ✅ A Trilha de auditoria de campo dá suporte a auditorias de equidade de longo prazo e investigações regulatórias que exigem reconstrução de decisões históricas de IA | | CRM Analytics \| Monitoramento | ✅ Painéis do CRM Analytics rastreiam sinais de imparcialidade: mudanças súbitas em distribuições de decisão, picos em casos relacionados a viés, degradação do desempenho para populações específicas | | CRM Analytics \| Monitoramento | ✅ Alertas são acionados quando as taxas de aprovação de qualquer segmento de cliente caem mais de 15% semanalmente exigindo investigação de imparcialidade | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Agentforce \| Análise | ⚡️ Os resultados da decisão não são rastreados pela demografia; o desvio de viés não é detectado conforme as distribuições de dados mudam | | Agentforce \| Análise | As métricas de qualidade do serviço não são estratificadas por grupo demográfico; resultados diferentes permanecem invisíveis | | Agentforce \| Monitoramento de evento | ⚡️ Os registros de Monitoramento de evento dependem de limites de retenção nativos sem SIEM externo para auditorias de imparcialidade de longo prazo | | Agentforce \| Monitoramento de evento | Padrões de decisão não são analisados em grandes volumes de interações; concentrações anômalas são perdidas | | Agentforce \| Trilha de auditoria de campo | A Trilha de auditoria de campo não está habilitada; decisões históricas de IA não podem ser reconstruídas para investigações regulatórias | | CRM Analytics \| Monitoramento | Os sinais de imparcialidade não são monitorados; alterações súbitas nas distribuições de decisão ficam despercebidas | ## Estratégia de mitigação de viés **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Einstein \| Dados de treinamento | ✅ Os dados do Salesforce CRM são reequilibrados excedendo a amostragem de segmentos subrepresentados ou subexcluindo a amostragem de segmentos sobrerepresentados antes do treinamento | | Data 360 \| Arquitetura | ✅ O Data 360 agrega dados em várias organizações garantindo vários conjuntos de treinamento para modelos preditivos | | Einstein \| Dados de treinamento | ✅ A geração de dados sintéticos complementa segmentos escassos enquanto preserva a privacidade por meio de técnicas de privacidade diferencial | | Einstein \| Engenharia de recursos | ✅ Recursos de proxy são substituídos por recursos alternativos que fornecem poder preditivo sem correlação demográfica | | Einstein \| Engenharia de recursos | ✅ Classificação do setor ou tamanho da empresa são usados em vez de território quando o território serve como proxy demográfico | | Einstein \| Engenharia de recursos | ✅ Atributos firmográficos são usados em vez de padrões de nome da conta quando os nomes estão correlacionados com a demografia | | Agentforce \| Pós-processamento | ✅ Os limites de decisão são ajustados por segmento demográfico para igualar as taxas de resultados após o treinamento de modelo, exceto que, nos Estados Unidos, o Título VII (Lei de Direitos Civis de 1991) proíbe ajustar pontuações ou cortes por classe protegida para decisões relacionadas ao emprego, e outras jurisdições impõem suas próprias restrições | | Agentforce \| Pós-processamento | ✅ Limites de confiança diferentes são usados para diferentes contextos que alcançam taxas de aprovação justas enquanto usam o mesmo modelo preditivo subjacente | | Agentforce \| Pós-processamento | ✅ Os ajustes de limite são documentados com a justificativa de negócios para tratamento diferencial, reconhecendo que, nos Estados Unidos, nenhuma documentação torna o ajuste de pontuação por grupo legal para decisões relacionadas ao emprego sob o título VII | | Einstein \| Treinamento de modelo | ✅ A agenda de treinamento trimestral ou conduzido por evento é estabelecida capturando padrões de viés emergentes e corrigindo o desvio das linhas de base de fairness originais | | Einstein \| Treinamento de modelo | ✅ As métricas de imparcialidade são revalidadas em cada versão do modelo antes da implementação de produção, garantindo que o treinamento novamente não tenha introduzido um novo viés | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Einstein \| Dados de treinamento | Dados de treinamento são usados diretamente sem reequilibrar segmentos subrepresentados ou sobrerepresentados | | Einstein \| Dados de treinamento | Segmentos demográficos escassos não são complementados com dados sintéticos ou agregação entre organizações | | Einstein \| Engenharia de recursos | Recursos de proxy são retidos sem avaliar recursos alternativos, fornecendo poder preditivo sem correlação demográfica | | Agentforce \| Pós-processamento | ⚡️ Os mesmos limites de confiança são aplicados a todos os segmentos demográficos sem igualar as taxas de resultado | | Agentforce \| Pós-processamento | ⚡️ O tratamento diferencial por meio de ajustes de limite não tem justificativa comercial documentada ou, nos Estados Unidos, é aplicado a decisões relacionadas ao emprego, em que o Título VII proíbe ajustar pontuações ou cortes por classe protegida independentemente da documentação | | Einstein \| Treinamento de modelo | ⚡️ Os modelos são implementados e nunca são treinados novamente; padrões de viés e desvio emergentes não são corrigidos | | Einstein \| Treinamento de modelo | ⚡️ O treinamento novamente ocorre sem revalidar as métricas de fairness; o novo viés é introduzido silenciosamente | ## Capacidade de explicação e transparência de IA **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Einstein Discovery \| UX | ✅ Explicações do Einstein Discovery mostrando fatores de previsão aparecem nos componentes do Lightning no ponto de decisão | | Einstein Discovery \| UX | ✅ As explicações mostram quais variáveis mais influenciaram previsões específicas com impacto direcional para os usuários em pontos de decisão | | Einstein Discovery \| UX | ✅ As explicações são estratificadas para diferentes públicos: usuários de negócios, usuários técnicos, clientes e auditores | | Einstein Discovery \| UX | ✅ Usuários de negócios veem "Esse lead pontuou alto porque a receita anual excede US$ 1 milhão e a pontuação de engajamento está no top 10%" | | Einstein Discovery \| UX | ✅ Usuários técnicos veem cartões de modelo com pesos de recurso, características de dados de treinamento e métricas de validação | | Einstein Discovery \| UX | ✅ Os clientes veem "Essa recomendação é baseada em suas compras recentes e clientes com preferências semelhantes" | | Einstein Discovery \| UX | ✅ Os auditores veem a linha de decisão completa do Einstein Discovery e do Gerenciador de modelo com a versão do modelo, os valores de entrada e os fatores que impulsionaram a previsão | | Einstein Discovery \| UX | ✅ A confiança da previsão é exibida em termos adequados ao usuário como categorias (Alta confiança, Moderar confiança, Requer revisão) com explicações | | Einstein Discovery \| UX | ✅ Categorias de confiança explicam o que o nível de confiança significa para a confiabilidade da decisão e qual revisão adicional ocorrerá | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Einstein Discovery \| UX | ⚡️ As explicações são adaptadas aos sistemas opacos após a implantação, em vez de criar capacidade de explicação na arquitetura desde o início | | Einstein Discovery \| UX | ⚡️ As explicações de previsão exigem navegação para separar painéis do CRM Analytics em vez de exibir em pontos de decisão | | Einstein Discovery \| UX | ⚡️ Os usuários veem métricas de desempenho de modelo abstrato em vez de explicações transparentes quando as decisões os afetam | | Einstein Discovery \| UX | As explicações não variam de acordo com o público; os cartões de modelo técnico são mostrados a clientes ou usuários de negócios | | Einstein Discovery \| UX | As pontuações de previsão brutas (0,73) são exibidas sem explicação do que o número significa ou quais fatores impulsionaram a previsão | | Einstein Discovery \| UX | A confiança é mostrada como porcentagens de probabilidade que os usuários interpretam incorretamente sem contexto sobre a confiabilidade ou a revisão | ## Trilha de auditoria e conformidade **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Einstein \| Camada Trust | ✅ Einstein Trust Layer registra avisos, respostas, origens de fundamentação e sinais Trust automaticamente sem instrumentação personalizada | | Einstein \| Camada Trust | ✅ As políticas de retenção de dados são projetadas para atender aos requisitos regulatórios que variam de acordo com o setor e a jurisdição (por exemplo, a regra FINRA 4511(b) define um período de retenção padrão de seis anos e a HIPAA exige um mínimo de seis anos para a documentação de conformidade) | | CRM Analytics \| Monitoramento | ✅ Os painéis do CRM Analytics analisam dados de decisão de modelo preditivo capturados para padrões de decisão, métricas de imparcialidade e desempenho do modelo ao longo do tempo | | CRM Analytics \| Monitoramento | ✅ Os lenses do CRM Analytics mostram distribuições de previsão por nível de confiança, segmento demográfico e tipo de resultado | | CRM Analytics \| Monitoramento | ✅ Histórias do Einstein Discovery identificam padrões anômalos que exigem investigação | | Plataforma \| Trilha de auditoria de campo | ✅ A Trilha de auditoria de campo está habilitada em objetos personalizados que armazenam dados de decisão de IA, mantendo o histórico arquivado indefinidamente até serem excluídos para registros de consentimento, substituir decisões e reportar vieses | | Plataforma \| Monitoramento de evento | ✅ Monitoramento de evento captura transcrições de conversa do Agentforce, invocações de ferramentas e pontos de decisão | | Plataforma \| Monitoramento de evento | ✅ Os registros de Monitoramento de evento são roteados para SIEM externo por meio de Eventos de plataforma para armazenamento com evidência de adulteração | | Plataforma \| Monitoramento de evento | ✅ Consultas SIEM detectam padrões de viés em grandes volumes de interações do Agentforce | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Einstein \| Camada Trust | ⚡️ As interações do Agentforce são implementadas sem habilitar a captura de auditoria da Camada de Trust nem definir políticas de retenção | | Einstein \| Camada Trust | ⚡️ As políticas de retenção não consideram requisitos regulatórios específicos do setor (Serviços financeiros, cuidados de saúde) | | CRM Analytics \| Monitoramento | Dados de decisão de modelo preditivo capturados não são analisados; padrões de decisão e métricas de imparcialidade não são rastreados ao longo do tempo | | Plataforma \| Trilha de auditoria de campo | ⚡️ O histórico de campo padrão de 18 meses é baseado em trilhas de auditoria de decisão de IA sem considerar requisitos de retenção regulatória | | Plataforma \| Trilha de auditoria de campo | A Trilha de auditoria de campo não está habilitada em objetos com registros de consentimento, decisões de substituição e relatórios de viés | | Plataforma \| Monitoramento de evento | ⚡️ Os registros de Monitoramento de evento dependem de limites de retenção nativos sem SIEM externo para armazenamento de longo prazo com evidência de adulteração | | Plataforma \| Monitoramento de evento | ⚡️ Os registros de interação do Agentforce não são analisados quanto a padrões de viés em grandes volumes | ## Posicionamento de conformidade regulatória **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Governança \| Lei de IA da UE | ✅ Os sistemas de IA de alto risco são documentados com documentação de transparência, documentação técnica, recursos de supervisão humana e métricas de precisão/justiça | | Governança \| Lei de IA da UE | ✅ Trilhas de auditoria da Camada de Trust do Einstein e cartões de modelo do Discovery fornecem as bases para os requisitos de transparência da Lei de IA da UE | | Governança \| Lei de IA da UE | ✅ Demografia de dados de treinamento do modelo, abordagens de validação e limitações conhecidas são documentadas em registros de decisão de arquitetura | | Governança \| GDPR | ✅ Os sistemas geram explicações coerentes para qualquer decisão histórica sob demanda dentro dos períodos de solicitação de acesso do sujeito dos dados (que variam conforme a jurisdição, entre 15 e 45 dias) | | Governança \| GDPR | ✅ Os dados de decisão do modelo preditivo capturados e os fatores de explicação do Einstein Discovery são armazenados com retenção suficiente para permitir a reconstrução da explicação para o direito de explicação do GDPR | | Governança \| Responsabilidade algorítmica | ✅ As avaliações de impacto algorítmico são realizadas antes de implementar a IA consequente como conformidade proativa, em vez de resposta reativa | | Governança \| Responsabilidade algorítmica | ✅ Dados de decisão de modelo preditivo capturados e painéis de monitoramento de equidade do CRM Analytics fornecem bases de dados para relatórios de responsabilidade algorítmica | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Governança \| Lei de IA da UE | Os sistemas de IA de alto risco são implementados sem documentação de transparência, recursos de supervisão humana ou métricas de imparcialidade | | Governança \| Lei de IA da UE | ⚡️ A demografia de dados de treinamento do modelo e as limitações conhecidas não são documentadas nos registros de decisão de arquitetura | | Governança \| GDPR | ⚡️ Os sistemas não podem gerar explicações coerentes para decisões históricas dentro dos períodos de solicitação de acesso do sujeito dos dados do GDPR | | Governança \| GDPR | A retenção de dados de decisão do modelo preditivo capturada é insuficiente para dar suporte à reconstrução de explicações para decisões anteriores | | Governança \| Responsabilidade algorítmica | As avaliações de impacto algorítmico não são realizadas antes da implantação de IA consequente; a conformidade é reativa após a consulta regulatória | ## Acesso a dados e não discriminação **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Plataforma \| OWD | ✅ Os padrões privados para toda a organização são estabelecidos para objetos que contêm dados confidenciais do cliente com acesso concedido por meio de hierarquia de papéis e regras de compartilhamento | | Plataforma \| OWD | ✅ OWDs privados com concessões de compartilhamento explícitas criam padrões de acesso auditáveis compatíveis com a conformidade de não discriminação | | Plataforma \| Segurança em nível de campo | ✅ Campos confidenciais contendo características protegidas (etnia, religião, status de deficiência) são ocultados por meio do FLS de usuários sem necessidade comercial legítima | | Plataforma \| Segurança em nível de campo | ✅ O acesso de leitura a campos confidenciais é removido por meio do FLS para a maioria dos perfis; o acesso é concedido pelo menos por meio de conjuntos de permissões com justificativa documentada | | Plataforma \| Atribuição e roteamento | ✅ Regras de atribuição, filas e roteamento do Omni-Channel distribuem trabalho de maneira uniforme entre territórios, equipes e agentes de serviço com base em critérios objetivos | | Plataforma \| Regras de compartilhamento | ✅ Regras de compartilhamento automáticas são baseadas em critérios objetivos (industria, geografia, linha de produto) em vez de critérios de discrição subjetiva do gerente | | Plataforma \| Conjuntos de permissões | ✅ O acesso temporário a dados confidenciais é concedido por meio de conjuntos de permissões com expiração documentada em vez de modificações de perfil permanentes | | Plataforma \| Conjuntos de permissões | ✅ Fluxo agendado revoga conjuntos de permissões automaticamente após períodos definidos quando o acesso a dados demográficos é necessário para projetos específicos | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Plataforma \| OWD | ⚡️ OWDs de leitura/gravação pública tornam a restrição de acesso mais tarde disruptiva (aprimorar o padrão aciona um recálculo de compartilhamento); padrões de acesso auditáveis não existem | | Plataforma \| OWD | O OWD da conta é definido como Leitura/Gravação pública com campos demográficos não protegidos visíveis a todos os usuários habilitando viés subjetivo | | Plataforma \| Segurança em nível de campo | Campos demográficos confidenciais são visíveis a todos os perfis sem restrições de FLS; o uso de dados discriminatórios não é impedido | | Plataforma \| Regras de compartilhamento | ⚡️ O compartilhamento manual concentra oportunidades de alto valor com grupos de usuários específicos sem justificativa de negócios documentada | | Plataforma \| Regras de compartilhamento | ⚡️ Regras de compartilhamento dependem de critérios subjetivos do gerente, em vez de critérios objetivos que permitem viés | | Plataforma \| Conjuntos de permissões | ⚡️ Os perfis são modificados de modo permanente, afetando todos os usuários em vez de conceder acesso temporário por meio de conjuntos de permissões | | Plataforma \| Conjuntos de permissões | Conjuntos de permissões que concedem acesso a dados confidenciais não expiram automaticamente; o acesso permanece indefinido após a conclusão do projeto | ## Acessar monitoramento de padrão **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Shield \| Monitoramento de evento | ✅ O Monitoramento de evento Shield rastreia o acesso a campos que contêm características protegidas ou atributos confidenciais | | Shield \| Monitoramento de evento | ✅ O Monitoramento de evento consulta quem acessa os campos demográficos, quando e em que contexto detectar padrões anômalos | | Shield \| Monitoramento de evento | ✅ Padrões de acesso anômalos (picos súbitos, acesso por usuários inesperados) acionam investigação para possíveis abusos | | Plataforma \| Relatórios | ✅ Relatórios analisam como as regras de compartilhamento distribuem registros entre usuários, equipes e territórios calculando estatísticas de distribuição por demografia do cliente | | Plataforma \| Relatórios | ✅ Os relatórios identificam concentrações em que grupos de usuários específicos recebem acesso desproporcionado a registros valiosos sem justificativa documentada | | Plataforma \| Trilha de auditoria de configuração | ✅ A Trilha de auditoria de configuração é revisada quanto a alterações nas configurações de OWD, regras de compartilhamento, configurações de FLS e conjuntos de permissões detectando alterações não autorizadas | | Plataforma \| Segurança da transação | ✅ As políticas de segurança da transação atuam em eventos de Monitoramento de evento em tempo real de alto risco (atividade de API anômala, logins suspeitos, grandes exportações de dados confidenciais); as alterações de FLS e compartilhamento dependem da Trilha de auditoria de configuração e aprovações de gerenciamento de alterações documentadas | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Shield \| Monitoramento de evento | ⚡️ O acesso a campos demográficos confidenciais não é monitorado; possíveis abusos não são detectados | | Shield \| Monitoramento de evento | Padrões de acesso anômalos (piques, usuários inesperados) não são rastreados nem investigados | | Plataforma \| Relatórios | As distribuições de regra de compartilhamento não são analisadas; o acesso desproporcionado a registros valiosos permanece invisível | | Plataforma \| Relatórios | Concentrações de contas de alto valor com grupos de usuários específicos não têm justificativa de negócios documentada | | Plataforma \| Trilha de auditoria de configuração | A Trilha de auditoria de configuração não foi revisada; alterações não autorizadas nos controles de acesso a dados que permitem acesso a dados confidenciais não são detectadas | | Plataforma \| Segurança da transação | Eventos de Monitoramento de evento em tempo real de alto risco (atividade de API anômala, grandes exportações de dados confidenciais) não são atendidos com as políticas de segurança da transação | ## Gerenciamento de consentimento do usuário **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Plataforma \| Objetos personalizados | ✅ O consentimento granular por caso de uso de IA é habilitado por meio de propósito de rastreamento de objeto de consentimento personalizado, data/método de concessão, data de retirada e ID de usuário/contato relacionado | | Plataforma \| Objetos personalizados | ✅ Consentimento dos clientes para recomendações de produto do Einstein enquanto recusa decisões de crédito conduzidas por IA por meio de registros de consentimento separados por caso de uso | | Plataforma \| Trilha de auditoria de campo | ✅ A Trilha de auditoria de campo está habilitada no objeto Consentimento para cumprir requisitos regulatórios de retenção de longo prazo | | Data 360 \| Consentimento | ✅ O gerenciamento de consentimento do Data 360 é usado para recursos de Personalização do Einstein, ingerindo e armazenando preferências de consentimento por meio de conectores mapeados para o Modelo de dados de privacidade e usando-os como critérios de filtro na segmentação e na ativação | | Data 360 \| Consentimento | ✅ Categorias de consentimento são mapeadas para casos de uso de IA específicos que permitem que os usuários recusem a personalização enquanto mantêm o serviço principal | | Marketing Cloud \| Consentimento | ✅ Consentimento do Marketing Cloud integra-se com o Einstein Messaging Insights e agentes de marketing Agentforce respeitando o status da assinatura | | Marketing Cloud \| Consentimento | ✅ O status do consentimento do Marketing Cloud é consultado antes que o Agentforce inicie o esforço de contato automatizado para evitar contato indesejado com usuários que optaram por sair | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Plataforma \| Objetos personalizados | ⚡️ O consentimento de IA é rastreado em planilhas ou depende do login como consentimento geral implícito sem registros explícitos | | Plataforma \| Objetos personalizados | ⚡️ O consentimento de IA em branco é usado em vez do consentimento granular por caso de uso; os usuários não podem recusar recursos de IA específicos | | Plataforma \| Trilha de auditoria de campo | A Trilha de auditoria de campo não está habilitada no objeto Consentimento; a retenção de longo prazo cumpre os requisitos regulatórios não é mantida | | Data 360 \| Consentimento | O consentimento do Data 360 não é usado para Personalização do Einstein; as categorias de consentimento não são mapeadas para casos de uso específicos | | Marketing Cloud \| Consentimento | O consentimento do Marketing Cloud não é integrado ao Einstein ou Agentforce; o status da assinatura não é respeitado no alcance automatizado | ## Recusa e preferência do usuário **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Experience Cloud \| Configurações de perfil | ✅ Os usuários recusam interações do Agentforce por meio de controles de preferências acessíveis nas configurações de perfil do Experience Cloud ou Minhas configurações com descrições claras | | Plataforma \| Registros de usuário/contato | ✅ As preferências de IA são armazenadas nos registros de Usuário ou Contato ativando a consulta na lógica de decisão de Fluxo e Agentforce | | Agentforce \| Omni-Channel | ✅ Usuários que optam por sair do Agentforce são encaminhados para agentes humanos por meio do Omni-Channel em vez de receber um serviço degradado | | Agentforce \| Fluxo | ✅ O fluxo verifica o consentimento e os campos de preferência antes do engajamento do Agentforce; se o usuário optou por sair, o registro de trabalho é criado e roteado para a fila humana | | Agentforce \| Omni-Channel | ✅ A equipe da fila humana fornece tempos de espera comparáveis ao serviço automatizado para usuários que recusaram | | Plataforma \| Registros de usuário/contato | ✅ As preferências de IA são armazenadas em registros de Usuário ou Contato garantindo a consistência entre canais (web, celular, telefone, email) | | Plataforma \| Fluxo | ✅ A preferência é consultada de modo consistente em todos os fluxos de interação, impedindo que os usuários precisem declarar preferências repetidamente em cada canal | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Experience Cloud \| Configurações de perfil | O cancelamento está disponível apenas por email para a equipe de suporte; controles de preferência acessíveis não existem | | Plataforma \| Registros de usuário/contato | As preferências de IA não são armazenadas nos registros de Usuário ou Contato; as preferências não podem ser consultadas na lógica de Fluxo ou Agentforce | | Agentforce \| Omni-Channel | ⚡️ Usuários que recusam receberem serviço degradado como pressão implícita para aceitar a IA em vez de rotear para agentes humanos | | Agentforce \| Fluxo | O Fluxo não verifica os campos de consentimento ou preferência antes do engajamento do Agentforce; as preferências de recusa são ignoradas | | Plataforma \| Registros de usuário/contato | As preferências não são consistentes entre canais; os usuários devem declarar novamente o cancelamento na Web, dispositivo móvel, telefone e email separadamente | ## Documentação de governança de IA **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Governança \| Documentação | ✅ Cada modelo preditivo de produção é documentado com dados demográficos de treinamento, métricas de equidade, casos de uso pretendidos, estratégias de mitigação de viés e abordagens de monitoramento | | Governança \| Documentação | ✅ A documentação do modelo inclui a abordagem de monitoramento de equidade, limites de alerta, requisitos de supervisão humana, agenda de revisão e considerações regulatórias | | Plataforma \| Objetos personalizados | ✅ A documentação do modelo é armazenada no Salesforce usando o objeto Modelo personalizado ou Salesforce Files anexado a Projetos habilitando a capacidade de pesquisa e controle de versão | | Governança \| Gates de implementação | ✅ Os portões de equidade pré-implementação exigem auditoria de dados de treinamento, cálculo de métricas de equidade, avaliação de impacto, design de supervisão humana e análise de transparência antes da produção | | Governança \| Gates de implementação | ✅ Lacunas de representação de dados de treinamento são analisadas e documentadas como gateway de implementação obrigatório | | Governança \| Gates de implementação | ✅ Paridade demográfica, oportunidades iguais e impacto distinto são calculados para cumprir limites como gate obligatório | | Governança \| Gates de implementação | ✅ A avaliação de impacto avalia possíveis danos em populações afetadas como gateway obrigatório | | Governança \| Gates de implementação | ✅ O design de supervisão humana, incluindo padrões de escalação, fluxos de trabalho de aprovação e mecanismos de substituição, é projetado e testado como um gate obligatório | | Governança \| Gates de implementação | ✅ Os recursos de explicação são validados para todos os tipos de decisão como gate obligatório | | Governança \| Gates de implementação | ✅ Os portões de imparcialidade são tratados com a mesma rigor que os portões de segurança com autoridade para bloquear implantações com falha em qualquer portão | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Governança \| Documentação | Os recursos do Einstein são implementados sem documentar dados de treinamento, métricas de equidade, mitigação de viés ou abordagens de monitoramento | | Governança \| Documentação | A documentação do modelo não inclui a abordagem de monitoramento de equidade, requisitos de supervisão humana ou considerações regulatórias | | Plataforma \| Objetos personalizados | A documentação do modelo é armazenada em planilhas ou wikis sem capacidade de pesquisa ou controle de versão | | Governança \| Gates de implementação | Os recursos do Einstein passam à produção sem portões de equidade; a implantação é baseada apenas em métricas de precisão gerais | | Governança \| Gates de implementação | ⚡️ Auditoria de dados de treinamento, cálculo de métricas de equidade ou avaliação de impacto são ignorados antes da implementação da produção | | Governança \| Gates de implementação | ⚡️ Design de supervisão humana, revisão de transparência ou validação de explicação não são realizados antes da produção | | Governança \| Gates de implementação | ⚡️ Os portões de imparcialidade são somente consultoria sem autorização para bloquear implantações; os modelos avançam apesar de critérios de imparcialidade falharem | ## Board de revisão de ética de IA **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Governança \| Conselho de revisão | ✅ O painel de revisão inclui especialistas técnicos (arquitetos, cientistas de dados), partes interessadas de negócios, consultores jurídicos, especialistas em privacidade e representantes de comunidades afetadas | | Governança \| Conselho de revisão | ✅ Diversas perspectivas detectam problemas de equidade que grupos homogêneos ignoram durante a revisão de ética | | Governança \| Revisar acionadores | ✅ Os acionadores de revisão são definidos: decisões que afetam direitos de emprego/crédito/alojamento/saúde/legal, sistemas que afetam >10 mil usuários por ano, novos casos de uso, risco significativo de dano | | Governança \| Revisar acionadores | ✅ Os aplicativos de IA que usam dados pessoais confidenciais (saúde, financeiro, demográfico) exigem revisão de ética antes da implementação | | Governança \| Autoridade de revisão | ✅ O comitê de análise de ética tem autoridade para exigir alterações, impor condições de monitoramento ou bloquear implantações com falha nos padrões éticos | | Plataforma \| Objetos personalizados | ✅ Todas as revisões são documentadas no nome do aplicativo de rastreamento de objeto personalizado do Salesforce, na data da revisão, nas preocupações levantadas, nos requisitos de mitigação e nas condições de aprovação | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Governança \| Conselho de revisão | ⚡️ O painel de revisão não tem diversidade (apenas especialistas técnicos); grupos homogêneos não têm problemas de equidade que afetam diferentes populações | | Governança \| Conselho de revisão | ⚡️ Representantes de comunidades afetadas não são incluídos; resultados de pontos cegos em considerações de imparcialidade | | Governança \| Revisar acionadores | Acionadores de revisão não são definidos; aplicativos de IA de alto risco prosseguem sem revisão de ética antes da implementação | | Governança \| Autoridade de revisão | ⚡️ A revisão de ética é somente consultoria sem imposição; as implantações prosseguem apesar da falha nos padrões éticos (teatro de responsabilidade) | | Plataforma \| Objetos personalizados | As revisões não são documentadas sistematicamente; decisões de revisão históricas, preocupações e mitigações não são rastreadas | ## Governança de imparcialidade contínua **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | CRM Analytics \| Monitoramento | ✅ Painéis do CRM Analytics rastreiam métricas de fairness do Einstein e do Agentforce de dados de decisão capturados e dados de auditoria da Camada de Trust em um ritmo agendado | | CRM Analytics \| Monitoramento | ✅ Paridade demográfica, oportunidades iguais, índices de impacto diferentes e métricas de qualidade do serviço são monitoradas pelo segmento do cliente | | CRM Analytics \| Monitoramento | ✅ Os alertas do CRM Analytics são configurados para serem acionados quando métricas de justiça violam limites definidos exigindo investigação | | CRM Analytics \| Monitoramento | ✅ Painéis do CRM Analytics rastreiam sinais de imparcialidade: mudanças súbitas em distribuições de decisão, picos em casos relacionados a viés, degradação do desempenho para populações específicas | | CRM Analytics \| Monitoramento | ✅ Acionam alertas para a Pontuação de oportunidade do Einstein quando as taxas de aprovação de qualquer segmento caem mais de 15% semanalmente, exigindo investigação de equidade | | Governança \| Auditorias agendadas | ✅ Auditorias de imparcialidade abrangentes são realizadas trimestralmente para IA de alta participação (crédito, emprego, saúde) ou semestral para sistemas de baixa participação | | Governança \| Auditorias agendadas | ✅ Auditorias examinam métricas de fairness atuais, revisam padrões de substituição, analisam relatórios de feedback e viés do usuário e validam os controles de governança que permanecem efetivos | | Governança \| Resposta a incidentes | ✅ Processos de resposta a incidentes claros são documentados no Salesforce Knowledge para responder quando viés é detectado | | Governança \| Resposta a incidentes | ✅ Avaliação de gravidade imediata consultando dados de decisão de modelo preditivo no CRM Analytics; um viés grave suspende a tomada de decisão automatizada aguardando a investigação | | Governança \| Resposta a incidentes | ✅ A mitigação temporária implementa maior supervisão humana por meio de limites de confiança ajustados, desabilitação de recurso ou suspensão completa do agente | | Governança \| Resposta a incidentes | ✅ A análise de causa raiz identifica como o viés foi inserido ou evoluído; dados de treinamento, versões do modelo e alterações de configuração são analisados por meio da Trilha de auditoria de campo | | Governança \| Resposta a incidentes | ✅ A remediação permanente implementa a correção de dados, o novo treinamento de modelo ou as alterações de processo com a comunicação adequada aos usuários afetados | | Governança \| Resposta a incidentes | ✅ Medidas de prevenção são documentadas em manuais que impedem a recorrência de incidentes de viés | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | CRM Analytics \| Monitoramento | As métricas de imparcialidade não são rastreadas em nenhum ritmo agendado de dados de decisão capturados ou dados de auditoria da Camada de Trust; o desvio de viés não é detectado conforme as distribuições de dados mudam | | CRM Analytics \| Monitoramento | Alertas do CRM Analytics não são configurados; violações de métrica de justiça que exigem investigação não são acionadas | | CRM Analytics \| Monitoramento | Os sinais de imparcialidade não são monitorados; alterações súbitas nas distribuições de decisão não são detectadas | | Governança \| Auditorias agendadas | ⚡️ Auditorias de imparcialidade abrangentes não são realizadas em nenhuma agenda; os controles de governança se desviam e tornam-se ineficazes | | Governança \| Auditorias agendadas | Padrões de substituição, feedback do usuário e relatórios de viés não são analisados sistematicamente durante auditorias | | Governança \| Resposta a incidentes | ⚡️ Processos de resposta a incidentes claros não são documentados; a detecção de viés leva a respostas ad hoc sem abordagem sistemática | | Governança \| Resposta a incidentes | ⚡️ A mitigação temporária ou a remediação permanente não são implementadas sistematicamente; o viés persiste afetando os usuários | | Governança \| Resposta a incidentes | A análise de causa raiz não é realizada; como o viés inserido ou evoluído permanece desconhecido | | Governança \| Resposta a incidentes | ⚡️ As medidas de prevenção não são documentadas; a recorrência não é evitada | ## Qualidade dos dados e equidade representativa **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Plataforma \| Campos obrigatórios | ✅ Cada campo obrigatório contém uma justificativa comercial documentada para o motivo pelo qual os dados são obrigatórios em vez de opcionais; os campos sem os quais um processo pode funcionar são tornados opcionais com o tratamento a jusante para valores ausentes | | Plataforma \| Campos obrigatórios | ✅ Email é opcional com métodos de comunicação alternativos (SMS, telefone, correio postal) para que usuários sem email pessoal ou confiável na Internet não sejam excluídos da criação da conta | | Plataforma \| Campos de nome | ✅ A arquitetura de nomes usa um único campo de nome completo ou uma estrutura flexível de várias partes que acomoda monônimos, sistemas de apelidos e vários nomes de família ou dados sem presumir ordem ou herança | | Plataforma \| Campos de nome | ✅ Campos de nome são testados com diversos nomes internacionais, aceitando nomes de palavra única, nomes longos, diácritos, apostrofes, hifens e scripts não latinos (árabe, chinês, cirílico, devanagari) | | Plataforma \| Validação de endereço | ✅ A validação de endereço permitida aceita entrada em forma livre quando a validação estruturada falha e armazena endereços conforme os usuários os inserem, em vez de forçar correções inválidas | | Plataforma \| Validação de endereço | ✅ A verificação de endereço é integrada em processos de cumprimento em que a precisão importa operacionalmente em vez de bloquear a captura de dados antecipadamente | | Plataforma \| Preferências de comunicação | ✅ Os métodos de comunicação preferenciais são armazenados em registros de Contato e respeitados de maneira consistente em todos os sistemas de saída, oferecendo alternativas de omnichannel em vez de pressuposições de canal único | | Objeto personalizado \| Dados demográficos | ✅ Dados demográficos voluntários são coletados por meio de uma pesquisa separada com uma opção "Preferir não responder", armazenados em um objeto personalizado com OWD privado, restritos pelo FLS e usados apenas para análise de equidade agregada | | Shield \| Monitoramento de evento | ✅ O Monitoramento de evento Shield registra eventos de acesso (exportações de relatório, consultas de objeto da API) em dados demográficos para padrões de acesso de auditoria | | Plataforma \| Aprimoramento de terceiros | ✅ Fornecedores de aprimoramento de terceiros são auditados quanto a testes de fairness, cobertura demográfica e precisão, metodologia de inferência e restrições de uso de dados contratuais antes da implementação | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Plataforma \| Campos obrigatórios | Email é necessário para a criação de conta sem alternativa, e a validação de telefone ou endereço rejeita formatos fora dos EUA, caixas de PO e rotas rurais, excluindo usuários que não podem fornecer os dados | | Plataforma \| Campos obrigatórios | Os campos são marcados como obrigatórios sem documentar se o processo pode funcionar sem os dados, criando preenchimentos invisíveis de registros incompletos rejeitados | | Plataforma \| Campos de nome | Campos de nome impõem convenções Western First/Last e rejeitam monônimos, diácritos ou scripts não latinos, sujeitando os usuários à rejeição do sistema com base na identidade cultural | | Plataforma \| Validação de endereço | A validação de endereço exige formato postal dos EUA e não reconhece endereços internacionais, caixas de PO, endereços militares (APO/FPO) ou endereços tribais, bloqueando a criação de conta e a entrega de serviços | | Plataforma \| Preferências de comunicação | Presume-se que um só canal de comunicação seja universal (somente email ou somente telefone), excluindo usuários sem acesso à Internet, sem acesso telefônico ou com deficiência auditiva ou surdo | | Objeto personalizado \| Dados demográficos | Dados demográficos são inferidos de nomes ou locais sem o Knowledge do usuário, armazenados em campos de contato padrão visíveis a todos os usuários e usados na pontuação de leads ou previsões sem divulgação | | Plataforma \| Aprimoramento de terceiros | Dados de terceiros são anexados sem auditar práticas de fairness do fornecedor ou cobertura demográfica, importando viés introduzido pelo fornecedor para decisões da organização | ## Fairness na Automação do Salesforce **Padrões** | Onde procurar | Qual é a boa aparência | | --- | --- | | Plataforma \| Atribuição e roteamento | ✅ As regras de atribuição e roteamento usam critérios de objetivo (linhas de produto, SLAs, requisitos de idioma) e as distribuições de atribuição são auditadas trimestralmente, estratificadas por demografia do cliente, para garantir que nenhum padrão de concentração apareça | | Plataforma \| Omni-Channel | ✅ Tempo médio de atendimento, resolução no primeiro contato e satisfação do cliente são monitorados em todos os caminhos de roteamento para detectar se os segmentos do cliente recebem sistematicamente agentes menos experientes | | Plataforma \| Fluxo | ✅ Fluxos que tomam decisões consequentes são revisados quanto a critérios correlacionados com características protegidas (tendência da conta, preferência de canal, histórico de compras, horário comercial) e sua lógica de decisão é documentada nos registros de decisão da arquitetura | | Plataforma \| Fluxo | ✅ Fluxos com alta participação que afetam o acesso ao emprego, ao crédito ou ao serviço estão sujeitos ao mesmo processo de análise de ética que os sistemas de IA | | Plataforma \| Regras de validação | ✅ As regras de validação são testadas com dados diversos (endereços internacionais, nomes não ocidentais, formatos de telefone alternativos) e expandidas sempre que rejeitam dados legítimos; Campos de nome aceitam Unicode e todos os scripts | | Plataforma \| Design de território | ✅ A demografia do cliente é mapeada entre os limites de território propostos antes de os designs serem finalizados; quando ocorrem concentrações, a alocação de recursos é avaliada quanto à equidade e a justificativa dos negócios é documentada e monitorada | | Plataforma \| Auditoria | ✅ A lógica de automação (regras de negócios, critérios de atribuição, decisões de fluxo) é documentada no Salesforce Knowledge ou ADRs, e os resultados são auditados trimestralmente estratificados por demografia – distribuições de atribuição, taxas de aprovação de fluxo, taxas de rejeição de validação e alocação de recursos de território | **Anti-Padrões** | Onde procurar | Qual é a aparência ruim | | --- | --- | | Plataforma \| Atribuição e roteamento | ⚡️ Regras de atribuição priorizam leads de determinados códigos postais para "melhor desempenho" com base em taxas de ganho históricas sem examinar se esse sucesso reflete habilidade ou vantagem demográfica | | Plataforma \| Omni-Channel | As métricas de qualidade do roteamento não são monitoradas entre segmentos do cliente, portanto, as discrepâncias na experiência ou resolução do agente não são detectadas | | Plataforma \| Fluxo | ⚡️ Os critérios de decisão de fluxo se correlacionam com características protegidas (continuação, canal, volume de compras, fuso horário) e são tratados como objetivo porque a lógica determinística parece neutra | | Plataforma \| Fluxo | Fluxos de alta participação tomam decisões consequentes sem revisão de ética, documentação de ADR ou tratamento para usuários fora do perfil de cliente típico | | Plataforma \| Regras de validação | A validação de nome é restrita a A-Z e rejeita diácritos ou scripts não latinos, e a validação de endereço requer formato postal dos EUA – dados legítimos são rejeitados e os usuários abandonam solicitações não relatadas | | Plataforma \| Design de território | ⚡️ Os limites de território seguem a geografia correlacionada com a demografia, com diferentes remunerações ou pessoal entre territórios e sem análise da concentração demográfica | | Plataforma \| Auditoria | A lógica de automação é não documentada e os resultados nunca são auditados, assim, padrões discriminatórios em atribuição, aprovações, validação ou alocação de território permanecem invisíveis |