En savoir plus sur l'équité bien architecturée → Équité Agentic Enterprise
Détection et atténuation des biais
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l'agent | ✅ Tester systématiquement les agents pour les biais démographiques en utilisant diverses personnes représentant des groupes protégés; générer des requêtes identiques variant uniquement les signaux démographiques tels que les noms, les emplacements ou les styles de communication |
| Data 360 | Segments de données | ✅ Avant d'utiliser les données Salesforce pour la formation des agents ou l'ancrage RAG, auditez la représentation démographique et identifiez les groupes sous-représentés |
| Data 360 | Base de Knowledge | ✅ Auditer les bases Knowledge et les sources de récupération pour l'équilibre démographique; s'assurer que la qualité, l'exhaustivité et la précision de la documentation sont comparables dans tous les segments de clients |
| Agentforce | Surveillance des agents | ✅ Surveiller les interactions des agents à travers les groupes démographiques pour la cohérence du comportement; analyser la longueur de réponse, le niveau de détail, les marqueurs de politesse et la qualité de la solution stratifiée par les caractéristiques de l'utilisateur |
| Agentforce | Surveillance des agents | ✅ Détecter les boucles de rétroaction en surveillant les changements de distribution des décisions au fil du temps; rompre les boucles par l'examen humain des requêtes edge et le rééquilibrage périodique |
| Data 360 | Données d'entraînement | ✅ Suréchantillonner les groupes démographiques sous-représentés dans les données de formation afin de garantir une représentation équilibrée; synthétiser des données supplémentaires en utilisant des techniques telles que SMOTE lorsque les données réelles sont insuffisantes |
| Agentforce | Modèle d'invite | ✅ Contraindre le comportement des agents via des invites système : "Traitez toutes les données démographiques des clients avec le même professionnalisme et le même détail. Fournissez des explications de longueur et de qualité comparables, quel que soit le style de communication ou l'arrière-plan du client. » |
| Einstein | Modèle de prédiction | ✅ Calculer les coefficients de corrélation entre toutes les caractéristiques du modèle et les caractéristiques protégées; évaluer si la valeur prédictive légitime justifie l'inclusion de caractéristiques hautement corrélées |
| Einstein | Modèle de prédiction | ✅ Identifier et retirer les fonctionnalités proxy qui sont corrélées avec des caractéristiques protégées (proxies de code postal pour la race, proxy de schéma de nom pour le sexe/l'ethnicité, proxy de calendrier de communication pour la religion/la prestation de soins, proxy de type d'appareil pour le revenu, proxy d'attribution de territoire pour la composition démographique) |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Data 360 | Données d'entraînement | ⚠️ Utilisation des données CRM historiques pour la formation des agents sans audit de la représentation démographique, permettant aux biais algorithmiques d’aggraver les biais humains |
| Agentforce | Configuration de l'agent | ⚠️ Déploiement d’agents sans test systématique des biais démographiques à travers diverses personnes représentant des groupes protégés |
| Data 360 | Base de Knowledge | ⚠️ Fournir des articles Knowledge détaillés pour les clients entreprises mais uniquement des réponses génériques pour les clients petites entreprises, perpétuant ainsi les disparités de qualité de service |
| Agentforce | Surveillance des agents | ⚠️ Permettre aux agents d’adapter leur comportement en fonction d’indices conversationnels corrélés à des caractéristiques protégées (style de communication, complexité du langage, schémas temporels) sans surveillance |
| Einstein | Modèle de prédiction | ⚠️ Inclure des fonctionnalités proxy (code postal, schémas de nom, type d’appareil) dans des modèles de décision conséquents sans évaluer la corrélation avec les caractéristiques protégées |
| Agentforce | Configuration de l'agent | ⚠️ Autoriser les boucles de rétroaction lorsque les décisions des agents créent la disparité qui justifie de futures décisions défavorables (p. ex., acheminer les agents réduisant les opportunités vers certains territoires, générer moins de données de réussite, réduire davantage la réussite prédite) |
| Data 360 | Segments de données | ⚠️ Valeur par défaut des références de culture majoritaire dans les exemples de contenu qui aliénent les utilisateurs sous-représentés |
Orchestration multi-agents
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Surveillance des agents | ✅ Consigner des entrées et des sorties complètes pour chaque agent dans une chaîne d'orchestration afin de remonter le biais dans un résultat final à l'étape qui l'a introduit et où l'amplification a eu lieu |
| Plate-forme | CRM Analytics | ✅ Élaborer des tableaux de bord montrant des distributions de décision à chaque étape d’orchestration réparties par données démographiques afin d’identifier les zones où des disparités apparaissent ou s’étendent dans la chaîne |
| Plate-forme | CRM Analytics | ✅ Calculer la parité démographique, l’égalité des chances et l’impact différent à chaque étape de la chaîne, pas seulement sur le résultat final ; les métriques par étape capturent une composition qui semble acceptable à n’importe quelle étape, mais qui se dégrade à travers la chaîne |
| Agentforce | Configuration du modèle | ✅ Optimisez la diversité entre les agents dans les modèles de consensus afin de réduire les erreurs corrélées : différents modèles de base lorsque cela est possible (par exemple avec des configurations Bring Your Own LLM), différentes sources de récupération, différentes approches d'invite et différents étalonnages de seuil de confiance |
| Agentforce | Configuration de l'agent | ✅ Insérer un examen humain aux points d'inflexion de l'orchestration où une étape réduit considérablement les options en aval, même lorsque la confiance individuelle de l'agent est élevée, car l'orchestration crée des effets émergents que les scores de confiance par agent ne capturent pas |
| Agentforce | Configuration de l'agent | ✅ Configurer des disjoncteurs d'orchestration qui s'arrêtent et s'escaladent vers un humain lorsque la confiance d'un agent passe sous le seuil, lorsque la distribution de sortie change considérablement entre les étapes, lorsque la chaîne rencontre des données non représentées dans l'entraînement ou la validation, ou lorsque l'utilisateur conteste une décision intermédiaire |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Surveillance des agents | ⚠️ Exécution de chaînes d'orchestration sans consigner les entrées et les sorties de chaque agent, ce qui rend impossible de tracer quelle étape a introduit un biais lorsqu'un résultat discriminatoire fait surface |
| Agentforce | Configuration du modèle | ⚠️ Traiter le consensus multi-agents comme une correction des biais lorsque tous les agents partagent le même modèle de base ou les mêmes données d’entraînement. Par conséquent, un accord valide uniquement les biais partagés au lieu de les corriger |
| Plate-forme | CRM Analytics | ⚠️ Mesure de l’équité uniquement sur le résultat final de l’orchestration, absence de compounding au niveau de l’étape où chaque étape semble acceptable isolément mais la chaîne compounde à une disparité inacceptable |
| Agentforce | Configuration de l'agent | ⚠️ S’appuyer sur les scores de confiance individuels des agents pour mettre en place une chaîne d’orchestration sans insérer un examen humain aux points d’inflexion où une étape réduit les options en aval |
| Agentforce | Configuration de l'agent | ⚠️ Permettre à une chaîne d’orchestration de se dérouler sans disjoncteur lorsqu’un agent en amont n’a pas confiance, que les distributions basculent entre les étapes ou que la chaîne rencontre des données extérieures à ses ensembles d’entraînement et de validation |
Métriques d'équité
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Business | Porte de déploiement | ✅ Faire de l'évaluation de l'équité une porte de déploiement obligatoire équivalente en autorité à un contrôle de sécurité avant de déployer tout agent prenant des décisions conséquentes |
| Einstein | Modèle de prédiction | ✅ Calculer la parité démographique en divisant la population en segments démographiques, en mesurant les taux de résultat positifs par segment et en comparant les taux entre les segments |
| Einstein | Modèle de prédiction | ✅ Garantir l’égalité des chances en vérifiant que les agents identifient les individus qualifiés de la même façon, quelles que soient les caractéristiques démographiques; vérifier que les taux de vrais positifs sont comparables entre les groupes |
| Einstein | Modèle de prédiction | ✅ Appliquer la règle des quatre cinquièmes: si un groupe reçoit des résultats positifs inférieurs à 80 % du taux du groupe le plus performant, enquêter pour détecter les biais |
| Einstein | Modèle de prédiction | ✅ Calculer des ratios d'impact différents pour toutes les décisions d'agents conséquentes et documenter les résultats d'enquête lorsque les ratios sont inférieurs à 80 % |
| Entreprise | Documentation | ✅ Documenter quand les violations de la parité démographique reflètent des facteurs commerciaux légitimes plutôt que la discrimination |
| Entreprise | Révision juridique | ✅ Consulter un conseiller juridique lors de la mise en œuvre de cotes égalisées à travers des seuils spécifiques à un groupe, notant qu’aux États-Unis, l’ajustement des scores ou des seuils par catégorie protégée pour les décisions relatives à l’emploi est interdit par le Titre VII (Civil Rights Act de 1991), et que d’autres juridictions imposent leurs propres contraintes |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Business | Porte de déploiement | ⚠️ Déploiement des agents prenant des décisions conséquentes sans calculer de métriques d’équité à travers les groupes démographiques |
| Einstein | Modèle de prédiction | ⚠️ Absence systématique de candidats qualifiés dans les groupes sous-représentés en fixant des seuils de preuve plus élevés pour ces groupes que pour les groupes majoritaires |
| Einstein | Modèle de prédiction | ⚠️ Mettre en œuvre des seuils spécifiques à un groupe sans justification légale ni validation du fait que les seuils améliorent l’équité sans créer d’autres effets discriminatoires, ou, aux États-Unis, les mettre en œuvre pour des décisions liées à l’emploi, lorsque le titre VII interdit d’ajuster les scores ou les seuils par catégorie protégée |
| Entreprise | Documentation | ⚠️ Ne pas documenter lorsque les infractions aux métriques d’équité reflètent des différences commerciales légitimes par rapport à la discrimination |
Détection des biais
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Einstein | Couche de Trust | ✅ Utiliser les données d'audit Trust Layer pour analyser les distributions de réponses entre les groupes démographiques; élaborer des tableaux de bord CRM Analytics comparant les taux d'approbation, les modèles de recommandation et les scores de risque par segment de clients |
| Einstein | Couche de Trust | ✅ Interroger Trust Layer consigne régulièrement: afficher toutes les prédictions à valeur élevée regroupées par secteur d'activité client, région et taille du compte afin de vérifier la cohérence des distributions de prédiction entre les segments |
| Agentforce | Traçage des sessions | ✅ Échantillonnez 100 décisions d'agent stratifiées par groupe démographique et demandez aux examinateurs d'évaluer si la qualité du raisonnement est comparable entre les groupes en utilisant les traces de raisonnement Traçage des sessions Agentforce |
| Plate-forme | CRM Analytics | ✅ Configurez des alertes lorsque les modèles de décision des agents s'écartent sensiblement de la référence (par exemple, les taux d'approbation d'un segment spécifique baissent de 20 % d'une semaine à l'autre) |
| Plate-forme | CRM Analytics | ✅ Élaborer une surveillance personnalisée pour alerter sur les signaux d'équité: « Notifier lorsque la durée moyenne d'une conversation pour un segment de clients dépasse 1,5 fois la moyenne générale pendant trois jours consécutifs » |
| Plate-forme | CRM Analytics | ✅ Élaborer des modèles de tableau de bord CRM Analytics réutilisables pour suivre les métriques d'équité des cas d'utilisation courants des agents, notamment la parité démographique, l'égalité des chances, des ratios d'impact différents et des graphiques de tendance |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Traçage des sessions | ⚠️ Ignorer les traces de raisonnement Session Tracing Agentforce et le journal d’audit Trust Layer lorsque les utilisateurs signalent un biais, manquant quelles étapes de raisonnement, sources de données ou schémas de récupération ont introduit le biais |
| Plate-forme | CRM Analytics | ⚠️ Échec de la configuration des alertes de détection d’anomalies pour les signaux d’équité, ce qui permet de passer inaperçus les changements soudains de distribution |
| Plate-forme | CRM Analytics | ⚠️ Élaboration de tableaux de bord d’équité ad hoc par équipe au lieu de partager des modèles réutilisables standardisant le suivi de l’équité |
Surveillance humaine
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l'agent | ✅ Concevoir des agents pour des décisions à fort enjeu (emploi, crédit, santé, juridique, logement) pour analyser, recommander et préparer des décisions tout en nécessitant l'approbation humaine avant l'exécution |
| Plate-forme | Processus d'approbation | ✅ Configurer Agentforce pour générer des recommandations avec des preuves à l'appui, acheminer les décisions supérieures au seuil vers des examinateurs humains via le Processus d'approbation et exposer les traces de raisonnement des agents dans l'interface d'approbation |
| Agentforce | Configuration de l'agent | ✅ Implémenter une escalade basée sur la confiance : confiance élevée (>90%) procède de façon autonome, modérée (70-90%) nécessite un examen humain, faible (<70%) s'en remet entièrement à l'humain avec un résumé du contexte |
| Agentforce | Configuration de l'agent | ✅ Étalonner les seuils de confiance en utilisant les données de production; échantillonner les décisions des agents à chaque bande de confiance et calculer les taux de réussite réels pour valider l'étalonnage |
| Agentforce | Configuration de l'agent | ✅ Définissez des déclencheurs d'escalade limités dans le temps : après 5-7 tours sans résolution, après 10 minutes écoulées, lorsque l'utilisateur exprime sa frustration ou lorsque l'agent répète la même réponse |
| Plate-forme | Omni-Channel | ✅ Configurer Omni-Channel pour acheminer les requêtes escaladées vers les files d'attente basées sur les compétences appropriées avec un contexte de conversation complet ; entraîner les agents humains à gérer les escalades sans demander aux utilisateurs de répéter des informations |
| Agentforce | France | ✅ Fournissez une option « Connecter avec un agent humain » dans les interfaces de chat des agents à tout moment, pas derrière un nombre minimum d'interactions échouées |
| Agentforce | Configuration de l'agent | ✅ Permettre aux humains autorisés de remplacer n'importe quelle décision de l'agent à tout moment avec une justification documentée; ajouter le bouton « Remplacer l'agent » à toutes les interfaces de décision de l'agent nécessitant une explication de texte multiligne |
| Plate-forme | Objet personnalisé | ✅ Consigner les remplacements dans un objet personnalisé avec l'ID de décision, l'horodatage de remplacement, la justification et le remplacement; créer des modèles de remplacement de suivi de tableau de bord CRM Analytics par agent, type de décision et données démographiques des clients |
| Entreprise | Documentation | ✅ Exiger une justification documentée pour les approbations ou les refus qui diffèrent de la recommandation de l'agent; suivre les modèles de remplacement pour identifier les lacunes systématiques de l'agent |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l'agent | ⚠️ Déployer des agents en tant que décideurs autonomes pour des décisions à enjeux importants (emploi, crédit, santé, juridique, logement) sans portes d’approbation humaines |
| Agentforce | Configuration de l'agent | ⚠️ Utiliser des scores de confiance mal calibrés où les décisions « confiance élevée » ne réussissent que 75 % du temps, minant Trust dans les mécanismes d'escalade |
| Agentforce | Configuration de l'agent | ⚠️ Piéger les clients dans des boucles automatisées inutiles sans escalade limitée dans le temps ou limitée au tour par tour à l’homme |
| Plate-forme | Omni-Channel | ⚠️ Acheminement des requêtes escaladées sans contexte de conversation complet, forçant les utilisateurs à répéter les informations déjà fournies à l’agent |
| Entreprise | Gouvernance | ⚠️ Permettre une diffusion des responsabilités où chacun assume la responsabilité de l’IA et où personne ne s’approprie les décisions |
| Entreprise | Gouvernance | ⚠️ Attribution de responsabilités après des incidents plutôt qu’avant le déploiement avec des individus nommés documentés dans des enregistrements de décision d’architecture |
Attribution de responsabilité
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Entreprise | Documentation | ✅ Attribuez la responsabilité avant le déploiement : propriétaire du modèle (équité/exactitude), propriétaire des décisions (cas d'utilisation/impact), autorité d'appel (appels en matière d'équité), autorité d'audit (audits périodiques) |
| Entreprise | Documentation | ✅ Documenter tous les rôles de responsabilisation avec des noms, pas seulement des titres, en veillant à ce que la responsabilisation persiste grâce aux changements organisationnels |
| Entreprise | Gouvernance | ✅ Permettre à l'autorité d'appel (comité d'éthique ou équipe désignée) de traiter les appels des utilisateurs qui estiment que les décisions des agents sont injustes avec des processus accessibles et opportuns qui peuvent annuler les décisions des agents |
| Entreprise | Gouvernance | ✅ Autoriser l'autorité d'audit (équipe de conformité) à effectuer des audits périodiques et suspendre les agents qui ne respectent pas les normes d'équité en attendant que des mesures correctives soient prises |
| Entreprise | Gouvernance | ✅ Planifier un examen mensuel des modèles de remplacement à haute fréquence avec l'équipe de développement de l'agent |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Entreprise | Gouvernance | ⚠️ Documenter les rôles de responsabilisation uniquement avec des titres (p. ex. « Responsable de la science des données ») sans personne nommée, ce qui permet de faire disparaître la responsabilisation pendant les changements organisationnels |
| Entreprise | Gouvernance | ⚠️ Permettre aux responsables de décision de déléguer la responsabilité aux systèmes IA plutôt que de conserver la responsabilité personnelle pour l’impact réel |
| Entreprise | Gouvernance | ⚠️ Rendre les processus d’appel inaccessibles, inopportuns ou sans pouvoir d’annuler les décisions des agents |
Transparence et explicabilité
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l'agent | ✅ Architecte plusieurs couches d'explication: présentation de l'utilisateur (langage simple), métier (facteurs de décision clés), technique (détails du modèle/pondération des fonctionnalités) et audit (traces de décision complètes) |
| Agentforce | Configuration de l'agent | ✅ Afficher le raisonnement résumé en temps réel lors de la prise de décisions : "J'ai recommandé le Produit A en fonction de votre historique d'achat (3 achats similaires), de la promotion actuelle (20 % de remise) et de la disponibilité de l'inventaire" |
| Agentforce | Configuration de l'agent | ✅ Fournir « Pourquoi avez-vous recommandé cela? » lien permettant aux utilisateurs d'afficher un raisonnement complet comprenant tous les articles Knowledge récupérés, les enregistrements consultés, et une logique de décision |
| Agentforce | Traçage des sessions | ✅ Récupérer les traces de raisonnement du Traçage des sessions Agentforce pour la reconstitution historique lorsque les utilisateurs contestent des décisions passées des semaines ou des mois plus tard |
| Agentforce | Traçage des sessions | ✅ Exemple de traces de raisonnement Session Tracing Agentforce stratifiées par groupes démographiques pour analyser si la qualité des décisions est cohérente; examiner 100 traces de chaque segment de clients |
| Agentforce | Configuration de l'agent | ✅ Communiquer la confiance en termes appropriés pour l'utilisateur: « Confiance élevée » / « Confiance modérée » / « Confiance faible » avec un contexte de fiabilité en langage clair au lieu de scores de probabilité bruts |
| Agentforce | Configuration de l'agent | ✅ Pour des décisions de confiance modérée ou faible, expliquer quel examen supplémentaire aura lieu et le calendrier prévu |
| Agentforce | Configuration de l'agent | ✅ Fournissez des explications contre-factuelles montrant aux utilisateurs ce qui changerait le résultat : "Votre score de piste augmenterait avec des informations d'emploi vérifiées (+8 points)" |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l'agent | ⚠️ Affichage de scores de probabilité bruts (p. ex. « confiance de 73 % ») que les utilisateurs interprètent mal au lieu d'un langage de confiance approprié pour l'utilisateur |
| Agentforce | Configuration de l'agent | ⚠️ Fournir des contre-facteurs qui encouragent le jeu du système ou révèlent involontairement des caractéristiques protégées en tant que facteurs de décision (p. ex., « Votre demande obtiendrait un meilleur score si vous aviez 10 ans de moins ») |
| Agentforce | Configuration de l'agent | ⚠️ Fournir un seul niveau d’explication qui ne sert ni les utilisateurs finaux (trop technique) ni les auditeurs (trop simplifié) |
| Agentforce | Configuration de l'agent | ⚠️ Ne pas stocker les traces de raisonnement historique, rendant impossible l’explication des décisions passées lorsqu’elles sont contestées |
Divulgation IA
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l'agent | ✅ Indiquer clairement quand les utilisateurs interagissent avec les agents Agentforce avec une divulgation en évidence, continue (pas enterrée en termes de service ou affichée une seule fois au début de l'interaction) |
| Agentforce | Configuration de l'agent | ✅ Afficher des indicateurs visuels persistants : avatar de l'agent marqué « Assistant IA », en-tête montrant « Vous discutez avec un agent de service Agentforce » et option visible « Connecter avec un agent humain » pendant toute la conversation |
| Agentforce | Configuration de l'agent | ✅ Assurez-vous que les utilisateurs qui préfèrent l'interaction humaine peuvent basculer sans friction ni pénalité de qualité de service |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l'agent | ⚠️ Enterrer la divulgation de l’IA en termes de service ou la montrer une seule fois au début de l’interaction plutôt que de maintenir des indicateurs visuels persistants |
| Agentforce | Configuration de l'agent | ⚠️ Pénaliser les utilisateurs qui choisissent l’interaction humaine avec un service dégradé ou des temps d’attente accrus |
| Agentforce | Configuration de l'agent | ⚠️ Masquage de l'option « Connecter avec un agent humain » ou obligation pour les utilisateurs de compléter les interactions des agents avant d'accéder au support humain |
Responsabilisation algorithmique et audit
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | Surveillance des événements | ✅ Configurez la Surveillance des événements pour suivre : Journaux des événements d'API montrant les interactions système des agents, les événements de connexion pour les comptes de service des agents et les exportations de rapports lorsque les agents accèdent à des données en masse |
| Plate-forme | Surveillance des événements | ✅ Diffuser les journaux de surveillance des événements vers le SIEM externe pour la rétention à long terme et les preuves d'altération répondant aux exigences réglementaires |
| Plate-forme | Journal d'audit des champs | ✅ Activer le Journal d'audit des champs (conservation illimitée de l'historique archivé) sur les objets qui stockent ou sont influencés par les décisions des agents, en choisissant parmi les objets standard qu'il prend en charge plus les objets personnalisés avec le suivi de l'historique des champs activé; critique pour le crédit, l'emploi et d'autres cas d'utilisation à fort enjeu |
| Plate-forme | Shield | ✅ Utilisez Shield Event Monitoring pour les décisions des agents les plus importantes lorsque l'intégrité du journal d'audit est critique (capacités avancées, champs d'événement structurés, intégration de rapports de conformité) |
| Plate-forme | Objet personnalisé | ✅ Créer un objet personnalisé AgentDecision__c stockant : Decision_ID, Timestamp, Agent_Type, Model_Version, Confidence_Score, Outcome, User_ID, Record_ID; avec l'objet junction DecisionInput__c liant des décisions à des instantanés de fonctionnalité d'entrée |
| Plate-forme | Objet personnalisé | ✅ Stocker les valeurs exactes de fonctionnalité d'entrée au moment de la décision (pas les valeurs actuelles qui peuvent changer) pour permettre de tester si les décisions diffèrent avec les données mises à jour |
| Entreprise | Documentation | ✅ Version du modèle d'enregistrement, état de configuration (seuils, règles métiers, paramètres) et contexte environnemental (identité de l'utilisateur, horodatage, historique des conversations) pour chaque décision conséquente |
| Plate-forme | LWC | ✅ Élaborer un composant LWC incorporé à des enregistrements pour afficher l'historique des décisions avec des liens « Afficher le raisonnement » |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Plate-forme | Journal d'audit des champs | ⚠️ S’appuyer sur l’historique standard des champs (18 mois de rétention) pour les décisions à fort enjeu nécessitant une rétention réglementaire pluriannuelle |
| Plate-forme | Objet personnalisé | ⚠️ Stocker uniquement les valeurs d’enregistrement actuelles au lieu d’instantanés d’entrée au moment de la décision, ce qui rend impossible la reconstruction précise des décisions historiques |
| Entreprise | Documentation | ⚠️ Échec de l’enregistrement de la version du modèle et de l’état de configuration actifs au moment de la décision, rendant l’analyse des causes premières impossible lorsque des biais sont découverts |
| Plate-forme | Surveillance des événements | ⚠️ Tenue de journaux d’audit uniquement dans Salesforce sans streaming SIEM externe, sans preuve d’inviolabilité de la conformité réglementaire |
Surveillance continue de l'équité
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | CRM Analytics | ✅ Élaborer des tableaux de bord montrant : distribution des décisions par segment démographique (graphiques à barres), métriques d'équité au fil du temps (lignes de tendance avec seuils d'alerte), ratio d'impact différent avec un indicateur de règle des quatre cinquièmes, principaux prédicteurs contribuant aux décisions, taux de remplacement par groupe démographique |
| Plate-forme | CRM Analytics | ✅ Alerter lorsque les distributions d'entrée changent significativement à partir des données démographiques de formation; surveiller le changement de distribution indiquant une dégradation potentielle de l'équité |
| Agentforce | Configuration de l'agent | ✅ Ajouter l'option « Signaler un problème » à l'interface de chat Agentforce ; acheminer les rapports vers le comité d'éthique avec le contexte complet de la conversation ; suivre dans l'objet personnalisé avec le workflow d'enquête requis |
| Entreprise | Gouvernance | ✅ Surveiller les tableaux de bord d'équité chaque semaine, enquêter sur les infractions au seuil dans les 24 heures, effectuer une analyse mensuelle des modèles de remplacement, effectuer des audits d'équité complets trimestriels |
| Entreprise | Gouvernance | ✅ Permettre aux utilisateurs de signaler les biais perçus via des mécanismes accessibles ; les rapports utilisateur exposent les problèmes qualitatifs que les métriques quantitatives manquent |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Entreprise | Gouvernance | ⚠️ Traiter la détection des biais comme une validation unique préalable au déploiement plutôt que comme une surveillance continue à mesure que les agents évoluent à travers des mises à jour rapides, des changements de version de modèle et des distributions de données mouvantes |
| Plate-forme | CRM Analytics | ⚠️ Échec de la configuration des alertes lorsque les métriques d’équité enfreignent les seuils définis, ce qui laisse une dérive progressive passer inaperçue |
| Agentforce | Configuration de l'agent | ⚠️ Ne pas fournir aux utilisateurs des mécanismes accessibles pour signaler les biais perçus, manquer des problèmes qualitatifs que les métriques quantitatives ne peuvent pas exposer |
Prise en charge de l'audit externe
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | Intégration | ✅ Élaborer une fonctionnalité d'exportation permettant aux équipes de conformité d'extraire des jeux de données de décision complets avec une stratification démographique pour examen par un auditeur externe tout en respectant les réglementations relatives à la confidentialité des données |
| Entreprise | Documentation | ✅ Tenir à jour la documentation couvrant: objectif de l'agent et cas d'utilisation prévus, données démographiques de formation et limitations connues, métriques d'équité (pré-déploiement et production), stratégies d'atténuation des biais, configurations de la surveillance humaine, approche de surveillance et attributions de responsabilités |
| Entreprise | Gouvernance | ✅ Avant de déployer des agents pour prendre des décisions conséquentes, effectuez des évaluations d'impact algorithmiques en évaluant les effets positifs et négatifs potentiels entre les groupes de parties prenantes |
| Entreprise | Gouvernance | ✅ Planifier des audits d’équité externes semestriels par des tiers; maintenir l’analyse de l’horizon réglementaire en l’adaptant à la loi IA de l’UE, aux lois des États et aux réglementations sectorielles |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Plate-forme | Intégration | ⚠️ Concevoir des architectures d’agents sans anticiper les audits externes par les régulateurs, les organisations de défense des droits civiques ou les clients ; ne pas disposer de capacités d’exportation pour l’examen des auditeurs |
| Entreprise | Documentation | ⚠️ Permettre à la documentation de périmer à mesure que les agents évoluent à travers des mises à jour rapides ou des changements de modèle sans mettre à jour les métriques d’équité et les stratégies d’atténuation |
| Entreprise | Gouvernance | ⚠️ Déployer les agents qui prennent des décisions corrélatives sans effectuer d’analyses d’impact pour évaluer les effets entre les groupes de parties prenantes |
Agence utilisateur et consentement
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l'agent | ✅ Demander un consentement explicite pour les agents indirects (décision de crédit, sélection d'emploi, éligibilité au service) plutôt que d'activer par défaut |
| Plate-forme | Objet personnalisé | ✅ Créer AI_Consent__c avec des champs : User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status ; activez le Journal d'audit des champs pour la conservation des enregistrements de consentement à long terme |
| Agentforce | Configuration de l'agent | ✅ Ajouter un contrôle de consentement à la logique d'invocation de l'agent : interroger AI_Consent__c pour le consentement actif avant le traitement ; prendre en charge le consentement au niveau du cas d'utilisation (agent de service vs agent commercial) |
| Plate-forme | Communauté/Site Experience | ✅ Élaborer une interface de gestion du consentement en libre-service accessible depuis le profil utilisateur; planifier des rappels de renouvellement de consentement tous les 12 mois |
| Agentforce | Configuration de l'agent | ✅ Lors du déploiement de nouvelles capacités affectant les utilisateurs existants, demander proactivement le consentement pour de nouveaux cas d'utilisation plutôt que de s'appuyer sur le consentement d'origine qui n'envisageait pas d'applications spécifiques |
| Agentforce | Configuration de l'agent | ✅ Activer le retrait du consentement à tout moment avec l'arrêt immédiat du traitement de l'agent; rendre le retrait aussi facile qu'accorder sans demander de contacts de support |
| Agentforce | Configuration de l'agent | ✅ Activer la gestion des préférences utilisateur : style de communication (concis par rapport détaillé), niveau de proactivité, préférence d'escalade; stocker dans l'enregistrement Utilisateur des champs personnalisés et référencer dans les invites système de l'agent |
| Plate-forme | Omni-Channel | ✅ Fournir l'option permanente « Connecter avec l'agent humain » tout au long des interactions ; lorsque cette option est sélectionnée, acheminer vers Omni-Channel avec le contexte complet de la conversation et l'indicateur de priorité sans pénalités de service ou de temps d'attente dégradées |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l'agent | ⚠️ Activation par défaut des agents indirects sans consentement explicite de l’utilisateur, qui comprend l’impact sur les agents |
| Agentforce | Configuration de l'agent | ⚠️ Exiger le consentement général de l’IA plutôt que d’activer un consentement granulaire au niveau du cas d’utilisation (un client peut consentir à des agents de service tout en refusant des agents commerciaux) |
| Agentforce | Configuration de l'agent | ⚠️ Faire en sorte que le retrait du consentement nécessite des contacts de support ou des processus bureaucratiques au lieu du libre-service avec effet immédiat |
| Agentforce | Configuration de l'agent | ⚠️ S’appuyer sur le consentement initial lors du déploiement de capacités d’agent significativement nouvelles qui n’étaient pas envisagées dans le consentement initial |
| Agentforce | Configuration de l'agent | ⚠️ Demander aux utilisateurs de compléter les interactions des agents ou d’expliquer leur préférence avant de les mettre en relation avec un agent humain |
Non-discrimination dans la conception des agents
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l'agent | ✅ Examiner toutes les sources de données utilisées dans le raisonnement de l'agent pour le contenu caractéristique protégé; retirer ou masquer les caractéristiques protégées dans les entrées de l'agent lorsqu'elles ne sont pas légalement justifiées pour le type de décision |
| Agentforce | Modèle d'invite | ✅ Inclure des instructions explicites de non-discrimination dans les invites système : "Traitez tous les clients avec le même professionnalisme, quels que soient leur nom, leur emplacement, leur style de communication ou toute autre caractéristique. Ne formulez jamais d'hypothèses sur les clients en fonction de leurs caractéristiques démographiques. » |
| Agentforce | Configuration de l'agent | ✅ Test avec diverses personnes avant la production: générer des requêtes identiques variant uniquement entre des signaux démographiques (noms suggérant différentes ethnies, localisations, styles de communication); comparer les réponses pour la qualité, la longueur, le professionnalisme et les résultats |
| Agentforce | Surveillance des agents | ✅ Calculer les taux de résolution au premier contact stratifiés par segment de clients; enquêter lorsque des disparités importantes existent entre les segments |
| Agentforce | Surveillance des agents | ✅ Échantillonnez les conversations des agents à travers les segments et demandez aux examinateurs d'évaluer la qualité des réponses sur des dimensions cohérentes (précision, exhaustivité, professionnalisme, serviabilité) avec des tests de fiabilité inter-évaluations |
| Agentforce | Surveillance des agents | ✅ Suivre les taux d'escalade stratifiés par les données démographiques des clients; des taux plus élevés pour certains segments indiquent que les agents sont moins efficaces pour ces utilisateurs |
| Entreprise | Enquêtes | ✅ Enquêter auprès des utilisateurs de tous les groupes démographiques et comparer les scores de satisfaction; la satisfaction générale élevée peut masquer de mauvaises expériences pour les groupes minoritaires |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l'agent | ⚠️ Inclure des données caractéristiques protégées (état de handicap, religion, origine nationale) dans les entrées des agents pour les décisions lorsque ces caractéristiques ne sont pas légalement justifiées |
| Agentforce | Modèle d'invite | ⚠️ Déploiement d’agents sans instructions explicites de non-discrimination dans les invites système, en s’appuyant uniquement sur le comportement du modèle de base |
| Agentforce | Configuration de l'agent | ⚠️ Tester les agents uniquement avec des personnes à majorité démographique, biais manquant contre les groupes sous-représentés |
| Entreprise | Enquêtes | ⚠️ S’appuyer sur des scores de satisfaction globale qui masquent les expériences médiocres des groupes minoritaires noyés par la satisfaction majoritaire |
Accessibilité dans les expériences des agents
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | LWC | ✅ Pour des implémentations de chat personnalisées, assurez-vous : Structure HTML sémantique avec repères appropriés, zones live ARIA annonçant de nouveaux messages, navigation au clavier dans l'historique des messages, indicateurs de focus clairs sur les éléments interactifs |
| Plate-forme | LWC | ✅ Testez avec JAWS, NVDA et VoiceOver tout au long du développement, pas seulement la numérisation automatisée |
| Agentforce | Configuration de l'agent | ✅ Configurer les réponses des agents pour utiliser un langage clair pour les audiences générales; éviter le jargon et fournir des glossaires pour les termes techniques inévitables; structurer les réponses longues avec des titres et des listes à puces |
| Agentforce | Configuration de l'agent | ✅ Valider la qualité des réponses est comparable entre les langues à travers l'évaluation des locuteurs natifs, pas seulement les métriques automatisées qui manquent de nuance culturelle |
| Agentforce | Configuration de l'agent | ✅ Pour des cas d'utilisation critiques de l'entreprise desservant diverses populations linguistiques, configurez un traitement spécifique à la langue (variables linguistiques, invites localisées, filtrage des articles Knowledge par langue) et validez la qualité par langue plutôt que de vous appuyer uniquement sur le transfert interlinguistique du modèle de base |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Plate-forme | LWC | ⚠️ Élaboration d'implémentations de chat personnalisées sans test manuel d'accessibilité (reposant uniquement sur la numérisation automatisée) |
| Agentforce | Configuration de l'agent | ⚠️ Utiliser un jargon et un langage complexe sans glossaire, créant des barrières cognitives pour les utilisateurs |
| Agentforce | Configuration de l'agent | ⚠️ Reposant uniquement sur le transfert interlinguistique du modèle de base pour les langues à faibles ressources, offrant une qualité dégradée aux utilisateurs de langues non majoritaires |
| Agentforce | Configuration de l'agent | ⚠️ Valider la qualité des réponses multilingues uniquement par des métriques automatisées qui manquent de nuance culturelle |
Gouvernance équitable et portails de déploiement
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Entreprise | Gouvernance | ✅ Établir un comité d'examen de l'éthique avec une autorité d'application avant de déployer des agents de production |
| Entreprise | Gouvernance | ✅ Définir des portes de déploiement obligatoires : audit des données, calcul des métriques d'équité et évaluation algorithmique de l'impact |
| Plate-forme | CRM Analytics | ✅ Créer des tableaux de bord de surveillance de l'équité de référence dans CRM Analytics avant le déploiement du premier agent |
| Plate-forme | Surveillance des événements | ✅ Activer la capture d'audit de la couche de Trust Einstein et configurer la Surveillance des événements pour les actions des agents en tant que fondation avant la production |
| Entreprise | Gouvernance | ✅ Implémenter des tests de régression d'équité automatisés dans les pipelines CI/CD pour l'échelle |
| Entreprise | Gouvernance | ✅ Standardiser les modèles de gestion du consentement à travers tous les nouveaux agents à mesure que les déploiements évoluent |
| Plate-forme | Intégration | ✅ Élaborer un outil de reconstruction des décisions des agents permettant le libre-service de l'équipe de conformité |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Entreprise | Gouvernance | ⚠️ Déploiement d’agents de production avant la création d’un comité d’éthique avec autorité coercitive |
| Entreprise | Gouvernance | ⚠️ Traiter l’équité comme une barrière de déploiement obligatoire équivalente à un contrôle de sécurité |
| Entreprise | Gouvernance | ⚠️ Ignorer les évaluations d’impact algorithmiques avant de déployer les agents prenant des décisions conséquentes |
| Plate-forme | CRM Analytics | ⚠️ Déploiement du premier agent de production sans tableaux de bord de surveillance de l’équité de référence en place |