適切に構築された公平性 → エージェント的企業の公平性についての詳細
バイアスの検出と軽減
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント設定 | ✅ 保護対象グループを表すさまざまな人格を使用してエージェントのデモグラフィックバイアスを体系的にテストし、名前、場所、コミュニケーションスタイルなどのデモグラフィックシグナルのみが異なる同一の要求を生成する |
| Data 360 | データセグメント | ✅ エージェントのトレーニングや RAG グラウンディングに Salesforce データを使用する前に、デモグラフィックの表現を監査し、過小評価されているグループを特定する |
| Data 360 | Knowledgeベース | ✅ Knowledgeベースと取得元を監査してデモグラフィックのバランスを確認し、ドキュメントの品質、完全性、正確性がすべての顧客セグメントで同等であることを確認する |
| Agentforce | エージェント監視 | ✅ デモグラフィックグループ全体でのエージェントのやりとりを監視して行動の一貫性を維持し、ユーザー特性によって分類された回答の長さ、詳細レベル、丁寧さマーカー、ソリューション品質を分析する |
| Agentforce | エージェント監視 | ✅ 経時的な意思決定の分布の変化を監視してフィードバックループを検出し、エッジケースの人間によるレビューと定期的な再バランシングでループを解消 |
| Data 360 | トレーニングデータ | ✅ トレーニングデータで過小評価されているデモグラフィックグループを過剰サンプリングしてバランスの取れた表現を確保。実際のデータが不十分な場合は SMOTE などの手法を使用して追加データを合成 |
| Agentforce | プロンプトテンプレート | ✅ システムプロンプトを使用してエージェントの行動を制限する ： 「 すべての顧客デモグラフィックを同等のプロフェッショナリズムと詳細で扱います。顧客のコミュニケーションスタイルや背景に関係なく、同等の長さと品質の説明を提供する」 |
| Einstein | 予測モデル | ✅ すべてのモデル特徴と保護された特性間の相関係数を計算し、正当な予測値が高度に相関した特徴を含めることを妥当なものかどうかを評価する |
| Einstein | 予測モデル | ✅ 保護された特性と相関するプロキシ機能を特定して削除する (人種の郵便番号プロキシ、性別/民族の名前パターンプロキシ、宗教/介護のコミュニケーションタイミングプロキシ、収入のデバイス種別プロキシ、人口統計の構成のテリトリー割り当てプロキシ) |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Data 360 | トレーニングデータ | ⚠️ デモグラフィック表現を監査せずにエージェントトレーニングに履歴 CRM データを使用することで、アルゴリズムバイアスによる人間のバイアスの複合化が可能 |
| Agentforce | エージェント設定 | ⚠️ 保護されたグループを表すさまざまな人格の体系的なデモグラフィックバイアステストなしでエージェントをリリースする |
| Data 360 | Knowledgeベース | ⚠️ エンタープライズのお客様には詳細なKnowledge記事を提供し、スモール ビジネスのお客様には汎用的な回答のみを提供することで、サービス品質の格差を解消 |
| Agentforce | エージェント監視 | ⚠️ 保護された特性 (コミュニケーションスタイル、言語の複雑さ、タイミングパターン) に相関する会話のキューに基づいてエージェントが監視なしで行動を適応できるようにする |
| Einstein | 予測モデル | ⚠️ 保護された特性との相関関係を評価することなく、プロキシ特性 (郵便番号、名前パターン、デバイス種別) を結果決定モデルに含める |
| Agentforce | エージェント設定 | ⚠️ エージェントによる意思決定が将来の不利な意思決定を正当化する格差を生み出すフィードバックループを可能にする (エージェントによる商談の特定テリトリーへの転送、より少ない成功データの生成、予測成功のさらなる減少など) |
| Data 360 | データセグメント | ⚠️ 過小評価されているユーザーを遠ざけるコンテンツ例のマジョリティカルチャーの参照をデフォルトにする |
マルチエージェントオーケストレーション
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント監視 | ✅ オーケストレーションチェーンの各エージェントの完全な入力と出力を記録し、最終的な結果のバイアスを、それを導入したフェーズや増幅が発生したフェーズまで遡って追跡できるようにします。 |
| プラットフォーム | CRM Analytics | ✅ 各オーケストレーションフェーズの決定分布をデモグラフィック別に示したダッシュボードを作成し、チェーンのどこで格差が出現または拡大しているかを特定します。 |
| プラットフォーム | CRM Analytics | ✅ 最終結果だけでなく、チェーンの各フェーズで人口統計学的同等性、均等な機会、異種影響を計算します。フェーズ別の総計値は、どのフェーズでも許容可能のように見えるがチェーン全体で低下する複合化を把握します。 |
| Agentforce | モデル設定 | ✅ コンセンサスパターンでエージェント間の多様性を最大化し、相関エラーを削減: 可能な場合は異なる基盤モデル (Bring Your Own LLM 設定など)、異なる取得元、異なるプロンプトアプローチ、異なる信頼性しきい値のキャリブレーション |
| Agentforce | エージェント設定 | ✅ 個々のエージェントの信頼性が高い場合でも、オーケストレーションによってエージェントごとの信頼性スコアでは把握できない影響が生じるため、フェーズによって下流の選択肢が大幅に絞り込まれるオーケストレーション転換点に人によるレビューを挿入 |
| Agentforce | エージェント設定 | ✅ エージェントの信頼性がしきい値を下回ったとき、出力分布がフェーズ間で大幅に変化したとき、チェーンでトレーニングや検証で表現されていないデータが検出されたとき、ユーザーが中間決定に異議を唱えたときに、オーケストレーション回路ブレーカーを停止して人間にエスカレーションする |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | エージェント監視 | ⚠️ 各エージェントの入力と出力を記録せずにオーケストレーションチェーンを実行するため、差別的な結果が明らかになったときにどのフェーズでバイアスが発生したかを追跡できない |
| Agentforce | モデル設定 | ⚠️ すべてのエージェントが同じ基盤モデルまたはトレーニングデータを共有する場合、マルチエージェントのコンセンサスはバイアスの修正として処理されるため、合意では共有バイアスが修正されるのではなく検証されるのみ |
| プラットフォーム | CRM Analytics | ⚠️ 最終的なオーケストレーション結果のみの公平性の測定、各フェーズが単独では許容できるように見えるが、チェーンが許容できない格差に複合するフェーズごとの複合化の欠落 |
| Agentforce | エージェント設定 | ⚠️ フェーズで下流の選択肢が絞り込まれる変曲点に人によるレビューを挿入することなく、個々のエージェントの信頼性スコアを使用してオーケストレーションチェーンをゲートする |
| Agentforce | エージェント設定 | ⚠️ 上流のエージェントの信頼性が低い場合、分布がフェーズ間を移動する場合、またはチェーンでトレーニングセットや検証セット外のデータが検出された場合に、回路ブレーカーなしでオーケストレーションチェーンを続行できるようにする |
公平性評価指標
パターン
| 参照すべき場所 | 外観 |
|---|---|
| ビジネス | リリースゲート | ✅ 最終的な意思決定を行うエージェントをリリースする前に、公平性評価をセキュリティレビューと同等の権限を持つ必須のリリースゲートにする |
| Einstein | 予測モデル | ✅ 母集団をデモグラフィックセグメントに分割し、セグメントごとの陽性結果率を測定し、セグメント全体で率を比較することで、デモグラフィック同等性を計算する |
| Einstein | 予測モデル | ✅ エージェントが人口統計学的特性に関係なく適格な個人を均等に識別し、真陽性率がグループ全体で同等であることを確認することで、機会の均等化を図る |
| Einstein | 予測モデル | ✅ 5 分の 4 ルールを適用する: パフォーマンスが最も高いグループの 80% 未満のグループで肯定的な結果が得られた場合、バイアスがないか調査する |
| Einstein | 予測モデル | ✅ すべてのエージェントの重大な意思決定の異種影響比率を計算し、比率が 80% を下回った場合に調査結果を文書化する |
| ビジネス | ドキュメント | ✅ 人口統計学的同等性違反が差別ではなく正当なビジネス要因を反映している場合のドキュメント |
| ビジネス | 法的確認 | ✅ グループ固有のしきい値で均等化されたオッズを実装する場合、米国ではTitle VII (1991年公民権法) で雇用関連の決定について保護階級別にスコアやカットオフを調整することが禁止されており、他の法域では独自の制約が課されていることに留意して、弁護士に相談する |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| ビジネス | リリースゲート | ⚠️ デモグラフィックグループ全体で公平性評価指標を計算することなく、最終的な意思決定を行うエージェントのリリース |
| Einstein | 予測モデル | ⚠️ マジョリティグループよりも高い証拠しきい値を設定することで、過小評価されているグループから適格な候補者を系統的に除外 |
| Einstein | 予測モデル | ⚠️ グループ固有のしきい値を法的根拠や検証なしに実装し、他の差別的影響を生じることなく公平性を向上させること、または米国では、Title VII で保護対象階層によるスコアやカットオフの調整が禁止されている場合に、雇用関連の意思決定にまったく適用しないこと |
| ビジネス | ドキュメント | ⚠️ 公平性評価指標違反が正当なビジネス上の相違点と差別を反映している場合に文書化しない |
バイアス検出
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Einstein | Trustレイヤー | ✅ Trust Layer監査データを使用して、デモグラフィック グループ全体の回答分布を分析し、顧客セグメント別の承認率、おすすめパターン、リスク スコアを比較するCRM Analyticsダッシュボードを作成します。 |
| Einstein | Trustレイヤー | ✅ Trust Layerログを定期的に照会:顧客の業種、地域、アカウント サイズでグループ化されたすべての価値の高い予測を表示し、予測分布がセグメント間で一貫していることを確認します。 |
| Agentforce | セッション追跡 | ✅デモグラフィック グループで層別化されたサンプル100件のエージェントの意思決定と、Agentforceセッション トレーシングの推論トレースを使用したグループ間の推論品質の比較評価をレビュー担当者に依頼 |
| プラットフォーム | CRM Analytics | ✅ エージェントの決定パターンがベースラインから大幅に逸脱した場合 (特定のセグメントの承認率が前週比 20% 低下した場合など) にアラートを設定する |
| プラットフォーム | CRM Analytics | ✅ 公正性シグナルをアラートするカスタム監視を構築: 「任意の顧客セグメントの平均会話時間が 3 日間連続で全体の平均の 1.5 倍を超えた場合に通知する」 |
| プラットフォーム | CRM Analytics | ✅ 一般的なエージェントの使用事例 (人口統計学的同等性、均等な商談、異種影響率、トレンドグラフなど) の公正性評価指標を追跡する再利用可能な CRM Analytics ダッシュボードテンプレートを作成する |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | セッション追跡 | ⚠️ ユーザーがバイアスを報告したときにAgentforceセッション トレーシングの推論トレースとTrust Layer監査履歴を無視し、バイアスを導入した推論ステップ、データソース、取得パターンが欠落している |
| プラットフォーム | CRM Analytics | ⚠️ 公正性シグナルの異常検知アラートを設定できず、突然の配信シフトが検知されない |
| プラットフォーム | CRM Analytics | ⚠️ 公正性の監視を標準化する再利用可能なテンプレートを共有する代わりに、チームごとに公正性ダッシュボードをアドホックに作成する |
人間の監視
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント設定 | ✅ 重要な意思決定 (雇用、信用、医療、法務、住宅) のエージェントを設計し、実行前に人間の承認を求めながら意思決定を分析、推奨、準備する |
| プラットフォーム | 承認プロセス | ✅ 裏付けとなる証拠を使用しておすすめを生成し、承認プロセスを介してしきい値を超える決定を人間のレビュー担当者に転送し、承認インターフェイスでエージェントの推論トレースを表示するようにAgentforceを構成します。 |
| Agentforce | エージェント設定 | ✅ 信頼性ベースのエスカレーションを実装する: 信頼性が高い(90%以上)は自律的に進行し、中程度(70~90%)は人によるレビューが必要、低(<70%)はコンテキストの概要と共に完全に人に任せる |
| Agentforce | エージェント設定 | ✅ 本番データを使用して信頼性しきい値を校正し、各信頼帯域でエージェントの意思決定をサンプリングして実際の成功率を計算し、校正を検証します。 |
| Agentforce | エージェント設定 | ✅ 期限付きのエスカレーショントリガーの設定: 解決せずに 5 ～ 7 ターン経過した後、10 分経過した後、ユーザーがストレスを感じたとき、エージェントが同じ応答を繰り返すとき |
| プラットフォーム | オムニチャネル | ✅ 完全な会話コンテキストを使用してエスカレーション済みケースを適切なスキルベースのキューに転送するようにオムニチャネルを設定する。ユーザーが情報を繰り返すことなくエスカレーションを処理するように人間のエージェントをトレーニングする。 |
| Agentforce | UX | ✅ エージェントのチャットインターフェースに、失敗回数を最小限に抑えた「人間のエージェントとつながる」オプションを常に提供する |
| Agentforce | エージェント設定 | ✅ 承認されたユーザーが文書化された根拠を使用して任意の時点でエージェントの決定を上書きできるようにします。複数行のテキスト説明が必要なすべてのエージェント決定インターフェースに [エージェントを上書き] ボタンを追加 |
| プラットフォーム | カスタムオブジェクト | ✅ 決定 ID、上書きタイムスタンプ、根拠、上書き者を使用してカスタムオブジェクトに上書きを記録し、エージェント、決定種別、顧客人口統計別に CRM Analytics ダッシュボード追跡上書きパターンを作成する |
| ビジネス | ドキュメント | ✅ エージェントのおすすめとは異なる承認または却下の根拠を文書化する必要がある。上書きパターンを追跡して、体系的なエージェントの不備を特定する |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | エージェント設定 | ⚠️ 人事承認ゲートのない重要な意思決定 (雇用、信用、ヘルスケア、法務、住宅) の自律的な意思決定者としてエージェントを配置する |
| Agentforce | エージェント設定 | ⚠️ 「高信頼性」の意思決定が75%の確率でのみ成功し、エスカレーション メカニズムへのTrustが低下する、誤って調整された信頼性スコアを使用している |
| Agentforce | エージェント設定 | ⚠️ 期限付きまたはターンバウンドのエスカレーションなしで、役に立たない自動ループで顧客をトラップする |
| プラットフォーム | オムニチャネル | ⚠️ エスカレーション済みケースを完全な会話コンテキストなしで転送し、ユーザーがエージェントにすでに提供された情報を繰り返すことを強制する |
| ビジネス | ガバナンス | ⚠️ 全員が AI に説明責任があると想定し、誰も意思決定の所有権を持たないように責任を分散させる |
| ビジネス | ガバナンス | ⚠️ アーキテクチャ決定レコードで文書化されている指定個人を使用したリリース前ではなくインシデント発生後の説明責任の割り当て |
説明責任の割り当て
パターン
| 参照すべき場所 | 外観 |
|---|---|
| ビジネス | ドキュメント | ✅ リリース前に説明責任を割り当てる: モデル所有者 (公平性/正確性)、決定所有者 (使用事例/影響)、不服申立て権限 (公平性アピール)、監査権限 (定期監査) |
| ビジネス | ドキュメント | ✅ 役職だけでなく、すべての説明責任の役割を名前で文書化し、組織の変更後も説明責任が保持されるようにします。 |
| ビジネス | ガバナンス | ✅ エージェントの意思決定を覆すことができるアクセス可能でタイムリーなプロセスを使用して、エージェントの意思決定が不正であると考えているユーザーからの申し立てを不服申し立て機関 (倫理審査委員会または指定チーム) が処理できるようにします。 |
| ビジネス | ガバナンス | ✅ 監査機関 (コンプライアンスチーム) に定期的な監査の実施を許可し、公正性基準を満たさないエージェントの是正を保留 |
| ビジネス | ガバナンス | ✅ エージェント開発チームとの頻度の高い上書きパターンの月次レビューのスケジュール |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| ビジネス | ガバナンス | ⚠️ 役職のみ (「データサイエンスリーダー」など) で、個人を指定せずに説明責任の役割を文書化し、組織の変更時に説明責任がなくなります。 |
| ビジネス | ガバナンス | ⚠️ 意思決定所有者が、実際の影響に対する個人の説明責任を保持するのではなく、AI システムに説明責任を委任できるようにする |
| ビジネス | ガバナンス | ⚠️ 不服申立てプロセスにアクセスできない、タイミングが悪い、またはエージェントの決定を取り消す権限がない |
透明性と説明可能性
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント設定 | ✅ ユーザー向け (平易な言葉)、ビジネス向け (主要な決定要素)、技術向け (モデルの詳細/機能加重)、監査向け (完全な決定トレース) の複数の説明レイヤーを作成する |
| Agentforce | エージェント設定 | ✅ 意思決定時に「購入履歴 (3 件の類似購入)、現在のプロモーション (20% 割引)、在庫状況に基づいて商品 A を推奨しました」というリアルタイムの概要理由を表示 |
| Agentforce | エージェント設定 | ✅ 「なぜこれを推奨したか」リンク。取得されたすべての Knowledge 記事、参照されたレコード、決定ロジックを含む完全な推論をユーザーに表示します。 |
| Agentforce | セッション追跡 | ✅数週間後または数か月後にユーザーが過去の意思決定に異議を唱えたときに、Agentforceセッション トレーシングから推論トレースを取得して履歴を再構築 |
| Agentforce | セッション追跡 | ✅ デモグラフィック グループで分類されたAgentforceセッション トレーシングの推論トレースのサンプルを使用して、意思決定の質が一貫しているかどうかを分析。各顧客セグメントの100個のトレースを確認 |
| Agentforce | エージェント設定 | ✅ ユーザーに適した用語で信頼性を伝える: 生の確度スコアではなく、プレーンな言語の信頼性コンテキストを使用して、「高信頼性」/「中程度の信頼性」/「低信頼性」 |
| Agentforce | エージェント設定 | ✅ 信頼性が中程度または低レベルの意思決定の場合、どのような追加レビューが行われるか、予想されるスケジュールを説明する |
| Agentforce | エージェント設定 | ✅ 「検証済みの雇用情報でリードスコアが上昇する (+8 ポイント)」という、ユーザーにとって何が結果を変えるかを示す反事実の説明を提供する |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | エージェント設定 | ⚠️ ユーザーが適切に解釈した信頼性の言語ではなく、ユーザーが誤って解釈した生の確度スコア (「73 % の信頼性」など) の表示 |
| Agentforce | エージェント設定 | ⚠️ ゲームを奨励したり、保護されている特性を判断要素として不注意に明らかにしたりする事実 (例: 「10 歳若ければ応募書類のスコアが高くなります」) の提供 |
| Agentforce | エージェント設定 | ⚠️ エンドユーザー (専門的すぎる) にも監査人 (簡略化しすぎ) にも役に立たない 1 つのレベルの説明のみを提供する |
| Agentforce | エージェント設定 | ⚠️ 過去の推論の痕跡を保存できず、異議を唱えたときに過去の決定を説明できない |
AI 開示
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント設定 | ✅ 目立つ継続的な開示(サービス規約に埋もれたり、インタラクションの開始時に1回しか表示されなかったりしない)でユーザーがAgentforceエージェントとやりとりするときを明確に示す |
| Agentforce | エージェント設定 | ✅永続的なビジュアル インジケーターの表示:エージェント アバターが「AI Assistant」とマークされ、ヘッダーに「Agentforceサービスエージェントとチャットしています」と表示され、会話中に[人間のエージェントと連絡を取る]オプションが表示される |
| Agentforce | エージェント設定 | ✅ 人とのやり取りを希望するユーザーが、摩擦やサービス品質のペナルティなしで切り替えられるようにする |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | エージェント設定 | ⚠️ 永続的なビジュアルインジケーターを維持するのではなく、サービスの観点から AI 開示を埋め込んだり、インタラクションの開始時に 1 回のみ表示したりする |
| Agentforce | エージェント設定 | ⚠️ サービスの低下や待ち時間の増加によるユーザーインタラクションの罰則 |
| Agentforce | エージェント設定 | ⚠️ [人間のエージェントと連絡を取る] オプションを非表示にする、またはユーザーが人間のサポートにアクセスする前にエージェントとのやりとりを完了するように要求する |
アルゴリズムの説明責任と監査
パターン
| 参照すべき場所 | 外観 |
|---|---|
| プラットフォーム | イベント監視 | ✅ イベント監視を設定して追跡する: エージェントシステムのインタラクション、エージェントサービスアカウントのログインイベント、エージェントが一括データにアクセスしたときのレポートエクスポートを表示する API イベントログ |
| プラットフォーム | イベント監視 | ✅ イベントモニタリングログを外部 SIEM にストリーミングして、規制要件に適合する証拠を長期保存および改ざん |
| プラットフォーム | 項目監査履歴 | ✅ サポートする標準オブジェクトと項目履歴管理が有効になっているカスタムオブジェクトから選択して、エージェントの決定を保存または影響を受けるオブジェクトで項目監査履歴 (アーカイブされた履歴の無期限保持) を有効にします。これは、クレジット、雇用、その他の重要な使用事例で重要です。 |
| プラットフォーム | Shield | ✅ 監査履歴の整合性が重要なエージェントの意思決定に Shield Event Monitoring を使用する (機能強化、構造化されたイベント項目、コンプライアンスレポートの統合) |
| プラットフォーム | カスタムオブジェクト | ✅ Decision_ID、Timestamp、Agent_Type、Model_Version、Confidence_Score、Outcome、User_ID、Record_ID を保存する AgentDecision__c カスタムオブジェクトを作成します。連結オブジェクト DecisionInput__c を使用して決定を入力特徴スナップショットにリンクします。 |
| プラットフォーム | カスタムオブジェクト | ✅ 決定時に正確な入力特徴値 (変更される可能性のある現在の値ではない) を保存することで、更新されたデータで決定が異なるかどうかをテストできます。 |
| ビジネス | ドキュメント | ✅ 最終的な決定ごとに、モデルバージョン、設定状態 (しきい値、ビジネスルール、パラメーター)、環境コンテキスト (ユーザー ID、タイムスタンプ、会話履歴) を記録します。 |
| プラットフォーム | LWC | ✅ レコードへの LWC コンポーネントの埋め込みを作成し、[推論を表示] リンクで決定履歴を表示する |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| プラットフォーム | 項目監査履歴 | ⚠️ 複数年の規制保持が必要な重要な意思決定に標準の項目履歴 (18 か月保持) を使用 |
| プラットフォーム | カスタムオブジェクト | ⚠️ 意思決定時の入力スナップショットではなく現在のレコード値のみを保存するため、過去の意思決定を正確に再構築できない |
| ビジネス | ドキュメント | ⚠️ 決定時に有効なモデルバージョンと設定状態を記録できず、バイアスが見つかったときに根本原因分析が不可能になる |
| プラットフォーム | イベント監視 | ⚠️ 外部 SIEM ストリーミングを使用せずに監査ログを Salesforce 内にのみ保持し、規制コンプライアンスの改ざん証拠がない |
継続的な公正性の監視
パターン
| 参照すべき場所 | 外観 |
|---|---|
| プラットフォーム | CRM Analytics | ✅ デモグラフィックセグメント別の決定の分布 (棒グラフ)、経時的な公平性評価指標 (アラートしきい値を含むトレンド線)、5 分の 4 ルールインジケーターを使用した異種影響率、決定に寄与する上位の予測因子、デモグラフィックグループ別の上書き率を示すダッシュボードを作成する |
| プラットフォーム | CRM Analytics | ✅ 入力分布がトレーニングデータのデモグラフィックから大幅に変化したときにアラートを表示し、公平性が低下する可能性があることを示す分布シフトを監視します。 |
| Agentforce | エージェント設定 | ✅ Agentforceチャット インターフェイスに[Report Concern]オプションを追加。完全な会話コンテキストを使用してレポートを倫理審査ボードに転送。必要な調査ワークフローを使用してカスタム オブジェクトで追跡 |
| ビジネス | ガバナンス | ✅ 公平性ダッシュボードの週次監視、24 時間以内のしきい値違反の調査、毎月の上書きパターン分析、四半期ごとの包括的な公平性監査の実施 |
| ビジネス | ガバナンス | ✅ ユーザーがアクセス可能なメカニズムで認識されたバイアスを報告できるようにします。ユーザーレポートでは、定量的な指標では見落とされる定性的な問題が表面化します。 |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| ビジネス | ガバナンス | ⚠️ エージェントが迅速な更新、モデルバージョンの変更、データ配信の移行によって進化するにつれて、バイアス検出は継続的な監視ではなく 1 回のリリース前検証として処理する |
| プラットフォーム | CRM Analytics | ⚠️ 公正性評価指標が定義されたしきい値を超えた場合にアラートを設定できず、段階的なドリフトが検出されなくなる |
| Agentforce | エージェント設定 | ⚠️ 認識されたバイアス、定量的指標では明らかにできない定性的な問題を報告するアクセシビリティメカニズムをユーザーに提供していない |
外部監査のサポート
パターン
| 参照すべき場所 | 外観 |
|---|---|
| プラットフォーム | インテグレーション | ✅ エクスポート機能を作成して、コンプライアンスチームがデータプライバシー規制を遵守しながら、外部監査人のレビュー用に人口統計学的層別で完全な決定データセットを抽出できるようにします。 |
| ビジネス | ドキュメント | ✅ エージェントの目的と使用目的、トレーニングデータのデモグラフィックと既知の制限事項、公平性評価指標 (導入前と本番)、バイアス緩和戦略、人的監視設定、監視アプローチ、説明責任の割り当てに関する最新のドキュメントを維持する |
| ビジネス | ガバナンス | ✅ 最終的な意思決定を行うエージェントを配置する前に、関係者グループ全体で潜在的な肯定的および否定的な影響を評価するアルゴリズムによる影響評価を実施する |
| ビジネス | ガバナンス | ✅ サードパーティによる半年ごとの外部公正性監査をスケジュールし、EU AI 法、州法、セクター規制に適応する規制範囲スキャンを維持する |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| プラットフォーム | インテグレーション | ⚠️ 監督機関、公民権団体、顧客による外部監査を予期せずにエージェントアーキテクチャを設計し、監査人レビュー用のエクスポート機能がない |
| ビジネス | ドキュメント | ⚠️ 公平性評価指標と緩和戦略を更新せずに、エージェントが迅速な更新やモデルの変更を進めるにつれてドキュメントが古くなるようにする |
| ビジネス | ガバナンス | ⚠️ ステークホルダーグループ全体の影響を評価する影響評価を実施せずに、エージェントが最終的な意思決定を行うように配置 |
ユーザーエージェンシーと同意
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント設定 | ✅ 結果エージェント (与信判断、雇用審査、サービス対象資格) に対して、デフォルトで有効化するのではなく明示的なオプトインを要求する |
| プラットフォーム | カスタムオブジェクト | ✅ User_ID、Use_Case、Grant_Date、Grant_Method、Withdrawal_Date、Status 項目を使用して AI_Consent__c を作成します。同意レコードの長期保持のために項目監査履歴を有効にします。 |
| Agentforce | エージェント設定 | ✅同意チェックをエージェント呼び出しロジックに追加します。処理前にAI_Consent__cを照会してアクティブな同意を求めます。使用事例レベルの同意をサポートします(サービスエージェントと営業エージェント)。 |
| プラットフォーム | コミュニティ/エクスペリエンスサイト | ✅ ユーザープロファイルからアクセスできるセルフサービス同意管理インターフェースを作成し、12 か月ごとに同意更新リマインダーをスケジュールする |
| Agentforce | エージェント設定 | ✅ 既存のユーザーに影響する新機能をリリースする場合、特定のアプリケーションを考慮しなかった元の同意に頼るのではなく、新しい使用事例の同意を積極的に求める |
| Agentforce | エージェント設定 | ✅ エージェントの処理を即座に停止することで、いつでも同意の撤回を有効にできます。サポート連絡先を必要とせずに、承認と同様に簡単に撤回できます。 |
| Agentforce | エージェント設定 | ✅ ユーザー設定管理を有効にする: コミュニケーションスタイル (簡潔と詳細)、プロアクティブ度、エスカレーション設定、ユーザーレコードカスタム項目への保存、エージェントシステムプロンプトでの参照 |
| プラットフォーム | オムニチャネル | ✅ インタラクション全体で永続的な [人間のエージェントと連絡を取る] オプションを提供する。選択すると、完全な会話コンテキストと優先度フラグを使用してオムニチャネルに転送され、サービスの低下や待機時間のペナルティはありません。 |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | エージェント設定 | ⚠️ エージェントがどのように影響するかをユーザーが明示的にオプトインせずにデフォルトで結果のエージェントを有効化する |
| Agentforce | エージェント設定 | ⚠️ 詳細な使用事例レベルの同意を有効にするのではなく、包括的な AI 同意を要求する (顧客がサービスエージェントに同意する一方で、営業エージェントを拒否できる) |
| Agentforce | エージェント設定 | ⚠️ 同意の撤回には、すぐに効果のあるセルフサービスではなく、サポート連絡先または官僚的なプロセスが必要です。 |
| Agentforce | エージェント設定 | ⚠️ 元の同意で考慮されなかった重要な新しいエージェント機能をリリースする場合、元の同意に依存する |
| Agentforce | エージェント設定 | ⚠️ ユーザーを人間のエージェントに接続する前に、エージェントとのやりとりを完了するか、ユーザーの設定を説明するように要求する |
エージェント設計における非差別
パターン
| 参照すべき場所 | 外観 |
|---|---|
| Agentforce | エージェント設定 | ✅ 保護された特性コンテンツのエージェントの推論で使用されるすべてのデータソースを確認し、決定種別として法的に妥当でない場合は、エージェントの入力から保護された特性を削除またはマスキングする |
| Agentforce | プロンプトテンプレート | ✅ システムプロンプトに差別のない指示を明示的に含める 「名前、場所、コミュニケーションスタイル、その他の特性に関係なく、すべての顧客に平等なプロ意識で接します。人口統計学的特性に基づいて顧客を仮定しないでください。」 |
| Agentforce | エージェント設定 | ✅ 本番前にさまざまな人格でテストする: デモグラフィックシグナル (異なる民族、場所、コミュニケーションスタイルを提案する名前) のみが異なる同じ要求を生成し、品質、長さ、プロフェッショナリズム、結果に関する回答を比較します。 |
| Agentforce | エージェント監視 | ✅ 顧客セグメント別に初回連絡解決率を計算し、セグメント間に大きな格差がある場合を調査する |
| Agentforce | エージェント監視 | ✅ 評価者間信頼性テストを使用して、セグメント全体のエージェントの会話のサンプルを作成し、一貫したディメンション (正確性、完全性、プロフェッショナリズム、有用性) で回答品質を評価してもらいます。 |
| Agentforce | エージェント監視 | ✅ 顧客層別にエスカレーション率を追跡します。特定のセグメントのエスカレーション率が高いほど、エージェントはそれらのユーザーにとって効果が低いことを示します。 |
| ビジネス | アンケート | ✅ すべてのデモグラフィックグループのユーザーにアンケートを実施し、満足度スコアを比較します。全体的な満足度が高いと、少数グループのエクスペリエンスが低下する可能性があります。 |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| Agentforce | エージェント設定 | ⚠️ 保護されている特性データ (障害状況、宗教、出身国) を、その特性が法的に正当化されない判断のためのエージェントの入力に含める |
| Agentforce | プロンプトテンプレート | ⚠️ システムプロンプトで明示的な差別のない指示を使用せずに、基盤モデルの動作のみに依存するエージェントのリリース |
| Agentforce | エージェント設定 | ⚠️ 過小評価されているグループへのバイアスを見落としている、マジョリティデモグラフィック人格のみを使用するエージェントのテスト |
| ビジネス | アンケート | ⚠️ マジョリティの満足度にかき消されたマイノリティグループの低評価をマスキングする全体的な満足度スコアに基づく |
エージェントエクスペリエンスのアクセシビリティ
パターン
| 参照すべき場所 | 外観 |
|---|---|
| プラットフォーム | LWC | ✅ カスタムチャットの実装では、適切なランドマークが含まれるセマンティック HTML 構造、新しいメッセージをお知らせする ARIA ライブリージョン、メッセージ履歴を介したキーボードナビゲーション、インタラクティブ要素の明確なフォーカスインジケーターを確認します。 |
| プラットフォーム | LWC | ✅ 自動スキャンだけでなく、開発全体で JAWS、NVDA、VoiceOver を使用してテストする |
| Agentforce | エージェント設定 | ✅ 一般的な利用者向けの平易な言葉を使用するようにエージェントの回答を設定する。専門用語を避け、避けることのできない専門用語の用語集を提供する。ヘッダーと箇条書きで長い回答を構成する。 |
| Agentforce | エージェント設定 | ✅ 文化的ニュアンスを見落としている自動化された評価指標だけでなく、ネイティブスピーカーの評価を通じて言語間で比較可能な回答品質を検証する |
| Agentforce | エージェント設定 | ✅ 多様な言語母集団に対応するビジネス クリティカルな使用事例では、言語固有の処理(言語変数、ローカライズされたプロンプト、言語によるKnowledge記事のフィルタリング)を設定し、基盤モデルの言語間転送のみに依存するのではなく、言語ごとの品質を検証します。 |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| プラットフォーム | LWC | ⚠️ 手動のアクセシビリティテストを使用しないカスタムチャット実装の作成 (自動スキャンのみを使用) |
| Agentforce | エージェント設定 | ⚠️ 用語集のない専門用語や複雑な言葉を使用し、ユーザーの認知障壁を作成 |
| Agentforce | エージェント設定 | ⚠️ リソースの少ない言語では基盤モデルの言語間移行のみに依存し、言語の大部分以外のユーザーには品質が低下する |
| Agentforce | エージェント設定 | ⚠️ 文化的ニュアンスを見落としている自動化された評価指標でのみ多言語対応品質を検証する |
公平性ガバナンスとリリースゲート
パターン
| 参照すべき場所 | 外観 |
|---|---|
| ビジネス | ガバナンス | ✅ 本番エージェントを配置する前に、執行権限を持つ倫理審査委員会を設置する |
| ビジネス | ガバナンス | ✅ 必須リリースゲートの定義: データ監査、公正性評価指標の計算、アルゴリズムによる影響評価 |
| プラットフォーム | CRM Analytics | ✅ 最初のエージェントのリリース前に CRM Analytics でベースライン公正性モニタリングダッシュボードを作成する |
| プラットフォーム | イベント監視 | ✅ Einstein Trust Layer監査キャプチャを有効にし、本番稼働前の基盤としてエージェント アクションのイベント モニタリングを設定します。 |
| ビジネス | ガバナンス | ✅ CI/CD パイプラインに拡張性のための自動公平性回帰テストを実装する |
| ビジネス | ガバナンス | ✅ リリースの規模に応じて、すべての新規エージェントの同意管理パターンを標準化する |
| プラットフォーム | インテグレーション | ✅ コンプライアンスチームのセルフサービスを可能にするエージェント意思決定再構築ツールの作成 |
アンチパターン
| 参照すべき場所 | どんな悪い感じか |
|---|---|
| ビジネス | ガバナンス | ⚠️ 執行機関による倫理審査会設置前のプロダクションエージェントの導入 |
| ビジネス | ガバナンス | ⚠️ セキュリティレビューと同等の必須のリリースゲートではなく、後付けとして公正性を扱う |
| ビジネス | ガバナンス | ⚠️ エージェントが結果的意思決定を行う前にアルゴリズムによる影響評価をスキップする |
| プラットフォーム | CRM Analytics | ⚠️ ベースラインの公正性監視ダッシュボードが導入されていない最初の本番エージェントのリリース |