Muster für künstliche Intelligenz
Erfahren Sie mehr über Well-Architected Trusted → Compliant → Ethical Standards → Artificial Intelligence
| Wohin schauen? Produktbereich | Standort |
Wie sieht gut aus? Muster |
|---|---|
| Einstein | Design Standards | ✅ Generative Antworten identifizieren immer Datenquellen, die von AI-Modellen verwendet werden |
| Einstein | Design Standards | ✅ Datensets, die für die Eingabeaufforderungs-Engineerung verwendet werden können/können, wurden dokumentiert |
| Einstein | Design Standards | ✅ Bots und generative AI-Antworten werden Benutzern eindeutig identifiziert |
| Einstein | Design Standards | ✅ Punkte, an denen AI für einen Benutzer identifiziert werden muss, sind klar definiert |
| Einstein | Design Standards | ✅ Standards für die Verwendung von Haftungsausschlüssen für generative AI sind klar definiert |
| Einstein | Design Standards | ✅ Klare Anforderungen für die Dokumentation von Punkten menschlicher Beteiligung an AI-Lösungsdesigns vorhanden |
| Einstein | Design Standards | ✅ Es werden keine generativen Antworten direkt an Endbenutzer ohne menschliche Beteiligung gesendet |
| Einstein | Design Standards | ✅ Es gibt Standards für die Dokumentation direkter und indirekter Feedbackpfade in AI-Lösungsdesigns |
| Einstein | Design Standards | ✅ Richtlinien und genehmigte Anwendungsfälle für AI-Anwendungen sind klar und einfach zu finden |
| Einstein | Design Standards | ✅ Standards für Chatbot-Messaging und Unterhaltungs-Flow wurden dokumentiert |
| Einstein | Dokumentation | ✅ Die Dokumentation für Konfigurationen und Anpassungen mit AI-Funktionen enthält eine ausführliche Beschreibung der gesamten Prozesslogik und wird an einem zentralen Ort gespeichert, auf den Rechtsteams oder Prüfer zugreifen können. |
| Einstein | Dokumentation | ✅ Modelle, die Prognosen und Empfehlungen vorantreiben, sind klar dokumentiert, einschließlich aller anwendbaren Datensegmente |
| Einstein | Dokumentation | ✅ Unterhaltungslogik und Chatbot-Nachrichten werden sorgfältig dokumentiert |
| Einstein | Dokumentation | ✅ Es sind Prozesse vorhanden, um die AI-Modelle Ihrer Organisation auf Datendrift, Änderungen bei Fairness und Verzerrungsbewertungen, Genauigkeit und Robustheit zu überwachen |
| Einstein | Dokumentation | ✅ Beschreibungen für die Trainings-, Evaluierungs- und Testdaten, die für alle AI-Prozesse verwendet werden, werden beibehalten |
| Einstein | Dokumentation | ✅ Beschreibungen werden für alle AI-bezogenen Datenbereinigungen zusammen mit Verzerrungstests, zugehörigen Ergebnissen und Leistungs-/Genauigkeitsbewertungen (z. B. F1-Bewertungen) beibehalten |
| Einstein | Org | ✅ Aufforderungsvorlagen werden auf Qualität getestet Aufforderungsvorlagen werden getestet und die Ergebnisse dieser Tests dokumentieren die Relevanz, Vollständigkeit, Stil/Ton, faktische Genauigkeit, Konsistenz, Toxizität und Verzerrung von Aufforderungsvorlagenantworten |
| Einstein | Org | ✅ Die generative AI wird als Assistent eines Menschen verwendet. Stellen Sie zunächst sicher, dass ein Mensch am Ruder ist, der die Genauigkeit und den Nutzen von Antworten überprüfen kann. |
| Einstein | Org | ✅ AI-Modelle verwenden Daten, denen Sie Trust Kontext wird der Gen-AI mithilfe von Zero-Party-Daten (wird direkt vom Kunden bereitgestellt) oder First-Party-Daten (wird basierend auf der Interaktion eines Kunden mit Ihrem Unternehmen erfasst) bereitgestellt |
Muster für Unternehmensrichtlinien
Weitere Informationen zu Well-Architected Trusted → Compliant → Ethical Standards → Company Policies (Unternehmensrichtlinien)
| Wohin schauen? Produktbereich | Standort |
Wie sieht gut aus? Muster |
|---|---|
| Plattform | Designstandards | ✅ Standards enthalten klare Leitlinien für Bereiche, die von Unternehmensrichtlinien betroffen sind |
| Plattform | Dokumentation | ✅ Dokumentation für Konfiguration und Anpassungen enthält Verweise auf unterstützte Unternehmenswerte |
| Plattform | Organisation | ✅ Für alle Objekte und Felder, die der unternehmensrichtlinienbezogenen Compliance unterliegen, sind "Compliance-Kategorisierung", "Dateninhaber", "Datenvertraulichkeitsstufe" und "Feldnutzung" konfiguriert. |
Anti-Pattern der künstlichen Intelligenz
Erfahren Sie mehr über Well-Architected Trusted → Compliant → Ethical Standards → Artificial Intelligence
| Wohin schauen? Produktbereich | Standort |
Was vermeiden? Anti-Pattern |
|---|---|
| Einstein | Design Standards | ⚠️ Generative Antworten identifizieren keine von AI-Modellen verwendeten Datenquellen |
| Einstein | Design Standards | ⚠️ Bots und generative AI-Antworten werden Benutzern nicht identifiziert |
| Einstein | Design Standards | ⚠️ Generative Antworten werden direkt an Endbenutzer gesendet, ohne dass es zu menschlichen Interaktionen kommt |
| Einstein | Design Standards | ⚠️ Datensets, die für die prompte Erstellung verwendet werden, werden nicht dokumentiert |
| Einstein | Design Standards | ⚠️ Es gibt keine Anforderungen für die Dokumentation von Punkten, an denen Menschen in AI-Lösungsdesigns beteiligt sind |
| Einstein | Design Standards | ⚠️ Designstandards geben keine Punkte an, an denen Benutzer AI identifizieren müssen |
| Einstein | Design Standards | ⚠️ Haftungsausschlüsse in Bezug auf generative Antworten fehlen |
| Einstein | Design Standards | ⚠️ Es gibt keine Standards für die Dokumentation direkter und indirekter Feedbackpfade für AI-Lösungsdesigns |
| Einstein | Design Standards | ⚠️ Designstandards sind nicht vorhanden oder enthalten keine klaren Richtlinien und genehmigten Anwendungsfälle für AI-Anwendungen |
| Einstein | Design Standards | ⚠️ Es gibt keine klaren Standards für Chatbot-Messaging und Unterhaltungsdesign (es werden jedoch Chatbots verwendet) |
| Einstein | Dokumentation | ⚠️ AI-Überwachungsprozesse sind nicht vorhanden oder werden nicht dokumentiert |
| Einstein | Dokumentation | ⚠️ Dokumentation für Konfigurationen und Anpassungen mit AI-Funktionen fehlt, ist unvollständig oder wird an einem nicht zugänglichen Ort gespeichert |
| Einstein | Dokumentation | ⚠️ Prognosen oder Empfehlungen werden in Ihrer Organisation ohne Dokumentation ihrer Modelle implementiert |
| Einstein | Dokumentation | ⚠️ Informationen zu Trainings-, Evaluierungs- und Testdaten, die für alle AI-Prozesse verwendet werden, sind unklar oder nicht verfügbar |
| Einstein | Dokumentation | ⚠️ Informationen zur Bereinigung von AI-bezogenen Daten, Verzerrungstests und Ergebnissen sind unklar oder nicht verfügbar |
| Einstein | Dokumentation | ⚠️ Chatbots werden in Ihrer Organisation ohne Dokumentation der Nachrichten und des Unterhaltungs-Flows implementiert |
| Einstein | Aufforderungsvorlagen | ⚠️ AI basiert auf Drittanbieterdaten Ihre Aufforderungsvorlagen basieren ausschließlich auf Drittanbieterdaten ohne Null- oder Erstanbieterdaten. |
Anti-Pattern für Unternehmensrichtlinien
Weitere Informationen zu Well-Architected Trusted → Compliant → Ethical Standards → Company Policies (Unternehmensrichtlinien)
| Wohin schauen? Produktbereich | Standort |
Was vermeiden? Anti-Pattern |
|---|---|
| Plattform | Designstandards | ⚠️ Designstandards sind nicht vorhanden oder bieten keine klare Anleitung zu Bereichen, die den Unternehmensrichtlinien unterliegen |
| Plattform | Dokumentation | ⚠️ Die Dokumentation für Konfiguration und Anpassungen verweist nicht auf Unternehmenswerte oder -richtlinien |
| Plattform | Organisation | ⚠️ Bei Objekten, die der unternehmensrichtlinienbezogenen Compliance unterliegen, fehlt die Konfiguration für die Konformitätseinstufung, den Dateninhaber, die Datenvertraulichkeitsstufe oder die Feldnutzung |