Kurzreferat

Diese DIN SPEC wurde im Zuge des PAS-Verfahrens durch ein DIN-SPEC-Konsortium (temporäres Gremium) erarbeitet. Die Erarbeitung und Verabschiedung dieser DIN SPEC erfolgte durch die im Vorwort genannten Verfasser. Dieses Dokument ist anwendbar auf KI Anwendungen im Kontext von Finanzdienstleistungen. Dieses Dokument legt folgendes fest: - Einen Prozess zur Ermittlung geeigneter Auffassungen und Metriken von Fairness (von KI Anwendungen) im Finanzsektor; - Ein konkretes Fairnessverständnis kann von Person zu Person oder je nach Situation abweichen und somit nicht allgemeingültig formuliert werden; *Dazu wird ein Grundgerüst für anwendungs- und situationsspezifische Messungen und Begründungen im Kontext der Finanzdienstleistungen in der Praxis vorgeschlagen, inklusive: *Eine Begründung für die Verwendung von Konzepten wie Gleichbehandlung, Gleichberechtigung, Gleichstellung, *Relevante Aspekte einer guten Messung und Begründung aller verwendeten Konzepte, *Bewertung der Verhältnismäßigkeit bezüglich der Aufwände und Ergebnisse, *Umgang mit den Messergebnissen (Bewertung, Erklärung, Kommunikation, Handlungsbedarfe), *Akzeptable Rahmenbedingungen für Ungleichbehandlung; - Methodensammlung zur Operationalisierung der identifizierten Auffassungen (z.B., über Fairnessmaße). Identifizierung der jeweiligen Stärken, Schwächen und Einschränkungen der Operationalisierungsansätze; - Exemplarische Veranschaulichung des Prozesses anhand relevanter Anwendungsfälle. Des Weiteren beschränkt sich dieses Dokument im Kontext seiner Anwendungsfälle auf: - Klassifizierungssysteme (Ausschluss von Scorern und generativen Systemen), - Gruppenfairnessmaße (Ausschluss von individueller Fairness und alternativen Fairnessbemessungen). Dieses Dokument beschreibt keine Prozesse zur Anpassung von KI-basierten Systemen, um Anforderungen bezüglich Fairness gerecht zu werden.

Beginn

2024-03-25

Geplante Dokumentnummer

DIN SPEC 91512

Projektnummer

62016643