Kurzreferat

Diese DIN SPEC definiert übergeordnete Kategorien (z.B. Daten, Algorithmus, Prozess, Akteure) und legt Kriterien (z.B. Datenherkunft, Datenanzahl, Datenkennzeichnung, Übereinstimmung Grundgesamtheit, Trainings-/Validierungs-/Test-Daten disjunkt) für ein einheitliches Verständnis von Transparenzanforderungen in Bezug auf KI- Systeme fest. Das umfasst die folgenden Dimensionen, die bei der Festlegung von Transparenzanforderungen zu berücksichtigen sind.

• Phasen des Entwicklungszyklus, während derer die Transparenzanforderungen umsetzbar sind.
  • Arten und Use Cases von KI-Systemen, für die diese Transparenzanforderungen einschlägig und praktisch anwendbar sind.
    • Arten und Detailtiefe von Information, die aus Transparenzgründen bereitzustellen sind.
      • Akteure, für die aus Transparenzgründen Informationen bereitzustellen sind - inkl. der Fragestellung, welche Informationen jeweils relevant sind.
        • Akteure, die für die Bereitstellung der Information verantwortlich sind.
          • Akteure, über die aus Transparenzgründen Informationen bereitzustellen sind (z.B. Qualifikation, eingesetzte Verfahren und Software-Toolsets, all dies stets EU-DSGVO-konform).
            • Arten der Offenlegung (z.B. über Benutzeranleitung oder durch gezielte Online-Abfrage).
              • Kombinationen der zuvor genannten Aspekte, z.B. in Hinblick auf die Frage, welche Informationen für welche Akteure in welcher Phase des Entwicklungszyklus auf welche Art und Weise offenzulegen sind. In der Bearbeitung soll Transparenz unter anderem im Sinne der Bereitstellung von Informationen, der Nachvollziehbarkeit und der Erklärbarkeit berücksichtigt werden. Die geplante DIN SPEC legt dabei für den Begriff KI-System die Definition aus der EU-KI-Verordnung ("AI Act", Art. 3.1) zugrunde, die auf einer Definition der OECD basiert: "[Ein KI-System ist] ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist, und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können." Diese Definition beschreibt den in der geplanten DIN SPEC adressierten Umfang von KI-Systemen, bei dem unter anderem datengetriebene KI, wissensbasierte KI, generative KI ebenso wie hybride Kombinationen dieser Ansätze (hybride Systeme) enthalten sind. Zudem werden sowohl anwendungsspezifische (narrow AI), als auch universell ausgerichtete KI-Systeme mit einem breiten Anwendungsbereich (general purpose AI) entsprechend betrachtet. Dieses Dokument zielt auf alle Akteure ab, die an der Entwicklung oder Nutzung von KI-Systemen beteiligt sind. Dazu gehören u.a. - Entwickler, - Regulatoren, - Betreiber, - Nutzer

              .

Beginn

2024-12-04

Geplante Dokumentnummer

DIN SPEC 91528

Projektnummer

62022051