Vier-Stufen-Ansatz zur KI-Kompetenzentwicklung (ART. 4 KI-VO)

„Systematische Kompetenzentwicklung für den rechtskonformen KI-Einsatz in der Verwaltung: Zielgruppenanalyse, Inhaltsgestaltung und Bedarfsbestimmung im Sinne der KI-Verordnung“

Anwendungshinweis zum Einsatz des Skripts in der Praxis:
Dieses „Leitlinie“ bietet eine strukturierte Methodik zur systematischen Entwicklung von KI-Kompetenzen im Anwendungsbereich der Verordnung (EU) 2024/1689 (KI-VO). Es gliedert sich in vier aufeinander aufbauende Stufen – von der Zielgruppenanalyse über die inhalt­liche Ausgestaltung bis zur Ermittlung eingesetzter Systeme und des konkreten Kompetenzbe­darfs. Die Inhalte sind so aufgebaut, dass sie in unterschiedlichen Organisationstypen – insbesondere Behörden, öffentlichen Einrichtungen, Unternehmen und Bildungsträgern – flexibel anwendbar sind. Zur praktischen Anwendung wird empfohlen:

Die Leitlinie soll als Grundlage für Schulungskonzepte, Projektplanungen, behördliche Umsetzungskonzepte und interne Fortbildungsstrategien dienen.

• Verwaltungs-/Behördenmitarbeiter benötigen praxisorientierte Schulungen, um die sichere, regelkonforme und effiziente Nutzung von KI-Systemen im beruflichen Alltag –insb. beim Umgang mit Bürgern – zu gewährleisten.
• Datenanalysten müssen in der Lage sein, Trainingsdaten und Ausgaben von KI-Modellen zu verstehen, zu validieren und gegebenenfalls zu hinterfragen.
• Führungskräfte und Entscheidungsträger sind mit strategischen, rechtlichen und ethischen Implikationen konfrontiert und benötigen daher ein verständnisorientiertes Wissen über Risiken, Verantwortlichkeiten und Chancen.
• KI-Entwickler und Softwareingenieure müssen nicht nur über technische Expertise verfügen, sondern auch regulatorische Anforderungen – etwa zur Transparenzpflicht oder zu Datensätzen – nachvollziehen und umsetzen können.
• KI-Beauftragte, IT-Sicherheitsexperten und Datenschutzbeauftragte tragen Verantwortung für die Integrität, Verfügbarkeit und Vertraulichkeit der eingesetzten KI-Systeme.
• Produktmanager, kunden- oder bürgernahe Mitarbeitende stehen häufig an der Schnittstelle zu Endnutzern und benötigen Kenntnisse über die Interaktion von Mensch und KI sowie mögliche Auswirkungen auf die Nutzererfahrung8.

• die Mechanismen der menschlichen Aufsicht (Mensch/Maschine/Mensch)10,
• die Interventionsmöglichkeiten im Echtzeitbetrieb „Stopptaste“11,
• die ethischen und rechtlichen Implikationen automatisierter Entscheidungen12,
• sowie die Risikobewertung und -minimierung im konkreten Anwendungskontext.

Nach einer sorgfältigen Zielgruppenanalyse ist im zweiten Schritt die inhaltliche Ausge­stal­tung der Schulungen auf die jeweiligen Aufgabenprofile, Vorqualifikationen und Verant­wort­ungs­bereiche abzustimmen. Eine pauschale oder undifferenzierte Vermittlung von KI-Kenntnissen würde den vielschichtigen Anforderungen der KI-VO nicht gerecht. Vielmehr ist es erforderlich, auf Grundlage der jeweiligen Rolle im Lebenszyklus eines KI-Systems spezifische Lernziele zu definieren und die Inhalte entsprechend aufzubereiten.

Unter Kl-Kompetenz versteht der europäische Gesetzgeber die Fähigkeiten, die Kennt­nisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtig­ung ihrer jeweiligen Rechte16 und Pflichten im Rahmen der KI-VO ermöglichen, Kl-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden7. Hierbei können auch datenschutzrechtliche (ErwG 9, 28, 67, 69) und urheberrechtliche (ErwG 105) Aspekte eine Rolle spielen18.
Im Folgenden werden zentrale Inhaltsbereiche benannt, die – jeweils adressatengerecht – in Schulungs­konzepte zu integrieren sind. Die Gewichtung und Tiefe der Behandlung hängt maßgeblich von der jeweiligen Zielgruppe ab. Im Folgenden eine nicht abschließende Aufzählung19:

• Grundlagen der KI:

• Einführung in die Funktionsweise KI-basierter Systeme
  
• Abgrenzung symbolischer, statistischer und generativer KI
• Überblick über Machine Learning, Deep Learning, NLP20 und Datenabhängigkeit

• Technische Kenntnisse:

• Aufbau und Architektur typischer KI-Modelle
• Trainingsdaten, Merkmalsextraktion21, Modell-Training, Evaluierung
• Nachvollziehbarkeit und Transparenz technischer Parameter

• Ethik und Verantwortung:

• Automatisierung und menschliche Entscheidungsverantwortung
• Bias22, Diskriminierung und gesellschaftliche Auswirkungen
• Verhältnis zwischen algorithmischer Entscheidung und Grundrechten

• Regulatorische Anforderungen und rechtliche Aspekte:

• Überblick über die KI-VO: Struktur, Anwendungsbereich, Risikoklassifizierung
  
• Pflichten für Anbieter und Betreiber
• Datenschutz, Transparenzpflichten, Haftung, Konformitätsbewertung

• KI-Fähigkeiten:

• Interpretation von Modellergebnissen und deren Plausibilisierung
  
• Identifikation von Fehlfunktionen und systematischen Anomalien
• Verhältnis zwischen Systemvorschlag und menschlichem Urteil

• Risiko-Management:

• Risikoidentifikation, Risikoklassifikation (insb. Hochrisiko-Systeme, Art. 6 KI-VO)
  
• Sicherheitsanforderungen, Systemüberwachung, Auditierbarkeit
• Entwicklung von Notfall- und Interventionsstrategien

• Praxis-Fähigkeiten; Anwendung, Umsetzung, Modellierung und Implementierung:

• Schulung an konkreten Anwendungsfällen und Szenarien
• Modellierung einfacher Entscheidungsstrukturen, Implementierung prototypischer Systeme
• Monitoring im operativen Einsatz, Feedback-Mechanismen
• Adressaten: Entwickler, Softwareingenieure, Produktverantwortliche, operative Mitarbeitende

Die inhaltliche Differenzierung von Schulungsmaßnahmen nach Zielgruppen ist unverzichtbar für eine rechtlich belastbare und funktional wirksame Umsetzung der KI-VO. Nur wenn alle beteiligten Akteure in ihren jeweiligen Rollen adäquat vorbereitet sind, können Hochrisiko-KI-Systeme verantwortungsvoll, sicher und konform betrieben werden23. Die genannten sieben Inhaltsbereiche bieten hierfür einen strukturierten Rahmen, der – je nach Zielgruppe – vertieft, modularisiert und praxisnah ausgestaltet werden muss.

Zielgruppenspezifische Inhalte für Verwaltungen

Im Rahmen der Schulungsmaßnahmen sollten ergänzend24 weitere Maßnahmen konzipiert und implementiert werden, die sich spezifisch an die Anwender im eigenen Wirkungskreis richten. Zu den potenziellen Maßnahmen zählen beispielsweise25:

• Entwicklung und Implementierung interner Richtlinien und Standards: Es sollten verbindliche interne Regelwerke, wie etwa ethische Leitlinien für den KI-Einsatz, Dienstanweisungen oder Dienstvereinbarungen26, erarbeitet und regelmäßig aktualisiert werden. Diese Regelwerke bilden die Grundlage für eine einheitliche und rechtskon­forme Handhabung von KI-Technologien.
• Regelmäßige Fortbildungs- und Schulungsprogramme: Eine jährliche Fortbildung ist erforderlich, um Anwender über aktuelle Anforderungen, insbesondere Vorgaben aus der KI-VO und anderen damit verbundenen Regelungen, sowie über technologische Entwicklungen im Bereich KI zu informieren. Die Schulungen sollten praxisnah gestaltet und an die spezifischen Anforderungen der jeweiligen Organisation angepasst werden.
• Einführung von Zertifizierungsprogrammen: Die Etablierung von Zertifizierungspro­grammen fördert die nachweisbare Qualifikation von Mitarbeitenden im Umgang mit KI-Systemen und datenschutzrechtlichen Fragestellungen und trägt dazu bei, ein standardisiertes Kompetenzniveau zu gewährleisten. Solche Programme können sowohl interne als auch externe Standards, wie etwa ISO-Normen27 oder behördliche Vorgaben, berücksichtigen.
• Praxisorientiertes Lernen in interdisziplinären Teams: Die Einrichtung von Arbeitskreisen oder Projektgruppen, die aus Mitgliedern unterschiedlicher Fachbereiche bestehen, ermöglicht praxisnahes Lernen und den interdisziplinären Austausch. Dies fördert ein tieferes Verständnis für die technischen, rechtlichen und ethischen Implikationen von KI-Anwendungen.
• Bestellung von KI-Beauftragten: Die Ernennung behörden- oder betriebsinterner (oder -externer28) Beauftragter für KI gewährleistet eine kontinuierliche Überwachung und Beratung in Bezug auf die Einhaltung rechtlicher und ethischer Vorgaben. Diese Beauftragten fungieren als zentrale Ansprechpersonen und unterstützen die Organisation bei der Umsetzung der genannten Maßnahmen.
• Durchführung regelmäßiger Audits und Risikobewertungen: Zur Sicherstellung der Wirksamkeit der implementierten Maßnahmen sollten regelmäßige interne und externe Audits durchgeführt werden. Zudem sind im behördlichen Bereich Grundrechte-Folgenabschätzungen29 (GRFA) gemäß Art. 27 KI-VO bei der Einführung neuer Hochrisiko-KI-Systeme verpflichtend, um potenzielle Risiken für Betroffene frühzeitig zu identifizieren und zu minimieren.

Nach der Durchführung einer Zielgruppenanalyse (Stufe I) und der inhaltlichen Differenz­ierung der Schulungskonzepte (Stufe II) bildet die Ermittlung der jeweils relevanten KI-Systeme – unter Einbeziehung jeweiliger Fachverfahren – die dritte Stufe im Prozess der strukturierten Kompetenzent­wicklung. Diese Stufe dient der kontextualisierten Zuordnung von konkreten KI-Anwendungen zu spezifischen Nutzergruppen, um die Schulung nicht nur theoretisch fundiert, sondern auch praktisch anschlussfähig zu gestalten. Dadurch wird nicht nur sichergestellt, dass die erforderlichen KI-Kompetenzen zielgruppenspezifisch ­– richtiger Adressat zum passen­den KI-System – vermittelt werden, sondern auch Art. 4 KI-VO Rechnung getragen. Art. 4 KI-VO verlangt nicht nur die Schulung von Personal, sondern auch eine spezifische Ausein­ander­setzung mit den eingesetzten oder geplanten KI-Systemen im jeweiligen Anwendungs­umfeld (Vgl. ErgW 20 KI-VO). Insofern ist sicherzustellen, dass allen einschlägigen Akteuren der KI-Wertschöpfungskette, also alle natürlichen Personen, die mit dem Betrieb oder der Überwachung von (Hochrisiko-)KI-Systemen betraut sind, über die für den jeweiligen Systemtyp notwendigen Kenntnisse und Fähigkeiten verfügen. Daraus folgt, dass Schulungsmaßnahmen und die damit verbundene Vermittlung von KI-Kompetenzen nicht auf generischen Beispielen basieren dürfen, sondern praxisnah auf konkrete KI-Systeme bezogen werden müssen, wie sie tatsächlich in den jeweiligen Fachverfahren zur Anwendung gelangen30.

Zur Ermittlung der jeweils relevanten KI-Systeme in Behörden oder Verwaltungen bedarf es einer strukturierten Erhebung, die insb. folgende Aspekte umfasst:

• Identifikation der vorhandenen oder geplanten KI-Anwendungen: z. B. Sprach- und Bilderkennung, Entscheidungsunterstützung, Prognosemodelle, Empfehlungssysteme

• Kategorisierung nach Risikoklasse gem. Art. 6 ff. KI-VO: z. B. Hochrisiko-KI-Systeme im Bereich biometrischer Identifizierung, Beschäftigtendaten, kritische Infrastrukturen
• Zuordnung zu organisatorischen Fachverfahren: z. B. Personalverfahren, Leistungsgewährung, Kundeninteraktion, Verwaltungsautomatisierung
• Analyse der Nutzungsschnittstellen und Entscheidungspunkte: Wer nutzt das System? Wer trifft letztlich die Entscheidung? Welcher Grad an Automatisierung liegt vor?

Ergebnis dieser Erhebung ist ein „Zielgruppen-System-Mapping“, aus dem sich ablesen lässt, welche Nutzergruppen mit welchen KI-Systemen oder -Komponenten in welchem fachlichen Kontext interagieren.
Eine besondere Herausforderung – gerade im behördlichen und öffentlichen Kontext – besteht darin, die KI-Nutzung innerhalb etablierter Fachverfahren adäquat zu erfassen. Diese Fachverfahren sind oftmals komplexe, rechtlich geregelte Prozessketten, in denen KI-Systeme lediglich Teilfunktionen übernehmen, etwa zur:

• Entscheidungsvorbereitung (zB automatisierte Prüfung von Anträgen),
• Beteiligtenkommunikation (zB KI-gestützte Chatbots),
• Risikobewertung oder Priorisierung (zB Scoring-Modelle im Sozialwesen),
• Dokumentenklassifikation oder -extraktion (zB NLP in der Posteingangsbearbeitung).

Um die Vermittlung von KI-Kompetenzen fachlich anschlussfähig zu machen, ist es daher geboten, konkrete Beispiele aus dem jeweiligen Fachverfahren zu integrieren, insb. bei Hochrisiko-KI, die auf rechtlich sensitive Daten zugreift oder normative Entscheidungen vorbereitet (zB Personalbereich)31.

Art. 14 Abs. 4 lit. a KI-VO verlangt nicht nur die Fähigkeit zur effektiven Überwachung (ErwG 73 KI-VO), sondern auch zur Bewertung der Ergebnisse und zur Ergreifung geeigneter Gegenmaß­nahmen (zB Kl-Systeme zu unterbrechen). Ohne Kenntnis des konkreten KI-Systems und seines Verhaltens in spezifischen Anwendungsszenarien ist eine solche Überwachung realitätsfern und rechtlich unzureichend32.

Die Ermittlung zielgruppenspezifischer KI-Systeme im jeweiligen Fachkontext ist unabdingbar für die Effektivität, Legitimität und Rechtskonformität bei der Vermittlung von KI-Kompetenzen im Sinne der KI-VO. Sie ermöglicht eine passgenaue Zuordnung der Kompetenzanforder­ungen und gewährleistet, dass die Inhalte nicht abstrakt-theoretisch, sondern anwendungsbe­zogen und praxisrelevant vermittelt werden können. Durch die Berücksichtigung der organisatorischen Fachverfahren wird zugleich sichergestellt, dass regulatorische Vorgaben, insbesondere zu Transparenz, Kontrolle und Verantwortlichkeit, systematisch umgesetzt werden.

Nach der Durchführung der Zielgruppenanalyse (Stufe I), der zielgruppenspezifischen inhaltlichen Ausgestaltung (Stufe II) sowie der Ermittlung der eingesetzten KI-Systeme in konkreten Fachverfahren (Stufe III) folgt als vierter Schritt die systematische Ermittlung des konkreten Kompetenzbedarfs. Ziel dieser Stufe ist es, unter Berücksichtigung der tatsächlichen KI-Nutzung differenziert zu bestimmen, welche Fähigkeiten, Kenntnisse und Fertigkeiten eine bestimmte Zielgruppe erwerben muss, um die Anforderungen der KI-VO rechtssicher, wirksam und verantwortungsvoll zu erfüllen.

Die Kompetenzbedarfsanalyse ist stets im Lichte der konkreten fachlichen und organisator­ischen Einbindung des KI-Systems zu interpretieren. Am Ende der Analyse steht ein zielgrup­pen­spezifisches Kompetenzprofil, das als Grundlage für die konkrete Gestaltung der Schulung dient.

Die Kompetenzbedarfsanalyse stellt das notwendige Bindeglied zwischen der technischen Realität des KI-Einsatzes und der Ausgestaltung konkreter Schulungsmaß­nahmen dar. Sie dient der feststellenden Bewertung, ob die jeweilige Zielgruppe über die erforderlichen Kompetenzen verfügt, um mit einem bestimmten KI-System sachgerecht und rechtstreu umzugehen – oder ob entsprechende Qualifizierungsmaßnahmen erforderlich sind.

Diese Bedarfsanalyse ist rechtlich geboten, insbesondere im Lichte von Art. 4 und Art. 14 KI-VO, wonach Anbieter und Betreiber sicherstellen müssen, dass die mit der Überwachung oder Anwendung von Hochrisiko-KI-Systemen betrauten Personen ausreichend qualifiziert und unterwiesen sind.

Besonderes Augenmerk ist auf Hochrisiko-KI-Systeme im Sinne von Art. 6 KI-VO zu richten. Der Kompetenzbedarf ist hier regelmäßig höher, da:

• der Grad der Autonomie und Entscheidungsrelevanz des Systems steigt,
• die rechtlichen Implikationen für Betroffene schwerwiegender sind (Grundrechte, Zugang zu Leistungen etc.),
• ein erhöhtes Maß an menschlicher Aufsicht gesetzlich gefordert wird.

Entsprechend müssen Schulungskonzepte bei Hochrisiko-Systemen nicht nur breiter, sondern auch vertiefter ausgestaltet sein – etwa im Hinblick auf ethische Abwägungen, Eingriffsrechte, Auditierbarkeit und die Rolle menschlicher Kontrolle.
Die Kompetenzbedarfsanalyse erfolgt idealerweise in einem dreistufigen Verfahren:

1. Analyse der Zielgruppen, Nutzerrolle und Aufgabenstellung

• Wer zählt zu der Zielgruppe?
• Welche konkreten Handlungen nimmt die Zielgruppe im Umgang mit dem KI-System vor?
• Welche (Mit-)Entscheidungen, Kontrollen oder Eingriffe sind erforderlich?
• Inwieweit ist menschliche Aufsicht gem. Art. 14 KI-VO erforderlich?

2. Analyse der eingesetzten KI-Systeme und Tools

• aus Stufe III hervorgehende Informationen: konkrete Systeme, Einsatzbereiche, Interaktionsschnittstellen
• Klassifikation nach Risiko, Transparenzanforderungen und Einfluss auf Entscheidungen

3. Abgleich mit vorhandenen Kompetenzen

• aus Stufe II hervorgehende Informationen
• Erhebung des Ist-Zustands durch Befragungen, Interviews, Kompetenzraster
• Gegenüberstellung mit den Soll-Kompetenzen auf Basis regulatorischer und technischer Anforderungen
• Feststellung von Qualifikationslücken

Kompetenzbedarfsanalyse