Glossar · Art. 4 KI-Verordnung (VO (EU) 2024/1689)
KI-Kompetenz
Pflicht von Anbietern und Betreibern von KI-Systemen nach Art. 4 KI-Verordnung, für ausreichende KI-Kenntnisse ihres Personals zu sorgen.
Was bedeutet „KI-Kompetenz“?
Art. 4 der europäischen KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung, der Einsatzkontext und die Personen zu berücksichtigen, bei denen die KI eingesetzt wird. Die Pflicht gilt seit Februar 2025.
Ein freier Träger, der etwa KI-gestützte Berichtsentwürfe oder Spracheingabe nutzt, ist Betreiber in diesem Sinn. KI-Kompetenz heißt hier vor allem: Fachkräfte wissen, was die KI kann und was nicht, prüfen jeden Entwurf, erkennen Fehler und erfundene Inhalte, geben keine Daten in ungeeignete Dienste ein und kennen die internen Regeln. Eine dokumentierte Einweisung und eine schriftliche Nutzungsrichtlinie sind ein sinnvoller Nachweis. Ob und wie die Pflicht durch spätere Änderungen der KI-Verordnung angepasst wird, sollten Träger im Blick behalten.
Auch: AI Literacy, Art. 4 KI-VO
„KI-Kompetenz“ in der Praxis
- KI in der Sozialen Arbeit und Jugendhilfe: Chancen, Grenzen, Recht
KI in Sozialer Arbeit und Jugendhilfe: wo sie entlastet, wo nicht und was DSGVO, § 65 SGB VIII und KI-Verordnung verlangen – ein nüchterner Überblick.
- ChatGPT in der Sozialen Arbeit: Was mit Sozialdaten erlaubt ist
Dürfen Fachkräfte ChatGPT für Berichte nutzen? Sozialgeheimnis, § 203 StGB, Grenzen der Anonymisierung und eine Muster-Richtlinie für freie Träger.
- Dokumentieren per Spracheingabe: Diktiertechnik für die Jugendhilfe
Spracheingabe in der Jugendhilfe-Dokumentation: Diktat nach dem Termin statt Mitschnitt, Diktier-Struktur, Namen und Zahlen, Korrektur und Datenschutz.
Verwandte Begriffe
Quellen
- Art. 4 KI-Verordnung – KI-Kompetenz · artificialintelligenceact.eu