ChatGPT in der Sozialen Arbeit: Was mit Sozialdaten erlaubt ist

Die Realität: Teams nutzen es schon

Eine Befragung der Berner Fachhochschule unter 282 Fachpersonen der Sozialen Arbeit in der Schweiz (April bis Juli 2026, keine repräsentative Stichprobe) ergab: 44 Prozent nutzen KI gelegentlich, 37 Prozent regelmäßig – am häufigsten kostenlose Internet-Chatbots. Eine weitere BFH-Veröffentlichung beschreibt, dass Fachkräfte für Aktennotizen auf nicht freigegebene KI-Werkzeuge und Diktier-Apps auf privaten Geräten zurückgreifen, also auf Schatten-IT.

Für deutsche Träger gibt es wenig belastbare Zahlen, aber wenig Grund zur Annahme, dass es hier anders ist. Die Motive sind nachvollziehbar: Dokumentation kostet Zeit, und ein Chatbot formuliert schnell. Das Problem liegt nicht in der Absicht, sondern darin, welche Daten dabei wohin gelangen.

Warum Falldaten in öffentliche Chatbots tabu sind

Wer eine Fallnotiz mit Namen, Alter, Schule oder Familienkonstellation in einen öffentlichen Chatbot kopiert, übermittelt personenbezogene Daten an ein fremdes Unternehmen. Mehrere Regeln stehen dem entgegen:

• Kein Vertrag zur Auftragsverarbeitung: Ein Dienstleister darf personenbezogene Daten im Auftrag nur auf Grundlage eines Vertrags nach Art. 28 DSGVO verarbeiten. Mit einem privaten Konto schließt der Träger keinen solchen Vertrag.
• Zweck und Speicherung beim Anbieter: Bei Verbraucher-Versionen öffentlicher Chatbots können Eingaben je nach Einstellung gespeichert und für die Weiterentwicklung der Modelle genutzt werden. Der Träger verliert damit die Kontrolle über die Daten.
• Besondere Kategorien: Falldaten enthalten oft Gesundheitsdaten oder Angaben zum Sexualleben, die nach Art. 9 DSGVO besonders geschützt sind.
• Schweigepflicht: Für staatlich anerkannte Sozialarbeiter:innen und Sozialpädagog:innen kann die Eingabe ein unbefugtes Offenbaren nach § 203 StGB sein.
• Sozialgeheimnis und Vertrauensschutz: Das Sozialgeheimnis nach § 35 SGB I und der besondere Schutz anvertrauter Daten nach § 65 SGB VIII gelten über § 61 Abs. 3 SGB VIII in entsprechender Weise auch für freie Träger.
• Drittland: Viele Anbieter verarbeiten Daten auch außerhalb der EU; dafür gelten zusätzliche Anforderungen.

Reicht Anonymisieren?

Die naheliegende Idee: Namen weglassen, dann ist es anonym. Leider ist das in der Jugendhilfe selten so. Anonym im Sinne der DSGVO sind Daten erst, wenn sich die Person mit vernünftigem Aufwand nicht mehr identifizieren lässt. Wer „Familie mit drei Kindern, Vater seit März in Haft, älteste Tochter (14) besucht die einzige Gesamtschule im Ort“ schreibt, hat keinen Namen genannt – im Landkreis weiß trotzdem mancher, um wen es geht.

Ersetzen Sie Namen durch Platzhalter, sind die Daten pseudonymisiert, nicht anonymisiert. Pseudonymisierte Daten bleiben personenbezogen, die DSGVO gilt weiter. Pseudonymisierung senkt das Risiko, ersetzt aber weder Vertrag noch Rechtsgrundlage.

Erlaubte Nutzung ohne Personenbezug

Öffentliche KI-Werkzeuge sind nicht grundsätzlich verboten – nur nicht für Falldaten. Ohne jeden Personenbezug können sie in der Arbeit durchaus helfen, sofern der Träger ihre Nutzung erlaubt:

• Methoden und Ideen: „Welche Methoden eignen sich, um mit Jugendlichen über Zukunftsplanung zu sprechen?“
• Vorlagen: eine Gliederung für einen Elternabend oder ein Gruppenangebot.
• Formulierungshilfen ohne Fallbezug: „Formuliere wertschätzende Alternativen zu ‚unzuverlässig‘.“
• Leichte Sprache für allgemeine Informationen, etwa eine Erklärung, was ein Hilfeplangespräch ist.
• Recherche als Einstieg – mit Prüfung jeder Aussage an einer verlässlichen Quelle.

Wenn Falldaten schon im Chatbot gelandet sind

Ist es bereits passiert, hilft kein Verschweigen. Eine Eingabe von Falldaten in einen nicht freigegebenen Dienst kann eine Datenschutzverletzung sein. Ob sie meldepflichtig ist, beurteilt der Träger als Verantwortlicher – nach Art. 33 DSGVO muss eine meldepflichtige Verletzung unverzüglich und möglichst binnen 72 Stunden der Aufsichtsbehörde gemeldet werden. Gehen Sie deshalb so vor:

1. 1Leitung und Datenschutzbeauftragte sofort informieren – je früher, desto mehr Handlungsspielraum.
2. 2Festhalten, welche Daten wann in welchen Dienst gelangt sind und mit welchem Konto.
3. 3Soweit möglich den Verlauf im Dienst löschen und die Nutzung der Eingaben für Training in den Einstellungen abschalten.
4. 4Die Datenschutzbeauftragte oder der Datenschutzbeauftragte prüft das Risiko und eine mögliche Meldung an die Aufsichtsbehörde und gegebenenfalls die Information der Betroffenen.
5. 5Im Team ohne Schuldzuweisung besprechen, warum es passiert ist – meist fehlt ein freigegebenes Werkzeug oder eine klare Regel.

Muster-Richtlinie für freie Träger

Ein Verbot ohne Alternative verlagert die Nutzung in die Unsichtbarkeit. Die Datenschutzkonferenz empfiehlt Verantwortlichen, interne Regeln zu treffen, betriebliche statt privater Konten bereitzustellen und Beschäftigte zu sensibilisieren. Die folgenden zehn Regeln sind ein Ausgangspunkt – passen Sie sie mit Ihrer oder Ihrem Datenschutzbeauftragten und der Mitarbeitervertretung an. Eine Druckfassung finden Sie am Ende des Artikels.

1. 1Für Falldaten sind nur die vom Träger freigegebenen Werkzeuge erlaubt; die Liste führt die Leitung.
2. 2In nicht freigegebene KI-Werkzeuge gelangen keine Namen, Adressen, Geburtsdaten, Fallnummern oder Fallschilderungen – auch nicht ohne Namen.
3. 3Als anvertraut nach § 65 SGB VIII geltende Inhalte werden in keine KI eingegeben.
4. 4Für dienstliche Zwecke werden keine privaten Konten oder Geräte genutzt.
5. 5Gespräche mit Familien werden nicht aufgezeichnet; dokumentiert wird nach dem Termin.
6. 6Jeder KI-Text wird vor der Verwendung vollständig geprüft; die Verantwortung bleibt bei der Fachkraft.
7. 7Fachliche Einschätzungen, Gefährdungseinschätzungen und Empfehlungen schreibt immer ein Mensch.
8. 8Fakten aus KI-Antworten werden an verlässlichen Quellen geprüft.
9. 9Fragen und Unsicherheiten gehen an Leitung oder Datenschutzbeauftragte, nicht an den Chatbot.
10. 10Die Richtlinie wird jährlich und bei neuen Werkzeugen überprüft; neue Mitarbeitende werden eingewiesen.

Die Alternative: Fachsoftware mit Vertrag und Freigabe

Der Bedarf hinter der Schatten-IT ist echt: Fachkräfte wollen schneller dokumentieren. Die nachhaltige Lösung ist ein Werkzeug, das diesen Bedarf innerhalb der rechtlichen Grenzen erfüllt. Prüfen Sie dabei: Gibt es einen Vertrag zur Auftragsverarbeitung mit benannten Unterauftragsverarbeitern? Werden Ihre Daten zum Training verwendet? Muss jeder Entwurf freigegeben werden? Sind anvertraute Inhalte ausgeschlossen? Ist nachvollziehbar, woher jeder Satz stammt? Einen ausführlichen Überblick zu Chancen, Grenzen und Rechtsrahmen gibt der Artikel KI in der Sozialen Arbeit.

In Ormisi diktieren Fachkräfte nach dem Termin, die KI erstellt einen Entwurf, und jeder KI-Entwurf braucht die Freigabe der Fachkraft. Die Verarbeitung läuft über Auftragsverarbeiter mit AV-Vertrag, wir verwenden Ihre Daten nicht zum Training von KI-Modellen, und als anvertraut gekennzeichnete Inhalte (§ 65 SGB VIII) werden nicht von der KI verarbeitet.

Grundlagen zum Umgang mit Sozialdaten bei freien Trägern erklärt der Artikel Sozialdatenschutz in der Jugendhilfe.