KI in der Sozialen Arbeit: was der Datenschutz erlaubt und was nicht

Nils Rieter · Gründer von Lotsana, IT-Unternehmer aus dem Raum Köln. Baut Fachsoftware für ambulante soziale Dienste und schreibt hier über die Praxis dahinter.

In vielen Teams passiert es längst: Der Verlaufsbericht entsteht abends mit ChatGPT, der Klientenname wird halbherzig durch „K." ersetzt. Verständlich, denn die Doku-Last ist real. Und trotzdem ist genau das die Datenschutzverletzung, die Träger den Kopf kosten kann. Hier ist der ehrliche Stand: was geht, was nicht, und wie es richtig geht.

Stand: Juli 2026. Grundlage: DSK-Orientierungshilfe „KI und Datenschutz" (2024) plus Folgepapiere (2025), Checkliste des Hamburger Datenschutzbeauftragten, EU AI Act. Keine Rechtsberatung.

Warum eure Daten die höchste Schutzstufe haben

Falldaten sozialer Träger sind fast immer Gesundheits- und Sozialdaten, also besondere Kategorien nach Art. 9 DSGVO, mit dem strengsten Schutzniveau. Dazu reichen Leistungsvereinbarungen die Standards des Sozialdatenschutzes (§ 35 SGB I, §§ 67 ff. SGB X) vertraglich an freie Träger durch, in der Jugendhilfe verschärft durch den besonderen Vertrauensschutz des § 65 SGB VIII. Kurz: Was ein Onlineshop mit Kundendaten darf, ist für euch noch lange nicht erlaubt.

Die drei Regeln der Aufsichtsbehörden

Die Datenschutzkonferenz und einzelne Landesbehörden (besonders praxisnah: die Hamburger Checkliste für LLM-Chatbots) laufen auf drei Kernregeln hinaus:

Keine personenbezogenen Daten in öffentliche KI-Dienste. Kostenlose Consumer-Versionen (ChatGPT Free/Plus privat angemeldet) sind für Falldaten tabu: kein Auftragsverarbeitungsvertrag, keine Kontrolle über die Weiterverarbeitung.
Wenn KI mit Personenbezug, dann mit Vertrag und Kontrolle: AVV nach Art. 28 DSGVO (nur Business-/Enterprise-Angebote bieten das), kein Training mit euren Daten, geregelte Speicherfristen, dokumentierte Risikoabwägung, bei Sozialdaten regelmäßig eine Datenschutz-Folgenabschätzung.
Vorher anonymisieren ist der Königsweg. Und zwar echt: „K., 14, Autismus, Förderschule in Kleinstadt X" ist re-identifizierbar. Anonymisierung heißt, dass auch die Kombination der Merkmale keinen Rückschluss erlaubt.

Was der EU AI Act von euch als Anwender verlangt

Seit Februar 2025: KI-Kompetenz (Art. 4). Wer KI einsetzt, muss sein Personal schulen, auch wenn nur ChatGPT für Textentwürfe genutzt wird. Eine dokumentierte Team-Schulung erfüllt das.
Ab August 2026: Transparenzpflichten (Art. 50). KI-generierte Inhalte und Chatbots müssen als solche erkennbar sein.
Vorsicht bei Hochrisiko-Anwendungen: KI, die über Leistungsansprüche mitentscheidet oder Menschen bewertet, kann unter die Hochrisiko-Regeln fallen. Textentwurf-Hilfe ist das nicht, automatisierte Fallbewertung schon eher. Die Grenze im Blick behalten.

Der Praxis-Pfad: so nutzt ihr KI sauber

Verbietet nicht, regelt: Ein KI-Verbot treibt die Nutzung in die Privathandys. Eine kurze KI-Richtlinie (was ist erlaubt, womit, was nie) plus Schulung ist wirksamer und erfüllt nebenbei Art. 4.
Gebt ein erlaubtes Werkzeug: ein Dienst mit AVV, ohne Training auf euren Daten, idealerweise mit Anonymisierung vor dem Versand. Dann hat niemand einen Grund für Schatten-KI.
Anonymisierung automatisieren statt hoffen: Namen, Adressen, Geburtsdaten sollten maschinell ersetzt werden, bevor irgendetwas an ein Modell geht. Menschen vergessen das abends um zehn.
Mensch bleibt verantwortlich: KI liefert Entwürfe, die Fachkraft prüft und verantwortet. Das gehört in die Richtlinie und in jede Team-Schulung.
Dokumentiert die Entscheidung: Welches Tool, welche Rechtsgrundlage, welche Schutzmaßnahmen. Diese eine Seite ist es, wonach eine Aufsichtsbehörde zuerst fragt.

Ehrlich gesagt: die offenen Fragen

Ob große Sprachmodelle selbst personenbezogene Daten „speichern", ist zwischen den Behörden umstritten (Hamburg sagt tendenziell nein, andere widersprechen). Die Übermittlung in die USA ist über das Data Privacy Framework abgesichert, steht aber politisch unter Beobachtung. Und eine spezielle Aufsichts-Position zu „KI mit Sozialdaten" existiert noch nicht. Wer heute die drei Kernregeln einhält, fährt in jedem dieser Szenarien richtig.

Bevor bei euch KI mit Klientendaten arbeitet, gehört eine Datenschutz-Folgenabschätzung dazu – KI-Einsatz ist ein klassischer DSFA-Anlass. Das kostenlose DSFA-Muster für soziale Träger nimmt dir das leere Blatt ab (Arbeitshilfe, keine Rechtsberatung). Ehrlicher Hinweis: Bild-Funktionen wie eine Beleg-Erkennung lassen sich technisch nicht anonymisieren – solche Funktionen gehören standardmäßig aus und vom Träger bewusst freigeschaltet.

Weiterlesen

Stand: 7. Juli 2026. Dieser Artikel ist keine Rechts- oder Steuerberatung. Rechtslage in Bewegung (EU AI Act stufenweise bis 2027, Aufsichts-Positionen in Entwicklung); keine Rechtsberatung.