Wie aus zu viel Schreibarbeit ein KI-Assistent wurde

Erst das Genogramm, dann der Aktenstapel

Als ich anfing, Soziale Arbeit zu studieren, hatte ich ein ziemlich klares Bild davon, was mich in der Praxis erwartet. Kollegiale Fallberatung. Zirkuläre Fragen. Motivierende Gesprächsführung. Gemeinsam mit Klient:innen eine Netzwerkkarte oder ein Genogramm zeichnen und dabei sehen, wie sich der Blick auf die eigene Lage verschiebt.

Heute arbeite ich in der Wohnungslosen- und Straffälligenhilfe. Es gibt sie dort, diese Techniken. Nur komme ich unter Zeitdruck kaum noch dazu, sie tatsächlich anzuwenden. Dass ich die Arbeit trotzdem immer noch gerne mache, liegt an meinen Klient:innen und an meinen Kolleg:innen. Denn daneben steht etwas, das im Studium erstaunlich wenig vorkam: sehr viel Verwaltung. Dokumentationen nach jedem Kontakt. Formulare ausfüllen für Klient:innen. Anträge stellen, Hilfebedarfsermittlungen für den Kostenträger. Stellungnahmen für die Suchthilfe. Hilfepläne, Zwischenberichte, Abschlussberichte.

Ich schreibe gern. Das ist nicht das Problem. Wer in diesem Beruf arbeitet, kann meistens formulieren, und ein guter Bericht ist selbst ein Stück fachliche Arbeit. Man muss verstanden haben, worum es geht, um es aufschreiben zu können.

Das Problem ist ein anderes.

Immer wieder dieselben Sätze

In der Praxis wiederholen sich die Elemente. Immer und immer wieder.

Die Wohnsituation beschreibe ich in diesem Jahr zum dritten Mal in fast identischer Form. Einmal für den Kostenträger, einmal für die Bewährungshilfe und einmal für die interne Dokumentation. Der Absatz zur Zusammenarbeit mit der Suchthilfe unterscheidet sich zwischen zwei Klient:innen in drei Details. Die Stichpunkte vom Gespräch heute Morgen übersetze ich abends in ganze Sätze.

Nichts davon ist anspruchsvoll. Alles davon kostet Zeit, und zwar genau die Zeit, die hinterher bei den Klient:innen fehlt. Irgendwann habe ich angefangen, mich zu fragen: Wie löst man das eigentlich?

Was die Verwaltungssoftware löst und was nicht

Die naheliegende Antwort wäre: Dafür gibt es doch Software.

Gibt es. Und sie löst das Problem, für das sie gebaut wurde. Klient:innen werden als Datensätze angelegt, Dokumente und Dokumentationen dort hochgeladen und wiedergefunden. Manche Systeme können mehr, etwa Zeiterfassung, Fahrtenbuch oder Medikamentenausgabe. Das ist alles nützlich und ohne diese Systeme wäre die Arbeit schlechter organisiert.

Nur lösen sie die Ablage und nicht das Schreiben. Der Bericht muss immer noch Wort für Wort von Hand entstehen, die Stichpunkte werden immer noch abends von Hand in Fließtext übersetzt, und der Absatz über die Wohnsituation wird zum dritten Mal neu formuliert. Die Software weiß, wo der letzte Bericht liegt. Sie hilft nicht beim nächsten.

Daraus wurde die Frage, aus der Robin entstanden ist: Lässt sich Künstliche Intelligenz nutzen, um diese wiederkehrenden, zeitraubenden Tätigkeiten abzukürzen?

So ist Robin entstanden

Robin ist unser KI-Assistent für die Soziale Arbeit. Er richtet sich an Fachkräfte von sozialen Trägern.

Am Anfang waren wir ziemlich beeindruckt von dem, was er hinbekommt. Berichte erstellen. Anträge ausfüllen. Stichpunkte aus der Dokumentation in Fließtext umwandeln. Wissen aus der eigenen Wissensbibliothek wiedergeben, statt es in drei Ordnern zu suchen. Dinge, für die ich abends eine Stunde gebraucht habe, waren plötzlich in wenigen Minuten in einer Form, die ich nur noch prüfen und anpassen musste.

Es hätte an dieser Stelle eine schöne Geschichte werden können. Problem erkannt, Werkzeug gebaut, Feierabend früher.

Dann habe ich angefangen zu lesen.

Was in der Literatur stand

Zuerst allgemein zu den Vor- und Nachteilen von KI, dann gezielt zur Sozialen Arbeit. Wir haben die deutschsprachige Fachliteratur zu KI und Sozialer Arbeit systematisch ausgewertet und dabei einiges gefunden, das die anfängliche Begeisterung gedämpft hat. Nicht, weil KI in der Sozialen Arbeit nichts verloren hätte, sondern weil manches, was ein KI-Assistent tut, unauffälliger wirkt, als es ist.

Dass KI hier entlasten kann, bestreitet in der Fachdebatte kaum noch jemand. Schon 2021 hielt ein Beitrag in der neuen caritas fest, der Einsatz von KI-Systemen in den Handlungsfeldern der Sozialen Arbeit sei „nicht mehr eine Frage nach dem ‚Ob', sondern nach dem ‚Wie'". Transparenz und Nachvollziehbarkeit müssten dabei von Anfang an berücksichtigt werden (Stieler u. a. 2021).

Herausgekommen sind zwei Listen. Beide sind belegt und beide gehören zusammen.

Was KI tatsächlich leistet

Entlastung bei administrativen Routinen. An diesem Punkt ist die Fachliteratur bemerkenswert einig. KI-Systeme können Fachkräfte „bei administrativen Routinetätigkeiten entlasten", und das schafft „im besten Fall mehr Zeit für die Arbeit mit Klient:innen" (Linnemann/Löhe/Rottkemper 2025, S. 13). Im direkten Kontakt mit Adressat:innen stößt der Einsatz dagegen an Grenzen, weil das induktive Vorgehen solcher Systeme dem fachlichen Anspruch Sozialer Arbeit nicht genügt, der „auf der Achtung der Menschenwürde und dem Verstehen individueller Lebenslagen basiert" (ebd.). Dennis Wittmer kommt am Ende seiner Leitlinien für die Soziale Arbeit zu dem Schluss, das Potenzial sei „eindeutig gegeben, selbst wenn es sich nur um die KI-gestützte Transkription von Gesprächen und deren anschießende [sic] Dokumentation handelt" (Wittmer 2026, S. 39).

Ein deutscher Praxisversuch. Im Forschungsprojekt KAIMo wurde eine KI-Assistenz für den Kinderschutz entwickelt und von 20 Fachkräften bayerischer Jugendämter getestet. Sie berechnet bewusst keinen Gefährdungswert und spricht keine Empfehlungen aus, sondern bereitet die Fallakte auf. Die Fachkräfte beschrieben sie als „sehr gutes Werkzeug, um die eigenen Gedanken zu sortieren", und nutzten sie vor allem dann, wenn im Team unterschiedliche Sichtweisen bestanden (Burghardt u. a. 2024, S. 305). Aufschlussreich ist die Zeitbilanz: Beim Aufbereiten sah das Projekt „das Potenzial einer erheblichen Zeitersparnis", die Beratung selbst dauerte dagegen länger als üblich, was die Fachkräfte als Mehrwert bewerteten (ebd., S. 306). Zeit wird also nicht an der Urteilsbildung gespart, sondern davor (ebd., S. 305).

Nichtnutzung ist keine neutrale Option. Dieses Argument geht in der Debatte oft unter. Für Marc Weinhardt stellt der Gebrauch der digitalen Kräfte „eine Professionalisierungsaufgabe dar, der sich die Sozialpädagogik stellen muss" (Weinhardt 2022, S. 114 f.). Eine „Kultur des lernenden Umgangs mit lernenden Maschinen" bedeutet für ihn allerdings, dass Soziale Arbeit sich nicht damit zufriedengeben kann, algorithmische Unterstützung „lediglich manageriell als verordnete Digitalisierung in Form einer Innovationsstrategie einzuführen" (ebd., S. 115). Dazu gehört die curriculare Verankerung von Grundkenntnissen über Algorithmen und der „Reflexionskompetenz zur Beurteilung ihres Einsatzes" (ebd., S. 116).

Wo es kritisch wird

Automation Bias und der Befund, der die Intuition umdreht. Menschen übernehmen Vorschläge automatisierter Systeme auch dann, wenn sie sie nicht vollständig verstehen. Ein aktuelles Whitepaper aus der Human-Factors-Forschung bündelt 25 Jahre Empirie dazu und kommt zu einem unbequemen Schluss: Automation Bias entsteht „also nicht trotz hoher KI-Zuverlässigkeit, sondern gerade wegen ihr" (Karrer-Gauß u. a. 2026, S. 3). Ein System, das fast immer gute Arbeit liefert, trainiert die Prüfung ab.

In Metaanalysen folgt medizinisches Fachpersonal in etwa 6 bis 11 % der Fälle einer Fehlempfehlung klinischer Entscheidungsunterstützungssysteme und revidiert dabei die eigene, zuvor richtige Einschätzung (Karrer-Gauß u. a. 2026, S. 3, mit Verweis auf Goddard u. a. 2011 und Mosier/Manzey 2019). Der Effekt betrifft erfahrene Fachleute ebenso wie unerfahrene. Für uns bedeutet dieser Befund etwas Unangenehmes: Je zuverlässiger Robin arbeitet, desto größer wird die Gefahr, dass seine Vorschläge ungeprüft übernommen werden.

Der Fehler, den niemand sieht. Die Forschung unterscheidet zwei Fehlerarten (Karrer-Gauß u. a. 2026, S. 2). Kommissionsfehler, bei denen man einer fehlerhaften Empfehlung folgt, und Auslassungsfehler, bei denen man eigene Überprüfungen unterlässt, weil das System keine Warnung gibt. Der zweite Typ ist der gefährlichere, weil er im Nachhinein kaum rekonstruierbar ist. „Die Suche hat nichts gefunden" ist eben nicht dasselbe wie „es gibt nichts".

Deprofessionalisierung läuft über Verantwortung, nicht über Ersetzung. Nadia Kutscher beschreibt am Beispiel von Software zur Gefährdungseinschätzung im Allgemeinen Sozialen Dienst, dass diese auch „der rechtlichen Absicherung der Fachkräfte" dient: Sie bilde „eine externalisierte ‚objektive' Instanz, die die Entscheidungsverantwortung nicht allein bei der einzelnen Fachkraft ansiedelt, sondern eine entlastende Funktion einnimmt" (Kutscher 2017, S. 20). Lukas Neuhaus und Roland Becker-Lenz benennen die Folge: „Es ist anders gesagt schwierig geworden, sich im Zweifelsfall gegen die Vorschläge bzw. Einschätzungen der Maschine zu entscheiden" (Neuhaus/Becker-Lenz 2026, S. 377). Niemand wird ersetzt. Aber die Verantwortung verschiebt sich, ohne dass jemand das je entschieden hätte.

Kutscher stellt an derselben Stelle allerdings auch den Gegenbefund daneben. Pascal Bastian und Mark Schrödter halten fest, dass Software zur Risikoeinschätzung „nicht zwangsläufig zu einem Rückgang – im Sinne einer Deprofessionalisierung –, sondern sogar zu einer Fokussierung des professionellen Ermessensspielraumes führen kann" (Bastian/Schrödter 2015, S. 193, zit. n. Kutscher 2017, S. 20). Ob ein System die Fachlichkeit schwächt oder schärft, entscheidet sich also nicht an der Technik allein.

Deskilling ist mehr als eine Befürchtung. Aus der Medizin liegt inzwischen ein messbarer Befund vor: Die Polypen-Erkennungsrate von Ärzt:innen sinkt nach längerer KI-Nutzung (Toussaint 2026). Für die Soziale Arbeit fehlt eine vergleichbare Untersuchung noch. Die Richtung ist trotzdem ernst zu nehmen.

Verzerrungen stecken in den eigenen Akten. Evaluationen des US-amerikanischen „Allegheny Family Screening Tool" zeigten, dass das Modell „Armut mit schlechter Elternschaft gleichsetzt", weil im Datensatz „vor allem Familien aus sozioökonomisch prekären Verhältnissen überrepräsentiert sind" (Eubanks 2018, zit. n. Burghardt u. a. 2024, S. 303). KAIMo zieht die Konsequenz für Deutschland nüchtern: Es sei „stark davon auszugehen, dass auch in unseren Fallakten Menschengruppen statistisch überrepräsentiert sein werden" (ebd.). Sensible Merkmale einfach wegzulassen genügt dagegen nicht, denn indirekte Diskriminierung funktioniert auch über Umwege. In meinem Arbeitsfeld ist das keine abstrakte Sorge. Wohnungslosigkeit und Straffälligkeit sind genau die Merkmale, über die in Akten seit jeher am schnellsten geurteilt wird.

Sprachmodelle irren und das lässt sich nicht wegtechnisieren. Die Wissenschaftlichen Dienste des Bundestages halten fest: „Es existieren derzeit keine verlässlichen, umfassend wirksamen Methoden zur vollständigen Eliminierung von Halluzinationen" (Deutscher Bundestag 2025, S. 35). Für einen Dokumentationsassistenten ist dabei nicht die Faktentreue gegenüber der Welt das Hauptproblem, sondern die Treue zum vorliegenden Material. Eine Zusammenfassung, die etwas behauptet, das so nicht in der Akte steht, ist ein Aktenfehler mit Folgen für einen Menschen und sie sieht sprachlich einwandfrei aus.

Ethik lässt sich nicht algorithmisieren. Die Übersetzung ethischer Abwägung in einen Algorithmus ist „aufgrund der Kontextualität und Komplexität von Wertentscheidungen auch mit den neuen KI-Modellen nur unzureichend möglich" (Burghardt u. a. 2024, S. 302). Heutige Modelle „reproduzieren […] die Wertebereiche der Fachkräfte, kalkulieren Grenzwerte und optimieren Schwellenwerte", können sich aber „in kein normativ-wollendes Verhältnis zu moralischen Werten setzen" (ebd.).

Und der Preis der Standardisierung. Der Deutsche Ethikrat benennt, was dabei fachlich verloren gehen kann. Der Einsatz standardisierter Erfassung von Hilfebedarfen birgt „das Risiko der Entkopplung aus einer dialogischen Beziehungsarbeit, jedenfalls dann, wenn nicht explizit dialogische Konzepte weiterhin vorgesehen bleiben". Denn der Hilfebedarf „erschließt sich nicht allein aus objektiven Tatbestandsmerkmalen, sondern muss aus fachlichen Gründen die subjektive Perspektive der hilfebedürftigen Person auf die eigene Lebenslage einbeziehen" (Deutscher Ethikrat 2023, S. 317).

Was heißt das jetzt für Robin?

Ehrlich gesagt: Diese Liste hat uns eine Weile beschäftigt. Ein Teil von dem, was Robin am Anfang konnte, sah nach dem Lesen anders aus als vorher.

Aufgehört haben wir trotzdem nicht, und zwar aus dem Grund, den Weinhardt nennt. Nicht zu nutzen ist keine neutrale Entscheidung und wenn die Soziale Arbeit sich nicht selbst damit befasst, bleibt das Feld denen überlassen, die keine Fachlichkeit im Blick haben. Aber wir haben angefangen, anders zu bauen. Aus der Literaturauswertung sind rote Linien geworden, ein internes Manifest und ein Prüfverfahren, das jede neue Funktion durchlaufen muss.

Was genau daraus geworden ist, welche sechs Bedingungen sich aus der Forschung ableiten lassen, welche Funktionen wir gestrichen haben und warum bei uns nicht das Abweichen von einem Vorschlag begründungspflichtig ist, sondern das Folgen, das folgt in meinem zweiten Blogeintrag.

Der Maßstab ist dabei derselbe geblieben wie beim dritten Bericht über dieselbe Wohnsituation. Es geht nicht darum, was technisch geht. Es geht darum, ob am Ende mehr Zeit für die Menschen bleibt, für die wir den Beruf gewählt haben.

Quellen

• Burghardt, Jennifer / Lehmann, Robert / Reder, Michael / Koska, Christopher / Kraus, Maximilian / Müller, Nicholas (2024): Kann Künstliche Intelligenz sozialarbeiterische Entscheidungsprozesse unterstützen? Ethik und digitale Operationalisierung im Feld der Kindeswohlgefährdung. In: unsere jugend 76 (7+8), S. 300 bis 310. DOI 10.2378/uj2024.art40d.
• Deutscher Bundestag, Wissenschaftliche Dienste, Fachbereich WD 5 (2025): Bias und Halluzinationen von KI-Systemen. Kategorien, Ursachen und Minimierungsstrategien. Aktenzeichen WD 5 3000 082/25, Abschluss der Arbeit 19.11.2025, 35 S. bundestag.de
• Deutscher Ethikrat (2023): Mensch und Maschine. Herausforderungen durch Künstliche Intelligenz. Stellungnahme vom 20. März 2023. Berlin: Deutscher Ethikrat, 403 S. (zitiert nach der 2. Auflage 2025). ethikrat.org
• Eubanks, Virginia (2018): Automating Inequality. How High-Tech Tools Profile, Police, and Punish the Poor. New York.
• Karrer-Gauß, Katja / Apel, Jens / Müller, Marius / Ehrenbrink, Patrick (2026): Automation Bias: Wenn der Mensch die KI nicht mehr kontrolliert. Berlin: VDI/VDE Innovation + Technik GmbH. vdivde-it.de
• Kutscher, Nadia (2017): Digitalisierung der Sozialen Arbeit. Entwicklungen, Herausforderungen und Perspektiven. In: merz | medien + erziehung 61 (4), S. 18 bis 25.
• Neuhaus, Lukas / Becker-Lenz, Roland (2026): Digitalisierung und professionelles Handeln. In: Kutscher, Nadia / Ley, Thomas / Seelmeyer, Udo / Siller, Friederike / Tillmann, Angela / Zorn, Isabel (Hrsg.): Handbuch Soziale Arbeit und Digitalisierung. 2., vollständig überarbeitete und erweiterte Auflage. Weinheim und Basel: Beltz Juventa, S. 368 bis 381. DOI 10.3262/978-3-7799-9028-4 (Open Access, CC BY-NC-ND 4.0).
• Linnemann, Gesa A. / Löhe, Julian / Rottkemper, Beate (2025): Einführung. In: dies. (Hrsg.): Künstliche Intelligenz in der Sozialen Arbeit. Grundlagen für Theorie und Praxis. Weinheim: Beltz Juventa, S. 9 bis 18, hier S. 13. DOI 10.3262/978-3-7799-8562-4_001 (Open Access).
• Stieler, Mara / Burghardt, Jennifer / Poltermann, Aleksandra / Dierks, Julisha / Lehmann, Robert (2021): Künstliche Intelligenz als Sozialarbeiterin. In: neue caritas, Heft 21/2021, veröffentlicht am 02.12.2021. caritas.de
• Toussaint, Philipp A. (2026): KI in der Medizin und Patientensicherheit. Interview, healthcare-in-europe.com, 15.06.2026.
• Weinhardt, Marc (2022): Algorithmen und professionelles Handeln in der Sozialpädagogik. Das Beispiel Kinderschutz. In: Diebel-Fischer, Hermann / Hellmig, Lutz / Tischler, Maya (Hrsg.): Technik und Verantwortung im Zeitalter der Digitalisierung. Beiträge zur Ringvorlesung im Wintersemester 2020/2021. Rostock: Universität Rostock, S. 103 bis 122.
• Wittmer, Dennis (2026): Ethische und rechtliche Dimensionen des Einsatzes von KI-Technologie in der Sozialen Arbeit und Leitlinien zur informierten Einwilligung der Klientel. In: DiMe-Sozial 2 (1), S. 21 bis 43.