Wenn der Chatbot zum Prozessvertreter wird
Beim Jahrespressegespräch des Bundessozialgerichts in Kassel beschrieb Präsidentin Dr. Christine Fuchsloch einen Trend, der die Sozialgerichtsbarkeit zunehmend unter Druck setzt: Immer mehr Menschen reichen Schriftsätze ein, die mit Künstlicher Intelligenz erstellt wurden — häufig ohne anwaltliche Vertretung, weil es im Sozialrecht an Anwältinnen und Anwälten fehlt. Was sich zunächst nach einem Einzelphänomen anhört, erweist sich bei näherer Betrachtung als strukturelles Problem — eines, das exemplarisch zeigt, wohin gedankenloses KI-Vertrauen führt.
Die Klagen im einstweiligen Rechtsschutz sind bei den acht NRW-Sozialgerichten 2025 sprunghaft um mehr als 55 Prozent auf 7.615 Fälle gestiegen, wie der Präsident des Landessozialgerichts NRW, Jens Blüggel, auf der Jahrespressekonferenz in Essen mitteilte. Eine Ursache sei sicher auch, dass Kläger ohne anwaltliche Vertretung mit KI-Hilfe erstellte Schriftsätze einreichten — diese seien oft sehr lang und enthielten eine Vielzahl oft nicht zielführender Anträge sowie Verweise auf Rechtsprechung, die es teilweise gar nicht gebe. Es ist, kurz gesagt, die Slop-Falle im Gerichtssaal: plausibel klingende Texte ohne validen juristischen Kern.
Der Befund hat eine strukturelle Vorgeschichte. Immer mehr Menschen, die keinen Anwalt oder keine Anwältin finden — oder sich keinen leisten können — reichen KI-generierte Schriftsätze ein. Das Ergebnis sind unzulässige Anträge, halluzinierte Zitate und spürbarer Mehraufwand für die Justiz. Die Zahl der Fachanwältinnen und Fachanwälte für Sozialrecht ist laut BRAK-Statistiken seit Jahren rückläufig — Hauptursache ist die chronisch zu niedrige gesetzliche Vergütung in einem Rechtsgebiet, das von geringen Streitwerten geprägt ist.
Halluzinierte Urteile und 4.500-Seiten-Anträge
Die konkreten Auswirkungen auf den Justizalltag sind gravierend. Schriftsätze führen häufig zu sehr langen Texten, die sich wiederholen, den konkreten Einzelfall verfehlen, Klage und Eilantrag pauschal vermengen oder sogar falsche Fundstellen angeblicher Rechtsprechung enthalten. Ein Extremfall umfasste 4.500 Seiten Antragsbegründung. Für die Gerichte entsteht dadurch ein paradoxes Problem: Auch wenn ein Schriftsatz offenkundig aufgebläht ist, müssen Richterinnen und Richter den Inhalt prüfen und rechtlich einordnen.
Dieses Phänomen ist kein deutsches Spezifikum — es ist ein globaler Trend. Die umfassendste Datenbank zu KI-Halluzinationen in Gerichtsdokumenten wird von Damien Charlotin, einem Research Fellow am Smart Law Hub der HEC Paris, gepflegt. Als of Anfang 2026 hat sie 1.227 Fälle weltweit katalogisiert, in denen generative KI halluzinierte Inhalte in Gerichten eingebracht hat. Im Januar 2026 hatte die Datenbank noch 719 Einträge — in den folgenden drei Monaten wuchs sie um mehr als 500 Fälle, was einer Beschleunigung von etwa fünf bis sechs neuen dokumentierten Fällen pro Tag entspricht.
Das eigentliche Problem liegt in der Funktionsweise der Technologie. Halluzinationen sind der Art und Weise geschuldet, wie KI-Sprachmodelle funktionieren: Sie berechnen die wahrscheinlichste Fortsetzung eines Textes auf Basis riesiger Datenmengen — ohne wirklich überprüfen zu können, ob ein juristisches Zitat existiert oder korrekt ist. Wenn KI-Systeme nach Belegen gefragt werden, erfinden sie oft plausibel klingende, tatsächlich aber falsche Fundstellen. Für Laien ohne juristische Ausbildung ist diese Lücke zwischen Formulierungsqualität und inhaltlicher Korrektheit kaum zu erkennen — und genau darin besteht das Dual-Use-Dilemma dieser Technologie.
Die Spirale: KI klagt gegen KI
Auch in Baden-Württemberg berichtete der Präsident des Landessozialgerichts von einer wachsenden Nutzung von KI-Anwendungen durch Bürger und Rechtsanwälte. Diese könnten zwar bei der Strukturierung komplexer Sachverhalte helfen, führten jedoch häufig zu sehr umfangreichen oder ungenauen Schriftsätzen. Teilweise würden sogar nicht existierende Normen oder Gerichtsentscheidungen zitiert.
Die Reaktion der Justiz auf diesen Druck ist bemerkenswert und verweist auf eine weitere Dimension des Problems. Um die Rechtslage bei überlangen Schriftsätzen schneller bearbeiten zu können, testet die NRW-Sozialgerichtsbarkeit selbst KI-Lösungen — dafür bestehen aber äußerst strikte Datenschutzauflagen. Es entsteht also eine Spirale: KI produziert Slop, die Justiz bekämpft Slop mit KI. Welche Qualitätssicherung dabei greift, ist noch ungeklärt.
International ist die Lage bereits eskaliert. US-Gerichte haben zunehmend Anwälte für fabrizierte Zitate mit KI-Tools sanktioniert — allein im ersten Quartal 2026 wurden Strafen von über 145.000 US-Dollar verhängt. Ein Bundesgericht könnte dabei mit einer Anordnung einen neuen Rekord gesetzt haben, als ein Oregon-Anwalt 109.700 US-Dollar Strafe für KI-generierte Fehler zahlen musste. In Deutschland fehlen vergleichbare Sanktionsmechanismen noch weitgehend. Das deutsche Recht ist sehr viel zurückhaltender — es setzt auf Eigenverantwortung.
antislop ist eine Initiative von der pixologe, Dipl. Designer aus Königswinter.
Du möchtest dich zu diesem Thema austauschen oder brauchst Unterstützung bei deinen KI-Vorhaben? Ich freue mich über deine Nachricht.
Strukturversagen, kein Einzelfehler
Es wäre ein Fehler, diesen Trend allein als Technologieproblem zu betrachten. Dahinter steht ein Strukturversagen, das aus dem Zusammentreffen mehrerer Kräfte entsteht. Seit 2026 landen mehr Zivilverfahren ohne Anwalt vor dem Amtsgericht, immer öfter stammen die Schriftsätze aus der KI — das Ergebnis sind längere, sprachgewaltige Texte mit zweifelhafter Substanz, die Richter und Anwälte prüfen müssen.
Für Richterinnen und Richter entsteht daraus ein gravierendes, strukturelles Problem: Jede zitierte Entscheidung, jede behauptete Lehrmeinung muss überprüft werden. Diese Prüfung erfolgt derzeit selten automatisiert, sondern manuell. Was früher vielleicht eine schlanke Klage mit klarer Rechtsfrage war, wird nun nicht selten ein mehrseitiges Dokument mit zahlreichen Nebenaspekten.
Die Prognose ist düster. Für das Inkrafttreten der Bürgergeld-Reform zur neuen Grundsicherung zum 1. Juli rechnet das Landessozialgericht NRW mit weiteren Prozessen — Ansatzpunkte könnten die härteren Sanktionen bei Terminversäumnissen, die schärferen Kontrollen vorhandenen Vermögens und die Auflagen zur Angemessenheit der Wohnungen sein. Die NRW-Sozialgerichte haben für 2027 bereits größeren Personalbedarf angemeldet. Eine Symptombehandlung. Die Ursachen — Anwaltsmangel im Sozialrecht, fehlende KI-Regulierung, unkritisches Technologievertrauen — bleiben damit unbehandelt.
Wo juristische Präzision zählt, können automatisiert erzeugte Falschzitate schwerwiegende Folgen haben — und das nicht nur für den einzelnen Anwalt, sondern auch für das Vertrauen in die Rechtsstaatlichkeit. Das ist keine Randnotiz. Es ist ein Kernproblem, das die Frage aufwirft, ob KI-Tools überhaupt unbegleitet in einem Kontext eingesetzt werden sollten, in dem existenzsichernde Leistungen auf dem Spiel stehen.
Fazit
Der Gerichtssaal ist keine Beta-Umgebung. Wer mit einem KI-Chatbot eine Klage ums Bürgergeld formuliert, handelt nicht zwingend aus böser Absicht — oft aus Verzweiflung, weil kein Anwalt verfügbar oder bezahlbar ist. Doch der ungeprüfte Output eines Sprachmodells ist im Rechtskontext ein strukturelles Risiko: für den Klagenden selbst, der seinen Fall durch halluzinierte Zitate schwächt, und für die Justiz, die jeden dieser Schriftsätze sorgfältig prüfen muss.
Was wir brauchen, ist keine Abschottung der Justiz gegen KI — sondern drei Dinge gleichzeitig: faire Vergütungsstrukturen im Sozialrecht, damit wieder mehr Anwältinnen und Anwälte in diesem Bereich arbeiten; verbindliche Transparenzpflichten beim KI-Einsatz in Gerichtsverfahren; und eine Grundbildung darüber, was KI kann — und was nicht. Solange diese fehlen, wird die Slop-Falle im Gerichtssaal weitere Menschen schlechter stellen als ohne den Chatbot.
Häufige Fragen (FAQ)
Ist der Einsatz von KI für Gerichtsschriftsätze in Deutschland verboten?
Nein, KI-Tools dürfen grundsätzlich auch für Gerichtsschriftsätze genutzt werden. Entscheidend ist die Qualität und Korrektheit des eingereichten Textes. Das Amtsgericht Köln hat klargestellt, dass der Einsatz von KI Anwältinnen und Anwälte nicht von ihrer persönlichen Verantwortung für den Inhalt ihrer Schriftsätze entbindet.
Was sind KI-Halluzinationen im juristischen Kontext?
KI-Sprachmodelle generieren Texte, die plausibel klingen, aber inhaltlich falsch sein können. Im Rechtskontext bedeutet das: Das Modell erfindet Gerichtsurteile, Paragraphen oder Literaturnachweise, die schlicht nicht existieren. Richterinnen und Richter müssen diese dennoch manuell prüfen, was erheblichen Mehraufwand verursacht.
Warum nutzen Bürger KI statt eines Anwalts für Sozialrechtsklagen?
Der Hauptgrund ist der strukturelle Mangel an Fachanwältinnen und Fachanwälten im Sozialrecht. Die gesetzliche Vergütung in diesem Bereich ist seit Jahren zu niedrig, was dazu führt, dass immer weniger Kanzleien Mandate im Sozialrecht annehmen. Betroffene greifen daher auf frei verfügbare KI-Tools zurück, um sich selbst zu vertreten.
Welche Folgen haben KI-generierte Schriftsätze für das eigene Verfahren?
Fehlerhafte oder halluzinierte Schriftsätze können das eigene Verfahren erheblich schädigen. Falsche Zitatgrundlagen untergraben die Glaubwürdigkeit, unzulässige Anträge verlängern Verfahren, und das eigentliche Anliegen geht im Textvolumen verloren. Im schlechtesten Fall verliert man einen inhaltlich berechtigten Anspruch durch formale oder inhaltliche Fehler des Schriftsatzes.
Was fordern Fachleute als Reaktion auf diesen Trend?
Die Bundesrechtsanwaltskammer sieht eine umfassende gesellschaftliche Debatte über die Finanzierung des Rechtswesens als notwendig an. Gefordert werden faire Vergütungsstrukturen im Sozialrecht, angemessene Justizhaushalte und ein funktionierendes Prozesskostenhilfesystem. Daneben diskutieren Gerichte zunehmend verbindliche Transparenz- und Offenlegungspflichten für den KI-Einsatz in Schriftsätzen.
Quellen
1. Sozialgerichte kämpfen mit KI-Klagen – oft zum Bürgergeld — Heise Online
2. Bürgergeld-Klagewelle durch KI: Bundessozialgericht schlägt Alarm — gegen-hartz.de
3. Gefährliche Schieflage für den Rechtsstaat — Bundesrechtsanwaltskammer (BRAK)
4. Deutlich mehr Klagen zu Bürgergeld bei Sozialgerichten in Baden-Württemberg — Recht & Politik
5. Wie KI Gerichte in den Wahnsinn treibt — Basic Thinking
6. 1,227 Fabricated Citations and Counting: Inside the AI Hallucination Crisis — PlatinumIDS
7. Penalties stack up as AI spreads through the legal system — NPR