Die Zukunft der Justiz: Rechtssprechung basierend auf KI-Referenzen?
Ein indisches Insolvenzgericht stützte seine Entscheidung auf Präzedenzfälle, die es so nie gegeben hatte. Selbst in der ersten Berufungsinstanz fiel das nicht auf. Erst Indiens Oberster Gerichtshof überprüfte die Fundstellen und hob beide Entscheidungen auf.
Im Fall Pooja Ramesh Singh gegen Jammu and Kashmir Bank ging es ursprünglich um einen ausgefallenen Kredit: Die Bank beantragte die Eröffnung eines Insolvenzverfahrens. Das zuständige Gericht, das National Company Law Tribunal, gab dem Antrag statt und das Berufungsgericht bestätigte die Entscheidung.
Nun stellte der Supreme Court of India fest, dass die Begründung auf KI-generierten Fundstellen beruhte.
Die Präzedenzfälle sahen echt aus
Der Supreme Court überprüfte sechs Fundstellen. Drei existierten in der angegebenen Form gar nicht. Eine weitere verwies auf ein echtes Urteil in einem völlig anderen Fall. Bei zwei korrekt angegebenen Entscheidungen fehlten im Original genau die Passagen, die das Insolvenzgericht ihnen zugeschrieben hatte. Ein plausibler Fallname und eine präzise Quelle hatten den Eindruck erweckt, dass sich die Aussagen im Original nachlesen ließen.
Laut einer eidesstattlichen Erklärung der Bank stammten die Belege aus der eigenen Recherche des Insolvenzgerichts. Ihr Anwalt hatte sie demnach nicht vorgetragen. Auch die erste Berufungsinstanz bemerkte die Fehler nicht. Der Supreme Court hob beide Entscheidungen auf und verwies den Insolvenzantrag zur erneuten Prüfung zurück. Zur Frage, ob das Insolvenzverfahren eröffnet werden sollte, äußerte er sich dabei nicht.
Vier erfundene Präzedenzfälle in einem weiteren Verfahren
Schon im Februar 2026 hatte der Supreme Court einen ähnlichen Fall aufgegriffen. Im Zivilverfahren Gummadi Usha Rani gegen Sure Mallikarjuna Rao hatte ein Gericht in Andhra Pradesh vier angebliche Entscheidungen des Obersten Gerichtshofs angeführt.
Der zuständige High Court erkannte die Fundstellen als KI-generiert und bestätigte den Beschluss nach eigener Prüfung der Sache. Der Supreme Court nahm den Fall zum Anlass, die Verantwortung von Gerichten für solche Fehler zu prüfen. Welches KI-Tool die Fundstellen erzeugte, geht aus den veröffentlichten Entscheidungen zu den beiden Fällen nicht hervor.
Wenn eine überzeugende Antwort die Quellenprüfung verdrängt
KI-Tools können Recherche beschleunigen, und immer mehr Menschen nutzen sie bei der Arbeit. In einer Gallup-Erhebung aus dem ersten Quartal 2026 gab die Hälfte der befragten US-Beschäftigten an, KI zumindest gelegentlich beruflich zu nutzen.
Im Vorquartal waren es 46 Prozent. Eine Befragung von 319 Berufstätigen, die 2025 auf der Fachkonferenz CHI veröffentlicht wurde, zeigt ein Risiko dieser wachsenden Nutzung. Wer der generativen KI bei einer Aufgabe stärker vertraute, berichtete im Schnitt von weniger kritischer Prüfung. Die Studie erfasste Selbstauskünfte zu konkreten Aufgaben.
Im indischen Insolvenzfall hatte dieses Risiko eine konkrete Folge. Erfundenes Material gelangte in eine gerichtliche Begründung, blieb nach einer weiteren Prüfung im Verfahren und führte schließlich dazu, dass zwei Entscheidungen aufgehoben wurden.
Der Supreme Court verlangte deshalb, KI-generierte Verweise vor ihrer Verwendung zu überprüfen. Bei einem Präzedenzfall heißt das, das Original zu öffnen, die zitierte Passage nachzulesen und zu prüfen, ob sie auf den aktuellen Fall tatsächlich zutrifft. Diese Prüfung liegt bei den Menschen, die die Entscheidung treffen und verantworten.
Am Ende sollte in einem Bereich wie der Rechtssprechung nur Werkzeug Einzug halten, dass wenig Fehleranfällig ist und bei dem alle Beteiligten wissen, wie damit umzugehen ist – ob das KI-Verweise oder gar Beweise sein sollten, ist daher mehr als fragwürdig.n
