KI demokratisiert Rechtszugang. Und halluziniert dabei Urteile, die es nie gab.
Recht war immer auch ein Zugangsrecht. Wer sich einen Anwalt leisten konnte, hatte bessere Chancen. KI verändert das. DoNotPay hat allein über 160.000 Einsprüche gegen Bußgelder und Verwaltungsentscheidungen begleitet, viele davon für Menschen, die sonst gar keinen Rechtsbeistand gehabt hätten.
Die großen Kanzleien setzen KI längst ein. Harvey AI, entwickelt für Anwaltskanzleien, wird von A&O Shearman, Allen & Overy und PwC Legal für Dokumentenprüfung, Vertragsanalyse und Recherchearbeiten genutzt. Was früher Stunden Junioranwaltsarbeit kostete, dauert Minuten.
Der EU AI Act klassifiziert KI in der Strafjustiz und Strafverfolgung als "High-Risk", mit besonderen Transparenz- und Prüfpflichten. Das ist ein politisches Signal: KI, die über Freiheit oder Strafe mitentscheidet, braucht andere Maßstäbe als KI, die Filme empfiehlt.
Gleichzeitig der Gegenfall: US-amerikanische Anwälte haben 2023 ChatGPT-generierte Schriftsätze eingereicht, die erfundene Urteile zitierten. Gerichte haben sie sanktioniert. Die KI hatte halluziniert, und niemand hatte es geprüft. Das ist kein Versagen der Technologie. Es ist ein Versagen der Verantwortung.
Rechtszugang wird breiter. Das ist gut. Menschen, die sich bisher keinen Rechtsbeistand leisten konnten, bekommen Unterstützung bei Mietstreitigkeiten, Verbraucherrechten, Sozialleistungen, Aufenthaltsrecht. KI als Rechtsassistent ist eine echte Demokratisierung.
Gleichzeitig: Algorithmen können systematisch falsch liegen. Wenn ein Kreditscoring-Algorithmus oder ein Haftentlassungsbewertungssystem einer ethnischen Gruppe systematisch schlechtere Ergebnisse liefert, ist das kein technischer Fehler. Es ist strukturelle Diskriminierung, eingebettet in Code. Das ist in den USA bereits dokumentiert.
Die Haftungsfrage ist ungelöst. Wer haftet, wenn eine KI-Empfehlung zu einem falschen Urteil beiträgt? Der Richter, der ihr gefolgt ist? Der Entwickler? Das Unternehmen? Das Rechtssystem kennt Verantwortung von Menschen und Institutionen, nicht von Algorithmen.
Wenn KI Rechtszugang für Millionen ermöglicht, aber gleichzeitig halluziniert und systematisch diskriminieren kann: Wie viel Fehlerquote akzeptiert eine Gesellschaft, wenn vorher gar kein Zugang bestand?