LRZ E Zeitschrift Logo

LRZHeaderBogenRot
 
Lesezeit 10 Min.
Dr. Jochen Brandhoff
Partner, BRANDHOFF OBERMÜLLER PARTNER – bei Fragen zum Beitrag: Diese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein!

Erweitertes Interview aus der Master Thesis „AI Judge – Künstliche Intelligenz als gerechter Richter?“ von Alexander Oliver Elser[1] aus dem Jahr 2020.

 


 

1. Stärken des menschlichen Richters

 

a) Was zeichnet für Sie die Stärken eines menschlichen Richters für die Rechtsprechung aus?

 

Der menschliche Richter[2] ist in der Lage, neue Fallumstände zu berücksichtigen – aus Sicht der künstlichen Intelligenz also nicht einprogrammierte und nicht erlernte Entscheidungsparameter. Beispiele dafür sind atypische Umstände des Einzelfalls und Umstände, die sich aus dem gesellschaftlichen Wertewandel ergeben. Auf diese Weise kann der menschliche Richter auch über besonders gelagerte Streitgegenstände gerecht entscheiden. Die Rechtsprechung entwickelt sich dadurch weiter und bleibt ein integraler Bestandteil der Gesellschaft.

 

b) Welche Schlüsselqualifikationen machen den menschlichen Richter aus Ihrer Sicht einzigartig für die Rechtsprechung?

 

Im Moment sind alle Schlüsselqualifikationen des menschlichen Richters einzigartig. Das reicht von der Menschenkenntnis, wie sie für die Feststellung des Sachverhalts wichtig ist, über die Kreativität, das Judiz und die Selbstreflexion, die für eine gerechte Entscheidung unentbehrlich sind, bis zum Einfühlungsvermögen, mit dem die Entscheidung der unterlegenen Partei vermittelt wird.

 

Wir sind weit davon entfernt, die Rechtsprechung in Formeln packen zu können und von Algorithmen ausführen zu lassen. Doch wie einzigartig diese Schlüsselqualifikationen bleiben, ist eine Frage des betrachteten Zeitraums. Denn das wird sich von Jahrzehnt zu Jahrzehnt ändern. Was den menschlichen Richter in 30, 40 oder noch viel mehr Jahren einzigartig macht, ist noch gar nicht absehbar. Es ist möglich, dass in vielleicht 50 Jahren oder so selbst eine Beweisaufnahme über Natural Language Processing (NLP) zum Teil von einer KI übernommen wird – vielleicht sogar zuverlässiger als vom menschlichen Richter, da sie Emotionen sicherer erkennen und die Wahrheit besser von der Unwahrheit unterscheiden könnte. Im Laufe der Zeit wird der menschliche Richter also immer weniger einzigartig bleiben und immer weiter überflügelt werden. Auf einem anderen Blatt steht, in welchem Maße die Gesellschaft, genauer das Volk als Träger der Staatsgewalt, auch tatsächlich möchte, dass künstliche Intelligenz den Menschen ersetzt.

 

c) Inwiefern spielen für Sie emotionale Aspekte in der Rechtsprechung eine positive Rolle?

 

Die Rechtsprechung ist die staatliche Gewalt, die in einem geregelten Verfahren unabhängig und rational über einzelne Fälle entscheidet, indem sie das positive Recht anwendet. Emotionen sind da in aller Regel nicht positiv. Wichtige Fähigkeiten wie Einfühlungsvermögen, die im Umgang mit den Parteien wichtig sind, sind nicht mit Emotionen zu verwechseln. Die Rechtsprechung ist meistens nicht menschlicher, wenn sie emotional ist.

 

Der Richter muss aber auch in der Lage sein, seine Entscheidung in Frage zu stellen, vor allem wenn die Auslegung der Gesetze zu einem untragbaren Ergebnis führt. Emotionen wie Wut und Mitleid können eventuell die Erkenntnis, dass eine Entscheidung korrigiert werden muss, hervorrufen oder verstärken. Sie können also bewirken, dass der Richter einen – ganz ausnahmsweise – gewünschten Regelbruch (nicht Rechtsbruch) begeht. Methodisch würde die Korrektur dann über eine verfassungskonforme Auslegung, eine teleologische Reduktion oder eine Rechtsfortbildung laufen.

 

d) Kommt es vor, dass von bestehender Rechtsprechung abgewichen wird?

 

Die Rechtseinheit ist ein hohes Gut und die Instanzgerichte sind bei Abweichungen entsprechend vorsichtig. Abweichungen sind daher selten – jedenfalls absichtliche. In einigen, bezogen auf die Gesamtzahl aber sehr wenigen Fällen erfordert ein sehr ungewöhnlicher Sachverhalt oder der ständige Wandel in Gesellschaft und Wirtschaft allerdigs eine Neuinterpretation von Rechtsnormen. Die digitale Transformation ist zum Beispiel ein häufiger Auslöser für eine solche Rechtsfortbildung.

 

e) Welche Herausforderungen und Problemfelder sehen Sie generell in der aktuellen Rechtsprechung?

 

Keine menschliche Entscheidung ist vollständig frei von Vorurteilen. Gleichbehandlung ist aber eine grundlegende Gerechtigkeitsprämisse. Daher ist es für die Rechtsprechung eine ständige Herausforderung, jeden möglichst gleich zu behandeln.

 

Seit Jahren ist der Spardruck in der Justiz besonders groß. Das führt zu einer höheren Arbeitsbelastung der Richter und damit zu längeren Gerichtsverfahren. Je höher das Arbeitspensum des Richters ist, umso weniger Zeit kann er sich für das einzelne Verfahren nehmen. Das führt zu mehr Fehlern. Das ist für die Rechtssicherheit, vor allem für die Verlässlichkeit und Vorhersehbarkeit der Rechtsprechung, ein Problem.

 

f) Welche Herausforderungen und Problemfelder sehen Sie konkret beim menschlichen Richter in Bezug auf die Rechtsprechung?

 

In einem Gerichtsverfahren muss der Richter komplexe tatsächliche und rechtliche Fragen beantworten und dabei unzählige Informationen verarbeiten. Man kann sich den Entscheidungsprozess wie einen Entscheidungsbaum vorstellen, der sich immer feiner verästeltet. Die Fähigkeit des Menschen, Informationen zu verarbeiten, ist begrenzt. Es wäre daher zu aufwendig, allen Rechtsfragen nachzugehen, indem die Tatbestandsmerkmale auf dem Entscheidungsbaum bis ins Kleinste aufgeschlüsselt werden. Zur Vereinfachung behilft sich der Richter daher mit Konstruktionen wie z. B. einer sogenannten Gesamtwürdigung aller Umstände des Einzelfalls. Dabei wird die Komplexität reduziert, indem eine – ungenauere – Entscheidung auf der Tatsachenebene getroffen wird. Aus Rechtsfragen werden so gewissermaßen Tatsachenfragen, obwohl es umgekehrt besser wäre. Diese Komplexität ist eine große Herausforderung bei Gerichtsverfahren.

 

2. Chancen des menschlichen Richters und der künstlichen Intelligenz

 

g) Welche Potenziale sehen Sie langfristig im menschlichen Richterspruch für die Rechtsprechung?

 

Wir können zwar nicht in einen Richter hineinschauen und seine Gedanken lesen, aber immerhin können wir seine Entscheidungen einigermaßen nachvollziehen und nachprüfen. Denn sein Entscheidungsergebnis beruht auf einer anerkannten juristischen Methodik und der Richter begründet sein Urteil so, dass andere Juristen es überprüfen können. Das ist auf absehbare Zeit ein entscheidender Vorteil gegenüber einer artifiziellen Intelligenz.

 

Eine ganz entscheidende Bedeutung kommt dem menschlichen Richter auch langfristig dabei zu, die künstliche Intelligenz zu überwachen und zu kontrollieren und (Teil-) Entscheidungen der KI dadurch zu legitimieren.

 

h) In welchen Bereichen würden Sie sich technische Unterstützung für den menschlichen Richterspruch wünschen?

 

Das Parteivorbringen erfolgt vor allem durch Schriftsätze. Schriftsätze sind auf eine bestimmte Weise strukturiert. Eine Software könnte das Parteivorbringen automatisch zuordnen und einen sogenannten Aktenauszug generieren, in dem das Vorbringen der Parteien in einer relationsmäßigen Form gegenübergestellt wird. Das würde die Sachverhaltsfeststellung erheblich erleichtern. Künstliche Intelligenz könnte dann bereits auf dem heutigen Entwicklungsstand helfen, auch relativ unstrukturierte Inhalte schnell zuzuordnen. Mehr noch: Artificial Intelligence könnte schon jetzt relevante Informationen in ungeordneten Dokumenten wie Verträgen, Berichten und Notizen finden, indem sie die verfügbaren Daten bestimmten Themengebieten zuordnet.

 

Darüber hinaus könnte KI schon jetzt bei der juristischen Recherche helfen, zum Beispiel dabei, gleichgelagerte Entscheidungen zu finden. Das würde unter anderem vor ungewollten Abweichungen von bestehender Rechtsprechung bewahren und damit der Rechtseinheit dienen. Derzeit wird allerdings nur ein kleiner Anteil aller gerichtliche Entscheidungen veröffentlicht und damit systematisch erfasst. Das sollte sich ändern.

 

Weitere Bereiche, in denen technische Unterstützung wünschenswert wäre, sind virtuelle Gerichtsverhandlungen, also solche per Videokonferenz, und die Zusammenarbeit zwischen Richtern und Justizfachangestellten.

 

i) Welche Potenziale sehen Sie durch den Einsatz künstlicher Intelligenz für die Rechtsprechung?

 

Das Potential ist enorm, vor allem wenn man das auf Sicht von 50 und mehr Jahren betrachtet. Zunächst könnte künstliche Intelligenz die Rechtsprechung hauptsächlich unterstützen, etwa indem sie wie gerade beschrieben aus unstrukturierten Datenbeständen relevante Informationen extrahiert. Danach könnte KI anfangen, Entscheidungen vorzubereiten. Das könnte schrittweise erfolgen, zum Beispiel indem die KI unverbindliche Vorschläge erarbeitet, die der Richter in den ersten Jahren ohne Weiteres wegklicken kann, danach aber nur noch, wenn er dies begründet. Noch später könnte künstliche Intelligenz anfangen, den menschlichen Richter zu ersetzen, indem sie über Zahlungsansprüche mit sehr geringem Wert und und bei leicht standardisierbaren Fällen, also solchen mit wenigen Entscheidungsparametern wie im Straßenverkehrsrecht, entscheidet, wenn die Gefahr von Grundrechtseinschränkungen niedrig ist. Der menschliche Richter wird die künstliche Intelligenz aber immer kontrollieren und in letzter Instanz auch selbst entscheiden.

 

3. Risiken des menschlichen Richters und der künstlichen Intelligenz

 

j) Wie sehen Sie die Entwicklung der Risiken in den kommenden fünf Jahren für den menschlichen Richterspruch in Bezug auf die Rechtsprechung?

 

Anders als vor 20 Jahren drängen junge Juristen heute nicht mehr so stark in die Justiz. Daher können nicht alle Richterstellen besetzt werden. Dadurch wird die Verfahrensdauer steigen und Urteile fehlerhafter.

 

k) Welche Risiken sehen Sie beim Einsatz künstlicher Intelligenz für die Rechtsprechung?

 

Eine Menge wie auch zum Teil schon gesagt. Die Datenqualität spielt eine wichtige Rolle: sind die in die artifizielle Intelligenz eingegeben Daten schlecht, sind auch ihre Entscheidungen höchstwahrscheinlich schlecht. Auch die einprogrammierten Entscheidungsparameter sind subjektiv, so dass es passieren kann, dass Vorurteile in den KI-Entscheidungen fortgeführt werden. Außerdem sind die eingegebenen Daten zwangsläufig vergangenheitsorientiert. Das birgt die Gefahr, dass gesellschaftliche Entwicklungen ignoriert werden. Rechtsnormen sind keine starren Regeln. Sie erfordern Bewertungen, die künstliche Intelligenz heute noch nicht vornehmen kann.

 

4. Lösungsansätze für den Einsatz künstlicher Intelligenz in der Rechtsprechung

 

l) Können Sie sich einen künstlich intelligenten Richterspruch in den nächsten fünf Jahren vorstellen?

 

Eindeutig nein. KI benutzt heute statistische Verfahren, um in großen Datenmengen Korrelationen zu ermitteln. Richter müssen zahllose Wertungen vornehmen, etwa bei unbestimmten Rechtsbegriffen und Verhältnismäßigkeitsentscheidungen. Die Entwicklung der KI ist noch lange nicht soweit, dies leisten zu können. Und selbst wenn dies in Teilbereichen – etwa bei Entscheidungen über die Anordnung von Untersuchungshaft – technisch möglich wäre, wird die Diskussion über die Legitimation noch lange andauern.

 

m) Können Sie sich vorstellen, dass der künstlich intelligente Richterspruch in Form einer wählbaren Gerichtsbarkeit existieren könnte?

 

Ja, die Freiwilligkeit würde die Akzeptanz eines Urteils, das von einer künstlichen Intelligenz getroffen wurde, stark erhöhen.

 

n) Können Sie sich vorstellen, dass künstliche Intelligenz eine Gerichtsbarkeit, bspw. Amtsgerichte, ersetzen könnte?

 

Komplett ersetzen nein – ich stelle mir das auch langfristig eher als ein konstruktives Zusammenwirken vor, in der KI immer wesentlichere Tätigkeiten übernimmt.

 

o) Können Sie sich vorstellen, dass ein künstlich intelligenter Richterspruch für spezifische Rechtsgebiete oder bspw. anhand des in Aussicht stehenden Strafmaßes existieren könnte?

 

Ja, eine solche Abstufung ist gut denkbar und auch wahrscheinlich. Selbstverständlich muss auch eine Geldstrafe von 250 Euro nach rechtsstaatlichen Grundsätzen verhängt werden, doch sind die Anforderungen daran geringer als etwa bei einer Freiheitsstrafe. Auch in Bereichen wie dem Reiserecht, zum Beispiel bei Flugverspätungen, und in anderen Bereichen mit relativ wenigen Entscheidungsparametern, könnten KI-Entscheidungen früher als in anderen eingeführt werden.

 

p) Können Sie sich generell einen kombinierten Lösungsansatz zwischen künstlicher Intelligenz und dem menschlichen Richterspruch vorstellen?

 

Ich bin davon überzeugt, dass im Zusammenspiel von menschlicher und künstlicher Intelligenz langfristig die Zukunft der Rechtsprechung liegt. Das letzte Wort muss aber immer eine menschliche Instanz haben. Der Mensch legitimiert den KI-Richterspruch, indem er ihn überwacht und kontrolliert.

 

q) Welche justiziellen Voraussetzungen braucht es aus Ihrer Sicht, dass künstliche Intelligenz für die Rechtsprechung genutzt werden kann?

 

Künstliche Intelligenz in der Rechtsprechung hat Auswirkungen auf alle Rechtsprechungsgrundsätze, von der Unabhängigkeit der Richter, dem Anspruch auf rechtliches Gehör, dem Recht auf den gesetzlichen Richter bis zu den Garantien im Strafverfahren wie den Verboten der Rückwirkung und der Doppelbestrafung. Wir alle müssen dafür sorgen, dass diese Grundsätze gewahrt bleiben, wenn künstliche Intelligenz in die Rechtsprechung Einzug hält. Für die Übertragung von Entscheidungsbefugnissen auf eine Maschine muss zunächst die Legitimationsfrage beantwortet werden. Dabei sind die Anforderungen geringer, je weniger autonom die KI tätig wird.

 

5. Gerechtigkeit

 

r) Empfinden Sie persönlich ein Urteil auf Basis künstlicher Intelligenz als gerechter als das eines menschlichen Richters?

 

Wenn die Entwicklung der künstlichen Intelligenz so weiter geht, ist sie irgendwann in der Lage, besser als ein menschlicher Richter zu gewährleisten, dass alle Menschen vor dem Gesetz gleich sind und niemand diskriminiert wird. Gleichbehandlung ist eine wichtige Voraussetzung dafür, dass ich ein Urteil als gerecht empfinde.

 

Wenn KI außerdem ein Gerichtsverfahren beschleunigen würde, die rechtssuchende Partei nicht mehr so lange auf Ihr Recht warten müsste und für ihr Recht auch nicht mehr so viel zahlen müsste, dann wäre das für mich auch gerechter.

 

Darüber hinaus wäre für mich wesentlich, dass die KI-Entscheidung nachprüfbar wäre: Es existieren Verfahren, die bei menschlichen Fehlurteilen zur Anwendung kommen. Ich möchte wissen, wie mit Fehlern von KI umgegangen wird.

 

6. Umsetzbarkeit

 

s) Welche Schwierigkeiten sehen Sie im Hinblick auf die Umsetzbarkeit eines künstlich intelligenten Richterspruchs?

 

Ein Richterspruch muss von der Gesellschaft akzeptiert werden. Das wird beim künstlichen Richter noch einige Zeit dauern.

 

7. Folgen des Einsatzes künstlicher Intelligenz für die Rechtssprechung

Welchen Einfluss hätte der Einsatz einer selbstlernenden künstlichen Intelligenz auf:

 

t) die Rechtsfortbildung und Auslegung?

 

Grundsätzlich ist der Syllogismus, also die Logik der Subsumtion, der Logik von Algorithmen ähnlich. Allerdings sind wir noch weit davon entfernt, die juristische Methodenlehre in Formeln übertragen zu können. Künstliche Intelligenz wird wohl außerdem nie die heute anerkannte juristische Methodik anwenden, da sie sich von der menschlichen Intelligenz grundsätzlich unterscheidet. Der Richter zieht Analogien, die künstliche Intelligenz findet Korrelationen. Dadurch wird die Rechtsanwendung, also die Auslegung der Gesetze und die Rechtsfortbildung, eine andere werden – welche, wissen wir heute nicht.

 

Die Subsumtion ist ein iterativer Zuordnungsprozess zwischen Norm und Sachverhalt. Sie ist zwar eine objektive Methode zur Entscheidungsfindung, bedarf jedoch vieler Wertungen und ist nicht im naturwissenschaftlichen Sinne determiniert. Wie KI diese Wertungen vornehmen wird, ist heute ebenfalls nicht zu beantworten.

 

u) die Gesetzgebung?

 

Es könnte sein, dass die Gesetze anders formuliert werden und zum Beispiel so formalisiert werden, dass die künstliche Intelligenz sie besser verstehen kann.

 

v) die Rechtssicherheit?

 

Wenn künstliche Intelligenz einmal so weit ist, kann sie die Rechtssicherheit erhöhen. Die Rechtsprechung würde vorhersehbarer werden und gleichgelagerte Sachverhalte würden öfter gleich behandeln werden.

 

w) die Beweisführung sowie die Bedeutung und Aufgaben von Staats- bzw. Rechtsanwälten?

 

Staatsanwälte und Rechtsanwälte sind noch mehr als die Rechtsprechung gefordert, in unstrukturierten Datenmengen sachverhaltsrelevante Informationen zu finden – zum Beispiel in großen Wirtschaftsstrafverfahren. Wie oben gesehen, kann KI dabei helfen.

 

x) die Kontrolle hinsichtlich der Gewaltenteilung?

 

Der Einsatz von künstlicher Intelligenz wirft schwierige Fragen der Gewaltenteilung auf, da sie auch in die anderen Staatsgewalten Einzug finden wird. Dadurch wird sich unter anderem die Frage stellen, wie eine KI die andere kontrollieren können wird. Stellen Sie sich folgende Situation in sehr, sehr vielen Jahren vor: Die Gesetzgebungs-KI hat ein Gesetz erlassen, wonach es für die (vorübergehende) Inhaftierung eines potentiellen Straftäters im Falle besonders schwerer Straftaten ausreicht, dass dieser die Tat mit einer Wahrscheinlichkeit von 98% ausführen wird. Die Strafverfolgungs-KI prognostiziert nun, dass eine Person kurz vor der Begehung eines Mordes steht. Wie kann die Justiz-KI in dieser Situation Rechtsstaatlichkeit gewährleisten? Wie können wir die künstlichen Intelligenzen dann überhaupt noch trennen, um keine große, umfassende KI entstehen zu lassen, deren Entscheidungen noch schwerer nachprüfbar sind? Wie können wir dafür sorgen, dass wir Menschen die künstlichen Intelligenzen umfassend überwachen können und sich diese vielleicht auch gegenseitig kontrollieren?

 

8. Ethik

 

y) Halten Sie es als ethisch vertretbar, dass ein Mensch durch künstliche Intelligenz gerichtet wird?

 

Wir Menschen neigen dazu, die Fehler von Maschinen weniger zu tolerieren als unsere eigenen Fehler. Wenn und soweit allerdings sichergestellt ist, dass künstliche Intelligenzen weniger Fehler als menschliche Richter machen und auch noch schneller Recht sprechen, halte ich das nicht nur für ethisch vertretbar, sondern für geboten – solange der Rechtsstaat vollständig gewährleistet bleibt. Dazu gehört unter anderem, dass der menschliche Richter die KI umfassend kontrolliert und letzte Entscheidungsinstanz bleibt.

 

 


[1] Alexander Oliver Elser studierte Wirtschaftsrecht an der German Graduate School of Management and Law (GGS) und erwarb im Jahr 2021 seinen Master of Law (LL.M.).

[2] Im Folgenden wird zur Vereinheitlichung und Vereinfachung allein die Form des generischen Maskulinums verwendet.

Meistgelesene LRZ-Beiträge

  1. Monat
  2. Jahr
  3. All Time

 

Diesen Monat

303 x diesen Monat gelesen

248 x diesen Monat gelesen

(Kartell-)Recht und das Metaversum

Prof. Dr. Boris Paal

03.05.2022

 

 

Dieses Jahr

 

All Time

17796 x gelesen

Legal Design

Astrid Kohlmeier

08.02.2018

8695 x gelesen

Unsere Daten, kein Entgelt?

Prof. Dr. Falko Tappen | Karina Geissler | Meike Kirst

18.01.2018

8607 x gelesen

Juristisches Projektmanagement

Harald Evers | Todd Hutchison

19.12.2018

Ihr Kontakt

Journal@LRZ.legal

+49 69 3487 920-92

 

Kaiserstraße 53
60329 Frankfurt a. M.

Folgen Sie uns

 Xing