Europäischer Rechtsrahmen für Künstliche Intelligenz (Teil II)

Zitiervorschlag: Wendt/Jung, LR 2021, S. 59, [●], www.lrz.legal/2021S59

 

Dies ist die Fortsetzung des zweiteiligen Beitrags zu den aktuellen Entwicklungen im Bereich der Regulierung Künstlicher Intelligenz auf europäischer Ebene. Während Teil I des Beitrags insbesondere den von der Europäischen Kommission vorgeschlagenen risikobasierten Regulierungsansatz erörtert hat, analysiert Teil II die Nutzbarkeit im Hinblick auf Anwendungen im Rechtsverkehr.

1. Technologische Anwendungen im Rechtsverkehr

1.1. Rechtsverkehr

Der viel genutzte (aber kaum definierte) Begriff „Rechtsverkehr“ soll an dieser Stelle großzügig alle Vorgänge beschreiben, die im Zusammenhang mit juristischen Arbeitsprozessen stehen. Damit sind nicht nur Arbeitsschritte im Rahmen von Rechtsdienstleistungen im Sinne des § 2 RDG gemeint.

1.2. Technologische Anwendungen

Die in dem so verstandenen Rechtsverkehr genutzten Technologien sind vielfältig.¹ Zur besseren Übersicht soll nachstehend zwischen Legal Technology-Anwendungen im engeren Sinne und sonstigen Anwendungen unterschieden werden.

1.2.1. Legal Tech-Anwendungen im engeren Sinne

Der die Wörter „Legal Services“ und „Technology“ vereinende² Begriff „Legal Technology“ (oder kurz: „Legal Tech“) ist gesetzlich bislang nicht definiert.³ Die Judikatur hält sich mit konkreten Definitionen ebenfalls zurück.⁴ Im Schrifttum findet sich indes eine Vielzahl an Vorschlägen.⁵ Nach einem weiten Ansatz soll der Begriff Informationstechnologien erfassen, die im juristischen Bereich zum Einsatz gelangen.⁶ Aus einem praktischen Blickwinkel heraus ist Legal Technology damit die Summe aller automatisiert funktionierenden Anwendungen, die juristische Tätigkeiten unterstützen oder übernehmen können.⁷

Folgt man der an anderer Stelle bereits vorgeschlagenen anwendungsbezogenen Kategorisierung dieser Legal Tech-Anwendungen,⁸ lassen sich vor allem die nachstehenden Fallgruppen bilden: 

Automatisierte Rechtsdurchsetzung: Anwendungen, deren Ziel es ist, Rechte der Nutzer teil- oder vollautomatisiert zu bestimmen und durchzusetzen (Geltendmachung und Abwehr von Ansprüchen).

Automatisierte Dokumentenerstellung: Anwendungen, die im Rechtsverkehr nutzbare Dokumente automatisiert generieren, nachdem Nutzer über ein integriertes Fragesystem hierfür erforderliche Informationen zur Verfügung gestellt haben.⁹ Unterschieden werden können Anwendungen zur Generierung einseitiger und mehrseitiger Willenserklärungen.

Legal Process Outsourcing: Beschreibt die Auslagerung juristischer Tätigkeiten.

Dokumentenanalyse: Anwendungen, die Nutzer bei der Suche nach Dokumenten bzw. Texten mit bestimmtem Inhalt unterstützen.

Marktplätze und Expertenportale: Anwendungen, die bei der Suche nach Experten unterstützen sollen; häufig kombiniert mit weiteren Funktionen (allgemeine Rechtstipps, Bewertungsmöglichkeiten, etc.).

1.2.2. Sonstige technologische Anwendungen im Rechtsverkehr

Daneben finden sich weitere technologische Anwendungen, die im Rechtsverkehr eingesetzt werden. Hierzu zählen auch Office Tech-Anwendungen, also Büroorganisationssoftware, wie etwa Zeiterfassungsprogramme und Dokumentenverwaltung,¹⁰ die freilich auch in nicht-juristischen Tätigkeitsfeldern eingesetzt werden. Davon abzugrenzen sind juristische Recherchesysteme, die einen systematischen Zugriff auf fachspezifische Quellen ermöglichen und konkret auf juristische Tätigkeiten zugeschnitten sind. Letzteres kann auch für Chatbots gelten.¹¹

Andere Felder umgrenzen die Begriffe eJustice und eGovernment. Während die eJustice-Initiative den elektronischen Austausch von Dokumenten zwischen Behörden und Gerichten bzw. Anwälten befördern soll, möchte die eGovernment-Initiative eine elektronische Durchführung von Verwaltungsverfahren ermöglichen. Die hierfür zumindest zum Teil noch erforderlichen technologischen Entwicklungen sind auch Gegenstand von Förderinitiativen der EU.¹²

2. Technologische Anwendungen und risikobasierter Regulierungsansatz

Der in Teil I dieses Beitrags skizzierte risikobasierte Regulierungsansatz berücksichtigt KI-gestützte technologische Anwendungen im Rechtsverkehr bislang nicht. Dabei dürften einige der hier dargestellten Anwendungen zumindest mittelfristig im Sinne der von HEG KI entwickelten Definition als KI-Systeme zu bezeichnen sein.¹³ Damit wäre zu untersuchen, ob diese Anwendungen mit einem hohen Risiko verbunden sind.

2.1. Rechtsmarkt als risikoreicher Sektor

Die Frage, ob der Rechtsmarkt ein Sektor ist, in dem aufgrund der Art der typischen Tätigkeiten mit erheblichen Risiken zu rechnen ist, lässt sich wohl nicht ohne jedes Zögern verneinen. Mit erheblichen Risiken kann eine typische Tätigkeit auf dem Rechtsmarkt durchaus verbunden sein, etwa wenn hierdurch existenzielle Belange tangiert werden. Dem trägt auch die Regelung des § 51 Abs. 1 Satz 1 BRAO Rechnung, der eine Berufshaftpflichtversicherung für in Deutschland zugelassene Rechtsanwälte vorsieht.¹⁴ Diese Pflicht-Haftpflichtversicherung¹⁵ dient insbesondere auch dem Schutz der Mandantschaft vor durch die anwaltliche Tätigkeit verursachten Schäden.¹⁶ Die Vielgestaltigkeit juristischer Tätigkeiten bringt es aber mit sich, dass auch weniger risikobehaftete Handlungen im Rechtsmarkt durchgeführt werden. Beleg hierfür mag etwa sein, dass nur bestimmte Verträge einer norariellen Beurkundung bedürfen¹⁷ und dessen Fehlen die Nichtigkeit des Rechtsgeschäfts zur Folge haben kann.¹⁸

2.2. Konkrete Nutzung

Somit könnte es auf die konkrete Nutzung des KI-gestützten Systems im Rechtsmarkt ankommen. Insoweit ließe sich im Hinblick auf Legal Tech-Anwendungen beispielsweise nach den hier vorgeschlagenen Kategorien differenzieren. Wird exemplarisch die auch technologisch durchaus reizvolle Kategorie „Automatisierte Dokumentenerstellung“¹⁹ untersucht, bleibt letztlich festzuhalten, dass es für die Risikobewertung auf den Gegenstand des zu erstellenden Dokumentes ankommt.

2.3. Zwischenergebnis

Wenngleich der beabsichtigte risikobasierte Regulierungsansatz für KI-Systeme dem Grunde nach überzeugt, stellen sich im Hinblick auf technologische Anwendungen im Rechtsverkehr Fragen zur generellen und konkreten Risikobewertung. Problematisch wird die Risikozuordnung etwa bei Anwendungen, bei denen die konkrete Nutzung stets identisch ist, die mit der Nutzung verbundenen Risiken aber abhängig vom behandelten Gegenstand bzw. Sachverhalt variieren.

3. Lösungsansätze

Den mit dem risikobasierten Regulierungsansatz im Allgemeinen und bei technologischen Anwendungen im Rechtsverkehr im Besonderen verknüpften Unsicherheiten in Bezug auf die Risikobewertung lässt sich mit verschiedenen Lösungsansätzen begegnen. Sie haben alle ein Für und Wider.

3.1. RAPEX für KI-Systeme?

Auf europäischer Ebene haben sich Schnellwarnsysteme zum Schutz von Verbrauchern vor bestimmten Risiken etabliert. So dienen das Rapid Alert System for Food and Feed (RASFF) und das Rapid Exchange of Information System (RAPEX) der raschen Transparentmachung von Risiken. Das RAPEX-System setzt die Wahrscheinlichkeit eines Schadeneintritts mit der maximal möglichen Schwere des Schadens in ein Verhältnis. Hieraus wird ein Risikoindex abgeleitet. Angelehnt an das RAPEX-System könnten Hinweise auf Risiken von KI-Systemen gesammelt und berichtet werden. In diesem Zusammenhang wäre eine vergleichende Betrachtung einzelner Sektoren und eine Bewertung der mit typischen Tätigkeiten im Rechtsverkehr verbundenen Risiken denkbar. Mit einem solchen Ansatz ist allerdings die Herausforderung verknüpft, zunächst objektive Maßstäbe für die Risikobewertung schaffen zu müssen.

3.2. Regulatory-Sandbox für KI-Systeme?

Der Begriff „Regulatory Sandbox“ bzw. „Reallabor“ stammt aus der Informationstechnik. Hier wurden Reallabore im Zuge der Softwareentwicklung dazu verwendet, neue potenziell unsichere Codes in einem abgegrenzten Rahmen zu testen, um das Risiko für den Nutzer bei Neueinführung auf dem Gesamtmarkt zu minimieren.²⁰ Bislang etablierte Sandbox-Lösungen eint die Idee, Innovationen vor Markteinführung unter definierten Grenzen zu testen, um potenzielle Risiken und Regulierungsprobleme frühzeitig zu erkennen und dadurch die Verbraucher zu schützen.²¹ Eine Regulatory-Sandbox für KI-Systeme²² könnte entsprechend eingesetzt werden und die Bewertung der in einzelnen Sektoren identifizierbaren Risiken ermöglichen. Der rechtspolitische Wille zu einem vermehrten Einsatz von Regulatory-Sandboxes dürfte ausweislich der Schlussfolgerungen des Rates der Europäischen Union zu Reallaboren und Experimentierklauseln vom 16. November 2020 zumindest im Ansatz gegeben sein.²³ Regulatory Sandboxes müssen aber betrieben werden. Damit verbunden sind Fragen nach Zuständigkeiten und Befugnissen.

3.3. Modifikation des risikobasierten Regulierungsansatzes?

Alternativ könnten die im Weißbuch angelegten Risikokategorien feiner abgestuft werden. Beipielsweise könnten Kategorien mittlerer Risikostufen angedacht werden, die weniger auf eine Zuordnung zu einem bestimmten Sektor und mehr auf die konkrete Nutzung einer KI abstellen. Dies wirft freilich zuvorderst die Frage auf, welcher Rechtsrahmen für die neu geschaffenen „Zwischenkategorien“ gelten soll.

4. Fazit

Die im hier weit verstandenen Rechtsverkehr einsetzbaren Technologien sind vielfältig. Hierzu zählen insbesondere auch sog. Legal Tech-Anwendungen im engeren Sinne. Nach einer anwendungsbezogenen Kategorisierung lassen sich unterschiedliche Fallgruppen bilden, die bei der rechtlichen Bewertung der Anwendungen von Nutzen sein können.

Zumindest einige der im Rechtsverkehr genutzten technologischen Anwendungen dürften jedenfalls mittelfristig im Sinne der von HEG KI entwickelten Definition als KI-Systeme zu bezeichnen sein. Dabei wirft der beabsichtigte risikobasierte Regulierungsansatz für KI-Systeme Fragen zur generellen und konkreten Risikobewertung auf.

Diesen Unsicherheiten lässt sich mit verschiedenen Lösungsansätzen begegnen. Beispielsweise könnte ein an das etablierte RAPEX-System angelehnter Prozess eine vergleichende Betrachtung einzelner Sektoren und eine Bewertung der mit typischen Tätigkeiten im Rechtsverkehr verbundenen Risiken ermöglichen. Denselben Nutzen könnte eine Regulatory-Sandbox für KI-Systeme im Allgemeinen oder für bestimmte KI-Systeme im Besonderen haben. Nicht zuletzt könnten die Risikokategorien feiner abgestuft werden, um eine bessere Zuordnung einzelner KI-Systeme zu ermöglichen. Die Ansätze eint, dass sie konzeptionelle Herausforderungen mit sich bringen. Sie aber deshalb nicht zu diskutieren, wäre schade.

¹ Vgl. für einen Überblick etwa Timmermann, Legal Tech-Anwendungen, 2020, S. 101 ff.

² Breidenbach/Glatz, REthinking Law 0/2018, 6, 6; Hartung, Gedanken zu Legal Tech und Digitalisierung (in: Hartung/Bues/Halbleib, Legal Tech – Die Digitalisierung des Rechtsmarkts, 2018, Rz. 10) Rz. 17.

³ Vgl. den Entwurf eines Gesetzes zur Förderung verbrauchergerechter Angebote im Rechtsdienstleistungsmarkt der Bundesregierung vom 20.01.2021, der ohne eine Definition des Begriffs auskommt; vgl. aber BT-Dr. 19/9527, S. 1: „Legal-Tech-Anwendungen, d. h. von Algorithmen zur Unterstützung und Automatisierung von Rechtsdienstleistungen“.

⁴ Vgl. aber LG Berlin, Beschl. v. 03.07.2018 - 67 S 157/18: „computerbasierte und standardisierte Fallanalyse“.

⁵ Siehe u.a.: Breidenbach/Glatz, REthinking Law 0/2018, 6, 6; Fiedler/Grupp, DB 2017, 1071, 1071; Fries, NJW 2016, 2860, 2862 Fn. 32; Reinemann, NJW Beilage zu Heft 20/2017 – Innovationen und Legal Tech Zum 68. Deutschen Anwaltstag in Essen, 6, 6; Hartung/Meising, NZFam 2019, 982, 983; Solmecke/Arends-Paltzer/Schmitt, Was ist Legal Tech – Anwendungsfehler (in: Solmecke/Arends-Paltzer/Schmitt, Legal Tech – Die digitale Transformation in der Anwaltskanzlei, 2019, S. 25 ff.) S. 25; Wagner, BB 2017, 898, 898.

⁶ Vgl. bereits Wagner, BB 2017, 898; Wendt, Legal Tech – Automatisches Recht bekommen? (in: Ruppert/Hagen/Schabel, Tagungsband zum 5. Forschungssymposiums „Wissenschaft und Praxis im Austausch über aktuelle Herausforderungen 2018“, 2018, S. 19) S. 22; vgl. ferner Timmermann, Legal Tech-Anwendungen, 2020, S. 33.

⁷ Wendt/Jung, ZIP 2020, 2209.

⁸ Vgl. Wendt/Jung, ZIP 2020, 2209, auch zum Folgenden.

⁹ Vgl. auch Hartung/Meising, NZFam 2019, 982, 983.

¹⁰ Vgl. hierzu auch Hartung, Gedanken zu Legal Tech und Digitalisierung (in: Hartung/Bues/Halbleib, Legal Tech – Die Digitalisierung des Rechtsmarkts, 2018, Rz. 10) Rz. 21 f.; Timmermann, Legal Tech-Anwendungen, 2020, S. 101 ff.

¹¹ Hartung, Legal Tech und anwaltliches Berufsrecht (in: Hartung/Bues/Halbleib, Legal Tech – Die Digitalisierung des Rechtsmarkts, 2018, Rz. 1031) Rz. 1042 ff.

¹² Vgl. etwa Call for proposals for action grants to support national or transnational projects: e-Justice (JUST-2021-EJUSTICE) vom 2.3.2021.

¹³ Anders wohl Werthmann, Teil 3, § 22 Legal Tech (in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, 2020, § 22 Rz. 1) Rz. 37, siehe aber die Hinweise zu „Predictive Analytics“ Rz. 39.

¹⁴ Siehe ergänzend außerdem u.a. § 51a BRAO sowie § 59j BRAO.

¹⁵ Vgl. hierzu etwa Staudinger/Halm/Wendt/Klein, Versicherungsrecht, III. Haftpflichtversicherungsrecht, AVB-RSV, § 1 Rz. 2.

¹⁶ Henssler/Prütting/Diller, § 51 BRAO Rz. 10 f.

¹⁷ Z.B. solche gemäß § 311b Abs. 3 BGB.

¹⁸ Siehe § 125 Satz 1 BGB.

¹⁹ Anders wohl Wormit, InTeR 2021, 22, 23.

²⁰ Vgl. hierzu ausführlich J. Wendt, Corporate Finance Nr. 11-12 2020, 366, 367 f., m.w.N.

²¹ Vgl. Ringe/Ruof, Regulating Fintech in the EU 2020, S. 3; J. Wendt, Corporate Finance Nr. 11-12 2020, 366, 367.

²² Vgl. Burchardt, Steckt die KI in den Sandkasten!, DIE ZEIT vom 10.12.2020, S. 49.

²³ Schlussfolgerungen des Rates zu Reallaboren und Experimentierklauseln als Instrumente für einen innovationsfreundlichen, zukunftssicheren und resilienten Rechtsrahmen zur Bewältigung disruptiver Herausforderungen im digitalen Zeitalter vom 16.11.2020.