LRZ E Zeitschrift Logo

Sprache auswählen

LRZHeaderBogenRot
 

Anmerkung der Redaktion: Der vorliegende Beitrag ist die Fortsetzung von LR 2020, Rn549 (Teil I)

 

Der Prozess der Digitalisierung des Gesellschaftsrechts vollzieht sich in Wellenbewegungen. Der erste Teil dieses Beitrags befasst sich mit der Digitalisierung kapitalgesellschaftsrechtlicher Kommunikation. Dieser zweite Teil beleuchtet die Digitalisierung der Entscheidungsfindung in Kapitalgesellschaften mittels Künstlicher Intelligenz und die Digitalisierung der Gesellschaft als Organisationsform durch die Blockchain-Technologie und Smart Contracts.

1. Einführung

Die erste Welle der Digitalisierung und damit die Digitalisierung kapitalgesellschaftsrechtlicher Kommunikation war Gegenstand des ersten Teils dieses Beitrags.1 Es ist die Aufgabe des Gesetzgebers, der Rechtspraxis und der Rechtswissenschaft an der Schnittstelle zur den technischen Fachgebieten die digitalen Möglichkeiten auf ihre Anwendbarkeit in gesellschaftsrechtlichen Zusammenhängen zu prüfen und einen rechtlichen Rahmen zu schaffen, der Chancen und Risiken zu einem angemessenen Ausgleich bringt.2 Dieser zweite Teil befasst sich daher zunächst mit der Entscheidungsfindung in Kapitalgesellschaften als Digitalisierungsgegenstand (zweite Welle), bevor er mit der Digitalisierung der Gesellschaft als Organisationsform unternehmerischen Handelns (dritte Welle) schließt.3

Rn714

2. Zweite Welle: Digitalisierung der Entscheidungsfindung

Die technische Entwicklung der Künstlichen Intelligenz („KI“) hat in den vergangenen Jahren erhebliche Sprünge gemacht.4 Aufgrund der Weiterentwicklungen insbesondere im Bereich des sogenannten Machine Learnings und Neuronaler Netze und der damit verbundenen wirtschaftlichen Bedeutung von KI-Systemen befinden wir uns aktuell in einer Hochphase.5 Mit den neuen technischen Möglichkeiten können die Entscheidungsvorbereitung und die Entscheidung selbst digitalisiert werden. Es geht dabei nicht bloß formal um die Digitalisierung von Kommunikation, sondern auch um materielle Veränderungen im Entscheidungsprozess, sodass hier von der zweiten Welle der Digitalisierung gesprochen wird.6 Diese zweite Welle mit der neuen Hochphase von Künstlicher Intelligenz hat auch eine neue Welle in der gesellschaftsrechtlichen Diskussion ausgelöst.7

Rn715

2.1. Vorüberlegungen

In Kapitalgesellschaften werden operative Entscheidungen in der Regel von Vorstand und Geschäftsführung – ggf. unter Einbeziehung des Aufsichtsrats (§ 111 Abs. 4 S. 2 AktG) –    getroffen. Deswegen haben KI-Systeme hier auch die größten Auswirkungen. Um die Auswirkungen der zweiten Welle der Digitalisierung auf das Kapitalgesellschaftsrecht zu untersuchen, sollen einige Überlegungen zum technischen, wirtschaftlichen und regulatorischen Umfeld vorangestellt werden.

Rn716

Grundlage der digitalen Entscheidungsfindung sind große Datensätze, sodass Digitalisierung hier auch die technologische Möglichkeit meint, die in Daten liegende Wertschöpfung ökonomisch zu nutzen.8 Durch KI-Systeme können aus Daten neue und unbekannte Zusammenhänge erschlossen werden, sodass die Daten auf der einen Seite und Künstliche Intelligenz auf der anderen Seite gerade auch dadurch zum Innovationstreiber und Wirtschaftsfaktor werden.9

Rn717

2.1.1. Künstliche Intelligenz als Treiber

Es ist nicht eindeutig und Gegenstand von Diskussionen in (Rechts-)Wissenschaft und im regulatorischen Umfeld, was Künstliche Intelligenz genau ist.10 Dies liegt daran, dass KI zunächst lediglich ein Teilgebiet der Informatik ist,11 sie einen Sammelbegriff für bestimmte technische Methoden darstellt und sie umgekehrt aber auch als System mit bestimmten Fähigkeiten gesehen wird. Dem Systembegriff12 entspricht auch die Definition der Hochrangigen Expertengruppe für Künstliche Intelligenz, die früher zum Teil auch von der Europäischen Kommission13 verwendet wurde: 

Rn718

„Künstliche-Intelligenz-(KI)-Systeme sind vom Menschen entwickelte Software- (und möglicherweise auch Hardware-) Systeme, die in Bezug auf ein komplexes Ziel auf physischer oder digitaler Ebene agieren, indem sie ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten und über die geeignete(n) Maßnahme(n) zur Erreichung des vorgegebenen Ziels entscheiden.“14

Rn719

Der Entwurf der europäischen KI-Verordnung15 bezeichnet nun in Art. 3 Nr. 1 mit

„System der künstlichen Intelligenz (KI-System) eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.“

Rn720

Techniken und Konzepte der Künstlichen Intelligenz sind nach Anhang I des Entwurfs:

  1. Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning);
  2. Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme;
  3. Statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden.
Rn721

Gerade die Definition in der geplanten KI-Verordnung ist als zu weitgehend auf vielfachen Widerspruch gestoßen.16 Ohne hier im Einzelnen auf die technischen Grundlagen eingehen und die in die Definition einbezogenen technischen Methoden diskutieren zu können,17 sollen unter KI hier Systeme verstanden werden, die ihre Umwelt durch Datenerfassung wahrnehmen, aus den Daten Schlussfolgerungen ziehen und Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen, um ein bestimmtes Ziel zu erreichen. 

Rn722

2.1.2. Bedeutung der Daten – Datenrecht als neues Rechtsgebiet

Durch die zunehmende Vernetzung von Unternehmen, Verbrauchern, staatlichen Institutionen und Akteuren der Zivilgesellschaft und durch Sensoren in Maschinen und Verbrauchsgütern oder generell durch Trackinginstrumente werden immer größere Datenmengen generiert. Daten sind heute eine der Lebensadern der wirtschaftlichen Entwicklung und die Grundlage für neue Produkte und Dienstleistungen, für Produktivitätssteigerungen und einen effizienten Ressourceneinsatz.18 Gerade für das Machine Learning als aktuell leistungsfähigste Methodik der KI kommt es auf große Datensätze an, um die Systeme entwickeln zu können, auf die beratende oder entscheidende Funktionen übertragen werden können. Dieser Zusammenhang bildet die Schnittstelle zur Datenwirtschaft und damit auch zum Datenrecht19,20 das als neues Rechtsgebiet insbesondere auf Ebene der Europäischen Union die heute immense Bedeutung der Daten widerspiegelt.21 Die von der Europäischen Union verfolgte Datenstrategie soll die EU in die Lage versetzen, bei gleichzeitiger Wahrung des Datenschutzes und betroffener Persönlichkeitsrechte zur attraktivsten, sichersten und dynamischsten datenagilen Wirtschaft der Welt zu werden, damit Europa mithilfe von Daten bessere Entscheidungen treffen kann.22

Rn723

Dieses Ziel verfolgt die Europäische Union mit einer Reihe von Legislativakten: Der Förderung des Datenzugriffs und des Datenaustauschs sollen insbesondere der Data Governance Act23 und der Data Act24 dienen. Der von Kommission, Rat und Parlament bereits gebilligte Data Governance Act, der am 24.9.2023 in Kraft treten wird, soll die Verfügbarkeit von Daten fördern und die gemeinsame Datennutzung zwischen Unternehmen und dem öffentlichen Sektor stärken. Dazu enthält er Regelungen zur Weiterverwendung von geschützten Daten in der Hand von öffentlichen Stellen, zu Datenvermittlungsdiensten, die Geschäftsbeziehungen zwischen Dateninhabern und Datennutzen herstellen sollen, und zum Datenaltruismus als freiwillige gemeinsame Nutzung von Daten auf der Grundlage der Einwilligung betroffener Personen für Ziele von allgemeinem Interesse.25

Rn724

Mit dem Data Act möchte die EU-Kommission einen EU-weit gültigen allgemeinen Steuerungsrahmen schaffen, der maximale Fairness in der Verteilung des wirtschaftlichen und gesellschaftlichen Wertes von Daten unter den Akteuren in der Datenwirtschaft sichert und Anreize zum verstärkten Teilen von Daten horizontal über sämtliche Wirtschaftssektoren hinweg bietet.26 Konkrete Inhalte des Data Acts sind insbesondere die Erleichterung von Datenzugang und -nutzung für Verbraucher und Unternehmer, die Schaffung von Möglichkeiten für Behörden zur Nutzung von bei Unternehmen vorliegenden Daten, Schutzmaßnahmen zur Vermeidung internationaler Datenübertragungen nicht personenbezogener Daten sowie die Etablierung von Voraussetzungen für die Interoperabilität von Daten und Mechanismen zur gemeinsamen Datennutzung zwischen unterschiedlichen Datenräumen und Sektoren.27

Rn725

Diese Legislativakte werden insbesondere ergänzt durch die bereits bestehende DSGVO, die geplante e-Privacy-Verordnung,28 den Digital Markets Act,29 den Digital Services Act30 und auch durch die bereits angesprochene KI-Verordnung.31 Diese Welle der Regulierung32 wirft vielfältige Fragen auch hinsichtlich der Anwendbarkeit und den Querverbindungen auf. Der Data Act macht vor diesem Hintergrund umfangreiche Ausführungen zur Kohärenz mit den bestehenden EU-Legislativakten.33 Die Bedeutung der Querverbindungen zwischen europäischen Rechtsakten der Datenwirtschaft und dem Gesellschaftsrecht zeigt etwa die Diskussion um die Geschäftsleiterhaftung nach Art. 82 DSGVO.34 Diese Vorüberlegungen haben einen groben Überblick über das Umfeld von KI und Datenwirtschaft gegeben, in dem sich die Digitalisierung der Entscheidungsfindung in Kapitalgesellschaften bewegt.

Rn726

2.2. Digitalisierung der Entscheidungsvorbereitung durch KI-Systeme

In Kapitalgesellschaften sind die Zuständigkeiten für verschiedene Arten von Entscheidungen auf die unterschiedlichen Organe aufgeteilt. Die Entscheidungen unterliegen unterschiedlichen Sorgfaltsmaßstäben und anderen gesetzlichen Vorgaben. Daher muss bei der Beurteilung der Auswirkungen von KI-Systemen auf die Entscheidungsfindung in den Gesellschaften auch zwischen den Organen unterschieden werden. Entscheidungsvorbereitung ist dabei zu verstehen als die Gewinnung, Zusammenstellung und Auswertung von Daten, damit die Organe auf dieser Grundlage selbst eine Entscheidung treffen können (Beratung). Davon abzugrenzen sind Fälle, in denen Entscheidungen unmittelbar auf KI-Systeme übertragen werden (Delegation).35 Bei der Entscheidungsvorbereitung bleibt es dabei, dass nicht ein KI-System, sondern ein Mensch die nach innen oder nach außen wirkende Letztentscheidung trifft.

Rn727

2.2.1. Vorstand und Geschäftsführung

Bei Entscheidungen von Vorständen der AG und Geschäftsführungen der GmbH ist zwischen unternehmerischen und gebundenen Entscheidungen zu differenzieren.

Rn728
2.2.1.1. Unternehmerische Entscheidungen

Bei unternehmerischen Entscheidungen von Vorstand und Geschäftsführung gilt die sog. Business Judgment Rule gemäß § 93 Abs. 1 S. 2 AktG.36 Danach lieg keine Pflichtverletzung vor, wenn das Vorstandsmitglied bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durfte, auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln. Es ist in Rechtsprechung37 und Literatur38 nicht ganz eindeutig, wann die Geschäftsleiter davon ausgehen durften, dass die Informationsgrundlage angemessen war. Dennoch stellt sich die Frage, ob – und wenn ja, wann – Geschäftsleiter KI-Systeme verwenden dürfen oder müssen, um auf Grundlage angemessener Informationen zu handeln. Die Art und Weise der Informationsbeschaffung steht in den Grenzen der Business Judgment Rule im Ermessen der Geschäftsleiter.39 Die Business Judgment Rule ist selbst wiederum nicht auf den Prozess der Informationsbeschaffung anwendbar.40 Damit ist der Einsatz von KI-Systemen zur Informationsgewinnung Gegenstand einer Abwägungsentscheidung der Geschäftsleitung.41 Die Geschäftsleitung muss auf den Einsatz von KI-Systemen verzichten, wenn die damit verbundenen Risiken, wie Verzerrungsproblematiken42 oder die Beeinträchtigung von Persönlichkeitsrechten43, die Chancen überwiegen oder nicht klar ist, dass das System zu einer sachgerechten Antwort kommt. Eine Pflicht zur Nutzung sollte umgekehrt nur angenommen werden, wenn sich die Chancen der KI-Nutzung geradezu aufdrängen und die Risiken des Einsatzes dahinter zurückbleiben.44

Rn729

Eine Nutzung von KI-Systemen bedeutet keinesfalls, dass die Geschäftsleitung den KI-Ergebnissen auf zweiter Stufe auch folgen muss. Gerade ein blindes Vertrauen auf die KI-Ergebnisse verbietet sich.45 Es sind zwei Szenarien zu unterscheiden: Im ersten Szenario folgt die Geschäftsleitung der KI-Empfehlung nicht. Vorstand und Geschäftsführung müssen dann sicherstellen, dass sie aufgrund anderer Informationsmittel auf angemessener Informationsgrundlage handeln. Im zweiten Szenario wird die KI-Empfehlung, wie zum Beispiel eine Marktauswertung oder die Beurteilung der Kreditwürdigkeit eines Vertragspartners, umgesetzt, die sich nachträglich als falsch herausstellt und zu einem Schaden der Gesellschaft führt: Es stellt sich die Frage, wann die Geschäftsleiter haften. Möglicherweise können die ISION-Kriterien des BGH herangezogen werden. Nach der zum Rechtsrat entwickelten ISION-Rechtsprechung des BGH müssen sich Geschäftsleiter, die selbst nicht über die erforderliche Sachkunde verfügen, unter umfassender Darstellung der Verhältnisse der Gesellschaft und Offenlegung der erforderlichen Unterlagen von einem unabhängigen, für die zu klärende Frage fachlich qualifizierten Berufsträger beraten lassen und die erteilte Rechtsauskunft einer sorgfältigen Plausibilitätskontrolle unterziehen.46 Es ist absehbar, dass zumindest der hinter den ISION-Kriterien stehende Gedanke des haftungsbefreienden Vertrauens auf Informationen Dritter bei Einhaltung bestimmter prozeduraler Vorgaben übertragen werden kann.47

Rn730
2.2.1.2. Gebundene Entscheidungen

Sind Entscheidungen der Geschäftsleitung durch die Treuepflicht, Gesetz, Satzung/Gesellschaftsvertrag oder Hauptversammlungsbeschluss/Weisung der Gesellschafter vorgegeben, ist ein unternehmerischer Handlungsspielraum ausgeschlossen.48 Bei klarer Rechtslage muss die Geschäftsleitung die Vorgabe befolgen, unabhängig davon, ob ein KI-System eine andere Entscheidung empfiehlt. Das gilt auch für sogenannte nützliche Pflichtverletzungen,49 wenn das KI-System eine Entscheidung empfiehlt, die beispielsweise gegen die DSGVO oder gegen Vorgaben des Allgemeinen Gleichbehandlungsgesetzes verstoßen würde.

Rn731

Nicht eindeutig ist dies bei unklarer oder unsicherer Rechtslage. Hier kann die Geschäftsleitung ihre Entscheidung nach einer für die Gesellschaft günstigen, aber vertretbaren Rechtsauffassung richten.50 Dabei müssen Vor- und Nachteile eines möglichen später festgestellten Rechtsverstoßes abgewogen werden.51 Damit besteht hier ein Spielraum, der KI-Empfehlung zu folgen, wenn die Rechtslage unklar ist. Zu beachten ist, dass die Geschäftsleitung durch den Einsatz von KI-Systemen nicht tendenziell höhere Rechtsrisiken eingehen darf und die Rechtslage vorher sorgfältig und gegebenenfalls unter Konsultation fachlich qualifizierter Berufsträger prüfen muss.

Rn732

2.2.2. Aufsichtsrat

Für den Aufsichtsrat der AG und den (ggf. fakultativen) Aufsichtsrat oder Beirat der GmbH stellen sich Fragen nach dem Einsatz von KI-Systemen auf zwei Ebenen: Er muss den KI-Einsatz durch die Geschäftsleitung überwachen. Denkbar ist allerdings auch, dass er selbst KI-Systeme als Hilfsmittel zur Überwachung einsetzt.

Rn733
2.2.2.1. Überwachung des KI-Einsatzes

Gemäß § 111 Abs. 1 AktG (i. V. m. § 52 Abs. 1 GmbHG) muss der Aufsichtsrat die Geschäftsführung überwachen. Der Einsatz von KI-Systemen durch die Geschäftsleitung ist damit grundsätzlich auch Gegenstand seiner Überwachungsaufgabe. Zu beachten ist allerdings, dass die Überwachung zumindest in der Aktiengesellschaft auf Leitungsaufgaben beschränkt ist.52 Der Einsatz von KI-Systemen kann aufgrund ihrer Bedeutung für die Wertschöpfung, für den zukünftigen unternehmerischen Erfolg, aber auch aufgrund der rechtlichen und systemimmanenten Risiken zwar als Leitungsaufgabe eingeordnet werden.53 Die Erledigung des laufenden Tagesgeschäfts unterliegt allerdings nicht der Überwachung des Aufsichtsrats.54 Dennoch muss der Aufsichtsrat Leitungsentscheidungen der Geschäftsleitung überwachen, zu deren Vorbereitung KI-Systeme eingesetzt werden. Hier dürfte es Aufgabe des Aufsichtsrats sein zu prüfen, ob das Vertrauen der Geschäftsleitung in eine KI-Empfehlung auf sachgerechter Grundlage basiert. Für den Maßstab der Kontrolle wird zum Teil eine Orientierung an den mittlerweile von verschiedenen Akteuren entwickelten ethischen Leitlinien für den vertrauenswürdigen Einsatz von Künstlicher Intelligenz55 vorgeschlagen.56 Sie haben allerdings keinen Gesetzesrang und damit keine unmittelbare Geltung. Zudem ist fraglich, ob die allgemein gehaltenen Leitlinien den Anforderungen in den konkreten Einzelfällen der jeweiligen Gesellschaften gerecht werden können.

Rn734

Wesentliches Element für die Überwachung durch den Aufsichtsrat sind die Berichtspflichten des Vorstands gemäß § 90 AktG (i. V. m § 52 Abs. 1 GmbHG).57 Da sich die Berichtspflichten aus § 90 Abs. 1 AktG, die nur den Vorstand der AG treffen und nicht die Geschäftsführung der GmbH, auf die großen Linien der Geschäftstätigkeit beziehen, sind Regelberichte über den Einsatz von KI-Systemen zur Informationsbeschaffung nur eingeschränkt denkbar. Durch die Anforderungsberichte gemäß § 90 Abs. 3 AktG (i. V. m. § 52 Abs. 1 GmbHG) kann der Aufsichtsrat aber in Erfahrung bringen, ob sich die mit Investitionen in KI-Systeme verbundenen Erwartungen erfüllt haben, welche konkreten Aufgaben zur Entscheidungsvorbereitung auf KI-Systeme übertragen oder ob Vorgaben beispielsweise aus der DSGVO eingehalten werden. Ergänzt wird die Berichtspflicht durch das Einsichts- und Prüfrecht des Aufsichtsrats gemäß § 111 Abs. 2 S. 1 AktG (i. V. m. § 52 Abs. 1 GmbHG). Trotz der ausdrücklichen Nennung von „Büchern und Schriften“ in § 111 Abs. 2 S. 1 AktG ist der gesamte Datenbestand des Unternehmens unabhängig von der Art der Speicherung erfasst.58 Der Aufsichtsrat könnte daher Einsicht in Dokumentationen nehmen, die beschrieben, inwieweit die Geschäftsleitung KI-Systeme einsetzt oder die Trainingsdaten auf Verzerrungen kontrolliert. Derartige Einsichtnahmen sind jedenfalls anlassbezogen zulässig.59 Ob der Aufsichtsrat auch Mitarbeiter und damit zum Beispiel IT-Entwickler direkt befragen darf, ist in der aktienrechtlichen Literatur höchst umstritten.60

Rn735

Schließlich stellt sich die Frage, wie weit eine Überwachung der Geschäftsleitung überhaupt gehen kann, wenn sich KI-Systeme gerade auf Basis des Machine Learnings durch einen verdeckten Weg zwischen Input und Output auszeichnen und ihre Ergebnisse grundsätzlich nicht nachvollzogen werden können (Black Box) 61.62 Letztlich können aber auch die inneren Denkvorgänge und Beweggründe menschlicher Mitarbeiter oder externer Berater im Einzelnen nicht eingesehen und dem Aufsichtsrat erläutert werden.63 Gerade hier besteht aber eine Anknüpfungsmöglichkeit für sogenannte „Explainable AI“ , an der weiterhin geforscht wird.64

Rn736
2.2.2.2. KI-Systeme als Mittel der Überwachung

Durch die Vorstandsberichte und unternehmerische Kennzahlen sind vielfältige Daten verfügbar, zu deren Auswertung der Aufsichtsrat sich auch selbst passender KI-Systeme bedienen könnte.65 Auch die Personalauswahl zur Bestellung von Vorstandsmitgliedern oder von Geschäftsführern, wenn bei der GmbH der Aufsichtsrat dafür zuständig ist, kann mit Unterstützung von KI-Systemen erfolgen.66 Insofern können KI-Systeme auch dem Aufsichtsrat zur Entscheidungsvorbereitung dienen. Bei der Diskussion um den Einsatz von KI-Systemen im Aufsichtsrat müssen jedoch auch die Besonderheiten der Aufsichtsratstätigkeit berücksichtigt werden. Die Abhängigkeit von der Informationsversorgung durch den Vorstand setzt sich beim Einsatz von KI-Systemen fort, denn der Aufsichtsrat hat keinen Zugriff auf die Daten des Unternehmens, die zum Training des Systems verwendet werden könnten. Daneben sind auch auf Ebene des Aufsichtsrats zum Beispiel bei E-Mail-Screenings datenschutzrechtliche Einschränkungen zu beachten. Der Aufsichtsrat ist hier auf die Mitwirkung des Vorstands angewiesen, solange es keine standardisierten Systeme auf dem Markt gibt. Möglicherweise führen die neuen technischen Möglichkeiten aber auch dazu, über das Informationsverhältnis zwischen dem Aufsichtsrat und dem Vorstand bzw. der Geschäftsführung neu nachzudenken. Anders als beim Vorstand steht die Nutzung von KI-Systemen oder sogar die Annahme einer Pflicht zur Nutzung der Systeme beim Aufsichtsrat vor größeren Hürden.67

Rn737

2.3. Digitalisierung der Entscheidung durch Delegation auf KI-Systeme

Anders als bei der Informationsbeschaffung bzw. -auswertung und damit bei der Beratung der Geschäftsleitung, sind es bei der Delegation die KI-Systeme selbst, die die Letztentscheidung und damit auch die nach innen oder außen bindende Entscheidung treffen. Dass gemäß § 35 Abs. 1 S. 1 GmbHG und nach § 78 Abs. 1 S. 1 AktG die Geschäftsleiter die Gesellschaft vertreten, steht dem nicht entgegen.68 Über die Wirksamkeit oder die Zurechnung von Erklärungen der KI im Außenverhältnis wird im allgemeinen Zivilrecht lebhaft diskutiert und die Wirksamkeit von herbeigeführten Verträgen jedenfalls im Ergebnis angenommen.69

Rn738

Delegiert die Geschäftsleitung Aufgaben auf KI-Systeme, ist zwischen der Delegationsentscheidung an sich und der Einhaltung etwaiger Organisationspflichten zu unterscheiden.70 Bei der Ausgestaltung der Unternehmensorganisation und damit auch bei der Übertragung der verschiedenen Aufgaben handelt es sich aufgrund des Prognosecharakters und der Unsicherheit der Entscheidung um eine unternehmerische Enstcheidung gemäß § 93 Abs. 1 S. 2 AktG, sodass die Business Judgment Rule anwendbar ist.71 Die Geschäftsleitung muss damit eine Abwägungsentscheidung treffen und davon ausgehen dürfen, auf angemessener Informationsgrundlage zum Wohle der Gesellschaft zu handeln, wenn sie Aufgaben auf KI-Systeme überträgt.72

Rn739

Delegiert die Geschäftsleitung Aufgaben auf nachgeordnete Ebenen, ist allgemein anerkannt, dass sie die Pflichtentrias aus Auswahl, Einweisung und Überwachung einhalten muss73 und sich die Entscheidungsverantwortung zur Überwachungsverantwortung modifiziert.74 Es ist noch unklar, wie die Geschäftsleitung bei der Delegation von Entscheidungsaufgaben auf KI-Systeme ihrer Überwachungsverantwortung konkret gerecht werden kann und welche Organisationspflichten sie treffen.75 Zum Teil wird eine analoge Anwendung von § 80 Abs. 2 WpHG erwogen oder die Vorschrift zumindest als Richtschnur herangezogen.76 Sie erscheint allerdings zu spezifisch und ist als Reaktion auf einen besonderen Missstand konzipiert worden.77 Die Übertragung von § 80 Abs. 2 WpHG auf alle möglichen denkbaren Einzelfälle der Aufgabenübertragung auf KI-Systeme in Kapitalgesellschaften erscheint nicht sachgerecht. Die Organisationspflichten sollten sich vielmehr an den Spezifika der KI-Systeme und den damit verbundenen Einwirkungsmöglichkeiten, wie den Trainingsdaten und den Testläufen, orientieren. In diesem Rahmen bestimmt der Einzelfall in Abhängigkeit des Risikos der Aufgabe, des konkreten KI-Systems oder auch den Erfahrungen aus der Vergangenheit die Intensität der Überwachung.78 Letztlich handelt es sich auch bei der konkreten Ausgestaltung der Überwachung um unternehmerische Entscheidungen, sodass auch hier die Haftungsprivilegierung gemäß § 93 Abs. 1 S. 2 AktG eingreift.79

Rn740

Die genannten Fragen stellen sich nur auf Ebene der Geschäftsleitung, da jedenfalls de lege lata der Aufsichtsrat seine Aufgaben nicht delegieren darf (§ 111 Abs. 6 AktG, ggf. i. V. m. § 52 Abs. 1 GmbHG). Zwar enthält die Formulierung in § 111 Abs. 6 AktG, dass die Aufsichtsratsmitglieder ihre Aufgaben nicht durch andere wahrnehmen lassen können, einen Hinweis auf natürliche Personen; allerdings ist mit der Vorschrift generell die Höchstpersönlichkeit des Amts gemeint,80 sodass auch eine Delegation auf technische Systeme aufgrund einer vergleichbaren Interessenlage analog § 111 Abs. 6 AktG ausscheidet.

Rn741

2.4. Zwischenfazit

Hinsichtlich der Digitalisierung der Entscheidungsfindung durch KI-Systeme geht es aktuell insbesondere um die Frage, welche Vorgaben das geltende Kapitalgesellschaftsrecht für die Geschäftsleitung und den Aufsichtsrat für den Einsatz von Künstlicher Intelligenz macht. Die unternehmerische Freiheit führt insbesondere für die Geschäftsleitung im Innenverhältnis von AG und GmbH zu gesellschaftsrechtlich geschütztem Ermessen im Umgang mit KI-Systemen. Dies darf allerdings nicht darüber hinwegtäuschen, dass für die Gesellschaften immer mehr Vorgaben wie beispielsweise aus der DSGVO oder in Zukunft aus der KI-Verordnung resultieren, die zum Teil potenziell auch zu einer persönlichen Haftung der Geschäftsleiter führen können, wie das Beispiel des Art. 82 DSGVO zeigt. Der Aufsichtsrat wiederum muss sich bewusst sein, dass der Einsatz von KI-Systemen durch die Geschäftsleitung zu neuen Überwachungsaufgeben führt. Für die Rechtswissenschaft besteht bei der genauen Herausbildung der Organisationspflichten bei der Delegation von Entscheidungen auf KI-Systeme und auch zu den Voraussetzungen des Vertrauens auf KI-Empfehlungen noch Diskussionspotenzial. Für den Gesetzgeber ist hierzu im Kapitalgesellschaftsrecht aktuell kein unmittelbarer Handlungsbedarf erkennbar.

Rn742

3. Dritte Welle: Digitalisierung der Organisation

Während die Digitalisierung der Kommunikation und der Entscheidungsfindung einzelne Aspekte des alltäglichen Wirkens nach innen und außen erfasst, geht es bei der dritten Welle um die Digitalisierung der Kapitalgesellschaft als Organisationsform und Trägerin unternehmerischen Handelns. Zu denken ist dabei zunächst an die Digitalisierung einzelner Aspekte der AG oder GmbH, wie digitaler Gesellschaftsanteile81 oder der Auszahlung von Dividenden mittels Smart Contracts. Mit der Decentralized Autonomous Organization („DAO“) löst sich die Diskussion um eine Organisationsform für unternehmerisches Handeln in einem weiteren Schritt von den bisher bekannten Rechts- und Organisationsformen des Kapitalgesellschaftsrechts.

Rn743

3.1. Vorüberlegungen – Blockchain als Treiber

Treiber dieser dritten Welle der Digitalisierung ist die Distributed Ledger Technologie („DLT“). Bei der DLT und der Blockchain als ihrer bekanntesten Form geht es darum, Informationen dezentral, verteilt, kryptografisch82 und damit fälschungssicher abzubilden.83 Der Fälschungsschutz und damit die Integrität der auf der Blockchain abgebildeten Informationen ist der maßgebliche Antrieb für die Entwicklung dezentraler Systeme.84 Das „distributed ledger“ wird verteilt, peer-to-peer auf jedem Rechner simultan gespeichert.85 Bei der Blockchain bilden – namensgebend – einzelne Blöcke eine Kette. Jeder Block enthält eine bestimmte Anzahl von Transaktionen und bildet damit ein Transaktionsbündel.86 Der einzelne Block wird durch einen sogenannten Hash repräsentiert, der alle in dem jeweiligen Block gespeicherten Informationen und Transaktionen numerisch bzw. in einer Funktion abbildet.87 Ändert sich der Inhalt eines Blocks, ändert sich auch der Hash.88 Jeder folgende Block enthält den Hash des vorangegangenen Blocks, sodass eine kryptografische Verbindung zwischen den einzelnen Blöcken entsteht und jeder Block innerhalb der Kette lokalisiert werden kann.89

Rn744

Damit auf der Blockchain Transaktionen vorgenommen werden können, verfügen alle Nutzer über einen Public - und einen Private Key.90 Der Public Key dient als Pseudonym der Zuordnung der einzelnen Nutzer und ist öffentlich. Der Private Key verbleibt bei den Nutzern und dient als Nachweis, dass der Nutzer zur entsprechenden Transaktion berechtigt ist. Soll eine Transaktion oder zum Beispiel die Ausübung eines Rechts erfolgen, wird die Nachricht an mehrere Nutzer gesendet, die die Nachricht wiederum weiterleiten. Dann erfolgt die Überprüfung der Transaktion bei den Nutzern individuell. Erachten alle oder eine bestimmte Anzahl der Nutzer die Transaktion als gültig, ist sie verifiziert und ergänzt fortan das Transaktionsbündel eines Blocks.91 Diese konsensuale Überprüfung der Integrität von Informationen, Rechten oder Transaktionen begründet das Vertrauen in die auf dem Distributed Ledger und damit in einem dezentralen System gespeicherten Daten, ohne dass ein zentraler Vermittler für dieses Vertrauen bürgen oder zwischengeschaltet sein müsste.92

Rn745

3.2. Digitalisierung einzelner Aspekte

3.2.1. Digitale Gesellschaftsanteile

Blickt man auf die Digitalisierung einzelner Aspekte insbesondere der GmbH und der AG, gerät vor allem die Digitalisierung der Gesellschaftsanteile in den Blick. Der Gesetzgeber hat mit dem Gesetz zur Einführung von elektronischen Wertpapieren (eWpG)93 und damit insbesondere von elektronische Inhaberschuldverschreibungen einen ersten Schritt gewagt. Nach § 2 Abs 1 S. 2 eWpG werden elektronische Wertpapiere dadurch begeben, dass der Emittent an Stelle der Ausstellung einer Wertpapierurkunde eine Eintragung in das Zentralregister (§ 12 eWpG) oder das Kryptowertpapierregister (§ 16 eWpg) bewirkt.

Rn746

Gesellschaftsanteile sind durch das eWpG bisher nicht erfasst. Die Gesetzesbegründung enthält aber bereits den Hinweis, dass auch die Regulierung von elektronischen Aktien in einem späteren Schritt erfolgen sollte.94 Deswegen ist das eWpG auch so aufgebaut, dass eine Erweiterung auf Aktien systematisch ohne größeren Aufwand im eWpG erfolgen könnte.95 BMF und BMJ haben im Juni 2022 ein Eckpunktepapier für ein Zukunftsfinanzierungsgesetz vorgestellt, das auch die Erweiterung des eWpG auf elektronische Aktien vorsieht.96 Politisch stehen elektronische Aktien damit auf der Agenda.97 Elektronische GmbH-Anteile sind dagegen bisher nicht geplant. Das ist insbesondere damit zu begründen, dass GmbH-Anteile nicht zur freien Übertragung vorgesehen sind und gemäß § 15 Abs. 3 und 4 GmbHG Übertragungseinschränkungen bestehen, die vorher beseitigt oder modifiziert werden müssten, um die Übertragung durch eine Digitalisierung des Anteils selbst weiter zu beschleunigen.98

Rn747

Die digitale Aktie, die in einem Register auf Basis der Blockchain-Technologie gespeichert sein könnte, hätte den Vorteil der einfacheren Legitimation und Identifikation sowie99 direkterer Information der Aktionäre,100 beschleunigter Stimmrechtsmitteilungen,101 einer besseren Dokumentation von Entscheidungen der Aktionäre,102 einer schnelleren Übertragbarkeit der Anteile und auch einer größeren Transparenz der Anteilseigner(-struktur).103 Schon heute entstehen Mitgliedschaftsrechte an der AG unabhängig von einer Verbriefung der Aktien.104 Eine Übertragung könnte weiterhin nach den sachenrechtlichen Vorschriften erfolgen.105 Ob eine Unterscheidung zwischen Namens- und Inhaberaktien in Zukunft überhaupt noch angezeigt ist, ist offen.106 Denkbar wäre beispielsweise ein Angebot für die Gesellschaften, fakultativ verbriefte oder digitale Aktien auszugeben.107 Hinsichtlich der Legitimation ist fraglich, ob die Vorschrift des § 67 AktG ein dezentrales Aktienregister zulassen würde.108 Hier dürfte aber bei entsprechender Umsetzung ohnehin das Kryptowertpapierregister (§ 27 eWpG) vorgehen.109 Weiterer Diskussion und gegebenenfalls gesetzlicher Anpassungen bedürfen zudem die Auswirkungen von elektronischen Aktien auf den Börsenhandel, denn der Zugang zum Kapitalmarkt und die Börsenzulassung erfordern die Teilnahme am Effektengiro und dazu bisher faktisch noch eine Verbriefung der Aktie.110 Die elektronische Aktie auf Basis eines Blockchain-Wertpapierregisters könnte die Gelegenheit bieten, den Übergang zum Aktienwertrecht abzuschließen und das Wertpapier- und Depotrecht zu reformieren.111  Eine einfachere Lösung wäre hingegen die Eintragung der Clearstream AG in das (Krypto-) Wertpapierregister als Sammeleintragung (vgl. § 8 Abs. 1 Nr. 1, § 9 Abs. 1, § 12 Abs. 3 eWpG) und sodann die Einbeziehung der Wertpapiere in den Effektengiroverkehr.112

Rn748

3.2.2. Ausschüttungen als Smart Contract

Für die Digitalisierung von Teilen der GmbH und der AG kommen neben den Gesellschaftsanteilen auch die Abwicklung der GmbH-Gewinnausschüttung, der Dividendenzahlungen oder auch konzernrechtlicher Ausgleichszahlungen über sog. Smart Contracts in Betracht. Smart Contracts sind, vereinfacht gesprochen, automatisch ausführbare Protokolle, ohne dass menschliche Entscheider zwischengeschaltet sind und die Ausführung beeinflussen oder umsetzen.113 In rechtlicher Hinsicht bilden sie grundsätzlich keinen eigenständigen Vertrag, denn sie führen keine rechtliche Änderung herbei, sondern setzen sie faktisch um.114 Durch einen automatisierten Zugriff auf die Blockchain zur Legitimation könnte dann nach der Hauptversammlung oder dem Gewinnausschüttungsbeschluss der Gesellschafter115 die Ausschüttung an die Berechtigten automatisiert erfolgen.116 Für die Rechtswissenschaft spannend und wahrscheinlich durch den Gesetzgeber zu klären sind damit zusammenhängende Fragen, zum Beispiel die Frage, wie Verfügungen über solche aus elektronischen Aktien und Smart Contracts resultierenden Ansprüche zu behandeln sind.117

Rn749

3.3. Digitalisierung der Organisation als Ganzes – DAO

Mit der Digitalisierung nicht nur von Teilen der Organisationsform Kapitalgesellschaft, sondern von ihr als Ganzes öffnet sich die Perspektive schließlich noch weiter.118 Digitalisierungsgegenstand sind hier nicht mehr einzelne Aspekte, es ist die Gesellschaft an sich.119 Dadurch werden gänzlich neue Wege der Kooperation und Handlungsorganisation eingeschlagen,120 sodass auch von Technologie als Alternative zum Recht als Infrastruktur menschlicher Kooperationen gesprochen wird121. Maßgeblich ist hier die Decentralized Autonomous Organization (DAO)122 auf Basis der Distributed Ledger Technologie und einer Vielzahl von Smart Contracts, die dezentral und verteilt im System interagieren.123 Ziel der DAO ist es, eine selbstorganisierte, konsensuale Organisationsform mit Nutzern auf Augenhöhe zu bilden, die einer zentralen Geschäftsleitung nicht bedarf.124

Rn750

Die DAO kann in großem Umfang Kapitel einsammeln und im Gegenzug Mitgliedschaftsrechte ausgeben.125Stimmrechte können dem Umfang der Anteile an der DAO („Equity Token“)126 entsprechen, Abstimmungen laufend und auch transparent über eine App oder ein Forum erfolgen („liquid democracy“)127 und so Investitions- oder strategische Entscheidungen getroffen werden.128 Der Gestaltungsfreiheit sind hier keine Grenzen gesetzt und sie ist auch nicht durch etwaige gesetzliche Vorgaben (vgl. etwa § 23 Abs. 5 AktG) begrenzt.129 Vereinbarungen können automatisch geprüft und durch Smart Contracts ausgeführt werden.130 Die Mitgliedschaft, mit ihr verbundene Rechte und insgesamt die Verfassung der so gebildeten Organisation sind dabei auf einer Blockchain fälschungssicher gespeichert.131

Rn751

Die gesellschaftsrechtliche Einordnung der DAO ist unsicher.132 Voraussetzung für eine Einordnung als Gesellschaft im Rechtssinne ist, dass der DAO überhaupt eine vertragliche Bindung zugrunde liegt.133 Überwiegend wird für das deutsche Recht eine BGB-Gesellschaft als Auffangrechtsform angenommen.134 Die Auswirkungen der Neufassung des Personengesellschaftsrechts durch das MoPeG135 sind dabei aber noch zu diskutieren. Die Einordnung als BGB-Gesellschaft wirft Fragen nach dem Auftreten der DAO nach außen und auch die Gefahr einer mangelnden Haftungsbeschränkung für die Nutzer auf.136 Fraglich ist daneben, inwieweit durch die DAO und die mit ihr verbundene Gleichberechtigung der Nutzer und das Konsensprinzip Agenturkosten reduziert werden können.137 Zu bedenken ist aber, dass auch auf der Blockchain verschiedene Kategorien von Nutzern möglich sind.138 Auch sind abschreckende Beispiele wie das von „The DAO“ bekannt, bei der eine Sicherheitslücke durch einen Hacker ausgenutzt wurde.139 Fraglich ist auch, wie Ermessensentscheidungen auf der DAO abgebildet werden sollen.140 Schließlich ist aufgrund der Dezentralität der DAO, die bei Nutzern auf der ganzen Welt parallel gespeichert ist, die Frage nach dem anwendbaren Recht und Rechtdurchsetzungsmechanismen im Streitfall zu berücksichtigen.141

Rn752

3.4. Zwischenfazit

Smart Contracts und Distributed Ledger Technologie führen zu vielfältigen Fragen im Gesellschaftsrecht. Die DAO als Digitalisierung des Zusammenschlusses von mehreren Personen zur gemeinsamen Zweckverfolgung bringt dabei die größten Unklarheiten und auch Unsicherheiten mit sich. Hierbei ist abzusehen, dass die Möglichkeiten der DAO mit klassischen gesellschaftsrechtlichen Methoden abgesichert werden („Legal Wrapper“), um insbesondere die Haftung der Nutzer zu beschränken und die DAO insgesamt praktikabler auszugestalten.142 Erwogen wird hierzu nicht nur die GmbH zur Haftungsbeschränkung,143 sondern auch das Stiftungsrecht mit seiner vergleichbaren, von Gründern bzw. Gesellschaftern dauerhaft losgelösten Struktur.144 Daneben ist es spannend zu sehen, wie sich der Regulierungswettbewerb rund um die DAO und ein Blockchain-Gesellschaftsrecht zwischen verschiedenen Staaten weiter entwickeln wird145 Als mahnendes Beispiel kann das Recht des US-Bundesstaates Wyoming dienen, das seit 2021 die Gestaltung von DAOs als Limited Liability Company zulässt, die aufgrund des deutsch-amerikanischen Freundschafts- und Handelsvertrags146 auch in Deutschland anerkannt werden müssen.147 Eine europäische Antwort wäre hier nur zu begrüßen.148

Rn753

Die gesamtwirtschaftliche Bedeutung, zumindest aber die realpolitische Bedeutung der DAO, ist noch eingeschränkt.149 Einen Schritt weiter ist bereits die Digitalisierung des bestehenden Kapitalgesellschaftsrechts. Der Gesetzgeber sollte sich nach und nach Teile der Organisationsform AG und GmbH herausnehmen und digitalisieren.150 Die durch das Zukunftsfinanzierungsgesetz bei Zustimmung der anderen beteiligten Koalitionspartner151 und Ressorts bevorstehende Einführung der digitalen Aktie ist ein erster wichtiger Schritt. Je nach Ausgestaltung der digitalen Aktie und ihrer gesellschaftsrechtlichen Weiterentwicklung in der Organisationsverfassung der AG auf der einen und der Ausgestaltung der DAO auf der anderen Seite, nähern sich beide Herangehensweisen zur Digitalisierung der Gesellschaft als Zusammenschluss mehrerer Personen zur Verfolgung eines unternehmerischen Zwecks einander an.

Rn754

4. Fazit

Die Untersuchung hat gezeigt, dass die unterschiedlichen technischen Entwicklungen durch die wissenschaftliche Debatte im Kapitalgesellschaftsrecht aufgegriffen werden. In Folge der technischen und rechtswissenschaftlichen Entwicklung kommt es zu Anpassungen durch den Gesetzgeber. Dies betrifft bisher in erster Linie noch die Digitalisierung der Kommunikation, wird aber bald durch die digitale Aktie auch die dritte Welle der Digitalisierung erfassen. Die Wellen der Entwicklung verlaufen zum Teil parallel, haben aber auch Überschneidungen. Zum Teil wird auf Basis der Blockchain-Technologie bereits über eine Neugestaltung gesellschaftsrechtlicher Kommunikation diskutiert, die wiederum die bisherigen Diskussionen und gesetzgeberischen Regelungen152 überholt.153 Eine klare Zuordnung ist nicht immer gegeben. Das Bild der verschiedenen Wellen hilft allerdings die technischen Entwicklungen und die mit ihnen verbundenen rechtliche Diskussionen einzuordnen und auch für etwas Nüchternheit zu sorgen, weil immer damit zu rechnen ist, dass die Diskussion wieder abklingt, wenn sich die technische Entwicklung etabliert hat oder die erste Euphorie in Anbetracht der Neuigkeit wieder abgeklungen ist.

Rn755

Es ist festzustellen, dass die rechtliche Diskussion zwar der technischen Entwicklung folgt, aber auch immer nur reagiert. Dieses Verhältnis liegt jedoch in der Natur des Rechts als Mittel zur Gestaltung und Regelung der Lebenswirklichkeit, die dem Recht in der Regel aber vorausgeht. Wichtig ist, dass die Spanne zwischen technischer Entwicklung und ihrer Aufnahme im rechtswissenschaftlichen Diskurs nicht zu groß wird. Mit der nächsten Welle der Digitalisierung ist auch mit der nächsten Welle in der rechtswissenschaftlichen Diskussion zu rechnen. Gerade darin liegt auch der Reiz der Digitalisierung im Recht.

Rn756

 


1 Windorf, LRZ 2022, Rn. 549 - 593.

2 Knaier, in: Beyer et al., Privatrecht 2050, 2020, S. 255, 270; Kiefner, in: Gabel/Heinrich/Kiefner, Rechtshandbuch Cyber-Security, 2019, S. 15 ff.

3 Der Bereich der IT-Sicherheit und damit verbundene gesellschaftsrechtliche Implikationen bleiben hier ausgeblendet. Dazu siehe etwa Daghles, DB 2018, 2289; Kiefner/Happ, BB 2020, 2051; Spindler, CR 2017, 715.

4 Die technische Entwicklung selbst erfolgt auch in Wellenbewegungen. Dabei wird abwechselnd vom sogenannten „KI-Sommer bzw. Winter“ gesprochen, je nachdem ob die Entwicklung gerade eine Hochphase erreicht oder wieder Ernüchterung eingekehrt ist. Dazu siehe z. B. Kaulartz/Braegelmann, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 6; Lakemeyer, in: Frenz, Handbuch Industrie 4.0, 2020, S. 824 ff.; McCarty, Finding the right balance in Artificial Intelligence and Law, 2017, S. 2 ff.; Russell/Norvig, Künstliche Intelligenz, 3. Aufl. 2012, S. 41 ff.

5 Vgl. Lakemeyer, in: Frenz, Handbuch Industrie 4.0, 2020, S. 823 ff.; Kaulartz/Braegelmann, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 6.

6 Vgl. Noack, ZHR 183 (2019), 105, 106; zu dieser Einteilung siehe auch Thiel/Nazari/-Khanachayi, RDi 2021, 134, 135.

7 Siehe die Beiträge aus den letzten Jahren: Armour/Eidenmüller, ZHR 183 (2019), 169; Fleischer, AR 2018, 121; Hoch, AcP 219 (2019), 646, 670 ff.; Knaier, in: Beyer et al., Privatrecht 2050, 2020, S. 255, 269 ff.; Linardatos, ZIP 2019, 504; Lücke, BB 2019, 1986; Möslein, ZIP 2018, 204; ders.AR 2020, 2; Noack, ZHR 183 (2019), 105; ders., in: FS Windbichler, 2020, S. 947; ders., NZG 2021, 305; Sattler, BB 2018, 2243, 2247 f.; Seibert, in: FS Windbichler, 2020, S. 1081 (1086 ff.); Seibt, in: FS Seibert, 2019, S. 825; Strohn, ZHR 182 (2018), 371; Teichmann, ZfPW 2019, 247, 264 f.; Thiel/Nazari-Khanachayi, RDi 2021, 134; Wagner, BB 2018, 1057; Weber/Kiefner/Jobst, NZG 2018, 1131; Zetzsche, AG 2019, 1; in der Folge sind Beiträge in Handbüchern entstanden: Möslein, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 509 ff.; ders., in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, 2020, § 13; Spindler/Seidel, in: Chibanguza/Kuß/Steege, Künstliche Intelligenz, 2022, S. 703 ff. und die Diskussion fand teilweise Eingang in die Kommentarliteratur: Grigoleit/Tomasic, in: Grigoleit, AktG, 2. Aufl. 2020, § 93 Rn. 48 Fn. 79; Koch, AktG, 16. Aufl. 2022, § 93 Rn. 43; Sailer-Coceani, in: K. Schmidt/Lutter, AktG, 4. Aufl. 2020, § 93 Rn. 17; Spindler, in: MüKoAktG, 5. Aufl. 2019, § 93 Rn. 56; in einem weiteren Schritt befinden sich Monografien im Entstehen.

8 Vöpel, Wirtschaftsdienst, 2018, 828, 829.

9 Bitkom/DFKI, Künstliche Intelligenz, 2017, S. 67 f.; Seibt, in: FS Seibert, 2019, S. 825, 840 f.; Teubner, AcP 218 (2018) 155, 175 f.; Vöpel, Wirtschaftsdienst 2018, 828, 829; vgl. auch Boehme-Neßler, NVwZ 2014, 825 f.; Hoffmann-Riem, Recht im Sog. der digitalen Transformation, 2022, S. 14; v. Westphalen, BB 2020, 1859, 1864; siehe dazu bereits Windorf, KTS 2022, 199, 201 Fn. 15.

10 Zum Problem der Wortbedeutung Herberger, NJW 2018, 2825 ff.; der Ursprung des englischen Begriffs „Artificial Intelligence“ liegt in einem Antrag für ein Forschungsprojekt aus dem Jahr 1955, siehe McCarthy et al., A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, 1955, abgedruckt in AI Magazine Volume 27 No. 4, 2006, S. 12.

11 Bauberger et al., in: Görz/Schmid/Braun, Handbuch der Künstlichen Intelligenz, 6. Aufl. 2021, S. 907; Stiemerling, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 15; ders., CR 2015, 762; in einem der ersten allgemein anerkannten Lehrbücher zur Thematik heißt es: „Dieses Buch ist eine Einführung in das Gebiet, das letzthin nun Künstliche Intelligenz genannt wurde“Winston,Künstliche Intelligenz, 1987, S. 21.

12 Der Begriff des Systems führt zu einer Abgrenzbarkeit, vgl. Zech, 73. djt I/A 23.

13 Vgl. Europäische Kommission, Weissbuch KI, 2020, COM(2020) 65 final, S. 19 dort insbesondere Fn. 47.

14 Hochrangige Expertengruppe, Assessment List for Trustworthy AI, 2020, abrufbar unter: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (zuletzt abgerufen am 9.8.2022), S. 47; dies., Eine Definition der KI, 2019, englische Version abrufbar unter: https://digital-strategy.ec.europa.eu/en/library/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines (zuletzt abgerufen am 9.8.2022), S. 6.

15 Vorschlag für eine Verordnung des europäischen Parlaments und des Rats zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM/2021/206 final) v. 21.4.2021.

16 Bomhard/Merkle, RDi 2021, 276, 277 f.; Ebers/Hoch/Rosenkranz/Ruschemeier/Steinrötter, RDi 2021, 528, 529; Glauner, Stellungnahme für das gemeinsame Fachgespräch der Ausschüsse für die Angelegenheiten der Europäischen Union des Deutschen Bundestages und der französischen Assemblée nationale zur Politik der EU im Bereich der Künstlichen Intelligenz (KI) und insbesondere dem Verordnungsvorschlag der Europäischen Kommission zu KI (COM(2021) 206 final), abrufbar unter: www.glauner.info/expert-evidence (zuletzt abgerufen am 9.8.2022); KI-Bundesverband, Feedback to the European Commission’s regulation proposal on the Artificial Intelligence Act, abrufbar unter: https://ki-verband.de/wp-content/uploads/2021/08/Stellungnahme-KI-Regulierung-an-EC.pdf (zuletzt abgerufen am 9.8.2022).

17 Darstellungen der technischen Grundlagen von Künstlicher Intelligenz finden sich im juristischen Schrifttum etwa bei Gausling, in: Taeger, Rechtsfragen digitaler Transformation, S. 519, 521 ff.; Herold, in: Taeger, Rechtsfragen Digitaler Transformationen, S. 453, 456 ff.; Hoch, AcP 219 (2019), 646, 654 ff.; Kleiner, Die elektronische Person, 2021, S. 21 ff.; Konertz/Schönhof, Phänomen „Künstliche Intelligenz“, 2020, S. 32 ff.;Niederée/Nejdl, in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, 2020, § 2; Stiemerling, CR 2015, 762; ders. in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 42 ff.; Zetsche, AG 2019, 1, 5.

18 Europäische Kommission, Europäische Datenstrategie, COM(2020) 66 final, S. 2.

19 Zum Teil wird auch konkretisierend von Datenwirtschaftsrecht als Teil des Datenrechts gesprochen, vgl. Hennemann/von Ditfurth, NJW 2022, 1905; Steinrötter, RDi 2021, 480, 481 f. mit ordnender Grafik.

20 Vgl. so zur Schnittstelle zwischen KI und Datenschutzrecht Gausling, PinG 2019, 61, 64.

21 Vgl. Schumacher/v. Schönfeld/Bartels, Das Datenrecht als neues Rechtsgebiet? v. 21.3.2022, abrufbar unter: www.lto.de/recht/hintergruende/h/uebersicht-gesetze-regeln-datenrecht-datenschutz-datenstrategie-eu-data-act-free-flow-of-data-act/ (zuletzt abgerufen am 9.8.2022); Steinrötter, RDi 2021, 480.

22 Europäische Kommission, Europäische Datenstrategie, COM(2020) 66 final, S. 29.

23 Verordnung (EU) 2022/868 des Europäischen Parlaments und des Rates vom 30. Mai 2022 über europäische Daten-Governance und zur Änderung der Verordnung (EU) 2018/1724 (Daten-Governance-Rechtsakt), L 152/1 v. 3.6.2022.

24 Vorschlag für eine Verordnung des europäischen Parlaments und des Rates über harmonisierte Vorschriften für einen fairen Datenzugang und eine faire Datennutzung (Datengesetz), COM(2022) 68 final.

25 Ausführlich zum Data Governance Act etwa Hennemann/von Ditfurth, NJW 2022, 1905; Tolks, MMR 2022, 444; Schildbach, ZD 2022, 148; Spindler, CR 2021, 98.

26 Entwurf Data Act, COM(2022) 68 final, S. 2.

27 Entwurf Data Act, COM(2022) 68 final, S. 2; siehe dazu Gerpott, CR 2022, 271, 272 f.

28 Proposal for a Regulation of the European Parliament and of the Council concerning the respect for private life and the protection of personal data in electronic communications and repealing Directive 2002/58/EC (Regulation on Privacy and Electronic Communications), abrufbar unter: https://data.consilium.europa.eu/doc/document/ST-6087-2021-INIT/en/pdf (zuletzt abgerufen am 9.8.2022).

29 Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates über bestreitbare und faire Märkte im digitalen Sektor (Gesetz über digitale Märkte), COM(2020) 842 final.

30 Vorschlag für eine Verordnung des europäischen Parlaments und des Rates über einen Binnenmarkt für digitale Dienste (Gesetz über digitale Dienste) und zur Änderung der Richtlinie 2000/31/EG COM(2020) 825 final.

31 Eine Übersicht zum aktuellen Stand der Gesetzgebungsverfahren findet sich in den Digital factsheets von Zenner unter www.kaizenner.eu/post/digital-factsheet-2 (zuletzt abgerufen am 9.8.2022); zu begleitenden Regulierung durch das IT- und Datensicherheitsrecht siehe Schumacher/v. Schönfeld/Bartels, a. a. O. (Fn. 21).

32 Vor Überregulierung hinsichtlich der vielen, verschiedenen neuen Rechtsakte warnend und Genauigkeit in der Abstimmung anmahnend u. a. Schmitz, ZD 2022, 189; Spindler, CR 2021, 98, 108.

33 Entwurf Data Act, COM(2022) 68 final, S. 4 ff.

34 Dazu OLG Dresden, Urteil v. 30.11.2021 – 4 U 1158/21, GmbHR 2022, 313; LG Dresden, Urteil v. 26.5.2021 – 8 O 1286/19, juris Rn. 55 ff.; Kort, GmbHR 2022, 557; Reichert/Groh, NZG 2022, 307 „Tuchfühlung beider Rechtsgebiete“; Schmitt, ZGR 2021, 559, 566; Werkmeister/Hanke, jurisPR-Compl 2(2022) Anm. 4.

35 Siehe sogleich 2.3.

36 Für die GmbH allerdings nur entsprechend: Altmeppen, GmbHG, 10. Aufl. 2021, § 43 Rn. 8 ff.; Ziemons, in: Michalski/Heidinger/Leible/J. Schmidt, GmbHG, 3. Aufl. 2017, § 43 Rn. 134.

37 Zu den verschiedenen Maßstäben siehe BGH, Beschluss v. 14.7.2008 – II ZR 202/07, NJW 2008, 3361, 3362 f. Rn. 11; BGH, Urteil v. 12.10.2016 – 5 StR 134/15, NZG 2017, 116, 117 Rn. 34; BGH, Urteil v. 3.11.2008 – II ZR 236/07, AG 2009, 117; BGH, Urteil v. 22.2.2011 – II ZR 146/09, AG 2011, 378 Rn. 19; BGH, Urteil v. 18.6.2013 – II ZR 86/11, NJW 2013, 3636, 3638 Rn. 30; aktueller siehe auch OLG Köln, Urteil v. 1.10.2019 – 18 U 34/18, NZG 2020, 110, 113 Rn. 78.

38 Siehe die Gegensätze zwischen dem Erfordernis einer objektiven Angemessenheit, dazu etwa Drescher, Die Haftung des GmbH-Geschäftsführers, 2019, Rn. 139; Goette, in: FS 50 Jahre BGH, 2000, S. 123, 140 f.; ders., ZGR 2008, 436, 447 f., und der Beschränkung auf evidente Fehler und einem Maßstab der groben Fahrlässigkeit, dazu etwa Bachmann, 70. djt I/E 45 f.; ders., WM 2015, 105, 106 f.; ders, in: FS Stilz, 2014, S. 25, 33.

39 Koch, AktG, 16. Aufl. 2022, § 93 Rn. 44.

40 Freitag/Korch, ZIP 2012, 2281, 2283; Spindler, AG 2013, 889, 893; vgl. auch Sailer-Coceani, in: K. Schmidt/Lutter, AktG, § 93 Rn. 17; siehe aber OLG Köln, Urteil v. 1.10.2019 – 18 U 34/18, NZG 2020, 110, 113 Rn. 78 „Anwendbarkeit des Grundgedankens“.

41 So auch Lücke, BB 2019, 1986, 1989; Lutter/Krieger/Verse, Rechte und Pflichten des Aufsichtsrats, 7. Aufl. 2020, § 3 Rn. 71 b; Noack, ZHR 183 (2019), 105, 121 f.; Sailer-Coceani, in: K. Schmidt/Lutter, AktG, 4. Aufl. 2020, § 93 Rn. 17; Seibt, in: FS Seibert, 2019, S. 825, 841; Thiel/Nazari-Khanachayi RDi 2021, 134, 140 f.; Zetzsche, AG 2019, 1, 7.

42 Siehe dazu z. B. Europäische Kommission, Weissbuch KI, 2020, COM(2020) 65 final, S. 12 f.; Enquete-Kommission KI, 2020, BT-Drucks. 19/23700, S. 57 ff.; Bauckhage/Fürnkranz/Paaß, in: Görz/Schmid/Braun, Handbuch der Künstlichen Intelligenz, 6. Aufl. 2021, S. 584; Maier et al., in: Görz/Schmid/Braun, Handbuch der Künstlichen Intelligenz, 6. Aufl. 2021, S. 674.

43 Einschränkungen können generell aufgrund der DSGVO, siehe Gausling, PinG 2019, 61 ff., oder auch aufgrund des Anwendungsbereichs der Systeme zum Beispiel im medizinischen Bereich und damit auch aufgrund der KI-Verordnung bestehen.

44 In diese Richtung auch Grigoleit/Tomasis, in: Grigoleit, AktG, 2. Aufl. 2020, § 93 Rn. 48 Fn 79; Koch, AktG, 16. Aufl. 2022; § 93 Rn. 43; Lücke,BB 2019, 1986, 1989; Sailer-Coceani, in: K. Schmidt/Lutter, AktG, § 93 Rn. 17; Seibt, in: FS Seibert, 2019, S. 825 (841); Weber/Kiefner/Jobst, NZG 2018, 1131, 1133 f; Zetzsche, AG 2019, 1, 9; weitergehend Möslein, ZIP 2018, 204, 209 f.; ders., in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 514; ders., in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, 2020, § 13 Rn. 32; Sattler, BB 2018, 2243, 2247 f.; Spindler, in: MüKoAktG, § 93 Rn. 56; ders., DB 2018, 41, 45; ders., ZGR 2018, 17, 43; ders., ECFR 2019, 106, 136; Thiel/Nazari-Khanachayi, RDi 2021, 134, 141.

45 Noack, ZHR 183 (2019), 105, 118, 122; Wagner, BB 2018, 1097, 1099; Weber/Kiefner/Jobst, NZG 2018, 1131, 1133; Spindler, DB 2018, 41, 45; ders., in: MüKoAktG, § 93 Rn. 56 Fn. 290.

46 BGH, Urteil v. 20.9.2011 – II ZR 234/09, NZG 2011, 1271, 1273 Rn. 18 – ISION.

47 Dazu siehe Hoch, AcP 219 (2019), 646, 683 Fn. 120; Linardatos, ZIP 2019, 504, 508 Fn. 58; Möslein, ZIP 2018, 204, 211; Seibt, in: FS Seibert, S. 825, 841 f.; Weber/Kiefner/Jobst, NZG 2018, 1131, 1133; Thiel/Nazari-Khanachayi, RDi 2021, 134, 141; Zetzsche, ZIP 2019, 1, 8.

48 Begr. RegE UMAG, BT-Drucks. 15/5092, S. 11; Altmeppen, in: Altmeppen, GmbHG, 10. Aufl. 2021, § 43 Rn. 7 f., 11; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 93 Rn. 82.

49 Nützliche Pflichtverletzungen sind unzulässig. Die h.M. begründet dies mit dem Geltungsanspruch der höherrangigen Rechtsordnung. Siehe BGH, Beschluss v. 13.9.2010 – 1 StR 220/09, NJW 2011, 88, 92 Rn. 37; BGH, Urteil v. 27.8.2010 – 2 StR 111/09, NZG 2010, 1190, 1192 Rn. 29; i. E auch OLG Karlsruhe, Urteil v. 31.7.2013 – 7 U 184/12, NZG 2013, 1177, 1179 f. Rn. 23; Fleischer, in: BeckOK AktG, Stand: 1.7.2022, § 93 Rn. 29, 52; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 93 Rn. 134; Koch, AktG, 16. Aufl. 2022, § 93 Rn. 12; Mertens/Cahn, in: KK-AktG, 3. Aufl. 2010, § 93 Rn. 71; Sailer-Coceani, in: K. Schmidt/Lutter, AktG, 4. Aufl. 2020, § 93 Rn. 15; Spindler, in: MüKoAktG, 5. Aufl. 2019, § 76 Rn. 109.

50 Bachmann, 70. djt I/E 44; ders., WM 2015, 105, 109; Fleischer, ZIP 2005, 141, 149; Graewe/v. Harder, BB 2017, 707, 710; Habersack, in: FS U. H. Schneider, 2011, S. 429, 436; Holle, AG 2016, 270, 279.

51 Buck-Heeb, BB 2013, 2247, 2255; Fleischer, in: FS Hüffer, 2010, S. 187, 199; ders., ZIP 2005, 141, 149; Graewe/v. Harder, BB 2017, 707, 710; Habersack, in: FS U. H. Schneider, 2011, S. 429, 436; Heyers, WM 2016, 581, 582; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 93 Rn. 140; Mertens/Cahn, in: KK-AktG, 3. Aufl. 2010, § 93 Rn. 75.

52 LG Stuttgart, Urteil v. 29.10.1999 – 4 KfH O 80/98, AG 2000, 237, 238; Arnold, in: Goette/Arnold, Hdb. Aufsichtsrat, 2021, § 4 Rn. 1; Drygala, in: K. Schmidt/Lutter, 4. Aufl. 2020, § 111 Rn. 11; Habersack, in: MüKoAktG, 5. Aufl. 2019, § 111 Rn. 20; Henze, BB 2000, 209, 214; ders., BB 2005, 165; Hoffmann-Becking, in: MünchHdb. GesR, Bd. 4, 5. Aufl. 2020, § 29 Rn. 29; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 111 Rn. 112; Koch, AktG, 16. Aufl. 2022, § 111 Rn. 2.

53 Noack, in: FS Windbichler, 2020, S. 947, 960; ders., NZG 2021, 305, 306; zurückhaltender noch ders., ZHR 183 (2019), 105, 125; Weber/Kiefner/Jobst, NZG 2018, 1131, 1132.

54 OLG Stuttgart, Beschluss. v. 19.6.2012 – 20 W 1/12, ZIP 2012, 1965, 1967; OLG München, Beschluss v. 2.7.2009 – 31 Wx 24/09, ZIP 2009, 2001, 2002; Lutter/Krieger/Verse, Rechte und Pflichten des Aufsichtsrats, 7. Aufl. 2020, § 3 Rn. 68; Mertens/Cahn, in: KK-AktG, 3. Aufl. 2013, § 111 Rn. 16; v. Schenck, in: Semler/v. Schenck/Wilsing, Arbeitshandbuch AR, 5. Aufl. 2021, § 6 Rn. 50.

55 Siehe z. B. EU-Kommission, Schaffung von Vertrauen in eine auf den Menschen ausgerichtete Intelligenz, COM(2019) 168 final, abrufbar unter https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:52019DC0168 (zuletzt abgerufen am 9.8.2022); Hochrangige Expertengruppe, Ethik-Leitlinien für eine vertrauenswürdige KI, 2019, abrufbar unter: https://op.europa.eu/de/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1# (zuletzt abgerufen am 9.8.2022); OECD, Grundsätze für künstliche Intelligenz, abrufbar unter: www.oecd.org/berlin/presse/Flyer_AIPrinciples_FINAL_GER.pdf (zuletzt abgerufen am 9.8.2022).

56 Möslein, AR 2020, 2, 3; ders., RDi 2020, 34 ff.

57 Drygala, in: K. Schmidt/Lutter, 4. Aufl. 2020, § 111 Rn. 12; Habersack, in: MüKoAktG, 5. Aufl. 2019, § 111 Rn. 22; Hoffmann-Becking, in: MünchHdb. GesR, Bd. 4, 5. Aufl. 2020, § 29 Rn. 29; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 111 Rn. 114 ff.; Lutter/Krieger/Verse, Rechte und Pflichten des Aufsichtsrats, 7. Aufl. 2020, § 3 Rn. 66; Mertens/Cahn, in: KK-AktG, 3. Aufl. 2013, § 111 Rn. 18, 35.

58 Hoffmann-Becking, ZGR 2011, 136, 149; Hüffer, NZG 2007, 47, 53; Koch, 16. Aufl. 2022, AktG, § 111 Rn. 34; Mertens/Cahn, in: KK-AktG, 3. Aufl. 2013, § 111 Rn. 53; Noack, ZHR 183 (2019), 105, 140; ders., in: FS Vetter, 2019, S. 497, 507.

59 Zur Diskussion um das Einsichtsrecht im Aktienrecht siehe Drygala, in: K. Schmidt/Lutter, 4. Aufl. 2020, § 111 Rn. 33; Hoffmann-Becking, ZGR 2011, 136, 146 ff.; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 111 Rn. 395; Mertens/Cahn, in: KK-AktG, 3. Aufl. 2013, § 111 Rn. 52; Lutter/Krieger/Verse, Rechte und Pflichten des Aufsichtsrats, 7. Aufl. 2020, § 6 Rn. 244.

60 Siehe dazu z.B. Kort, in: FS Vetter, 2019, S. 341.

61 Zur Black Box-Problematik siehe Bauckhage/Fürnkranz/Paaß, in: Görz/Schmid/Braun, Handbuch der Künstlichen Intelligenz, 6. Aufl. 2021, S. 575; Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, 2020, § 3 Rn. 25; Linardatos, ZIP 2019, 504, 505; Hoch, AcP 219 (2019), 646, 650; Stiemerling, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 26.

62 Möslein, AR 2020, 2; ders, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 513; Strohn, ZHR 182 (2018), 371, 373.

63 Linardatos, ZIP 2019, 504, 507; Möslein, AR 2020, 2; ders., in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, 2020, § 13 Rn. 43; Noack, in: FS Vetter, 2019, S. 497, 500; ders., NZG 2021, 305, 306; vgl. auch Fleischer, ZHR 172 (2008), 538, 553.

64 Bauckhage/Fürnkranz/Paaß, in: Görz/Schmid/Braun, Handbuch der Künstlichen Intelligenz, 6. Aufl. 2021, S. 576 ff.

65 Vgl. Thiel/Nazari-Khanachayi, RDi 2021, 134, 139; Zetzsche, AG 2019, 1, 11.

66 Siehe zu den Rechtspflichten des Aufsichtsrats bei der Auswahl geeigneter Mitglieder von Vorstand und Aufsichtsrat umfassend Behme/Zickgraf, AG 2015, 841. 

67 Optimistischer Noack, in: FS Vetter, 2019, S. 497, 506 f.; aus Praktikabilitätsgründen hinsichtlich des Einsatzes von Informationstechnologie auf Ebene der Aufsichtsratstätigkeit skeptisch bereits Zöllner, in: Noack/Spindler, Unternehmensrecht und Internet, 2001, S. 86.

68 Dies aber offenbar als Einschränkung bzw. auch Anlass für eine Anpassung des Rechtsrahmens annehmend Knaier, in: Beyer et al., Privatrecht 2050, 2020, S. 255, 271; Teichmann, ZfPW 2019, 247, 264 f.

69 Siehe zum Beispiel Kleiner, Die elektronische Person, 2021, S. 33 ff.; Wettig, Vertragsschluss mittels elektronischer Agenten, 2010, S. 161 ff.

70 Vgl. Linnertz, Delegation durch Vorstand, 2020, S. 190 ff.

71 Fleischer, Handbuch des Vorstandsrechts, 2006, § 1 Rn. 56; Harbarth, ZHR 179 (2015), 136, 162; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 93 AktG Rn. 75; Seibt, in: FS K. Schmidt, 2009, S. 1463, 1476; Spindler, in: MüKo-AktG, 5. Aufl. 2019, § 91 Rn. 67, § 93 Rn. 115.

72 Grigoleit, in: Grigoleit, AktG, 2. Aufl. 2020, § 76 Rn. 87; Möslein, ZIP 2018, 204, 209; ders., in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 512; Zetzsche, AG 2019, 1, 7; krit. Strohn, ZHR 182 (2018), 371, 375.

73 BGH, Urteil v. 7.11.1994 – II ZR 270/93, NJW 1995, 326, 329; Fleischer, in: BeckOK AktG, Stand: 1.7.2022, § 93 Rn. 134; Harbarth, ZHR 179 (2015), 136, 164; ders., ZGR 2017, 211, 215; Hopt/Roth, in: GroßkommAktG, 5. Aufl. 2015, § 93 Rn. 162; Linnertz, Delegation durch Vorstand, 2020, S. 239; Meyer, in: Illert/Ghassemi-Tabar/Cordes, § 1 Rn. 111 ff.

74 Vgl. z. B. Bachmann, 70. djt I/E 42.

75 Die Übertragbarkeit des Pflichtentrias offen lassend Ihrig/Schäfer, Rechte und Pflichten des Vorstands, 2. Aufl. 2020, § 16 Rn. 431.

76 Möslein, ZIP 2018, 204, 211 f.; siehe auch Weber/Kiefner/Jobst, NZG 2018, 1131, 1135 „§ 80 Abs. 2 WpHG als Richtschnur“; ähnliche Interessenlage aber nur noch „im Grundsatz“ bei Möslein, in: Kaulartz/Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 2020, S. 517; ders., in: Ebers/Heinze/Krügel/Steinrötter, Künstliche Intelligenz und Robotik, § 13 Rn. 39; ders., RDi 2020, 34, 39; krit. zur analogen Anwendung von § 80 Abs. 2 WpHG Lücke, BB 2019, 1986, 1992 f.; Noack, in: FS Windbichler, 2020, S. 947 (951); Wagner, BB 2018, 1097, 1099; Zetzsche, AG 2019, 1, 8; offener noch Noack, ZHR 183 (2019), 105, 127.

77 Zetzsche, AG 2019, 1, 8; vgl. auch Lücke, BB 2019, 1986, 1993. Hintergrund der Vorschrift ist ein sog. Flash-Crash an der New Yorker Börse im Jahr 2010, vgl. Söbbing, ZIP 2019, 1603; Teubner, AcP 218 (2018), 155, 158. Der Flash-Crash stellte sich im Nachhinein allerdings als Marktmanipulation eines Betrügers heraus, vgl. Siedenbiedel, Der Mann, der die Wall Street in die Knie zwang, FAZ v. 27.4.2015, abrufbar unter www.faz.net/aktuell/finanzen/spektakulaerer-flash-crash-der-mann-der-die-wall-street-in-die-knie-zwang-13559594.html (zuletzt abgerufen am 9.8.2022).

78 Vgl. Dreher, in: FS Hopt, 2010, S. 517, 537; Fleischer, ZIP 2003, 1, 9; Linnertz, Delegation durch Vorstand, 2020. S. 258 f.; Zenner, AG 2021, 502, 507.

79 Fleischer, in: BeckOK AktG, Stand: 1.7.2022, § 76 Rn. 74; ders., ZIP 2003, 1, 8; Harbarth, ZHR 179 (2015), 136, 162; ders., ZGR 2017, 211, 229 f.; Linnertz, Delegation durch Vorstand, 2020. S. 259 f., 277; Seibt, in: FS K. Schmidt, 2009, S. 1463, 1476; E. Vetter, in: Krieger/U. H. Schneider, Hdb. Managerhaftung, 3. Aufl. 2017, § 22 Rn. 75; Zenner, AG 2021, 502, 503.

80 Habersack, in: MüKoAktG, 5. Aufl. 2019, § 111 Rn. 156; Koch, AktG, 16. Aufl. 2022, § 111 Rn. 86; Spindler, in: BeckOK, AktG, Stand: 1.7.2022, § 111 Rn. 110; vgl. auch Noack, in: Noack/Servatius/Haas, GmbHG, 23. Aufl. 2022, § 52 Rn. 100.

81 Zum Teil auch in der zweiten Welle verortet, vgl. Seibert, in: FS Windbichler, 2020, S. 1081, 1086.

82 Zur Ausgangsmethodik siehe grundlegend Schneier, Angewandte Kryptografie, 2. Aufl. Nachdr. 2006.

83 Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 1; Mann, NZG 2017, 1014 f.; Schwemmer, AcP 221 (2021), 555, 560.

84 Knaier, in: Beyer et al., Privatrecht 2050, 2020, S. 255, 274; Schwemmer, AcP 221 (2021), 555, 560 f.

85 Fleischer, ZIP 2021, 2205, 2206; Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 1; Kaulartz, CR 2016, 474, 475; Mann, NZG 2017, 1014.

86 Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 13.

87 Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 14; Kaulartz, CR 2016, 474, 475; Spindler, ZGR 2018, 17, 45.

88 Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 14; Kaulartz, CR 2016, 474, 475 mit erklärender Illustration; Knaier, in: Beyer et al., Privatrecht 2050, 2020, S. 255, 274.

89 Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 14.; Kaulartz, CR 2016, 474, 476;Spindler, ZGR 2018, 17, 45.

90 Siehe dazu und zum folgenden Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 15 ff.; Beurskens, in: FS Seibert, 2019, S. 71, 78 f.; Kaulartz, CR 2016, 474, 475 f.; Maume/Fromberger, ZHR 185 (2021), 507, 513 f.

91 Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 18 f.; Spindler, ZGR 2018, 17, 46.

92 Kaulartz, CR 2016, 474, 475 f.; Mann, NZG 2017, 1014, 1015; Möslein, in: FS Windbichler, 2020, S. 889, 891; Paal, ZGR 2017, 590, 605.

93 Gesetz zur Einführung von elektronischen Wertpapieren v. 3.6.2021, BGBl. I (2021) Nr. 29, S. 1423.

94 Begr. RegE, BT-Drucks. 19/26925, S. 37 f.

95 Siehe z. B. Begr. RegE, BT-Drucks. 19/26925, S. 44, 68; zur rechtstechnischen Umsetzbarkeit und krit. zu diesem Ansatz Guntermann, AG 2021, 449, 454 ff.

96 Abrufbar unter: www.bundesfinanzministerium.de/Content/DE/Downloads/Finanzmarktpolitik/2022-06-29-eckpunkte-zukunftsfinanzierungsgesetz.pdf?__blob=publicationFile&v=6 (zuletzt abgerufen am 9.8.2022); ausführlich zur Entmaterialisierung der Aktie Maume/Fromberger, ZHR 185 (2021), 507, 518 ff.

97 Einschränkend mit Blick auf praktische Umsetzungsprobleme noch Kuntz, ZHR 183 (2019), 190, 208.

98 Vgl. Windorf, LRZ 2022, Rn. 549, 571 f.; zur GmbH-Mitgliedschaft auf der Blockchain ausführlich Maume, NZG 2021, 1189, 1190 ff., 1194 f.; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2157 ff.; zur Beschleunigung der GmbH-Anteilsübertragung durch die Blockchain siehe Paal, ZGR 2017, 590, 610 f.

99 Hier dürfen aber auch datenschutzrechtliche Implikationen nicht unberücksichtigt bleiben, vgl. Beurskens, in: FS Seibert, 2019, S. 71, 81; Kuntz, ZHR 183 (2019), 190, 209 ff.; vgl. im Zusammenhang mit der Legitimationswirkung des Kryptowertpapierregisters zur Ausübung von Mitgliedschaftsrechten Reger/Langheld/Haagen, RDi 2021, 83, 90.

100 Dazu siehe bereits Windorf, LRZ 2022, Rn. 549, 582 ff.; vgl. auch Beurskens, in: FS Seibert, 2019, S. 71, 80, 85 ff.; einschränkend Maume/Fromberger, ZHR 185 (2021), 507, 554.

101 Einschränkend Guntermann, AG 2021, 449, 452 f.

102 Beurskens, in: FS Seibert, 2019, S. 71, 89 f.

103 Kuntz, ZHR 183 (2019), 190, 203 ff.; Maume/Fromberger, ZHR 185 (2021), 507, 515, 551 ff.; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2154 ff.; Reger/Langheld/Haagen, RDi 2021, 83, 90 ff.; Seibert, in: FS Windbichler, 2020, S. 1081, 1086; Thiel/Nazari-Khanachayi, RDi 2021, 134, 136; siehe dazu auch die Blockchain-Strategie der Bundesregierung, 2019, abrufbar unter: www.bmwk.de/Redaktion/DE/Publikationen/Digitale-Welt/blockchain-strategie.pdf?__blob=publicationFile&v=22 (zuletzt abgerufen am 9.8.2022), S. 14 und auch die Bestrebungen auf europäischer Ebene vgl. High Level Forum on the Capital Markets, A new Vision for Europe’s Capital Markets, abrufbar unter: https://ec.europa.eu/info/sites/default/files/business_economy_euro/growth_and_investment/documents/200610-cmu-high-level-forum-final-report_en.pdf (zuletzt abgerufen am 9.8.2022), S. 79 ff.

104 Vatter, in: BeckOGK, AktG, Stand: 1.7.2022, § 10 Rn. 32 f.; Koch, AktG, 16. Aufl. 2022, § 10 Rn. 2; Habersack, in: MüKoBGB, 8. Aufl. 2020, Vor § 793 BGB Rn. 25; siehe zu diesem Kontext auch Guntermann, AG 2021, 449, 455; Reger/Langheld/Haagen, RDi 2021, 83, 87, 89. 

105 Maume/Fromberger, ZHR 185 (2021), 507, 539 ff.; Reger/Langheld/Haagen, RDi 2021, 83, 87 f.; krit. Guntermann, AG 2021, 449, 456 f.

106 Vgl. Seibert, in: FS Windbichler, 2020, S. 1081, 1086 die Unterscheidung sei „obsolet“; siehe auch Möslein/Omlor/Urbach, ZIP 2020, 2149, 2160; Reger/Langheld/Haagen, RDi 2021, 83, 88 f.

107 Ausführlich Möslein/Omlor/Urbach, ZIP 2020, 2149, 2153 f.

108 Dafür Maume/Fromberger, ZHR 185 (2021), 507, 531 f.; Möslein, in: FS Windbichler, 2020, S. 889, 895; vgl. dazu auch Beurskens, in: FS Seibert, 2019, S. 71, 80 f.; differenzierend Guntermann, AG 2021, 449, 452.

109 Reger/Langheld/Haagen, RDi 2021, 83, 89; zum Verhältnis zwischen Gesellschafts- und Kapitalmarktrecht hinsichtlich digitaler Aktien siehe Maume/Fromberger, ZHR 185 (2021), 507, 539 f. und passim.

110 Vgl. Guntermann, AG 2021, 449, 451 f.; Reger/Langheld/Haagen, RDi 2021, 83, 91

111 Ausführlich Guntermann, AG 2021, 449, 450 ff.; zurückhaltend Begr. RegE, BT-Drucks. 19/26925, S. 38 f.

112 Guntermann, AG 2021, 449, 452, 454; Reger/Langheld/Haagen, RDi 2021, 83, 84.

113 Möslein, in: FS Windbichler, 2020, S. 889, 896; ausführlich Matthes, in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 37 ff.; Spindler, RDi 2021, 309, 310.

114 Fleischer, ZIP 2021, 2205, 2206; Kaulartz/Heckmann, CR 2016, 618 f., 621 ff.; Langheld/Haagen, NZG 2021, 724; Mann, NZG 2017, 1014, 1016; ders., in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 222; Maume/Fromberger, ZHR 185 (2021), 507, 514; Sattler, BB 2018, 2243, 2249 f.; Schwemmer, AcP 221 (2021), 555, 561; Spindler, ZGR 2018, 17, 47; ausführlich auch Braegelmann/Kaulartz, in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 4 ff; Möslein, ZHR 183 (2019), 254, 280 ff.

115 Zur digitalen Gesellschafterbeteiligung siehe bereits Windorf, LRZ 2022, Rn. 549, 575 ff.

116 Guntermann, AG 2021, 449, 453; Möslein, in: FS Windbichler, 2020, S. 889, 896 f.; ders./Omlor/Urbach, ZIP 2020, 2149, 2155; Reger/Langheld/Haagen, RDi 2021, 83, 85, 89 f., 92.

117 Reger/Langheld/Haagen, RDi 2021, 83, 89 f.; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2159 f. 

118 Vgl. Schwemmer, AcP 221 (2021), 555, 557 „disruptives Potenzial für das Gesellschaftsrecht“; Teichmann, ZfPW 2019, 247, 265; 

119 Davon abzugrenzen ist die hier nicht behandelte Abbildung einer Haftungsmasse für KI-Systeme zum Beispiel in Form einer GmbH. Dabei geht es darum, durch eine mögliche Eigenhaftung der Systeme eine potenzielle Verantwortungs- und Haftungslücke zwischen Entscheidungen durch KI-Systeme und Haftung zu schließen. Vgl. dazu etwa Paal, ZGR 2017, 590, 514 ff.; Noack, in: FS Windbichler, 2020, S. 947, 958 f.; ders., NZG 2021, 305 f.

120 Schwemmer, AcP 221 (2021), 555, 557; Teichmann, ZfPW 2019, 247, 248.

121 Möslein, in: FS Windbichler, 2020, S. 889, 897; vgl. aber auch ders., ZHR 183 (2019), 254, 288 ff.

122 Krit. mit Blick auf den Begriffsbestandteil „Autonomous“ Schwemmer, AcP 221 (2021), 555, 564 f., die diesen Begriff nur verwenden möchte, wenn die Gesellschaft durch ein KI-System geleitet wird.

123 Fleischer, ZIP 2021, 2205; Langheld/Haagen, NZG 2021, 724; Mann, NZG 2017, 1014; ders., in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 219 ff.; Mienert, RDi 2021, 384, 285; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2150; Schwemmer, AcP 221 (2021), 555; Spindler, RDi 2021, 309; Teichmann, ZfPW 2019, 247, 266 ff.; monografisch Baur, Die gesellschaftsrechtliche Außenhaftung für die Verbindlichkeiten von Decentralized Autonomous Organizations, 2021; Mienert, Blockchain-basierte dezentrale autonome Organisationen und Gesellschaftsrecht, 2020.

124 Fleischer, ZIP 2021, 2205, 2206; Langheld/Haagen, NZG 2021, 724 f.; Mienert, LRZ 2021, Rn. 336 f.; ders., RDi 2021, 384, 385; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2150; Schwemmer, AcP 221 (2021), 555, 562; Spindler, RDi 2021, 309, 310 f.; vgl. auch Paal, ZGR 2017, 590, 605.

125 Fleischer, ZIP 2021, 2205, 2206; Mienert, LRZ 2021, Rn. 336, 339 f.; Teichmann, ZfPW 2019, 247, 267; Spindler, RDi 2021, 309, 311; zum Erwerb und Verlust der Mitgliedschaft ausführlich Langenheld/Haagen, NZG 2021, 724, 726 f.; vgl. auch Omlor, JZ 2022, 649, 651.

126 Kaulartz/Matzke, NJW 2018, 3278; vgl. auch Maume/Fromberger, ZHR 185 (2021), 507, 513.

127 Kremerov, RDi 2022, abrufbar unter: https://rsw.beck.de/zeitschriften/rdi/single/2022/06/07/abschied-vom-wilden-westen (zuletzt abgerufen am 9.8.2022).

128 Mienert, RDi 2021, 384, 285; Spindler, RDi 2021, 309, 310.

129 Vgl. Möslein, in: FS Windbichler, 2020, S. 889, 898.

130 Mienert, LRZ 2021, Rn. 336, 338; Langheld/Haagen, NZG 2021, 724 f; Spindler, RDi 2021, 309, 310.

131 Vgl. Mann, NZG 2017, 1014, 1015; Spindler, RDi 2021, 309, 310.

132 Möslein, in: FS Windbichler, 2020, S. 889, 901 f.

133 Mann, NZG 2017, 1014, 1016 f.

134 Fleischer, ZIP 2021, 2205, 2207; Langenheld/Haagen, NZG 2021, 724, 725; Mann, NZG 2017, 104, 1017; ders., in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 224 f.; Mienert, RDi 2021, 384, 387 f.; Teichmann, ZfPW 2019, 247, 269; vgl. auch Mienert, LRZ 2021, Rn. 336, 344 f.; Schwemmer, AcP 221 (2021), 555, 570 f.; Spindler, ZGR 2018, 17, 51; differenzierend ders., RDI 2021, 309, 310 ff.

135 Gesetz zur Modernisierung des Personengesellschaftsrechts (MoPeG) v. 10.8.2021, BGBl. I (2021) Nr. 53, S. 3436.

136 Ausführlich dazu Beurskens, in: FS Seibert, 2019, S. 71, 83 f.; Fleischer, ZIP 2021, 2205, 2207; Langenheld/Haagen, NZG 2021, 724, 727; Mann, NZG 2017, 1014, 1018; Mienert, LRZ 2021, Rn. 336, 341; ders., RDi 2021, 384, 388.

137 Möslein, in: FS Windbichler, 2020, S. 889, 902 ff.; siehe auch Enriques/Zetzsche, ECGI Working Paper Nr. 457/2019, 2019, S. 20 ff.

138 Vgl. Fromberger/Zimmermann, in: Maume/Maute/FrombergerRechtshandbuch Kryptowerte, 2020, § 1 Rn. 7 ff.; Mann, NZG 2017, 1014, 1018 f.; Spindler, RDi 2021, 310.

139 Fleischer, ZIP 2021, 2205, 2206; Mann, NZG 2017, 1014 ff.; ders., in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 220; Möslein, in: FS Windbichler, 2020, S. 889, 898; Mienert, RDi 2021, 384 f.; Spindler, RDi 2021, 309, 311 f.; Teichmann, ZfPW 2019, 247, 249, 267 f.; Weiguny, Der 50-Millionen-Raub, FAZ v. 5.7.2016, abrufbar unter: www.faz.net/aktuell/finanzen/meine-finanzen/cyber-kriminalitaet-der-50-millionen-raub-14320859.html (zuletzt abgerufen am 9.8.2022).

140 Möslein, in: FS Windbichler, 2020, S. 889.

141 Fleischer, ZIP 2021, 2205, 2206, 2208 f.; Langenheld/Haagen, NZG 2021, 724, 725 f.; Mann, NZG 2017, 1014, 1018 f.; ders., in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 227 ff.; Mienert, LRZ 2021, Rn. 336, 346; ders., RDi 2021, 386 f.; Möslein, in: FS Windbichler, 2020, S. 889; Spindler, RDi 2021, 309, 313 ff.; ders., ZGR 2018, 17, 51 f.; Teichmann, ZfPW 2019, 247, 270.

142 Dazu Fleischer, ZIP 2021, 2205, 2212; Mann, NZG 2017, 1014, 1018; ders., in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 226; Möslein, in: FS Windbichler, 2020, S. 889, 899; Schwemmer, AcP 221 (2021), 555, 575 f.; vgl. auch Sattler, BB 2018, 2243, 2250 f.; für das amerikanische Recht Mienert, LRZ 2021, Rn. 336, 347 ff.; Spindler, RDi 2021, 309, 315 f.

143 Siehe z. B. Langenheld/Haagen, NZG 2021, 724, 728 f.

144 Mienert, LRZ 2021, Rn. 336, 359 ff.; vgl. aber auch Schwemmer, AcP 221 (2021), 555, 575.

145 Vgl. dazu Fleischer, ZIP 2021, 2205, 2211; Maume/Fromberger, ZHR 185 (2021), 507, 509 f.; Mienert, LRZ 2021, Rn. 336, 342;Möslein/Omlor/Urbach, ZIP 2020, 2149, 2153; Möslein, in: FS Windbichler, 2020, S. 889, 899; Schwemmer, AcP 221 (2021), 555, 557 f.

146 Gesetz zu dem Freundschafts-, Handels und Schifffahrtsvertrag vom 29. Oktober 1954 zwischen der Bundesrepublik Deutschland und den Vereinigten Staaten von Amerika v. 7.5.1956, BGBl II (1954) Nr. 12, S. 497.

147 Art. VII des deutsch-amerikanischen Freundschaftsvertrags; siehe Fleischer, ZIP 2021, 2205, 2210 ff.; Mienert, LRZ 2021, Rn. 336, 342, 349 ff.; ders., RDi 2021, 384, 389 ff.; vgl. auch Möslein, in: FS Windbichler, 2020, S. 889, 899.

148 Zur rechtspolitischen Diskussion Beurskens in: FS Seibert, 2019, S. 71, 84 f. Fleischer, ZIP 2021, 2205, 2211 ff.; Mienert, RDi 2021, 384, 391 f.; Schwemmer, AcP 221 (2021), 555, 576 ff.

149 Das mag auch an der bisher eingeschränkten User Experience liegen, vgl. Braegelmann/Kaulartz, in: Braegelmann/Kaulartz, Rechtshandbuch Smart Contracts, 2019, S. 11; dies soll aber nicht die Menge an Kapital, das in Kryptowährungen abgebildet ist oder das durch DAOs eingesammelte Kapital (aktuell 11, 7 Milliarden US-Dollar) unterschlagen. Zum Markt der DAOs siehe die Übersicht bei https://deepdao.io/organizations (zuletzt abgerufen am 9.8.2022)

150 Maume, NZG 2021, 1189, 1195; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2153 halten diesen Weg auch generell für vorzugswürdig im Vergleich zur gänzlich neuen Regulierung der DAO.

151 Vgl. Mehr Fortschritt wagen, Koalitionsvertrag zwischen SPD, Bündnis90/Die Grünen und FDP, abrufbar unter: www.bundesregierung.de/resource/blob/974430/1990812/04221173eef9a6720059cc353d759a2b/2021-12-10-koav2021-data.pdf?download=1 (zuletzt abgerufen am 9.8.2022), S. 172.

152 Siehe dazu Windorf, LRZ 2022, Rn. 549, 575 ff.

153 Vgl. z. B. Maume, NZG 2021, 1189, 1192 ff.; Möslein/Omlor/Urbach, ZIP 2020, 2149, 2161 f.

 

Die Welt der EDRA Media

Die LRZ erscheint bei der EDRA Media GmbH.
EDRA Media ist ein innovativer Verlag,
Veranstalter und Marketingdienstleister auf den
Gebieten des Rechts und der Medizin.

Gesellschafter sind die Edra S.p.A. (LSWR Group)
und Dr. Jochen Brandhoff.

 

​EDRA MEDIA│ Innovation, Sustainability, Resilience

LEGAL REVOLUTION │Die Rechtsmesse

​LR ACADEMY│ Erlebe Spezialistenwissen

Ihr Kontakt

Journal@LRZ.legal

+49 69-348 74 49 70

 

Zeil 109
60313 Frankfurt a. M.

Folgen Sie uns

 Xing