Künstliche Intelligenz im Recht

Die gesamtwirtschaftlichen Auswirkungen von KI-Technologien könnten bis zum Jahr 2035 bis zu 35 % des Wirtschaftswachstums ausmachen (Accenture, 2018). Der Bereich der Technologien, die als "künstliche Intelligenz" bezeichnet werden, ist sehr umfangreich und kann je nach den verwendeten Definitionen zu unterschiedlichen Einschätzungen ihrer positiven und negativen Auswirkungen auf die Gesellschaft führen. Gleichzeitig wird die Universalität der KI nicht nur unter dem Gesichtspunkt ihrer technologischen Kompatibilität mit jedem Produktionsprozess betrachtet, sondern auch unter dem Gesichtspunkt der Ersetzung des Menschen. Einige Wissenschaftler sehen die Gefahr, dass die KI zu einer "Superintelligenz" wird, deren Ziele nicht die gleichen sind wie die der Menschen. Nach verschiedenen Schätzungen von Mitgliedern der Vereinigung für die Entwicklung der künstlichen Intelligenz und von KI-Spezialisten ist die Schaffung einer künstlichen Intelligenz, deren kognitive Fähigkeiten mit denen des Menschen vergleichbar sind, im Jahr 2075 möglich, während etwa 70 % der befragten Forscher das Ergebnis einer "Super-KI" für möglich halten. Angesichts dieser Vorhersagen und Befürchtungen haben mehr als 1.000 KI-Forscher ein gemeinsames Schreiben unterzeichnet, in dem sie ein Verbot des Einsatzes vollautonomer Systeme als Waffen vorschlagen. In diesem Zusammenhang ist die Schaffung eines einheitlichen internationalen Rechtsrahmens zur Regulierung der KI auf globaler Ebene von entscheidender Bedeutung..

Probleme der AI-Regulierung

Zunächst einmal muss die Regulierung im Bereich der KI umfassend sein und mehrere verwandte Technologien abdecken, darunter Big Data, Cloud Computing, maschinelles Lernen und Robotik als technische und softwaretechnische Grundlage für KI. Darüber hinaus ist die KI-Forschung umfassend und interdisziplinär angelegt: KI wird sowohl in den technischen als auch in den geisteswissenschaftlichen Fächern untersucht. Derzeit gibt es auf nationaler und internationaler Ebene keine ganzheitliche Regulierung von KI, die alle Fragen im Zusammenhang mit der Entwicklung, Produktion und Implementierung von KI-Systemen in verschiedenen Bereichen berücksichtigt. Nur einige Staaten, wie die USA, Deutschland, Südkorea, China und die Europäische Union, haben einen gründlichen Ansatz zur Lösung einzelner Probleme im Bereich der Gesetzgebung verfolgt - der größte Schwerpunkt liegt dabei auf der Regulierung des Einsatzes unbemannter Fahrzeuge. Insgesamt mangelt es dem derzeitigen Regelwerk jedoch an Kohärenz und dem Verständnis für ein einheitliches Vorgehen. Die Schaffung optimaler Standards kann zu einer Steigerung der Investitionsattraktivität der Region führen. Ein hervorragendes Beispiel für die Beziehung zwischen Gesetzgebung und technologischer Entwicklung ist der Red Flag Act in England aus dem Jahr 1865, der eine Geschwindigkeitsbegrenzung für Autos (bis zu 2 Meilen pro Stunde) festlegte und verlangte, dass ein Signalgeber vor jedem Auto marschieren musste, um die Bewegung des Fahrzeugs anzuzeigen. Infolgedessen war die Automobilindustrie in England im Niedergang begriffen, was dazu führte, dass Frankreich und Deutschland die Führungsposition in der Branche abgaben. Eine angemessene Regulierung wird also die technologische Entwicklung fördern. Gleichzeitig ist es eine ehrgeizige und schwierige Aufgabe, ein Regelwerk zu schaffen, das die Interessen aller Teilnehmer an der KI-Beziehung in Einklang bringt. Makro-Faktoren wie z.B.:

• Gesetzgebungsstarrheit,
• soziale und wirtschaftliche Folgen unter Berücksichtigung der Höhe der Arbeitslosigkeit und der sozialen Schichtung,
• Vertraulichkeit und Schutz personenbezogener Daten,
• Sicherheit,
• Ethik, einschließlich Mensch-Roboter-Einstellungen, potenzielle menschliche Schäden und so weiter.

Fragen der KI-Entwicklung und Regulierung in internationalen Organisationen

Heute werden die allgemeine globale Landschaft, grundlegende Ansätze und Prinzipien im Bereich des Gesetzesdekrets der KI von den maßgeblichsten internationalen Organisationen und Plattformen geprägt.

DAPRA

Der Interessenbereich von DARPA umfasst auch KI-Projekte, bei denen drei Bereiche der KI unterschieden werden können:

• "Handwissen" - ist eine Reihe von Regeln, die von Ingenieuren erstellt wurden und Wissen in einem genau definierten Bereich darstellen. In diesem Fall wird die Struktur des Wissens von Menschen bestimmt, und die Maschine erforscht die Besonderheiten dieses Wissens,
• "statistisches Lernen" - Ingenieure erstellen statistische Modelle für bestimmte Bereiche und trainieren die KI für die Arbeit mit den Daten. Diese Richtung zeichnet sich dadurch aus, dass sie eine gute Klassifikation und die Möglichkeit bietet, bestimmte Ereignisse vorherzusagen. Ein wesentlicher Nachteil der KI ist ihre minimale Fähigkeit zur Vernunft,
• "konzeptionelle Anpassung" - Diese Richtung sieht die Entwicklung von Systemen vor, die kontextbezogene Erklärungsmodelle für Klassen und Phänomene der tatsächlichen Welt generieren (z. B. ein generatives Modell, das erklärt, wie ein bestimmtes Objekt hätte geschaffen werden können. Das DARPA-Konzept ist tief und logisch mit der Gegenwart verbunden Situation im Bereich der KI-Entwicklung; diese Technologien wurden jedoch nicht hinsichtlich der Funktionalität und Definition moralischer, rechtlicher und organisatorischer Grenzen untersucht.

Die Vereinten Nationen

Im Jahr 2018 berichteten die Vereinten Nationen, dass sie unter anderem die Auswirkungen von KI-Technologien auf die Menschenrechte im Informationsumfeld untersucht haben. Das Papier stellt fest, dass Unternehmen überlegen sollten, wie sie professionelle Standards für KI-Ingenieure entwickeln und die Menschenrechtsverantwortung in Leitlinien für technische Entscheidungen beim Entwerfen und Betreiben von KI-Systemen umsetzen können. Es wird auch empfohlen, Beschwerde- und Abhilfesysteme einzurichten, um auf Beschwerden und Einsprüche von Benutzern umgehend zu reagieren. Es sollten regelmäßig Daten über die Häufigkeit von Beschwerden und Anträgen auf Abhilfe für Situationen, in denen KI-Systeme aufgetreten sind, sowie über die Art und Wirksamkeit verfügbarer Behandlungen veröffentlicht werden. KI-Themen werden auch im Rahmen der Kernkompetenzen der Kommission für wirtschaftliche und soziale Entwicklung (ECOSOC) und der UN-Konferenz für Handel und Entwicklung (UNCTAD) behandelt. Die UNCTAD hat einige Initiativen ergriffen, um die Diskussion über die Datenübertragung und die damit verbundenen Risiken für Länder, die in der digitalen Wirtschaft hinterherhinken, auszuweiten. Im Jahr 2018 wurde der Digital Economy Report veröffentlicht, und eines seiner zentralen Themen war die Übertragung von Daten und ihre potenziellen Auswirkungen auf eine Blockchain-, Cloud-, IoT- und KI-Entwicklung.

Die Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur (UNESCO)

Die UNESCO stellt fest, dass die Anhäufung von Daten über menschliches Verhalten und der Einsatz von Computertechnologien zu deren Verarbeitung neue Fragen in Bezug auf Menschenrechte, Informationsfreiheit und Bildung aufwirft. Das Ziel der UNESCO im Bereich der KI ist es, die Macht der neuen IT-Technologien zu nutzen, um eine Wissensgesellschaft aufzubauen und die Ziele für nachhaltige Entwicklung (SDGs) zu erreichen. Die UNESCO empfiehlt, die globale KI-Entwicklung aus der Perspektive der ROAM-Prinzipien (Menschenrechte, Offenheit, Zugänglichkeit und Beteiligung aller Interessengruppen) zu betrachten, die bereits im Zusammenhang mit der universellen Entwicklung des Internets formuliert wurden. Zusätzlich zu den ROAM-Prinzipien weist das UNESCO-Positionspapier auf die Notwendigkeit hin, ethische Grundsätze für KI zu entwickeln, geschlechtsspezifische und soziale Minderheiten zu respektieren und der Überwindung der digitalen Kluft besondere Aufmerksamkeit zu widmen, insbesondere im Hinblick auf afrikanische Länder.

Die Erfahrungen der Europäischen Union mit der rechtlichen Regulierung von AI

Am 10. April 2018. Fünfundzwanzig europäische Länder unterzeichneten eine Erklärung zur Zusammenarbeit im Bereich der KI. Die Mitgliedstaaten haben sich darauf geeinigt, bei den wichtigsten Themen des digitalen Zeitalters zusammenzuarbeiten, von der Sicherung der Wettbewerbsfähigkeit Europas in der KI-Forschung bis hin zur Bewältigung der sozialen Herausforderungen der KI-Anwendung. Darüber hinaus definierten die Staaten einen proaktiven Ansatz zur Regulierung von KI, der die Modernisierung des europäischen Bildungs- und Ausbildungssystems, einschließlich der Weiterbildung und Umschulung der europäischen Bürger, beinhaltet. Auf die Erklärung folgte ein ebenso wichtiges Dokument, die Policy and Investment Recommendations for Robust AI. Dieser Leitfaden hebt die folgenden Elemente im Bereich der rechtlichen Regulierung von KI hervor:

• Steigerung des gesellschaftlich praktischen Wissens über KI,
• Beschleunigung der Einführung von KI-Technologien und -Diensten in allen Sektoren der Europäischen Union,
• Förderung und Skalierung von KI-Lösungen durch Innovation und Erleichterung der Transformation des Technologiesektors
• Entwicklung von rechtlich kompatiblen und ethischen Datenmanagement- und Datenaustauschinitiativen innerhalb der Europäischen Union,
• Entwicklung und Unterstützung von KI-zentrierten Cybersicherheitsinfrastrukturen. Der Leitfaden betont die Notwendigkeit, ein Cybersicherheitsregime für KI-Infrastruktur und KI-Methoden zu entwickeln. Darüber hinaus hebt das Dokument den Sinn der Entwicklung benutzerzentrierter KI-Cybersicherheitsrichtlinien zum Schutz der Benutzerrechte im Internet hervor. Es sollte beachtet werden, dass ein Nachteil des Leitfadens sein Multitasking und sein geringes Maß an KI-Regulierung ist. Die KI-Regulierung endet hier nicht; am 19. Februar 2020. Die Europäische Kommission hat ein Weißbuch herausgegeben, das den Fokus auf die Schaffung eines KI-Ökosystems verlagert. Das Weißbuch hebt die folgenden Punkte im Bereich der KI-Regulierungsaktivitäten hervor:
• Einrichtung wichtiger KI-Innovations- und -Forschungszentren und Entwicklung ihrer politischen Bestimmungen
• Förderung der Einführung von KI im öffentlichen Sektor. Die Europäische Kommission leitet offene und transparente Sektordialoge ein, wobei der Gesundheitsversorgung usw. Vorrang eingeräumt wird
• Erstellung ethischer Grundsätze sowie Entwicklung von Empfehlungen zur KI. Das Weißbuch proklamiert auch ein "Ökosystem des Vertrauens" die als normativer Rahmen für KI fungiert. Die Richtlinien werden durch Cybersicherheitsprinzipien untermauert, die auf technischer Zuverlässigkeit, Datenschutz, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness basieren sollten. Dieses Dokument umreißt grob die Richtung des Regulierungsrahmens, die die Beseitigung möglicher Risiken der KI (d. h. der vollständig autonomen KI) impliziert. Die kritischste Herausforderung des EU-Rechtsrahmens ist seine Anwendbarkeit auf KI. Das Weißbuch betont, dass eine angemessene Bewertung des Rechtsrahmens und seiner Relevanz erforderlich ist. Es wird eine Änderung des Sicherheitskonzepts festgestellt. Tatsache ist, dass der Einsatz von KI in Produkten und Dienstleistungen viele Risiken birgt, was den Bedarf an gesetzlicher Regulierung in diesem Bereich schafft (z. B. die Schaffung von Standards in Bezug auf neue Anwendungen von KI). Basierend auf der Analyse des Weißbuchs können wir schließen, dass die Probleme der rechtlichen Regulierung von KI nicht nur auf der Ebene der Regeln gelöst werden müssen, sondern auch unter Berücksichtigung des Wesens der KI, ihrer Einsatzmöglichkeiten auf den Märkten (z. das Problem autonomer KI-Systeme). Es ist auch wichtig, sich über die rechtlichen Fragen der KI-Regulierung (basierend auf dem Wesen der KI), die Grenzen ihrer Entwicklung und die Dynamik ihrer Einführung in andere Branchen zu einigen. Nach der Veröffentlichung des Weißbuchs wurde auf Ebene der Europäischen Union eine öffentliche Konsultation durchgeführt. Während dieser Übung wurden alle EU-Mitgliedstaaten und relevante Interessengruppen (einschließlich Zivilgesellschaft, Industrie und Wissenschaft) eingeladen, an der Konsultation teilzunehmen. Die oben erwähnte Veranstaltung lieferte eine relevante Erfahrung für die weitere Verbesserung der Gesetzgebung. Die Europäische Union forscht im Rahmen des Projekts Horizon 2020 an KI. Dieses Projekt ermöglicht KI-Forschung innerhalb der folgenden Entwicklungsvektoren:
• Stärkung von KI-Forschungszentren innerhalb der Europäischen Union
• Unterstützung der Entwicklung einer "AI-on-Demand" Plattform, die Zugang zu relevanten KI-Ressourcen in der EU bietet,
• Unterstützung der Entwicklung spezifischer KI-Anwendungen in wichtigen Wirtschaftssektoren. Auch das Projekt der KI-on-Demand-Plattform wird auf Ebene der Europäischen Union aktiv weiterentwickelt. Diese Plattform ist eine Reihe von Neuigkeiten im Bereich der KI-Entwicklungen, die es ermöglicht, eine spezifische informative Komponente für die Bildung neuer Initiativen im Bereich der KI bereitzustellen. Am 15. September haben das Europäische Parlament und der EU-Rat das Entwicklungsprogramm „2030 Path to a Digital Decade“ verabschiedet. Das Programm zielt darauf ab, dass bis 2030 mindestens 75 % aller europäischen Unternehmen KI-Technologien, Big Data und Cloud Computing in ihre Arbeit integrieren sollten. Path to a Digital Decade ist konsistent, kompatibel und komplementär zu anderen EU-Entwicklungsprogrammen und politischen Dokumenten wie Digital Compass Communication, Strategy for Shaping Europe‘s digital future, Industrial Strategy, Cybersecurity Strategy, Digital Europe Programme und Horizon Europe . Path to a Digital Decade basiert auf bestehenden und geplanten Rechtsakten wie dem Data Governance Act, dem Digital Services Act und dem Digital Markets Act. Im Allgemeinen hat die Europäische Kommission sieben Hauptbedingungen für die Bildung einer starken Basis von KI formuliert:
• Governance und Aufsicht. Umfassend wird von einer Art „gerechter Gesellschaft“ gesprochen. durch KI zu erreichen,
• Zuverlässigkeit und Sicherheit. Die Sicherheit der KI muss durch ihr System von Algorithmen (und in allen Phasen des KI-Lebenszyklus) garantiert werden,
• Datenschutz und Datenverwaltung. Die Bürger sollten die vollständige Kontrolle über ihre Daten haben, während die sie betreffenden Daten nicht dazu verwendet werden, ihnen zu schaden oder sie zu diskriminieren,
• Transparenz. Die EC-Erklärung weist darauf hin, dass es ein KI-Filtersystem in Bezug auf von der KI selbst vorgeschlagene Lösungen und eine Koordinierung mit dem Subjekt der Verarbeitung dieser Informationen geben sollte. Die EG macht jedoch keine Angaben zum Thema Verarbeitung,
• KI muss multifunktional sein und die gesamte Bandbreite menschlicher Fähigkeiten berücksichtigen
• soziales und ökologisches Wohlergehen. In diesem Block stellt die EK fest, dass KI auch zur Verbesserung der sozialen Nachhaltigkeit und der Umweltziele eingesetzt werden sollte (erwähnt sogar das Konzept der „Umweltverantwortung, aber es scheint unklar, wie es umgesetzt werden sollte)
• Rechenschaftspflicht. Die EK weist die Mitgliedsstaaten zu Recht darauf hin, dass Mechanismen geschaffen werden müssen, die die Verantwortung und Rechenschaftspflicht von Stellen im Bereich des Betriebs des KI-Systems sicherstellen. Diese Blöcke charakterisieren nicht die allgemeine Haltung der Europäischen Union gegenüber der Entwicklung von KI, sondern weisen auf spezifische Probleme hin, die bei der Entwicklung des KI-Ökosystems und des rechtlichen Rahmens in diesem Bereich zu einer Schwierigkeit werden können. Herkömmlicherweise können wir die folgenden Probleme bei der Durchsetzung der von der EK formulierten Bedingungen identifizieren:
• Haftungsfragen. Das Schema der Verantwortung der Behörden für die Arbeit der KI und wie dies in Bezug auf Beweise argumentiert wird, ist noch nicht transparent,
• die Widersprüchlichkeit der Bestimmungen zueinander. Erwähnenswert ist zudem, dass es einen versteckten Widerspruch zwischen dem oben genannten Block und dem Block zur Entwicklung von KI im Allgemeinen gibt, wobei letzterer darauf abzielt, KI unter Berücksichtigung der gesamten Bandbreite menschlicher Fähigkeiten zu entwickeln. Wir sprechen davon, ein ziemlich autonomes System mit menschlichen Fähigkeiten zur Entscheidungsfindung zu schaffen, und der kausale Zusammenhang wird deshalb nicht offengelegt,
• das Transparenzsystem ist vage, d. h. wie KI-Entscheidungen gefiltert werden, ist nicht ganz klar. Die EG hat kritische rechtliche Versuche unternommen, enthält jedoch keine spezifischen institutionellen und rechtlichen Maßnahmen (z. B. technische Vorschriften, ergänzende Richtlinien, Richtlinien). Solche Erfahrungen mit der internationalen rechtlichen Regulierung von KI werden auf zweierlei Weise wahrgenommen. Einerseits hilft die Verwendung verabschiedeter Rechtsdokumente, die gesamte Bandbreite von KI-Themen (einschließlich Cybersicherheit) zu skizzieren. Andererseits ist die völkerrechtliche Regelung nicht auf diese Akte beschränkt. Eine weitere detaillierte Ausarbeitung der von der EC identifizierten Blöcke ist erforderlich, um ihre Widersprüche zu beseitigen. Es sei darauf hingewiesen, dass die EC trotz der anfänglichen Entwicklungsstadien der meisten Blöcke eine Organisationseinheit geschaffen hat - die Gruppe im Bereich der KI (AI Group). Diese Gruppe hat die "Ethikregeln in der KI" entwickelt, die folgende Empfehlungen enthalten:
• Gestaltung und Nutzung von KI-Systemen nach ethischen Grundsätzen: Achtung des Menschen, Autonomie der KI (zulässige Grenzen schrittweise definieren und ausarbeiten), Verhinderung von Fehlverhalten und Erklärbarkeit von KI-Prozessen. Die Richtung zeigt die Beseitigung von Widersprüchen zwischen den Prinzipien an.
• Aufmerksamkeit für gefährdete Gruppen wie Menschen mit Behinderungen und Kinder, die dem Risikofaktor neuer Technologien (KI) am stärksten ausgesetzt sind,
• Aufmerksamkeit auf die Risiken des KI-Systems, die schwer vorhersehbar sind (in diesem Zusammenhang sollte auf die rechtlichen Maßnahmen geachtet werden, die ergriffen werden können),
• das Design, der Einsatz und die Nutzung von KI-Systemen sollten die folgenden Anforderungen erfüllen: menschliche Kontrolle über bestimmte KI-Funktionen (Überwachung); technische Zuverlässigkeit und Sicherheit; Vertraulichkeit; Transparenz; Vielfalt, Nichtdiskriminierung und Fairness; ökologisches und soziales Wohlergehen; Verantwortung
• Die Empfehlungen der AI-Gruppe sollten in die nationale Gesetzgebung anderer Staaten umgesetzt werden. Es sei darauf hingewiesen, dass das von der EU gewählte Modell der gesetzlichen Regulierung, wie oben erwähnt, mehrere Vorteile hat:
• Strategien und Empfehlungen ermöglichen eine schnelle Reaktion auf die Dynamik der KI und ihrer Fähigkeiten, wonach sich die Rechtsmaterie innerhalb der EU und der Mitgliedsstaaten ständig ändern,
• Die Erklärung zur Zusammenarbeit im Bereich der KI impliziert keine Rahmendefinitionen und Formulierungen, was eine weitere Ausarbeitung einzelner Themen in den oben analysierten Dokumenten ermöglicht. Es sollte betont werden, dass es den EU-Dokumenten im Allgemeinen immer noch an Systematisierung mangelt.

Möglichkeiten zur Verbesserung der Situation

Gegenwärtig gibt es ein beispielloses Wachstum des Interesses an der Regulierung der sozialen Beziehungen im Zusammenhang mit AI in der Welt. Dieser Trend ist auf einige Faktoren zurückzuführen, von denen der dramatische Anstieg des Einflusses der Informationstechnologie auf das Leben der Menschen und die Abhängigkeit des Menschen von der Technologie, die seit dem Beginn der COVID-19-Pandemie eingetreten ist, hervorzuheben ist. Der zweite Faktor ist natürlich das objektive Auftauchen der Informationstechnologien, insbesondere derjenigen, die unter dem Begriff KI zusammengefasst werden, auf einem neuen qualitativen Niveau, sowie die rasche Zunahme ihrer massenhaften Anwendung. Diese Faktoren wecken ängstliche Erwartungen und lassen viele glauben, dass die bekannten Science-Fiction-Szenarien Realität werden könnten, wenn nicht dringend Maßnahmen ergriffen werden, um die Kontrolle über die KI und diejenigen, in deren Händen sie sich befindet, herzustellen. Damit einher geht die Erkenntnis, dass die Informationstechnologie von Natur aus extraterritorial und grenzüberschreitend ist und dass eine Regulierung auf nationaler Ebene allein wohl kaum wirksam sein wird. Kein Staat ist allein in der Lage, KI zu regulieren und zu kontrollieren. Die Regulierung von KI erfordert flexible Ansätze und eine Kombination verschiedener Instrumente, darunter Selbstregulierung, Standardisierung, moralische und ethische Regulierung und technische Regelungsmöglichkeiten (Kennzeichnung, Verwendung von Code, Metadaten). Diese Faktoren scheinen die Voraussetzungen dafür geschaffen zu haben, dass der einschlägige Diskurs die Ebene der Interaktion zwischen großen internationalen Organisationen (UNESCO, OECD, Europarat) und einer universellen internationalen Organisation (UNO) erreicht hat und dass die Entwicklung rechtsverbindlicher internationaler Dokumente begonnen hat (führend ist hier traditionell der Europarat).