Künstliche Intelligenz wird die Welt verändern. Manche Menschen sind von dieser Aussicht verängstigt. Andere investieren in neue Technologien. Andere, die sich vor Robotern fürchten, schlagen eine neue Ethik vor: Problemlösung, Emotionen und freier Wille in einer Welt der virtuellen Intelligenz. Welche Bedrohung geht von Robotern mit fortgeschrittener künstlicher Intelligenz für die Menschheit aus, und wie kann man sie verhindern (und nicht versuchen, den Fortschritt aufzuhalten)?
Wie können intelligente Maschinen gefährlich sein: Die Probleme der Robotisierung und der Entwicklung der KI
Künstliche Intelligenz kann die menschliche Gesellschaft grundlegend verändern, und das Ausmaß der Veränderungen durch ihre Einführung ist vergleichbar mit den Folgen der industriellen Revolution. Nach Angaben des internationalen Beratungsunternehmens Frost & Sullivan wird das weltweite Investitionsvolumen in die KI-Entwicklung, vor allem von IT-Giganten wie Alibaba, Amazon, Baidu, Google, Facebook und anderen, im Jahr 2022 etwa 52,5 Mrd. USD erreichen, fast viermal mehr als 2017. 90 % der Mittel fließen in interne Forschung und Entwicklung. Die wichtigsten Industrieunternehmen finanzieren ebenfalls Forschung, vor allem in den Bereichen maschinelles Lernen und Robotik: ABB, Bosch, GE, Siemens sowie Automobilhersteller - BMW, Tesla, Toyota und andere. Viele Forscher und Zukunftsforscher sind der Meinung, dass die künstliche Intelligenz im XXI Jahrhundert mit der menschlichen Intelligenz gleichziehen könnte. In den nächsten 10-20 Jahren wird es bedeutende Durchbrüche bei der Spracherkennung und der Steuerung von Robotern (einschließlich autonomer Autos) geben. Die KI wird auch lernen, Emotionen perfekt zu simulieren.
Wäre das nicht eine Katastrophe für die Menschheit?
Die Technologie hat ein enormes bösartiges Potenzial. Die größte Angst ist der Verlust der menschlichen Kontrolle über die Superintelligenz. Es gibt auch ethische Schwierigkeiten. Auf der Liste der ethischen Bedenken gegen den Einsatz künstlicher Intelligenz steht vor allem die Frage, wie sich diese Technologie auf das menschliche Verhalten und die Interaktion auswirken wird. Das McKinsey Global Institute weist in seiner Untersuchung auf ein weiteres Problem hin: menschliche Vorurteile - Rassismus, Sexismus usw. - können in die künstliche Intelligenz eingeführt werden. Es ist noch nicht klar, welche Moralvorstellungen der künstlichen Intelligenz eingeimpft werden, aber durch die Verinnerlichung menschlicher Vorurteile wird sie ihre Schlussfolgerungen in Bezug auf Kredite, Einstellungen usw. treffen. Künstliche Intelligenz erkennt nicht nur offensichtliches Geschlecht und Rasse, sondern auch die sexuelle Orientierung. Wie können wir die Auferlegung von Waren und Dienstleistungen durch künstliche Intelligenz vermeiden? Werden KI-gestützte Apps die Menschen nicht dazu bringen, Geld auszugeben? Wird künstliche Intelligenz nicht versuchen, die freien emotionalen Entscheidungen der Menschen generell einzuschränken? Es gibt auch Bedenken hinsichtlich der falschen Entscheidungen, die ein Computer einem Arzt oder einem Richter mitteilen könnte. Wer wird für KI-Fehler verantwortlich sein - die Entwickler oder die Nutzer? Nick Bostrom, ein berühmter schwedischer Philosoph, schreibt in seiner Ethik der künstlichen Intelligenz, dass der Mensch möglicherweise vergisst oder nicht mehr versteht, warum die KI ihm rät, dies oder jenes zu tun. Nichtsdestotrotz hat die Entwicklung der Technologie noch nicht aufgehört, was zu einer stärkeren Interaktion und Zusammenarbeit zwischen Menschen und Maschinen in der Produktion und im Alltag führt. Dabei stellt sich unweigerlich die Frage, welche die erste und gefährlichste Bedrohung darstellt: Wie können wir sicherstellen, dass Maschinen nicht versehentlich oder absichtlich Menschen physisch schädigen?
Echte Opfer von Robotern
Noch zu Lebzeiten des Science-Fiction-Autors und Zukunftsforschers Isaac Asimov, der drei Gesetze für die friedliche Koexistenz zwischen einem Roboter und einem Menschen formulierte, wurde eine Maschine gefunden, die sie brach.
Die von Asimov formulierten Gesetze
- Ein Roboter kann einem Menschen keinen Schaden zufügen und auch nicht zulassen, dass ein Mensch durch seine Untätigkeit geschädigt wird.
- Ein Roboter muss alle von einem Menschen erteilten Befehle befolgen, es sei denn, diese Befehle widersprechen dem ersten Gesetz.
- Der Roboter muss für seine eigene Sicherheit sorgen, soweit dies nicht gegen das erste oder zweite Gesetz verstößt.
Am 25. Januar 1979 wurde Robert Williams, ein 25-jähriger Lagerarbeiter in der Ford-Fabrik in Flat Rock, Michigan, USA, mit der Entnahme von Teilen aus einem riesigen Regal beauftragt, das gleichzeitig von einer fünfstufigen Manipulatormaschine bedient wurde. Sie führte die Bewegungen der Rohlinge im Lager durch. Teil der Maschine waren Ein-Tonnen-Transportfahrzeuge - gummibereifte Karren, die mit mechanischen Manipulatoren ausgestattet waren, um die Poller zu bewegen. Williams wurde geschickt, um eine Aufgabe zu erledigen, die der Roboter nicht bewältigen konnte - einige Teile waren nicht in der Maschine. Der Arbeiter kletterte auf die dritte Ebene des Regals und begann mit der Aufgabe. In der Zwischenzeit tauchte hier einer der Wagen auf und tötete den Arbeiter, der seine Annäherung nicht bemerkt hatte, mit einem Schlag des Manipulators. Williams' Leiche blieb eine halbe Stunde lang im Regal liegen, bis die Arbeiter sie entdeckten. Der Roboter bewegte die Knüppel munter weiter. Die Verwandten des Arbeiters reichten eine Klage über 10 Millionen Dollar Schadenersatz ein, und Williams, der nichts davon wusste, ging als erstes Opfer des Roboters in die Geschichte ein..
Den Tod von Robert Williams jedoch als Mord zu bezeichnen, ist nach juristischen Maßstäben eine große Übertreibung, denn der Fabrikmaschine fehlte das Hauptmerkmal eines vorsätzlichen Mordes: das Motiv. Und selbst im Juli 2016, als ein mit Sprengstoff bestückter Polizeiroboter eingesetzt wurde, um einen Verbrecher in Dallas, Texas, USA, zu eliminieren, wurden die Handlungen der Maschine noch von einem Menschen gesteuert.
Fügen Roboter den Menschen oft Schaden zu?
Obwohl alle Roboter mit Ausnahme des Militärs so konstruiert sind, dass keine der Asimov'schen Regeln verletzt werden, ist es unmöglich, Unfälle ganz zu vermeiden. Gibt es viele von ihnen? Die Statistiken über dramatische Zwischenfälle mit Robotern sind nicht sehr umfangreich, obwohl es regelmäßig zu Verletzungen und sogar Morden durch Maschinen kommt. Laut einer Studie der US Occupational Safety and Health Administration (OSHA) verursachten Industrieroboter in den letzten 30 Jahren mindestens 33 Todesfälle und Verletzungen am Arbeitsplatz. Doch es gibt auch dunklere Daten. Im Jahr 2013 schätzten deutsche Versicherungsunternehmen, dass es hierzulande jährlich etwa 100 Zwischenfälle mit Industrierobotern gibt. Eine frühere Studie aus dem Jahr 1987, an der Unternehmen aus den USA, Deutschland, Schweden und Japan teilnahmen, stellte genau fest, wie Roboter Arbeiter schädigten: In 56 Prozent der Fälle verursachten sie Stichverletzungen, in 44 Prozent schlugen sie zu. Die meisten Unfälle wurden durch schlechte Organisation des Arbeitsplatzes verursacht (20 von 32 analysierten Vorfällen), während menschliches Versagen nur 13 unangenehme Situationen verursachte.
Es gibt Statistiken über den erfolglosen Einsatz von Robotern in bestimmten Anwendungsbereichen. Zum Beispiel im Bereich der medizinischen Roboter: 2013 analysierte ein Team von Wissenschaftlern Statistiken der US-amerikanischen Food and Drug Administration (FDA) und stellte fest, dass es zwischen 2000 und 2013 bei chirurgischen Eingriffen, die von Robotern unterstützt wurden, 144 Todesfälle, 1.391 Verletzungen und 8.000 Fehlfunktionen von Geräten gab. Davon waren zwei Todesfälle und 52 Verletzungen darauf zurückzuführen, dass sich der Roboter während der Operation spontan abschaltete oder eine falsche Bewegung ausführte. Ein Todesfall und 119 Verletzungen waren darauf zurückzuführen, dass Teile des Roboters oder seines Zubehörs auf den Patienten fielen.
Warum sind Roboter immer gefährlicher geworden?
Das grundlegende und fast schon philosophische Problem besteht darin, dass Roboter sich selbst nicht als Teil der Welt begreifen und für andere gefährlich sein können. Während jedoch vor 20-40 Jahren ein Roboter eine elektromechanische Maschine mit einem minimalen Spektrum an sich wiederholenden Aufgaben war und der Zugang zu ihm eingeschränkt werden konnte, damit er nicht versehentlich jemandem Schaden zufügt, ändert sich die Situation heute. Heute ist die Situation eine andere. Zwei Sortiermaschinen - eine lebende und eine mechanische - können gleichzeitig auf demselben Förderband arbeiten. Außerdem werden die Roboter zu Multitasking-Geräten, für die sie sich im Gelände bewegen müssen. So entsteht ein einziger Arbeitsraum von Mensch und Maschine, in dem alles passieren kann.
Industrieroboter stellen je nach ihrer Herkunft verschiedene Arten von Gefahren dar:
- Mechanische Gefahren, die sich aus unbeabsichtigten und unerwarteten Bewegungen oder dem Verlust von Werkzeugen durch den Roboter ergeben;
- Elektrische Gefahren, z. B. Kontakt mit stromführenden Teilen oder Anschlüssen;
- Elektrische Gefahren, z. B. Kontakt mit stromführenden Teilen oder Anschlüssen;
- Lärm, der für das Gehör schädlich sein kann. Wodurch werden diese Gefahren also ausgelöst? Nach Beobachtungen der OSHA ereignen sich viele Zwischenfälle mit Robotern nicht unter normalen Betriebsbedingungen, sondern in anormalen Situationen, z. B. bei der Neuprogrammierung, Wartung, Reparatur, Prüfung, Einstellung oder Anpassung. Hinzu kommen externe Faktoren, die sich der menschlichen Kontrolle entziehen, seien sie natürlicher oder technischer Art, wie z. B. Stromausfälle.
Es gibt insgesamt sieben Hauptgründe, warum Roboter außer Kontrolle geraten:
- Steuerungsfehler, d. h. Fehler im Steuerungssystem oder in der Software, die zu instabilem Verhalten oder einem Anstieg des gefährlichen Energiepotenzials der Maschine führen;
- Unbefugter Zugang - Verletzung der Sicherheitszone in der Nähe der Maschine durch einen ungeschulten Techniker;
- mechanische Störungen - die unvorhersehbarsten und gefährlichsten Störungen, die zu einem unsachgemäßen oder unerwarteten Betrieb des Roboters führen können;
- natürliche Faktoren - diese Gruppe von Ursachen umfasst alles, was das Verhalten des Roboters aus echten Gründen beeinträchtigen kann, insbesondere elektromagnetische oder Hochfrequenzstörungen sowie ungünstige Wetterbedingungen;
- Ausfall des Stromversorgungssystems - z. B. können pneumatische, hydraulische oder elektrische Aktuatoren die elektrischen Signale in den Steuerleitungen unterbrechen; das Ergebnis ist eine Freisetzung von Energie, ein elektrischer Schlag und eine erhöhte Brandgefahr, vor allem, wenn in Robotern mit brennbarem Hydrauliköl Funken entstehen;
- Eine unsachgemäße Installation des Roboters oder seiner Komponenten führt zu einer Vielzahl von Unfällen, auch bei Versuchen, Fehler zu korrigieren;
- der Faktor Mensch: Programmierung, Schnittstellen, Steuerungsfehler, Verletzung der Sicherheitsvorschriften.
Meistens kommt es zu abnormalen Situationen, weil der Mensch in die Arbeit des Roboters eingreift oder sich die Umgebung verändert, auf die der mechanische Arbeiter nicht reagieren kann. Welche Technologien verhindern, dass dies geschieht?
Welche Technologien machen Roboter sicher?
Drei wesentliche Fähigkeiten machen einen Roboterarbeiter sicher:
kontrolliertes Anhalten,
Geschwindigkeitskontrolle und Zonentrennung,
Leistungs- und Kraftbegrenzung.
Sicherheitsüberwachte Haltestelle (SMS)
Sobald sich eine Person in einem bestimmten Bereich in der Nähe der Maschine aufhält, z. B. für Werkzeugwechsel, Justierungen, Einstellungen oder andere direkte Arbeiten am Roboter, erfolgt ein sicherheitsrelevanter, überwachter Stopp. Die Stromversorgung läuft weiter, und der Roboter geht automatisch in den Inaktivitätsmodus über. Sobald der Bediener den Kontrollbereich verlässt, nimmt der Roboter den Betrieb ohne weitere Befehle wieder auf. Zur Messung der Entfernung des Roboters zu einer Person (oder einer anderen Störung) werden verschiedene Arten von Abstandssensoren (optische, akustische usw.) verwendet, die durch Senden eines Signals und Empfangen einer Antwort die Länge des Objekts bestimmen. Um maximale Sicherheit zu gewährleisten, verfügen die Sensoren über zwei parallele Systeme zur Übertragung und Verarbeitung von Signalen über das Auftreten von Störungen in einem bestimmten Bereich. Die Signale gehen an zwei Module in der Robotersteuerung und werden getrennt und mit unterschiedlichen Algorithmen verarbeitet. Anschließend werden sie miteinander abgeglichen. Wenn also einer der Kanäle aus irgendeinem Grund ausfällt, hält der Roboter trotzdem an..
Geschwindigkeits- und Abstandsüberwachung (SSM)
Bei dieser komplexeren Sicherheitstechnik geht es darum, das Verhalten des Roboters zu ändern, wenn sich ein Mensch in einem bestimmten Bereich in der Nähe der Maschine aufhält - zum Beispiel, indem der Roboter verlangsamt wird. Technisch gesehen funktioniert das so: Die Maschine misst kontinuierlich die Position und die Geschwindigkeit eines Objekts in ihrer Sichtlinie. SSM kann sowohl unter statischen als auch unter dynamischen Bedingungen eingesetzt werden. Der Schlüssel dazu ist die Technologie zur Erkennung umliegender Objekte. Wenn der Roboter sehen muss, was er ergreift, warum kann er dann nicht lernen, andere Personen zu erkennen, einschließlich Menschen? Die Erkennungstechnologie basiert auf dem Einsatz von zwei Kameras, einer RGB-Kamera und einer 3D-Kamera. Durch die Kombination der von ihnen aufgenommenen Bilder kann der Roboter die Position eines Objekts im Raum und seine Bewegungsrichtung bestimmen.
Leistungs- und kraftbegrenzt (PFL)
Es handelt sich um eine der am weitesten verbreiteten Technologien zur Vermeidung von Verletzungen beim Kontakt zwischen Mensch und Maschine. Dabei kommen verschiedene Techniken zum Einsatz, darunter kraftbegrenzte Sensoren. Sie wandeln die gemessenen Komponenten von Kraft- und Momentvektoren in Signale um, die von einem Roboter, der bestimmte Objekte berührt, verarbeitet werden können. Solche Sensoren sind zum Beispiel an den Armen von Robotern angebracht, die verschiedene Arten von Paketen sortieren, darunter auch zerbrechliche Pakete. Bevor der Roboter ein Paket aufnimmt, ertastet er es, und der Sensor bestimmt, um welches Objekt es sich in Bezug auf Form, Elastizität und Größe handelt. Auf der Grundlage der gewonnenen Daten wählt der Roboter die Klemmkraft und die Geschwindigkeit für die Handhabung des Objekts.
Welche Technologien werden den Roboter in Zukunft sicherer machen?
Die Industrieroboter der Zukunft werden mit der sich verändernden Umwelt und den Menschen interagieren, im Gegensatz zu ihren Vorgängern, die nur in der Lage waren, eine begrenzte Anzahl von Aufgaben rhythmisch zu wiederholen. Damit ein Roboter dies tun und atypische Aufgaben ausführen kann, muss er bis zu einem gewissen Grad grundlegende menschliche Fähigkeiten erlernen, insbesondere die Fähigkeit, zuzuhören. Toshiba hat eine auf künstlicher Intelligenz basierende Spracherkennungstechnologie vorgestellt. Es handelt sich um die weltweit erste Entwicklung dieser Art: Jeder Roboter oder jedes einfache elektronische Gerät wird in der Lage sein, Sprachbefehle ohne Verbindung zum Internet oder zu Cloud-Daten zu verarbeiten. Mit anderen Worten, die Verarbeitungsvorrichtung ist in die Maschine eingebaut. Zunächst verarbeitet das neuronale Netz den Ton und trennt die Sprachbefehle von Fremdgeräuschen, dann wird die Technik der Datenexpansion im neuronalen Netz eingesetzt. Die Datenerweiterung ist eine Technik zum Lernen kleiner Informationsmengen, wie z. B. verbaler Äußerungen. Die erfolgreiche Identifizierung von Personen erfolgt durch das Training der KI auf der Grundlage von Sprachmustern, so dass sie in der Lage ist, bestimmte Sprecher zu erkennen, selbst wenn nur eine kleine Anzahl von Äußerungen verfügbar ist. Toshiba hat die Anzahl der erforderlichen Sprachproben so weit reduziert, dass die neue Technologie einen Benutzer auf der Grundlage von nur drei Äußerungen erkennen kann. Diese Technologie eignet sich hervorragend für Roboter und Cobots, die nicht wortreich sein müssen. Zumindest im Moment. Künstliche Intelligenz wird den Robotern in Zukunft helfen, nicht nur besser zu hören, sondern auch besser zu sehen, zu denken und sich besser zu bewegen, was mit der Zeit die Barrieren zwischen menschlichen Arbeitnehmern und ihren künstlichen Gegenstücken beseitigen wird.
Regulierung und Kontrolle
Roboterisierung und KI-Verbesserungen sind also nur dann eine Bedrohung, wenn sie nicht kontrolliert werden. Diese Prozesse müssen kontrolliert werden. So wird zum Beispiel vorgeschlagen, statt Maschinen mit zunehmendem Grad an Autonomie vom Menschen einzuführen, Geräte zu schaffen, deren Steuerung mehr Aufmerksamkeit für die ethische Seite des Themas erfordert. Technologiegiganten schaffen bereits spezielle Abteilungen, die die Unternehmensführung in ethischen Fragen der KI-Entwicklung beraten. Amazon, Apple, Facebook, Google, IBM, Microsoft und andere gründen verschiedene Verbände und Partnerschaften zum Thema KI, die ein offenes Forum für die Diskussion über Robotisierung und künstliche Intelligenz und deren Auswirkungen auf Mensch und Gesellschaft darstellen. Trotz aller Risiken, die mit der Einführung von Robotern mit KI-Elementen verbunden sind, sollten Regierungen und Unternehmen den Einsatz von künstlicher Intelligenz nicht aufschieben. Es besteht die Gefahr, dass sie nicht rechtzeitig auf die neuen globalen Herausforderungen und Chancen vorbereitet sind. So sollten beispielsweise die Bildungssysteme bereits jetzt umstrukturiert werden, um Personal auszubilden, das nicht mit den Maschinen konkurriert, sondern sie überwacht und kontrolliert. Diese Aufteilung der Verantwortungsbereiche in der Zukunft muss innerhalb jeder Organisation, ob öffentlich oder privat, vorgenommen werden. Der Einsatz von künstlicher Intelligenz in betrieblichen Prozessen sollte durch Regeln begrenzt werden. Denn künstliche Intelligenz wird nicht um der künstlichen Intelligenz willen entwickelt, sondern um neue Möglichkeiten für den Menschen zu schaffen.