Zur Ethik autonomer Roboter

Als angewandte Ethik beschäftigt sich die Roboterethik hauptsächlich mit der Frage, welche Rolle Roboter in sozialen Handlungszusammenhängen spielen. Auf der einen Seite geht es um Roboter als „moralische Maschinen“, welche es so zu programmieren gilt, dass ihre Aktionen möglichst keine Schäden verursachen. Dabei steht vor allem die Entwicklungsphase von Robotern im Fokus. Hier gilt es, Wechselwirkungen zwischen Technik und Gesellschaft angemessen zu antizipieren. Man muss mögliche Folgen des Technikeinsatzes abschätzen und überprüfen, welche Werte in die Robotertechnik eingeschrieben werden. Wichtig ist vor allem, neben den rein technischen oder ökonomischen Wertesettings soziale Werte zu berücksichtigen. Es geht nicht allein um die Funktionalität, die Rentabilität oder die Brauchbarkeit von Robotern, sondern auch darum, ob durch sie Werte wie Freiheit, Privatheit oder das Gemeinwohl gefördert oder beeinträchtigt werden. Auf der anderen Seite geht es bei der Roboterethik um Roboter als potentiell schutzbedürftige Akteure. Es geht um die Frage: Wie soll man Roboter behandeln? Es mag irritieren, diese Frage zu stellen. Allerdings ist der Gedanke nicht von der Hand zu weisen, dass soziale Roboter in nicht allzu ferner Zukunft eine solche Ähnlichkeit mit Menschen bekommen, dass eine emotionale Verbindung mit ihnen aufgebaut werden kann. Eine absichtliche Beschädigung eines solchen Roboters würde dann dazu führen, dass diese emotionale Verbindung „abtrainiert“ wird. Wer also gegenüber sozialen Robotern „grausam“ ist, dessen moralischer Charakter depraviert, was im Endeffekt – um in den Denkmustern einer anthropozentrischen Ethik zu bleiben – wiederum negative Rückwirkungen auf die menschliche Gemeinschaft haben kann. Dementsprechend ist die Idee der Einführung von Roboterschutzrechten nicht gänzlich abzuweisen. Letztlich müssen umfassende, gegenseitige Schutzpflichten etabliert werden. So hat etwa Omohundro verdeutlicht, dass die in beschwichtigender Intention geäußerte Formel – „We can always unplug it!“ – keine valide Lösung mehr für technologische Großgefahren darstellt (Omohundro, Autonomous technology and the greater human good, in: Journal of Experimental & Theoretical Artificial Intelligence, 2014, S. 1-13). Man muss gar nicht unbedingt auf die Zukunftsvision sich verselbständigender Roboter rekurrieren, um deutlich zu machen, dass die Risiken technischer Systeme mitunter weder eingrenzbar, noch kontrollierbar sind. Omohundro legt dar, dass Entwicklungen im Bereich der Robotik unberechenbare Konsequenzen haben können, sobald die Technik eine gewisse unkontrollierbare Eigendynamik erlangt. Letztlich sind solche Entwicklungen bereits jetzt zu erkennen. Technologien existieren, über welche niemand weiß, welche langfristigen Folgen sie haben werden. Autonome Roboter, welche sich wie auch immer „gegen“ Menschen „wenden“, sind gewissermaßen nur das anschaulichste Sinnbild dafür, dass technologische Großgefahren erzeugt worden sind und weiterhin erzeugen werden, welche nur mit größten Anstrengungen oder gar nicht unter Kontrolle zu bringen sind. Dabei muss man sich, wie Omohundro dies tut, nicht einmal zwingend auf autonom agierende Roboter beziehen, welche zur Gefahr für Lebewesen werden, um zu verdeutlichen, dass viele Beherrschbarkeits- und Sicherheitsbehauptungen aus den technologischen Disziplinen illusorisch sind. Es sind ja keine autonomen Roboter, welche unsere Sicherheit signifikant bedrohen, sondern bereits existierende Technologien etwa aus dem Bereich der Gentechnik oder der Kernenergie. Die offensichtliche Gefahr bei der Entwicklung autonomer Systeme besteht darin, dass man zunehmend die Kontrolle darüber verliert, welche Konsequenzen die Instanziierung dieser Systeme hat. Der Grundsatz, dass mit der Vermehrung von Handlungsmöglichkeiten gleichsam eine Ausweitung von Verantwortungsbereichen einhergeht, wird obsolet. Zudem versagt das individuelle Verursacherprinzip. Schließlich kann niemand die Verantwortung über autonom agierende Roboter übernehmen. Stattdessen muss die Entwicklung dieser Roboter verantwortet werden. Die Zurechenbarkeit von Verantwortung verlagert sich. Entscheidend sind nicht die eventuell nicht-erwünschten Aktionen autonom agierender Roboter, sondern die Umstände, unter denen die Roboter entwickelt werden. Hier ist mit einer Zunahme von Ungewissheitsfolgen zu rechnen – und diese müssen verantwortet werden können. Omohundros Studie beschäftigt sich in diesem Zusammenhang mit potentiell schädlichen Übergriffen von autonom agierenden Robotern auf Personen. Sicherlich gehen von bestimmten technischen Systemen signifikante Gefahren für das Wohlergehen von empfindungsfähigen Individuen aus. In der Tat ist vor allem im Bereich des Militärs mit der Gefahr zu rechnen, dass Technologien zur Bekämpfung von Personen und Infrastrukturen entwickelt werden, wobei die Handlungsträgerschaft von menschlichen Akteuren in zunehmendem Maße auf die Technik übertragen wird und somit Fragen nach Verantwortung und Schuld nur mit großen Schwierigkeiten geklärt werden können. Autonom agierende Militärtechniken fördern die Anonymität und Unauffindbarkeit derer, die für Militärschläge originär verantwortlich zu zeichnen sind. Im Bereich der Wirtschaft besteht die Gefahr, dass zur Optimierung ökonomischer Zielgrößen autonom agierende Systeme zum Einsatz kommen, wobei die außerwirtschaftlichen Nebenfolgen dieser Systeme missachtet werden. Menschliche Akteure werden in den Hintergrund gestellt. Stattdessen übernehmen autonome Systeme Entscheidungsfindungsprozesse. Dabei kann kaum zuverlässig gewährleistet werden, dass schützenswerte menschliche Interessen nicht missachtet werden. Und die Ethik spielt im Bereich mancher Entwicklungsprozesse von Technologien, wie Beck sagen würde, die Rolle einer Fahrradbremse am Interkontinentalflugzeug. Schließlich muss man dennoch eruieren, zu welchen Zwecken Technologien eingesetzt werden. Was dann aus der einen Perspektive als Wirksamkeitssteigerung, als Vereinfachung oder Ermöglichung neuer Fertigkeiten erscheint, erscheint aus der anderen Perspektive als das genaue Gegenteil. Während Technologien Zwecksetzungen vereinfachen können, können sie sie ebenfalls erschweren oder sich über diese hinwegsetzen. Pessimistische Technikauffassungen, worunter mit Einschränkungen auch jene Omohundros zu zählen ist, fokussieren sich auf ebensolche Verselbständigungsdynamiken technischer Apparate. Optimistische Technikauffassungen dagegen betonen durch Technologien bedingte Vorteile und Nutzengewinne. Letztlich müssen beide Ansätze verfolgt werden, um in Wertekonflikten, welche im Kontext neuer Technologien entstehen, adäquat vermitteln zu können. Schließlich jedoch ist nicht auszuschließen, dass sich herausstellt, dass technische Artefakte in bestimmten Handlungszusammenhängen in vielerlei Hinsicht mehr ein Hindernis und eine potentielle Gefahr darstellen, als dass sie förderlich wirken würden. Hier setzen technikethische Abwägungsprozesse an. Wahrscheinlich ist dabei der ärgste Widersacher der Robotik die Robotik selbst. Die objektiven Gefahren, welche von autonom agierenden Robotersystemen ausgehen, und die Unfälle, welche durch sie geschehen, sind die stärksten Argumente für eine freiwillige Selbstlimitation der Entwicklungsmöglichkeiten auf dem Feld der Robotik.