Sollen Roboter haften?

Haben Roboter Rechte bzw. soll man sie mit Rechten ausstatten? Die eine Frage ist ethisch, die andere rechtlich deutbar. Oliver Bendel hält als Ethiker nichts von Rechten für Roboter. Dies können weder empfinden noch leiden, sie haben kein Bewusstsein, sie sind keine echten Personen, aber auch keine echten Lebewesen. Im Zivilrecht kann man, so seine Meinung, ohne weiteres eine elektronische Person konstruieren, die man verklagen kann und die dann haften muss (etwa über ein Budget, das sie hat, oder einen Fonds, mit dem sie verbunden ist). Einerseits ist das die Lösung für das Problem, dass sich in vielen Fällen kaum mehr eindeutig verantwortliche natürliche oder juristische Personen ausmachen lassen. Andererseits eben nicht, denn woher sollte das Geld kommen – wenn nicht von natürlichen und juristischen Personen, die mit dem Roboter in irgendeiner Verbindung stehen? Und bei selbstlernenden Systemen wie Tay wird es vollends kompliziert, wobei dieser Fall ins Strafrechtliche hineinreicht. Eine Gruppe von KI-Forschern, Philosophen, Theologen und Rechtswissenschaftlern hat sich in einem offenen Brief gegen die Schaffung des Status einer elektronischen Person gewandt, wie eine Arbeitsgruppe des Europäischen Parlaments sie dieses Jahr vorgeschlagen hat. Der Artikel „Streit um Rechte von Robotern“ stellt die unterschiedlichen Positionen dar. Er ist am 21. April 2018 in der Aargauer Zeitung erschienen und kann über www.aargauerzeitung.ch/leben/forschung-technik/streit-um-rechte-von-robotern-wer-haftet-wenn-etwas-schief-geht-132457958 aufgerufen werden.

Abb.: Wie gestaltet man eine elektronische Person?

Haben Roboter Rechte?

Dieser Frage geht Oliver Bendel in der Zeitschrift Edison nach, in der Ausgabe 2/2018, erschienen am 13. April 2018. Die zuständige Disziplin ist die Roboterethik. Während sich die Maschinenethik auf die maschinelle Moral und damit allenfalls verbundene Pflichten oder Verpflichtungen konzentriert, interessiert sich die Roboterethik auch für moralische Rechte von Maschinen, insbesondere von Robotern. Schon vor Jahrzehnten hat man über diese Frage nachgedacht, doch in letzter Zeit gibt es diesbezügliche Überlegungen und Forderungen, denen man als Ethiker etwas entgegensetzen muss. Denn Oliver Bendel ist der Meinung, dass Roboter keine Rechte haben, haben werden und haben sollen. In seinen Ausführungen zieht er Vergleiche mit Menschen, Tieren und Pflanzen (Tiere haben Rechte, Pflanzen nicht). Auf der Website heißt es zu dem Handelsblatt-Spross: „Edison ist das neue Magazin für alle, die sich für Elektromobilität, vernetztes Leben und nachhaltige Energiegewinnung interessieren. Für alle, die in einer Zeit der Umbrüche und des rasanten technischen Fortschritts Orientierung suchen. Für alle, die Haltung zeigen möchten. Kurz: Es ist das neue Magazin für die Generation E.“ Es kann über edison-magazin.handelsblatt.com/epaper/13.04.2018 bestellt werden.

Abb.: Auch Teddybären haben keine Rechte

Videos zur KI-Session

Am Rande der Handelsblatt-Jahrestagung „Strategisches IT-Management“ (15. bis 17. Januar 2018 in München) wurden Interviews mit den Vortragenden geführt und aufgezeichnet. Am zweiten Tag hatte zuerst Prof. Dr.-Ing. habil. Alois C. Knoll (Lehrstuhlinhaber für Echtzeitsysteme und Robotik, Technische Universität München) zum Human-Brain-Projekt der EU referiert, danach Dr. Martin Hofmann, Group CIO, Volkswagen AG über „Augmented Intelligence: AI in enterprise context“. Prof. Dr. oec. HSG Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik, Hochschule für Wirtschaft FHNW) war auf „Die Ethik als Partnerin von Robotik und KI“ eingegangen. Im Video erläutert er, was Maschinenethik ist. Auf dem Panel hatten er, Prof. Dr.-Ing. habil. Alois C. Knoll, Prof. Dr. Dr. Eric Hilgendorf (Leiter der Forschungsstelle RobotRecht, Julius-Maximilians-Universität Würzburg) und Dr. Ole Wintermann (Senior-Projektleiter, Co-Founder, Blogger, Bertelsmann Stiftung) zum Thema „Sind intelligente Maschinen und Roboter die besseren Menschen?“ diskutiert. Auch dazu steht ein Video zur Verfügung. Alle Videos finden sich über http://veranstaltungen.handelsblatt.com/it-jahrestagung/videos-2018/.

Hologram Girl

Der Kurzfilm SHELL wird gegenwärtig an der Hochschule der Medien produziert (Director: Lutz Marquardt, Producer: Cornelius Herzog, VFX Producer: Nico Hoerz, DOP: Tatjana Huck). Die Protagonisten sind John und Cara. In der Beschreibung des Projekts heißt es zu John, er sei Wissenschaftler und arbeite für eine staatliche Forschungseinrichtung, die die Möglichkeiten zur Bevölkerung fremder Planeten untersuche. „John ist für die Durchführung einiger Experimente zur Feststellung der dortigen Lebensfähigkeit auf einen erdähnlichen Planeten geschickt worden, auf dem er nun zusammen mit der künstlichen Intelligenz Cara in einem abgeschotteten Forschungsbunker festsitzt.“ (Projektbeschreibung STUDIOPRODUKTION VFX SS18) Obwohl Cara nur ein Hologramm und ein Programm sei, verfüge sie über äußerst menschliche Züge und Charaktereigenschaften. Sie weiß „mit John umzugehen und ihn in einer cleveren Weise zu beeinflussen und zu lenken, wie es die Mission – und am Ende auch Cara – von ihm verlangt“. „Mit diesem Verhalten schafft es Cara, sich John durch subtile Anstöße zum Werkzeug zu machen. Ihre Ziele und Absichten scheinen jedoch stets verborgen und so wirkt sie zum Teil unvorhersehbar und fast schon tückisch. Ihre Art lässt dadurch oft zweifeln, ob sie so programmiert wurde oder sich bereits eigene Eigenschaften angeeignet hat und eine unerwartete Art der Entwicklung durchläuft.“ (Projektbeschreibung STUDIOPRODUKTION VFX SS18) Der Film wird von maschinenethik.net unterstützt und feiert am 5. Juli 2018 bei der MediaNight seine Weltpremiere.


Abb.: Wie Cara aussieht, ist noch unbekannt

Minds Mastering Machines

Die Minds Mastering Machines ist die Konferenz für Machine Learning und Künstliche Intelligenz. Sie findet in Köln vom 24. bis 26. April 2018 statt. Die Keynote am 25. April hält der Informations- und Maschinenethiker Oliver Bendel aus Zürich zum Thema „Das Moralisieren von Maschinen“. Zur Konferenz steht auf der Website: „Die Einsatzgebiete für Machine-Learning-Ansätze, die den Kern der KI ausmachen, sind vielfältig: Sie reichen von intelligenten Helfern und Bots, die online bei allerlei Aufgaben assistieren, über autonome Fahrzeugen bis hin zur Steuerung komplexer Verkehrsströme. Weitere Beispiele sind Wohnungen, die Heizungen regulieren lernen oder bei auffälligem Verhalten hilfsbedürftiger Bewohner Hilfe herbeirufen, und smarte Fabriken mit Maschinen, die sich selbst optimieren und mögliche Störungen bereits im Vorfeld ankündigen.“ (Website M3) Die Konferenz hat „es sich zum Ziel gesetzt, ihre Besucher beim Schritt von den Visionen der Science-Fiction-Autoren in die technische Realität zu unterstützen“ (Website M3).

Abb.: Von Science-Fiction und Fantasy zur technischen Realität

Ein neues Artefakt der Maschinenethik

Das BESTBOT-Projekt startete am 22. März 2018. Nach den Vorgaben von Oliver Bendel wird das vierte Artefakt der Maschinenethik an der Hochschule für Wirtschaft FHNW geschaffen. Anders als der GOODBOT wird der BESTBOT ein webbasiertes System sein. Wie der LIEBOT aka LÜGENBOT soll der BESTBOT in Java programmiert werden, unter Zuhilfenahme der AIML. Der BESTBOT soll auf alle möglichen Anfragen und Herausforderungen reagieren können, auch auf solche, die in der Person des Benutzers liegen. Deshalb wird er erstens stark vernetzt sein, wie der LIEBOT, mit Systemen wie Suchmaschinen, mit Thesauri und Ontologien. Der GOODBOT war ein geschlossenes System mit einer Wissensbasis – er konnte nur begrenzt auf Probleme des Benutzers eingehen. Zweitens soll der BESTBOT Gesichtserkennung benutzen, auch Emotionserkennung. Auf diese Weise soll er Erkenntnisse zu Aussagen des Benutzers ergänzen und diese gegebenenfalls relativieren können. Die dabei auftretenden Probleme sollen ebenfalls reflektiert werden, mit Begriffen und Methoden der Informationsethik. Oliver Bendel stellt das BESTBOT-Projekt am 27. März 2018 an der Stanford University vor, im Rahmen der AAAI Spring Symposia.

Abb.: Der BESTBOT in Aktion

Alexa lacht

Im Salzburger Nachtstudio auf Ö1 wird am 16. Mai 2018 die Sendung „Alexa lacht“ mit dem Untertitel „Maschinen und andere Gespenster der künstlichen Intelligenz“ ausgestrahlt. Aus der Beschreibung: „Die Differenz zwischen Mensch und Maschine ist längst kleiner geworden in unserem smarten Alltag. Maschinen, die immer selbständiger handeln und entscheiden, ziehen als Saug- und Mähroboter, als Pflege-, Spiel-, Service- oder Sexroboter, als Überwachungs- und Kampfroboter in die menschliche Lebenswelt ein. Das erfordert Regeln im Umgang zwischen Mensch und Maschine sowie eine ethische Reflexion der Programmierung. Der Maschinenethiker Oliver Bendel, die Philosophin Janina Loh und die Informatikerin Joanna Bryson reflektieren diese Problematik in ihrer Forschungsarbeit. Was ist menschliche Projektion im Umgang mit Technologien, und wie ‚verhält‘ sich die Maschine dazu? Der Spuk von Sprachassistentin Alexa, die zuweilen gestört lacht, lässt sich beheben, aber Alexa wertet längst menschliche Gewohnheiten aus und steuert uns.“ (Website Ö1) Weitere Informationen über oe1.orf.at/programm/20180516/513712.

Abb.: Alexa lacht

Autonome Dreiräder

Im März 2017 erfuhr die connectUS-Delegation der Hochschule für Wirtschaft FHNW am MIT von dem autonomen Dreirad, das dort entwickelt wurde. Sie wurde durch die heiligen Hallen der berühmten Hochschule geführt und durfte einen Blick auf die aktuellen Prototypen werfen. Auf der Website heißt es: „The PEV is a low-cost, agile, shared-use autonomous bike that aims to solve the ‚last-mile‘ urban mobility challenge of today, and to become a healthy, sustainable alternative to cars for cities of tomorrow. The PEV can be either an electrically-assisted tricycle for passenger commute or an autonomous carrier for delivering packages.“ (Website MIT) Auch im Osten von Deutschland setzt man auf das autonome Dreirad, wie MDR am 20. März 2018 meldete: „Selbstfahrende Autos sind schon länger im Gespräch, selbstfahrende Fahrräder aber haben die wenigsten bisher gesehen. Die Uni Magdeburg erforscht, wie Fahrräder autonom durch die Stadt fahren können, um Nutzern flexibel zur Verfügung zu stehen. Für Einkäufe oder andere Transporte könnte man sie dann mieten.“ (Website MDR, 20. März 2018) Oliver Bendel, der Mitglied der Delegation war, ist skeptisch gegenüber autonomen Dreirädern, da diese die Komplexität in Städten erhöhen und Kollisionen nicht zu vermeiden sein werden, ähnlich wie bei Servicerobotern.

Abb.: Ein Lastenfahrrad

Autonomes Fahren tötet

In Tempe (Arizona) ist am 19. März 2018 bei einem Unfall mit einem Uber-Roboterauto eine Frau ums Leben gekommen. Sie schob ihr Fahrrad, als sie die Fahrbahn betrat. Der Insasse des Fahrzeugs griff nicht ein. Philipp Vetter von der Welt war am 20. März 2018 im Gespräch mit Oliver Bendel. Der Informations- und Maschinenethiker plädiert seit Jahren dafür, hoch- und vollautomatisierten Individualverkehr in erster Linie auf Autobahnen stattfinden zu lassen. Dort wird seiner Ansicht nach Leben geschützt. Was Uber und Co. in amerikanischen Städten machen, hält er für leichtfertig, unabhängig vom aktuellen Fall. Immer wieder hat er sich auch ein Bild vor Ort gemacht, etwa in San Francisco, wo selbstständig fahrende Autos im dichtesten Verkehr anzutreffen sind. Er rät dazu, solche Tests einzustellen und sich auf die Beherrschung von Autobahnen – recht leicht – und Landstraßen – recht schwierig – zu konzentrieren. Der Beitrag „Autonomes Fahren tötet. Warum? Weshalb? Egal!“ wurde am 20. März 2018 veröffentlicht und ist über www.welt.de/wirtschaft/article174745972/Uber-Unfall-mit-selbstfahrendem-Fahrzeug-koennte-Technik-zurueckwerfen.html aufrufbar.

Abb.: Müssen Roboterautos in Städten verboten werden?

Humans and Robots Work Hand in Hand

The book chapter „Co-robots from an Ethical Perspective“ by Oliver Bendel was published in March 2018. It is included in the book „Business Information Systems and Technology 4.0“ (Springer). The abstract: „Cooperation and collaboration robots work hand in hand with their human colleagues. This contribution focuses on the use of these robots in production. The co-robots (to use this umbrella term) are defined and classified, and application areas, examples of applications and product examples are mentioned. Against this background, a discussion on moral issues follows, both from the perspective of information and technology ethics and business ethics. Central concepts of these fields of applied ethics are referred to and transferred to the areas of application. In moral terms, the use of cooperation and collaboration robots involves both opportunities and risks. Co-robots can support workers and save them from strains and injuries, but can also displace them in certain activities or make them dependent. Machine ethics is included at the margin; it addresses whether and how to improve the decisions and actions of (partially) autonomous systems with respect to morality. Cooperation and collaboration robots are a new and interesting subject for it.“ The book can be ordered here.

Fig.: Man and robot?