Digital mündig: Moralische Maschinen

„Selbstfahrende Autos, Pflegeroboter, smarte Helfer: In unserem Alltag treffen wir auf immer klügere Maschinen. Über ein Bewusstsein oder eigenen Willen verfügen sie zwar nicht, dennoch nehmen sie uns immer mehr Entscheidungen ab. Das wirft auch moralische Fragen auf. Soll das Auto in einem Unfall eher die Insassen schonen oder die Fußgänger am Straßenrand? Darf ein Roboter lebenserhaltende Maschinen abschalten, wenn der Patient das wünscht? Welche Chancen sich bieten und wo wir Grenzen setzen sollten, bespricht Christoph Kucklick, GEO, mit dem Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel.“ So die Ankündigung der Körber-Stiftung auf www.koerber-stiftung.de. „1959 vom Unternehmer und Anstifter Kurt A. Körber ins Leben gerufen, ist die Körber-Stiftung heute mit eigenen Projekten, Kooperationen und Veranstaltungen national und international aktiv.“ (Website Körber-Stiftung) Das Gespräch im Rahmen der Reihe „Digital mündig“ mit dem Titel „Moralische Maschinen“ findet am Dienstag, 14. November 2017 um 19.00 Uhr im KörberForum in Hamburg statt. Weitere Informationen über www.koerber-stiftung.de/veranstaltungsuebersicht/digital-muendig-moralische-maschinen-2248.html.

Abb.: Ein alter Ford aus Hamburg

Moralische Maschinen, die Tiere retten

Aleksandra Sowa leitete – so die Beschreibung in The European – „zusammen mit dem deutschen Kryptologen Hans Dobbertin das Horst-Görtz-Institut für Sicherheit in der Informationstechnik“. „Sie ist Autorin diverser Bücher und Fachpublikationen, Mitglied des legendären Virtuellen Ortsvereins (VOV) der SPD und aktuell für einen Telekommunikationskonzern tätig.“ (The European) Im Oktober 2017 war sie im Austausch mit Oliver Bendel. Der Informations- und Maschinenethiker nahm wie folgt Stellung: „Ich bin dafür, bestimmte Maschinen zu ‚moralisieren‘, und zwar solche, die in übersichtlichen Umgebungen und Situationen in unserem Sinne handeln sollen. Der Saugroboter, der Marienkäfer verschont, der Chatbot, der rücksichtsvoll ist und eine Notfallnummer herausgibt. Diese Maschinen haben wir gebaut. Ich bin nicht dafür, solche Maschinen mit einer Form von Moral auszustatten, die in komplexen Umgebungen und Situationen entscheiden müssen. So halte ich wenig davon, dass autonome Autos über Menschenleben entscheiden. Über Tierleben können sie entscheiden, sie können quantifizieren und qualifizieren. Wenn dadurch Tiere gerettet werden können, ohne dass Menschen in Gefahr kommen, bin ich dafür.“ Der Beitrag „Die Antwort lautet nicht 42“ von Aleksandra Sowa, erschienen am 11. Oktober 2017, enthält Statements von Oliver Bendel, gewonnen aus dem genannten Austausch und aus seinen Veröffentlichungen.

Abb.: Auch Schildkröten kann man retten

Will die Mehrheit keine Pflegeroboter?

Die NZZ vom 9. Oktober 2017 schreibt, bezugnehmend auf eine aktuelle Studie von DemoSCOPE, die Skepsis gegenüber der Digitalisierung im Gesundheitswesen und in der Pflege sei groß. „84 Prozent der Befragten wollen nicht, dass Roboter pflegebedürftige Menschen bei der Körperpflege unterstützen.“ Allerdings war dies gar nicht die Frage. Diese lautete, ob man es begrüßen würde, „wenn Roboter bei pflegebedürftigen Menschen die Körperpflege übernehmen würden an Stelle vom Pflegepersonal“ (Studie DemoSCOPE). Es ist also nicht die Unterstützung des Pflegebedürftigen im Fokus, sondern die Übernahme der Körperpflege, die bisher der Pflegekraft oblag, durch einen Roboter (der nicht spezifiziert wird). Insgesamt muss man mehrere Punkte berücksichtigen: 1. Auftraggeber der Studie war ein Magazin reformierter Kirchen in der Schweiz. Diese gehen von einem bestimmten Menschenbild aus. Auf der Website des Magazins heißt es: „Die Mehrheit will keine Pflegeroboter“. Dies lässt sich der Studie nicht entnehmen. 2. Befragt wurden 1000 Personen per Telefon. Es ist nicht davon auszugehen, dass viele Betroffene darunter waren. Diese würden sich u.U. anders äußern. 3. Die Befragten haben unterschiedliche Vorstellungen von Robotern. Pflegeroboter im engeren Sinne z.B. sind heute allenfalls als Prototypen im Einsatz. Sie arbeiten, wenn sie Hand anlegen, im Tandem, zusammen mit einer Pflegekraft. Sie würden also die Körperpflege nicht vollständig übernehmen. Die NZZ schreibt weiter: „Kein Vertrauen haben Herr und Frau Schweizer auch in den Roboter, der als Arzt auftritt. Nur gerade 19 Prozent würden beim Spitaleintritt eine Diagnose akzeptieren, die allein durch einen Computer erstellt wurde.“ Allerdings wurden bei der Studie nicht SchweizerInnen befragt, sondern Personen, die in der Schweiz leben. Zudem spricht die Studie hier nicht von einem Roboter.

Abb.: Soll der Roboter meine Zähne putzen?

Kriegsmaschinen

„Kampfroboter, auch als Militärroboter bekannt, sind ferngesteuerte oder aber teilautonome bzw. autonome Maschinen, die in kriegerischen Auseinandersetzungen der Ablenkung in Bezug auf Ressourcen, der Auskundschaftung von Stützpunkten sowie der Beobachtung und der Beseitigung von Gefahren und Gegnern dienen. Wenn sie Standorte bewachen, haben sie eine Nähe zu Sicherheitsrobotern, wenn sie nach Minen suchen und diese räumen und sprengen, zu Minenrobotern, wenn sie Transporte durchführen, zu Transportrobotern. Auch Kampfdrohnen sind, ein weiter Begriff vorausgesetzt, Kampfroboter.“ Mit diesen Worten beginnt ein Beitrag von Oliver Bendel für das Wirtschaftslexikon von Gabler, veröffentlicht Anfang September 2017. Auch die Perspektive der Maschinenethik wird eingenommen: „Die Maschinenethik widmet sich den moralisch begründeten Entscheidungen von Kampfrobotern. Im Zentrum eines Gedankenexperiments steht Buridans Robot, der einen Terroristen töten soll. Da dieser zusammen mit seinem Zwillingsbruder auftaucht, ist sich die Maschine unsicher, wen sie auswählen soll, und gerät in ein ähnliches Dilemma wie Buridans Esel, der zwischen zwei Heubündeln verhungert.“ Der Beitrag kann über wirtschaftslexikon.gabler.de/Definition/kampfroboter.html aufgerufen werden.

Abb.: Roboter oder Exoskelett?

Co-Robots im Pressesprecher-Magazin

Das Magazin Pressesprecher widmet sich in seiner neuen Ausgabe (4/17) Kooperations- und Kollaborationsrobotern. Diese sind, wie sich dem Wirtschaftslexikon von Springer Gabler entnehmen lässt, moderne Industrieroboter, die mit uns Schritt für Schritt an einem gemeinsamen Ziel (Kooperationsroboter) bzw. Hand in Hand an einer gemeinsamen Aufgabe arbeiten, wobei wiederum ein bestimmtes Ziel gegeben ist (Kollaborationsroboter). Sie nutzen dabei ihre mechanischen und sensorischen Fähigkeiten und treffen Entscheidungen mit Blick auf Produkte und Prozesse im Unternehmen bzw. in der Einrichtung. Co-Robots, wie sie gelegentlich genannt werden, können in Einzelfällen auch als Serviceroboter auftreten, etwa im medizinischen und pflegerischen Bereich. Die intensive Beschäftigung mit kooperativen und kollaborativen Robotern begann bereits in den 1990er-Jahren. In den 2010er-Jahren begannen sie sich durchzusetzen und in der Produktion zu verbreiten. Sie spielen auch in der Industrie 4.0 eine Rolle. Eine Grundlage für den Artikel mit dem Titel „Die Emanzipation der Maschinen“ war ein Interview mit Prof. Dr. Oliver Bendel, der im Text wiederholt zitiert wird und der auch Verfasser des genannten Lexikonbeitrags ist.

Abb.: Werden Co-Robots in Zukunft zusammenarbeiten?

10. Regensburger Intensivpflegetag

Am 11. Oktober 2017 findet der 10. Regensburger Intensivpflegetag statt. Prof. Dr. Martina Müller-Schilling (Universitätsklinikum Regensburg) und Dr. Tomáš Kural (Karls-Universität, Zweigstelle Pilsen) schreiben in ihrem Grußwort: „Erstmals in der nun 10-jährigen Geschichte unseres Intensivpflegetages sind wir ein internationales Organisatoren- und Schirmherrenteam und freuen uns den diesjährigen Pflegetag gemeinsam mit der Medizinischen Fakultät der Karls-Universität Pilsen zu gestalten. Die Partnerstädte Pilsen und Regensburg haben vieles gemeinsam: ein großes kulturelles Erbe, sie stellen das Oberzentrum der Region auf beiden Seiten der Grenze dar und beide haben eine medizinische Fakultät, mit der wir den gegenseitigen Austausch und die Partnerschaft weiter stärken wollen.“ (Programm 10. Regensburger Intensivpflegetag) Es referieren u.a. Prof. Dr. Thomas Bein (Universitätsklinikum Regensburg), Dr. Thomas Böttcher (Universität Konstanz), Dr. Václav Liška (Karls-Universität, Zweigstelle Pilsen) und Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW). Weitere Informationen über http://www.uniklinikum-regensburg.de/service/Veranstaltungen/05031.php.

Abb.: Gesund und munter

Conference on AI, Ethics, and Society

AAAI announced the launch of the AAAI/ACM Conference on AI, Ethics, and Society, to be co-located with AAAI-18, February 2-3, 2018 in New Orleans. The Call for Papers is available at http://www.aies-conference.com. October 31 is the deadline for submissions. „As AI is becoming more pervasive in our life, its impact on society is more significant and concerns and issues are raised regarding aspects such as value alignment, data bias and data policy, regulations, and workforce displacement. Only a multi-disciplinary and multi-stakeholder effort can find the best ways to address these concerns, including experts of various disciplines, such as AI, computer science, ethics, philosophy, economics, sociology, psychology, law, history, and politics.“ (AAAI information) The new conference complements and expands the classical AAAI Spring Symposia at Stanford University (including symposia like „AI for Social Good“ in 2017 or „AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents“ in 2018).

Fig.: AI and ethics could help society

Robear und Co.

Operations- und Therapieroboter sind weit verbreitet. Pflegeroboter werden auf der ganzen Welt in Forschungseinrichtungen, Krankenhäusern und Pflegeheimen erprobt. Vor einem regulären Einsatz sind diverse ethische Fragen aufzuwerfen und zu beantworten. Genau dies macht ein neuer Beitrag von Oliver Bendel, der Mitte September in der Zeitschrift IT for Health erschienen ist. Das Resümee lautet: „Der Einsatz von Pflegerobotern bietet aus ethischer (sowie aus ökonomischer und medizinischer) Perspektive sowohl Chancen als auch Risiken. Assistierende Technologien beweisen bereits ihre Alltagstauglichkeit. Robear und Co., die Hand an Patienten anlegen, benötigen bis zu einer hohen technischen Reife noch ein paar Jahre. Genügend Zeit, so scheint es, um sich über das Grundsätzliche klar zu werden. Letztlich sollte, wo immer möglich, der Wille des oder der Pflegebedürftigen geachtet werden, ob er in einer Verfügung oder während der Behandlung zum Ausdruck kommt.“ Der Artikel mit dem Titel „Soll uns Robear pflegen?“ kann hier aufgerufen werden.

Abb.: Bären sind auch in der Pflege beliebt

Der Bürgermeister musste sterben

Im Jahre 2012 wurde das Roboterauto-Problem entwickelt, das sich vom Trolley-Problem herleitete. Dieses ist ein klassisches und zugleich ein theoretisches Dilemma, jenes ein theoretisches Dilemma, und beide sind philosophische Gedankenspiele. Oliver Bendel beschrieb in seinem Paper den New Autonomous Car (NAC), der sich in einer Unfallsituation zwischen einem Bürgermeister auf dem Gehsteig, einer Bürgerrechtlerin in einem weiteren Roboterauto und einer Gruppe spielender Kinder entscheiden muss. Sein Student Matthias Schnyder erhielt den Auftrag, das Roboterauto-Problem theoretisch zu lösen. Er entwickelte eine Formel, mit der das autonome Auto quantifizieren und qualifizieren, also mögliche Opfer durchzählen und bewerten konnte. Der Bürgermeister musste sterben. Auf der European TA Conference in Prag im März 2013 stellte Oliver Bendel die Ergebnisse vor (wobei er auch die Umsetzbarkeit klassischer Modelle normativer Ethik diskutierte) und wies darauf hin, dass in diesem Zusammenhang weder das Quantifizieren noch das Qualifizieren eine vertretbare praktische Lösung sei. Eine solche zu finden, kann die Aufgabe von unklassischen bzw. praktischen Dilemmata oder auch einfach von „Faktenspielen“, die auf Konfliktsituationen verweisen, sein. So kann man die hohe Komplexität von realen Situationen untersuchen und die Bedeutung der Kommunikation im Stadtverkehr herausstreichen. Bei einer Konferenz der Audi AG wird Oliver Bendel am 20. September 2017 kurz auf die fünf Jahre alte Formel und auf die neue Version der Verkehrspyramide eingehen. Und die praktische Lösung vorschlagen, die er seit langer Zeit propagiert: Das selbstfahrende Auto gehört auf die Autobahn.

Abb.: Mit der Formel kann das Auto quantifizieren und qualifizieren

Die Co-Robots kommen näher

Das Magazin Human Resources Manager widmet sich in seiner neuen Ausgabe (4/17) der Disziplin der Künstlichen Intelligenz (und ihrem Gegenstand, der künstlichen Intelligenz). Der Beitrag „Ein alter Menschheitstraum“ beinhaltet ein „Gespräch über die Sehnsucht nach künstlicher Intelligenz mit Dirk Helbing, Professor für Computational Social Science“ (Human Resources Manager, 4/17). „Die Co-Robots kommen näher“ basiert u.a. auf einem Interview mit Oliver Bendel, Professor für Wirtschaftsinformatik, Informations- und Maschinenethik. In „Entseelte Entscheidungen“ wird festgestellt: „Algorithmen können auch diskriminieren“ – das Interview wird geführt mit „Algorithmus-Designerin Katharina Zweig“ (Human Resources Manager, 4/17). „Digitale Sprachlosigkeit“ geht zusammen mit Christian Bauchhage auf die „Kommunikation mit künstlicher Intelligenz“ (Human Resources Manager, 4/17) ein. Weitere Informationen über www.humanresourcesmanager.de.

Abb.: Kollege Robot