Houston, I have a problem!

Social robots are robots that come close to animals and humans, interact and communicate with them. They reproduce characteristics of animals and humans in their behavior and appearance. They can be implemented both as hardware robots and as software robots. The SPACE THEA project should have already started in March 2020. Because of COVID-19 it had to be postponed. Now the master student and his supervisor, Prof. Dr. Oliver Bendel (both School of Business FHNW), start with the preparatory work. In winter 2020/2021 and spring 2021 the programming of the voicebot is then carried out. SPACE THEA is designed to accompany astronauts to Mars and to show them empathy and emotions. In the best case, she should also be able to provide psychological counseling, for example, based on cases from the literature. The project will use findings from social robotics, but also from machine ethics. The results will be available by summer 2021.

Fig.: SPACE THEA

Pflegeroboter in Alten- und Pflegeheimen

Roboter in der Pflege und speziell Pflegeroboter sind ein Thema, das in den letzten Jahren enorm an Aufmerksamkeit gewonnen hat. Um Chancen und Risiken bewerten und ethische Überlegungen anstellen zu können, müssen die existierenden Systeme im Detail gekannt werden. Darüber hinaus ist es wichtig, den Kontext zu verstehen. Im Moment werden Pflegeroboter in Alten- und Pflegeheimen getestet, etwa in der Schweiz, in Deutschland und in Skandinavien. Pflegebedürftige und -kräfte sollen unterstützt werden. Es gibt kein Projekt und kein Szenario, in dem die Pflegeroboter die Pflegekräfte verdrängen sollen. Die Pflegebedürftigen können – darauf deuten die ersten Erfahrungen hin – persönliche Autonomie gewinnen und zugleich informationelle Autonomie verlieren. Es gilt demnach, Pflegeroboter zu bauen, die Intim- und Privatsphäre wahren. Michael Früh, CFO der Firma F&P Robotics, und Prof. Dr. Oliver Bendel, Informations- und Maschinenethiker, haben mit dem Chefredakteur von medAmbiente, Matthias Erler, gesprochen. Herausgekommen ist ein mehrseitiges Interview mit Fotos und Abbildungen. Das ganz Heft kann hier heruntergeladen werden.

Abb.: Mehr persönliche Autonomie

Robot Enhancement

Social robots and service robots usually have a defined locomotor system, a defined appearance and defined mimic and gestural abilities. This leads, on the one hand, to a certain familiarization effect. On the other hand, the actions of the robots are thus limited, for example in the household or in a shopping mall. Robot enhancement is used to extend and improve social robots and service robots. It changes their appearance and expands their scope. It is possible to apply attachments to the hardware, extend limbs and exchange components. One can pull skin made of silicone over the face or head, making the robots look humanoid. One can also change the software and connect the robot to AI systems – this is already done many times. The project or thesis, announced by Oliver Bendel in August 2020 at the School of Business FHNW, should first present the principles and functional possibilities of robot enhancement. Second, concrete examples should be given and described. One of these examples, e.g., the skin made of silicone, has to be implemented. Robots like Pepper or Atlas would be completely changed by such a skin. They could look uncanny, but also appealing. The project will start in September 2020.

Fig.: Robot Enhancement

A New AI Magazine

AAAI has announced the launch of the Interactive AI Magazine. According to the organization, the new platform provides online access to articles and columns from AI Magazine, as well as news and articles from AI Topics and other materials from AAAI. „Interactive AI Magazine is a work in progress. We plan to add lot more content on the ecosystem of AI beyond the technical progress represented by the AAAI conference, such as AI applications, AI industry, education in AI, AI ethics, and AI and society, as well as conference calendars and reports, honors and awards, classifieds, obituaries, etc. We also plan to add multimedia such as blogs and podcasts, and make the website more interactive, for example, by enabling commentary on posted articles. We hope that over time Interactive AI Magazine will become both an important source of information on AI and an online forum for conversations among the AI community.“ (AAAI Press Release) More information via interactiveaimag.org.

Fig.: A magazine for interested people, cyborgs and robots

ROBOPHILOSOPHY 2020 und 2022

Eine der weltweit wichtigsten Konferenzen für Roboterphilosophie und soziale Robotik, die ROBOPHILOSOPHY, fand vom 18. bis 21. August 2020 statt, nicht in Aarhus (Dänemark), wie ursprünglich geplant, sondern – wegen der COVID-19-Pandemie – in virtueller Form. Organisatoren und Moderatoren waren Marco Nørskov und Johanna Seibt. Ein beträchtlicher Teil der Vorträge war der Maschinenethik verpflichtet, etwa „Moral Machines“ (Aleksandra Kornienko), „Permissibility-Under-a-Description Reasoning for Deontological Robots“ (Felix Lindner) und „The Morality Menu Project“ (Oliver Bendel). Die Keynotes stammten von Selma Šabanović (Indiana University Bloomington), Robert Sparrow (Monash University), Shannon Vallor (The University of Edinburgh), Alan Winfield (University of the West of England), Aimee van Wynsberghe (Delft University of Technology) und John Danaher (National University of Ireland). Winfield zeigte sich in seinem herausragenden Referat skeptisch gegenüber moralischen Maschinen, woraufhin Bendel in der Diskussion deutlich machte, dass sie in manchen Bereichen nützlich, in anderen gefährlich sind, und die Bedeutung der Maschinenethik für die Erforschung der maschinellen und menschlichen Moral hervorhob, womit sich Winfield wiederum einverstanden zeigte. Die letzte Konferenz wurde 2018 in Wien durchgeführt. Keynoter waren damals u.a. Hiroshi Ishiguro, Joanna Bryson und Oliver Bendel. Die nächste ROBOPHILOSOPHY wird, wie die Veranstalter am Ende der Veranstaltung, bekanntgaben, 2022 an der Universität Helsinki stattfinden.

Abb.: Vorgestellt wurde auch das Moralmenü

Towards HUGGIE

In the first part of the HUGGIE project initiated by Oliver Bendel, two students of the School of Business FHNW conducted an online survey with almost 300 participants. In the management summary of their bachelor thesis Ümmühan Korucu and Leonie Stocker (formerly Leonie Brogle) write: „The results of the survey indicated that people have a positive attitude towards robots in general as robots are perceived as interesting and useful rather than unnecessary and disturbing. However, only a minority of the participants stated that they would accept a hug from a robot. A possible reason for this could be that for the majority of participants, a hug is an act of intimacy with a deeper meaning attached to it which is only being shared with selected persons. For a robot to be perceived as an attractive hugging partner, a human-like design including a face, eyes, a friendly look as well as the ability to communicate verbally and non-verbally is desired. However, an appearance being too realistic has a deterrent effect. Furthermore, an in-depth analysis of the data in relation to age and gender of the participants resulted in the discovery of interesting facts and differences. Overall, the findings contribute to a clearer picture about the appearance and the features Huggie should have in order to be accepted as a hugging counterpart.“ The bachelor thesis will be publicly available in autumn 2020. There will also be a paper with the results next year.

Fig.: A part of a hug

A New Markup Language

In many cases it is important that an autonomous system acts and reacts adequately from a moral point of view. There are some artifacts of machine ethics, e.g., GOODBOT or LADYBIRD by Oliver Bendel or Nao as a care robot by Susan Leigh and Michael Anderson. But there is no standardization in the field of moral machines yet. The MOML project, initiated by Oliver Bendel, is trying to work in this direction. In the management summary of his bachelor thesis Simon Giller writes: „We present a literature review in the areas of machine ethics and markup languages which shaped the proposed morality markup language (MOML). To overcome the most substantial problem of varying moral concepts, MOML uses the idea of the morality menu. The menu lets humans define moral rules and transfer them to an autonomous system to create a proxy morality. Analysing MOML excerpts allowed us to develop an XML schema which we then tested in a test scenario. The outcome is an XML based morality markup language for autonomous agents. Future projects can use this language or extend it. Using the schema, anyone can write MOML documents and validate them. Finally, we discuss new opportunities, applications and concerns related to the use of MOML. Future work could develop a controlled vocabulary or an ontology defining terms and commands for MOML.“ The bachelor thesis will be publicly available in autumn 2020. It was supervised by Dr. Elzbieta Pustulka. There will also be a paper with the results next year.

Fig.: Skeleton of the top elements (Illustration: Simon Giller)

Soziale Roboter in der Hochschullehre

An der Hochschule für Wirtschaft FHNW wird ab Frühjahrssemester 2021 das Wahlmodul „Soziale Roboter“ angeboten. Es steht WirtschaftsinformatikerInnen und BetriebsökonomInnen offen. Dozent ist Prof. Dr. Oliver Bendel. Das Wahlmodul „Soziale Roboter“ klärt Grundbegriffe und -konzepte, stellt den Zusammenhang zwischen der sozialen Robotik und anderen Disziplinen (Künstliche Intelligenz, Maschinenethik, Künstliches Bewusstsein) her, nennt Beispiele sozialer Roboter und geht auf Anwendungsgebiete sozialer Roboter ein. Die Studierenden lernen ausgewählte soziale Roboter kennen, nach Möglichkeit auch im direkten Kontakt. Sie entwickeln Szenarien, die folgende Komponenten umfassen: Beschreibung eines fiktiven sozialen Roboters (Zeichnung, Produktbeschreibung), Skizze einer Organisation oder Situation, in der der Roboter eingesetzt wird (Organigramm, Firmenbeschreibung), Darstellung der Interaktion und Kommunikation sowie der Datenflüsse (Modellierung), Diskussion technischer, ethischer und rechtlicher Fragen. Die Ergebnisse werden in Gruppen im Plenum präsentiert.

Abb.: Auch der Zusammenhang mit der Maschinenethik wird aufgezeigt

Künstliche Intelligenz in der Humanforschung

Die Mitglieder der Ethikkommissionen der Schweiz sind zu der diesjährigen Weiterbildung mit dem Thema „Künstliche Intelligenz in der Humanforschung – Wissenschaftliche, rechtliche und ethische Herausforderungen“ ins Landesmuseum Zürich eingeladen. Die Veranstaltung wird durchgeführt von swissethics, der Dachorganisation der Kantonalen Ethikkommissionen. Sie wird eröffnet von Prof. Dr. Julia Vogt (ETH Zürich). Ihr Vortrag trägt den Titel „Künstliche Intelligenz: eine wissenschaftliche Herausforderung in der Forschung“. Danach spricht Prof. Dr. med. Adrian Egli (Universitätsspital Basel) über „Herausforderungen künstlicher Intelligenz in der Mikrobiologie“. Nach der Pause geht es um „Apps, Algorithmen und Roboter in der Medizin: Haftungsrechtliche Herausforderungen“ – das Gebiet von Prof. Dr. iur. Corinne Widmer Lüchinger (Universität Basel). Den Abschluss bildet der Vortrag von Prof. Dr. oec. HSG Oliver Bendel (Hochschule für Wirtschaft FHNW) mit dem Vortrag „Maschinenethik – Informationsethik: welche ethischen Herausforderungen sind relevant?“ Das Programm kann hier aufgerufen werden. Weitere Informationen über www.swissethics.ch/aus-fortbildung/fuer-ek-mitglieder.

Abb.: Im Labor

Keine Angst vor der KI

„Wer hat Angst vor der KI?“ Dieser Frage geht Carmen Gräf am 16. Juli 2020 von 22 bis 23 Uhr bei RBB Kultur nach. „Erst lernten die Computer rechnen, dann organisieren, analysieren, sprechen und schließlich – denken. Dank Künstlicher Intelligenz. Nun ist die Forschung dabei, den Computern auch das Fühlen beizubringen. Eine neue Stufe Künstlicher Intelligenz entsteht. Das sorgt für jede Menge Hoffnung und Euphorie, aber auch für Angst und Unbehagen. Wird die Maschine den Menschen überholen oder kann der Mensch die digitalen Potentiale sinnvoll nutzen? Ein Einblick in aktuelle Diskussionen, Forschungen und Anwendungen.“ (RBB Kultur) Erwähnt werden auch die Entwicklungen des Informations- und Maschinenethikers Oliver Bendel, konkret der LIEBOT, der systematisch die Unwahrheit sagt, und HAPPY HEDGEHOG, der igelfreundliche Rasenmähroboter. Die Sendung ist ein Jahr lang in der ARD-Mediathek abrufbar. Weitere Informationen sind hier erhältlich.

Abb.: Wer hat Angst vor der KI?

Interviews zu künstlicher Intelligenz und Moral

Kinofenster ist ein Projekt der Bundeszentrale für politische Bildung (bpb). Es wurde 1996 als Printmagazin initiiert. Im Jahre 2000 erfolgte die Umstellung zu einem Onlineangebot. Der aktuelle Schwerpunkt im Juli 2020 widmet sich, ausgehend von dem Film „Hi, AI“, künstlicher Intelligenz und moralischen Maschinen. „Humanoide Roboter sind nicht mehr nur Science Fiction. Im Dokumentarfilm Hi, AI beobachtet Regisseurin Isa Willlinger den Einzug solcher menschenähnlicher Maschinen in unseren Alltag. Begleitend zum Film stellt eine Sequenzanalyse drei Visionen von künstlerischer Intelligenz und ein Hintergrundtext das Motiv des Androiden-Roboters im Kino vor. Zudem sprechen wir mit Kate Darling und Oliver Bendel über Chancen und Gefahren künstlicher Intelligenz.“ (Website Kinofenster) Der Informations- und Maschinenethiker geht insbesondere auf künstliche oder maschinelle Moral ein. Die Interviews und die Materialien sind über www.kinofenster.de abrufbar.

Abb.: Nao wurde im Kontext der Maschinenethik moralisiert

Faktor Mensch

Die HMD – Praxis der Wirtschaftsinformatik mit dem Titel „Faktor Mensch“, die im Juni 2020 erschienen ist, widmet sich u.a. Machine Learning, Augmented und Virtual Reality sowie Wearables und Phänomenen wie Bio- und Bodyhacking. Aus dem Call for Papers: „Informationssysteme sind soziotechnische Systeme, die aus maschinellen und menschlichen Teilsystemen bestehen. Der Mensch spielt selbstverständlich in der Entwicklung und Anwendung von Informationssystemen eine große Rolle. Aber nicht nur dort. Durch die fortschreitende Digitalisierung und die damit verbundene, immer stärkere Durchdringung der Lebens- und Arbeitswelten mit IT sehen sich Forscher und Praktiker der Wirtschaftsinformatik heute mit vielfältigen ethischen, gesellschaftlichen und politischen Fragestellungen konfrontiert. Datenschutz und Informationssicherheit sind nur zwei Themen die zunehmend in allen Gesellschaftsschichten diskutiert werden.“ (CfP, HMD 333) Im Heft enthalten sind u.a. Beiträge von Sabine Pfeiffer, Sabrina Oppl, Kristin Weber und Oliver Bendel. Weitere Informationen über link.springer.com/journal/40702/57/3.

Abb.: Faktor Mensch