Welche Entscheidungen wollen wir Maschinen überlassen?

Das DVR-Forum “Automatisiertes Fahren und Ethik” findet am 14. Juni 2016 in der Berlin-Brandenburgischen Akademie der Wissenschaften statt. Der Untertitel “Welche Entscheidungen wollen wir Maschinen überlassen?” deutet den Schwerpunkt an. In der Beschreibung heißt es: “Schon heute werden wir durch Assistenzfunktionen beim Autofahren unterstützt. Diese helfen, Unfälle zu vermeiden oder deren Folgen zu vermindern Weiterlesen

Von Mensch und Maschine: Roboter in der Pflege

Eine öffentliche Sitzung der österreichischen Bioethikkommission trägt den Titel “Von Mensch und Maschine: Roboter in der Pflege”. Sie findet am 2. Mai 2016 im Bundeskanzleramt in Wien statt. Es tragen nach der Eröffnung von Dr. Christiane Druml (Vorsitzende der Bioethikkommission) vor: Prof. Dr. Oliver Bendel, Fachhochschule Nordwestschweiz, Institut für Wirtschaftsinformatik (“Die Maschine in der Moral”), Prof. Dr. Mark Coeckelbergh, Universität Wien, Institut für Philosophie (“Machine ethics in healthcare”), Prof. Dr. Michael Decker, Karlsruhe Institut für Technologie, Institut für Philosophie (“Einsatz von Robotern in der Pflege – empirische Erfahrungen”), Prof. Dr. Jutta Weber, Universität Paderborn, Institut für Medienwissenschaften (“Maschinelle Versorgung: Die impliziten Werte der sozialen Robotik und ihre gesellschaftlichen Konsequenzen”) und Markus Wohlmannstetter, MSc., Anästhesiologische Intensivstation 1B, Krankenanstalt Rudolfstiftung (“Einsatz von Robotern in der Pflege – aus der Sicht der Pflege”). Das “Wrap-up” verantwortet Prof. Dr. Ina Wagner, Mitglied der Bioethikkommission. Weitere Informationen über den Flyer zur Veranstaltung.

Quelle: maschinenethik.net

Interview im Deutschlandradio zu Roboterautos

Deutschlandradio Kultur ist am Dienstag, 12. April 2016, im Gespräch mit Oliver Bendel. Der Wirtschaftsinformatiker und Maschinenethiker lebt in Zürich und forscht und publiziert seit Jahren über moralische Maschinen, seien es selbstständig fahrende Autos, Pflege- und Therapieroboter, zivile Drohnen oder Chatbots. Nana Brink ist als Autorin und Moderatorin unterwegs, für taz, SPIEGEL, Focus und Deutschlandradio. Ab 7.40 Uhr wird sie Fragen stellen zu autonomen Autos und deren Möglichkeiten, vor und während der Fahrt etwas zu lernen. Oliver Bendel ist skeptisch gegenüber komplexen moralischen Maschinen, die in offenen Welten verkehren und über Tod und Leben von Menschen entscheiden. Sein Interesse gilt einfachen moralischen Maschinen, ob im Haushalt oder in der Fabrikhalle. Dort sollen Geräte und Roboter besser sein als vorher, auch im moralischen Sinne. Beispiele sind Saugroboter, die Marienkäfer verschonen, und 3D-Drucker, die keine Waffen produzieren. Das Interview wird live geführt. Weitere Informationen gibt es über www.deutschlandradiokultur.de – dort ist zum gegebenen Zeitpunkt auch der Podcast zu finden.

Quelle: maschinenethik.net

Der rassistische Chatbot

chatbot_screenshotAus einem Chatbot wurde ein Badbot – Tay von Microsoft entwickelte sich zum Albtraum des Unternehmens und der Gesellschaft. Der SPIEGEL schrieb am 24. März 2016: “Zuerst war Tay noch freundlich, ein bisschen zu jugendsprachlich-obercool vielleicht, manchmal etwas dämlich wirkend, aber harmlos. Dann kam der Kontakt mit der harten Realität des Netzes.” Und dann sagte Tay: “Hitler hatte recht. Ich hasse die Juden.” (SPON, 24. März 2016) Die Süddeutsche Zeitung widmete sich dem Thema am 1. April in der gedruckten und am 3. April in der Onlineausgabe. Sie zitierte wiederholt den Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel, der selbst Chatbots konzipiert. 2013 entstand an der Hochschule für Wirtschaft FHNW der GOODBOT im Rahmen eines studentischen Praxisprojekts, seit Anfang 2016 wird der LÜGENBOT oder LIEBOT von Kevin Schwegler programmiert, als spezielle Form einer Münchhausen-Maschine. Die Ergebnisse werden auf KI- und Maschinenethik-Konferenzen in den USA und in Europa vorgestellt. Der Artikel in der Onlineausgabe der Süddeutschen trägt den Titel “Rassistischer Chat-Roboter: Mit falschen Werten bombardiert” und stammt von Bernd Graff.

Quelle: maschinenethik.net

Bildquelle: Screenshot Twitter/Tayandyou

Menschenleben sind keine Rechengrösse

road-people-street-smartphoneIn der Stuttgarter Zeitung vom 12. März 2016 ist ein ganzseitiges Interview – geführt hat es der Wissenschaftsjournalist Dr. Werner Ludwig – mit Prof. Dr. Oliver Bendel aus Zürich erschienen. Der Wirtschaftsinformatiker und Ethiker geht u.a. auf autonome Autos ein: “Ich bin nicht gegen das autonome Auto an sich. Ich bin ja selbst Maschinenethiker und konzipiere Maschinen, die bestimmte moralische Entscheidungen treffen. Ich bin nur der Meinung, dass das Auto eigentlich kein geeignetes System für die praktische Anwendung ist – zumindest, wenn es dabei um Menschenleben geht. Ich beschäftige mich stattdessen mit der Frage, wie man Kollisionen mit Tieren vermeiden kann. Auch das ist ja ein ethisches Problem. Ich frage mich zum Beispiel, ob man nicht Autos bauen könnte, die vor dem letzten Frosch seiner Art bremsen – natürlich nur, wenn dahinter keiner fährt. Ich halte es für schwierig und kaum akzeptabel, dass Maschinen über Menschenleben entscheiden.” (Stuttgarter Zeitung, 12. März 2016) Das Interview mit der Überschrift “Menschenleben sind keine Rechengröße” ist auf Seite 11 zu finden. Es kann, mit freundlicher Genehmigung des Autors und der Zeitung, hier heruntergeladen werden.

Quelle: maschinenethik.net

Bildquelle: pexels.com

Die Moral der Roboter

748306_web_R_by_Ringo Krause_pixelio.deFür “Der Sonntag” vom 13. März 2016 hat René Zipperlen den Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel von der Hochschule für Wirtschaft FHNW interviewt. Sein Interesse gilt u.a. der Situation, die sich niemand wünscht: “Was ist, wenn ein autonomes Auto einen Unfall baut?” Der Wissenschaftler führt aus: “Es klingt paradox: Für den Menschen stellt sich womöglich keine moralische Frage, weil alles viel zu schnell geht. Bei der Maschine entsteht aber vielleicht eine moralische Situation, weil sie andere Möglichkeiten nutzen kann als nur Reflexe, sie kann aufgrund einer Vielzahl von Beobachtungen und Bewertungen blitzschnell entscheiden, ob sie weiterfährt, ausweicht oder bremst.” (Der Sonntag, 13. März 2016) Eine andere Frage ist: “Würden Sie die Autonomie von Fahrzeugen ab einem gewissen Punkt begrenzen?” Die Antwort lautet: “Ich bin für hybride Autos, bei denen wir noch selbst eingreifen können. Google will Lenkrad und Pedal entfernen. Das halte ich für einen Fehler, denn es macht uns ohnmächtig. Ich wäre durchaus dafür, das autonome Auto zwischen Städten verkehren zu lassen, auf geraden Strecken wie der Autobahn.” (Der Sonntag, 13. März 2016) Zipperlen: “Und im Stadtverkehr?” Bendel: “Würde ich es im Moment verbieten. Städte sind zu kompliziert.” (Der Sonntag, 13. März 2016) Der ganze Beitrag mit dem Titel “Die Moral der Roboter” kann hier heruntergeladen werden.

Quelle: maschinenethik.net

Bildquelle: Ringo Krause  / pixelio.de

V-Effekt für Roboter

602927_web_R_by_Dieter Schütz_pixelio.de“Forscher arbeiten unter Hochdruck an sozialen Robotern. Sie sollen echte Gefährten werden, sogar eigene Persönlichkeit entwickeln. So schwindet die Differenz zwischen Mensch und Maschine. Das wirft ethische Fragen auf.” (RP, 10. März 2016) Mit diesen Worten beginnt der Artikel “Soziale Roboter auf dem Vormarsch” von Dorothee Krings, erschienen am 10. März 2016 in der Rheinischen Post. Eingegangen wird auf zwei neue Projekte in diesem Bereich: An der Uni Bielefeld wird “an einem Maschinen-Lehrer gebaut, der Einwandererkindern beim Deutschlernen helfen soll” (RP, 10. März 2016). “Nao ist nur 60 Zentimeter groß, ein niedliches Spielzeug, aber er kann sehen, hören und bald auch die Stimmungslage seines Gegenübers einschätzen – und auf Unlust reagieren.” (RP, 10. März 2016) In Freiburg “wird an Fritz getüftelt, einem Gestell mit Comicgesicht, das Blickkontakt aufnehmen und die Mundwinkel sinken lassen kann, wenn man sich von ihm abwendet”. Er soll “durchs Museum führen und merken, wenn seine Zuhörer sich langweilen” (RP, 10. März 2016). “In 20 Jahren wird man Roboter haben, die wirklich unter uns leben, mit denen wir reden, die wir lieben”, wird Oliver Bendel zitiert, “einer der führenden Maschinenethiker, der in der Schweiz lehrt” (RP, 10. März 2016). Dabei sieht er neben den Chancen die Risiken und macht Vorschläge, wie das Zusammenleben gelingen kann. Er spricht von einem V-Effekt für Roboter, “frei nach dem Theater von Brecht”; “der Roboter hält inne und betont, dass er nur eine Maschine ist” (RP, 10. März 2016). Der Artikel kann über www.rp-online.de/politik/soziale-roboter-auf-dem-vormarsch-aid-1.5824498 abgerufen werden.

Quelle: maschinenethik.net

Bildquelle: Dieter Schütz  / pixelio.de

Noch bleiben die Hände am Steuerrad

516867_web_R_by_www.helenesouza.com_pixelio.deBruno Knellwolf berichtete am 3. März 2016 vom Auto-Salon in Genf. Der Artikel, der u.a. im St. Galler Tagblatt erschienen ist, beginnt mit den Worten: “Neben 120 Welt- und Europapremieren sind ab heute am Auto-Salon in Genf bei einigen Autoherstellern auch ihre Forschungen zum selbstfahrenden Auto zu sehen. Lotta Jakobsson von Volvo erklärt, warum wir noch einige Zeit das Lenkrad im Griff behalten werden.” (Tagblatt, 3. März 2016) “Wenn jemand fahren will, soll er das tun können. Dafür hat er ja ein Auto”, wird die Expertin zitiert. “Doch sei es ihm auf der langen Reise auf der Autobahn langweilig, sollte er sich mit etwas anderem beschäftigen können. Das autonome Fahren sei aber noch nicht mehrheitsfähig, weil uns die Erfahrung fehle. Unsere Haltung in dieser Frage werde sich aber in fünf bis zehn Jahren ändern.” (Tagblatt, 3. März 2016) Zu Wort kommt auch Oliver Bendel. “Darf man sein und das Leben anderer also einem Algorithmus anvertrauen? Im ‘Spiegel’ zweifelt Oliver Bendel von der Fachhochschule Nordwestschweiz daran. Es sei fatal, Maschinen komplexe moralische Entscheidungen zu überlassen.” Der Wirtschaftsinformatiker und Maschinenethiker spricht sich für einfache moralische Maschinen aus, die einfache moralische Entscheidungen treffen, etwa in Bezug auf Tiere, und dadurch zu deren Wohl beitragen können. Der Artikel mit dem Titel “Noch bleiben die Hände am Steuerrad” kann hier gelesen werden.

Quelle: maschinenethik.net

Bildquelle: www.helenesouza.com  / pixelio.de

Steuer frei

Der SPIEGEL beleuchtet in seiner Titelstory der Ausgabe 9/2016 das autonome Auto (“Steuer frei”). Markus Brauck, Dietmar Hawranek und Thomas Schulz lassen u.a. Daimler-Vorstand Wolfgang Bernhard, Daimler-Chef Dieter Zetsche, Google-Forscher Sebastian Thrun und Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel zu Wort kommen. “Das können wir nicht dem Google überlassen”, wird Bernhard zitiert, und gemeint ist das Geschäft mit dem Roboterauto. Das Magazin wird grundsätzlich: “Technologische Umbrüche, wie sie in der Automobilindustrie jetzt anstehen, haben schon viele Firmen hinweggefegt, die unsterblich schienen. Den Fernsehhersteller Telefunken, den Schreibmaschinenfabrikanten Triumph-Adler, die Fotofirma Kodak.” (SPIEGEL, 27. Februar 2016) “Wir haben uns aufgemacht”, so Zetsche laut SPIEGEL, “diese Statistik zu schlagen”. “Buchstäblich Hunderte Menschen wollten mir weismachen, dass man kein fahrerloses Auto bauen kann”, sagt Thrun. Der Forscher gilt als Pionier in diesem Bereich. Bendel verbindet Maschinen- und Tierethik. Erwähnt wird seine Konzeption eines tierfreundlichen Saugroboters namens LADYBIRD, aber auch seine Arbeit zu Roboterautos. “Er ist Spezialist für Maschinenethik und setzt sich seit Jahren mit den moralischen Dilemmata auseinander, die das selbstfahrende Auto mit sich bringt. … Für Bendel hängt die Akzeptanz von selbstfahrenden Autos auch davon ab, ob diese ethischen Fragen zur Zufriedenheit der Bürger beantwortet werden. Bendel misstraut den optimistischen Visionen der Industrie. Es sei fatal, Maschinen komplexe moralische Entscheidungen zu überlassen.” (SPIEGEL, 27. Februar 2016)

Quelle: informationsethik.net

Pfleger aus Silizium und Stahl

“Pfleger aus Silizium und Stahl” lautet der Titel eines Beitrags in der Zeitschrift Strom (1/2016) von Infel Corporate Media. Geschrieben hat ihn Sarah Hadorn. Interviewt hat sie Heidrun Becker, Zentrum für Technologiefolgen-Abschätzung (TA-SWISS), Oliver Bendel, Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik an der Hochschule für Wirtschaft FHNW und Margrit Lüscher, Geschäftsleiterin der Demenzabteilung im Alterszentrum Bruggwiesen in Effretikon (Zürich). Pflegeroboter unterstützen oder ersetzen – so das Wirtschaftslexikon von Gabler – menschliche Pflegekräfte bzw. Betreuerinnen und Betreuer. “Sie bringen und reichen Kranken und Alten die benötigten Medikamente und Nahrungsmittel, helfen ihnen beim Hinlegen und Aufrichten oder alarmieren den Notdienst. Manche verfügen über natürlichsprachliche Fähigkeiten, sind lernende und intelligente Systeme.” (Gabler Wirtschaftslexikon) Es entstehen Herausforderungen, die aus der Perspektive der Ethik und der Technik angegangen werden können. Bendel sagt hierzu: “Es braucht ein Tandem: Mensch und Roboter”. Zum einen kann der Roboter nicht die menschliche Nähe und Wärme liefern, die der Mensch als Patient benötigt. Zum anderen ist der Mensch als Pfleger schnell zur Stelle, wenn der Roboter einen Fehler macht. Ein Tandem kann die Angestellten entlasten, die Kosten der Einrichtung senken und eine verträgliche Lösung für die Betreuten sein. Der Artikel kann, mit freundlicher Genehmigung der Autorin und des Verlags, hier heruntergeladen werden.

Quelle: maschinenethik.net