Roboter werden zu Helfern mit Eigenleben.

Andreas Ziltener hat an der Universität St. Gallen Wirtschaftswissenschaften studiert und im Zusammenhang mit seiner Dissertation diverse IT-Projekte betreut und evaluiert. Er ist Gründer der Ziltener GmbH Beratung und Schulung sowie Mitbegründer des Worldwebforums und der beecom AG in Zürich. Seit Oktober 2005 ist er als Professor für Entrepreneurial Management an der Fachhochschule Ostschweiz (HTW Chur) und als Innosuisse-Entrepreneurship Experte an der HSG, ETH, EMPA, ZHAW und der Universität Zürich tätig. Daneben arbeitet er als Forscher am Schweizerischen Institut für Entrepreneurship SIFE, wo er sich schwerpunktmässig mit dem Thema «Innovationsmanagement» beschäftigt. Andreas Ziltener hat vier Kinder und ist begeisterter Bassist in den Jazz-Combos JIST und Jazzonomicals. Auf einer Reise letztes Jahr durch Japan, Deutschland und die Schweiz hat er vor allem Firmen und Forscher getroffen, welche sich fortschrittlich mit dem Thema der Robotik befassen. Im Notch Interview erzählt er uns von seinen Erfahrungen.

Roboter werden zu Helfern mit Eigenleben.

Andreas Ziltener (l), Peter van der Touw (r), Quelle: Notch Interactive

Wie bist du auf die Idee gekommen, diese Reise zu unternehmen, was waren deine Beweggründe?

Einfach gesagt gab es drei Gründe, weshalb ich mich zu dieser Reise entschlossen habe. Einerseits bin ich ein grosser Science-Fiction Fan und das schon seit meiner Kindheit. Zweitens bin ich der Meinung, dass das Internet der Menschen langsam in die Reifephase gekommen ist und diese Technologie evtl. sogar bereits die Grenze ihrer Leistungsfähigkeit erreicht hat. Die nächste Technologiegeneration ist das Internet der Maschinen («Internet of Things» IoT). Der dritte Grund war, dass ich in ein Projekt involviert bin, bei dem wir in Zusammenarbeit mit einem Schweizer Roboterunternehmen in einem Altersheim Serviceroboter testen möchten. Daraus ergaben sich ein persönliches, akademisches und praktisches Interesse. 

Die erste Station deiner Reise war Japan, warum?

Für mich war von Anfang an klar, dass ich nach Japan reisen muss. Japan ist uns Europäern in vielen Schritten und Ansichten sehr weit voraus und ich wollte ihre Einstellung und Denkhaltung über Roboter besser verstehen. Ebenso besitzt der japanische Telekommunikations- und Medienkonzern Softbank eine grosse Anzahl von verschiedenen Roboterfirmen auf der ganzen Welt. Der japanische Ministerpräsident Shinzõ Abe prägte den Begriff «Society 5.0», wobei die Automatisierung eine zentrale Rolle einnimmt. Japan glaubt an Wertschöpfungsgewinne dank dieser Roboterfirmen und dies war mit ein weiterer Grund, warum für mich eine Reise nach Japan fast unumgänglich war. 

Wie waren deine Erfahrungen in Japan? Wen hast du getroffen?

Es war anfänglich sehr schwierig mit den japanischen Forschern und Firmen Kontakt aufzunehmen. Ich hatte mir eine Shortlist mit knapp 20 Namen zusammengestellt und diese alle auf englisch angeschrieben. Eine Antwort bekam ich jedoch nie. Erst als mir eine japanische Freundin geholfen hat und die Anschreiben für mich auf japanisch formuliert hat, kamen ersten Antworten zurück. Viele waren bereit sich mit mir für ein Interview zu treffen. Jedoch war die generelle Aussage, ich müsse zwingend einen Dolmetscher dabeihaben, Englisch könne bei ihnen fast niemand. Die zweite Möglichkeit wäre, dass ich an die World Robot Summit in Tokyo reise. An dieser Messe sind die internationalen Verkäufer der japanischen Firmen vor Ort und die sprechen Englisch. Ich bin dann im Oktober nochmals nach Japan gereist und habe mich mit Forschern, Unternehmern und Entwicklern der Branche an der WRS getroffen:

Hiroshi Ishiguro, ein japanischer Robotiker und Direktor des Intelligent Robotics Laboratory am Department of Adaptive Machine Systems an der Universität Osaka. Er entwickelt Androiden wie z. B. Repliee Q1 & Q2 (siehe Blogartikel «The Uncanny Valley »). Das Interview mit dem Gründer und CEO des Spinn-offs von Hiroshi Ishiguro fand aber nicht wie anfänglich vermutet gemeinsam im selben Raum statt, sondern via den Telenoiden R1. Der Telenoid R1 ist ein menschenähnlicher ferngesteuerter Android, welcher von Hiroshi entwickelt wurde. Telenoid ist ein Telepräsenz-Roboter, was heisst, dass ferne Menschen durch solche Bots sprechen können. So wird eine Person, die sich an einem anderen Ort aufhält, vertreten. Der haarlose Kopf soll sowohl jung als auch alt aussehen, genauso soll Telenoid geschlechtsneutral wirken. Ursprünglich dachte ich, dass Hiroshis Ziel war, Menschen nachzubauen wie zum Beispiel sein neuster Android «Erica». Aber seine «Geschöpfe» sind keine Roboter, sondern reine Interfaces, sprich Kommunikationstools. Sein Ziel ist, die Barriere zwischen Menschen und solchen Interfaces abzubauen. 

www.youtube.com
Erica.png
Erica, Quelle: Andreas Ziltener

Das zweite Gespräch hatte ich mit Minoru Asada. Ein Pionier der heutigen Roboterforschung. Er ist Professor an der Graduate School of Engineering der Osaka University und Direktor der Abteilung für kognitive neurowissenschaftliche Robotik am Osaka University Institute for Academic Initiatives. Seine Spezialgebiete sind Robotik, Künstliche Intelligenz und kognitive Entwicklungsrobotik. Dieses Gespräch war für mich sehr aufschlussreich. Die Erkenntnisse, welche ich aus diesem Gespräch gewinnen konnte, waren für mich auch sehr hilfreich für kommende Interviews. 

Nebst den Persönlichkeiten aus Japan, habe ich mich auch in Europa mit mehreren Forschern und Entwicklern unterhalten. Darunter Roland Siegwart (Schweizer Robotiker und Professor der ETH Zürich), und Jürgen Schmidhuber (wissenschaftlicher Direktor bei IDSIA, einem Schweizer Forschungsinstitut für Künstliche Intelligenz).

Nun möchten wir auf grundsätzliche Fragen zu sprechen kommen: Welchen Einfluss hat deiner Meinung nach, die eigene Weltanschauung (Theismus, Humanismus, Animismus, Dataismus) auf den Umgang mit Technologie im Allgemeinen und Robotik im Spezifischen?

Unsere verschiedenen Weltanschauungen prägen unsere Sicht der Dinge und der Welt massgebend. Yuval Noah Harari hat in seinem Buch Homo Deus diese Begriffe der verschiedenen Weltanschauungen geschichtlich erklärt. Noch immer glaubt ein grosser Teil der Menschheit an eine universelle und lenkende Macht, also eine Gottheit. 
Die Humanisten denken und handeln im Bewusstsein der Würde des Menschen und sehen den Mensch als sinnstiftende Instanz im Universum. Innerhalb der Humanisten gibt es drei verschiedene Typen: der Evolutionäre, der Soziale und der Liberale. Diese sind in ihrer Ansicht über den Stellenwert von Menschen geteilten Glaubens. So unterscheidet der Evolutionär zwischen besseren und schlechteren Menschen. Der Soziale sieht alle Menschen als gleich gestellt auf der Welt und die Liberalen betrachten Menschen freisinnig. Ich denke die Humanisten werden am meisten mit der Singularität (Bio-Technische Fusion) zu kämpfen haben – sollte diese überhaupt je eintreffen. 
Der Dataismus beschreibt die Denkweise, unser Leben sei wie ein Code und wir bestehen nur aus Daten. Wir sind keine biologischen Wesen und unsere Gefühle zueinander sind Daten, die miteinander interagieren. 
Den Begriff «Animismus» konnte mir Minoru Asada am besten erklären. Animismus beschreibt den Glauben an eine Allbeseeltheit. Der Glaube, dass alle Dinge der Natur beseelt oder Wohnsitz von Geistern sind. Bei dieser Denkweise macht es keinen Unterschied, ob es ein Roboter oder ein Mensch ist, mit dem wir interagieren, denn beide sind beseelt.

Seit 1920 kennt man dank Karel Capek die Bezeichnung «Roboter». Wo startet deiner Meinung nach die Geschichte der Robotik? (erste Sci-fi Romane, erste Maschinen etc.)

Eine Maschine muss einen Input aufnehmen und daraus einen Output generieren können. Meiner Meinung nach startet die Geschichte der Robotik also ab der 3. Industriellen Revolution (1969 erste speicherprogrammierbare Steuerung (SPS) Modicon 084). 

Oft erscheint beim Gedanken an das Wort «Roboter» direkt ein Bild eines Humanoiden im Kopf. Was sind deiner Meinung nach die Elemente eines Roboters und was macht einen Roboter aus? (wohl nicht dessen Konstruktion die der menschlichen Gestalt nachempfunden ist)

Das Bedürfnis, dass ein Roboter auch ein menschenähnliches Aussehen haben muss, ist nicht überall auf der Welt gleich verbreitet. Auch spielt die jeweilige Aufgabe des Roboters eine grosse Rolle dabei. Ein Roboter, der für mich in meinem Garten den Rasen mähen soll, braucht keine menschliche Gestalt. Die erste Frage, die sich heutige Roboterforscher stellen, ist für welchen Kulturkreis das Produkt gedacht ist. Ein Beispiel liefert die F&P Robotics AG in Opfikon. Für den chinesischen Markt haben sie Serviceroboter entwickelt, die uns Menschen sehr ähnlich sehen. Für den europäischen Markt ist dasselbe Produkt ein Fahrgestell mit Arm. Damit der Bot schon von weitem als Maschine erkennbar ist. 

Unsere Einstellung in Europa beeinflusst unsere Haltung zu Humanoiden. Wären wir alt und auf einen Serviceroboter angewiesen der uns im Alltag unterstützt und das auch bei privaten Bedürfnissen wie Toilettengänge oder Duschen, fühlten wir uns wohler mit dem Gedanken, eine Maschine begleitet uns und kein Mensch. Der Fokus in Europa ist ganz klar auf ein maschinelles Aussehen gelegt. Im asiatischen Raum wiederum, ist der Fokus ganz anders. Dort ist das menschenähnliche Aussehen nicht stossend sondern teils sogar wünschenswert.

Auch spielt das Alter der zu betreuenden Personen eine Rolle. Das Beispiel von Senioren zeigt, viele Personen im hohen Alter kommen mit einer Maschine, die auch ausschaut wie eine Maschine schlicht nicht mehr zurecht. Mit einem Humanoiden sinkt die Kommunikationsbarriere und Hemmung. Auf einer Säuglingsstation in Japan wurde getestet, wie Neugeborene auf einen Humanoiden reagieren. Da den Säuglingen aber die mentalen Modelle noch fehlen, sehen sie keinen Unterschied bzw. erkennen ihn nicht als Roboter sondern als Bezugsperson. Somit wäre in Zukunft eine von Roboter betreute Säuglingsstation in Japan in dieser Hinsicht vermutlich kein Problem.

Jetzt möchten wir etwas auf spezifische Anwendung von Servicerobotern konzentrieren. Bist du grundsätzlich mit der Definition von Servicerobotern der ISO Norm (8373:212) einverstanden?
«A service robot is a robot which operates semi- or fully autonomously to perform services useful to the well-being of humans and equipment, excluding manufacturing operations.»

Diese Aussage der ISO Norm beschränkt sich auf «well-being of humans», was meiner Meinung nach zu wenig weit gefasst ist. Ein Melkroboter beispielsweise ist nicht für das Wohlergehen von uns Menschen verantwortlich, sondern für das der Kuh. Diese Aussage muss somit erweitert werden, so das auch Tiere und evtl. tote Materien inkludiert werden.

Welches ist die Hauptanwendung von Servicerobotern und gibt es ein Ranking von Anwendungen von Servicerobotern (im Haushalt in der Pflege usw.)?

Eine Hauptaufgabe von Maschinen oder Robotern ist heute bereits beispielweise das Pipettieren. Oder auch in Serie gefertigte Produkte und Autoteile werden bereits heute rein maschinell gefertigt. In Zukunft kann ich mir vorstellen, dass uns die Serviceroboter vermehrt in den Bereichen der Altenpflege, Haushalt und Medizin unterstützen werden.

Wie viele Typen von Servicerobotern sind dir bis heute bekannt? (Pepper und Kollegen wie Care-O-Bot, Schwimmbadroboter, Fensterputzer, Melkroboter usw.)

Eine genaue Anzahl kann ich nicht nennen. Dies schon nur aus dem Grund, dass in Japan bereits eine Vielzahl von Servicerobotern vorgestellt wurde, die in der restlichen Welt noch gar nicht bekannt sind. Auf der Service Robot Chaos Map 2018 wird ersichtlich, welche Serviceroboter (Stand 2018) in Japan zu kaufen sind. Grundsätzlich können wir die Serviceroboter in folgende Überkategorien unterteilen: Industrieroboter, Co-Robots und Robotik für den Menschen. Industrieroboter werden komplett abgeschirmt, da sie sonst eine Gefahr für uns Menschen darstellen können. Diese Maschinen haben keine Umgebungs-Sensorik und wenn sie sich in ihrem Arbeitsprozess drehen, dann machen sie auch nicht Halt, wenn Menschen im Gefahrenbereich sind. Die Co-Robots sind kollaborative Roboter, in deren Anwesenheit wir nur begrenzten Schutz brauchen. Wir können mit diesen Maschinen zusammenarbeiten. Der nächste Schritt wird die Robotik für den Menschen sein. Diese werden Dienste und Services für uns übernehmen. Die Forschung und Entwicklung befindet sich aber noch im Anfangsstadium und bis diese Roboter Einzug im Normalhaushalt halten, dauert es noch eine ganze Weile.

S22C-6e18121413200.jpg
Service Robot Chaos Map 2018, Quelle: Robotstart
Service Robot Map 2018.pdf

Von welchen Stückzahlen sprechen wir bei Servicerobotern in welcher Anwendung heute und in fünf Jahren?

Bei uns derzeit richtig etabliert sind die Staubsauger- und Rasenmähroboter und die Drohnen. Hier haben die Stückzahl Skaleneffekte erreicht, dass Normalhaushalte sich diese auch leisten können. Oftmals bleibt die Frage, ob ein Produzent seine Waren überhaupt aus Japan exportiert. Nur Produkte die eine 100% Sicherheit der Servicequalität garantieren können, werden international verkauft. Ebenfalls werden die Serviceroboter oftmals noch Werkstattfertigungen hergestellt und haben daher einen hohen Herstellungspreis. 

Welche Nation ist heute führend bei der Serviceroboter Entwicklung und bei den Stückzahlen und wie unterscheidet sie sich hauptsächlich zu Anderen?

Am Endprodukt eines Roboters sind oftmals viele verschiedene Nationen beteiligt. Die Designs kommen oft aus den USA, Material- und Verfahrenstechnologie aus Japan und teilweise Europa, Teilfertigung und Produktion finden in China und Taiwan statt. Der Retail wird von den USA dominiert. Führend in der Mechatronik und der Verfahrenstechnologie ist meines Erachtens ganz klar Japan. Der einzige Markt, wo dies nicht der Fall ist, ist der Drohnenmarkt. Da wird die Schweiz als ganz klar führend ausgewiesen, das Drone-Valley. Die Deutschen mischen dafür bei der Industrierobotik kräftig mit.

supply chain.png
Quelle: UC San Diego
iphone wert.png
Quelle: UC San Diego

Welche Berufe werden deiner Meinung von Servicerobotern am ehesten in welchem Zeitraum bedrängt?

Ein Roboter kann lernen, sich um einen Raum zu kümmern und den selbstständig regelmässig reinigen. Überall, wo es keine Interaktion zwischen einer Servicekraft und einem Menschen braucht, kann der Roboter diese ersetzen. Bei den Dienstleistungen, wo Menschen miteinander interagieren (Beratung, Begleitung etc.) wird der Fortschritt mit Servicerobotern ergänzend und nicht ersetzend sein. Das Ziel längerfristig wird sein, dem Menschen wieder mehr Zeit für die Menschlichkeit zu geben, während sich der Serviceroboter, um wiederkehrende Aufgaben kümmern kann. Ein Beispiel dazu aus unserem Projekt mit dem Altersheim. Ein Pflegejob beinhaltet heutzutage viele verschiedene Aufgaben wie waschen, anziehen und mobilisieren. Nebenbei fehlt oft die Zeit, sich mit den Senioren zu unterhalten und ein längeres Gespräch zu führen. Hier möchten wir diesen Menschen helfen. Ein Serviceroboter kann gewisse Übungen durchführen und die Senioren z.B. morgens mobilisieren. Währenddessen ist das Pflegepersonal anwesend und kann sich nach dem emotionalen Wohlbefinden der Person erkundigen. 

Dein Forschungsschwerpunkt ist das Management von Robotern. Wie hat sich diese Aufgabe entwickelt und wo siehst du noch Schwierigkeiten?

Beim Versuch ein geeignetes Modell für das Management von KI und Robotik zu finden, ist mir als erstes das Model der lebensfähigen Systeme von Stefford Beer (1959) eingefallen. Dabei vergleicht Beer das Management einer Unternehmung mit den verschiedenen Systemen, wie sie im menschlichen Körper auftreten. Das System 1 (Operations) ist für die Leistungserbringung zuständig und wird durch ein eigenes Management bzw. durch teilautonome Gruppen gesteuert. Das System 2 (Tactical planning) koordiniert die verschiedenen operativen Einheiten. Das System 3 (Operational Planning & Controlling) optimiert die Abläufe im hier und jetzt. Es ist für die kontinuierlichen Verbesserungsprozesse verantwortlich. Das System 4 (strategisches Management) ist für die Zukunftsplanung verantwortlich und schliesslich verantwortet das System 5 (Normatives Management) die Vision und Mission der Unternehmung. 

Interessanterweise bin ich bei Gesprächen mit Robotik- und KI-Forschern wie auch in deren Literatur immer wieder über den Begriff "System" bzw. "Systemarchitektur" gestolpert. Sowohl in der Psychologie, der Physik als auch den Computerwissenschaften werden auch verschiedene Systemebenen beschrieben, welche ihrerseits unterschiedliche Funktionen einnehmen. Daher habe ich mir erlaubt, das Model der lebensfähigen Systeme zu adaptieren. Dabei habe ich einerseits die Stärke der KI in das Modell eingebaut und es mit den zentralen Aufgaben des integrierten Innovationsmanagements (Exploration & Exploitation) verknüpft. Wichtig hierbei ist, dass wir uns vorstellen müssen, dass alle Leistungen aber auch die Führung der verschiedenen Systeme durch Maschinen oder Roboter erbracht werden. Diese Systeme können zudem unterschiedlich intelligent sein. Das bedeutet, dass tiefes Lernen sowohl in einer "operational unit" implementiert sein kann, als auch in höher gelegenen Systemen. Ebenfalls wäre denkbar, dass Systeme nur rechnen und speichern können, sprich nicht lernfähig sind. Solange Systeme "sich erinnern", "rechnen" und "lernen" können sind sie zwar intelligent, haben aber noch kein Bewusstsein. Hierzu bräuchte es noch die Fähigkeit des "Erlebens". Nicht nur die Forschung arbeitet bereits heute an der Umsetzung dieser Systeme, sondern auch verschiedenen Start-up's und Technologieunternehmen haben begonnen, ihre Maschinen und Dinge intelligent zu machen und zu vernetzten (vgl. Aibo 2 von Sony oder diverse IoT-Projekte). Das Start-up Singularitynet.io hat sich zum Ziel gesetzt, eine Infrastruktur zur Verfügung zu stellen, damit sich verschiedenen isolierte künstliche Intelligenzen in einer Cloud austauschen können. Diese Transaktionen werden zusätzlich in einer Blockchain gespeichert und mit einer Kryptowährung verrechnet. Diese Infrastruktur würde dann zum Beispiel die Koordination von verschiedenen Operational Units übernehmen, also eine Technik, welche ich dem System 2 zuordnen würde. Letztlich habe ich jeder Ebene (normativ, strategisch, operativ) einige zentrale Fragen hinzugefügt, die von den Systemen beantwortet werden müssen.

Zuletzt möchte ich noch kurz auf den Begriff des Bewusstseins eingehen. Hier steckt die Forschung noch in den Kinderschuhen und wird sehr interdisziplinär betrieben (Psychologie, Medizin, Recht, Physik, Mathematik, Informatik). Bewusstsein fühlt sich irgendwie immateriell an. Subjektives Erleben und Empfindungsfähigkeit basieren denn auch vielmehr auf der Struktur der Informationsverarbeitung und nicht auf der Struktur der Materie, die die Informationsverarbeitung ausführt. Das Bewusstsein ist somit in doppelter Weise substratunabhängig (Tegmark, 2017). Autoren wie Michio Kaku, Jeff Hawkins, Sandra Blakeslee oder Stanislas Dehaene schlagen vor, dass man sich die bewusste Informationsverarbeitung als den Geschäftsführer des Gehirns vorstellen sollte. Das Topmanagement beschäftigt sich nur mit den wichtigsten Entscheidungen, die eine über das gesamte Unternehmen verteilte Datenanalyse erfordern. Das Topmanagement will gar nicht wissen was die Unterstellten so treiben. Es kann dieses Wissen aber einfordern, wenn es das benötigt. Da eine superintelligente künstliche Intelligenz mit Bewusstsein ein x-faches unserer Leistungsfähigkeit haben wird, ist auch der Raum der möglichen Erlebnisse unvorstellbar grösser als das, was wir Menschen erleben können. 

Zum heutigen Zeitpunkt werden die meisten Führungsaufgaben ab System 2 noch von Menschen übernommen. Aufgaben im System 1 werden bereits heute oft von Maschinen und Algorithmen (rechnen und speichern) erledigt. Verfahren wie Long-Short-Term-Memory (LSTM), das bereits millionenfach in Spracherkennungssoftware oder Übersetzungsprogrammen eingesetzt wird, oder neuere Ansätze wie recurrent neural networks artificial intelligence (RNNAI) oder Learning Intelligent Distribution Agent (LIDA cognitive architecture) werden schon bald Aufgaben der Systeme 2 und 3 übernehmen können. Die AI-Forscher sind sich jedoch einig, dass es gegen oben keine Limite gibt und auch die Systeme 4 und 5 früher oder später durch künstliche Intelligenz gemanagt werden. Somit würde der durch viel schlauerer Maschinen gedemütigte Homo Sapiens (Weisheit) zu einem Homo Sentiens (Empfindungsvermögen) degradiert. 

Managementmodel.jpg
Quelle: Andreas Ziltener

Zum Schluss ein Ausblick in die Zukunft. Welches sind die kommenden Megatrends bei der Entwicklung im Bereich Robotik?

Ein Trend ist ganz klar die oben genannte Entwicklung im Bereich der Künstlichen Intelligenz. Sobald es möglich sein wird, dass sich Künstlichen Intelligenzen miteinander austauschen, kann dies auch für Roboter eingesetzt werden. Und sobald Roboter Daten und Algorithmen miteinander austauschen können, wird sich alles rasant beschleunigen. 

Ebenfalls ein Trend in der Industrie ist der Versuch der kompletten Vernetzung und einen Remote Access für alles zu haben. Viele Bereiche können wir jetzt schon mit einem Remote Access ansteuern. Es entstehen Markplätze für das «Internet of Things». Ein Beispiel aus der Landwirtschaft: Ein Traktor pflügt autonom ein Feld. Die Information wo und wann er pflügen muss, bekam er von einer Drohne, welche vier Tage zuvor übers Feld geflogen ist. Der Markplatz bestellt Düngemittel beim Hersteller, schickt es mit einem autonomen Auto zum Zielort und dort wird das Mittel mit einer autonomen Maschine verladen. 

Es gibt mehrere unterschiedliche Weltanschauungen. Ist ein Roboter ein Freund oder ein Feind und wo liegen die Unterschiede in der heutigen Gesellschaft und kann sich die Weltanschauung in naher Zukunft verändern?

Der «Job-to-be-done» spielt eine zentrale Rolle bei dieser Frage. Wenn ein Roboter gebaut wurde, um uns zu foltern, dann ist er mein Feind. Wenn er jedoch dazu gebaut wurde, um zu lieben oder uns Menschen zu helfen, dann ist er mein Freund. Um auf die ISO Norm zurückzukommen, es geht um die Aufgabe, welche erfüllt werden muss. Und hier fängt die Geschichte an. Entscheidend ist, ob die zu lösende Aufgabe positiv oder negativ ist, denn dadurch entscheidet sich, ob der Roboter ein Freund oder Feind ist. 

Info-Icon

Buch- und Filmtipps von Andreas Ziltener:

Buchtipp: Dan Brown - Origin / Buchtipp: Max Tegmark - Leben 3.0 / Filmtipp: Netflix - Die Gesetze der Thermodynamik

von Peter van der Touw , Fabienne Baumgartner – 

17. Dezember 2018

 – 3 Kommentare

Artikel teilen:


Kommentare

  1. meijer pharmacy phone number https://www.delightfull.eu/cialis.html surface rt tablet review

    Kommentiert von JeffreyErowl am 03.02.2019 15:51:07

  2. harbor healthcare lewes de watch live tv on tablet united healthcare network provider list

    Kommentiert von Kevinzer am 11.03.2019 11:02:57

  3. united healthcare insurance quotes online <a href=http://adipex.uniterre.com/>http://adipex.uniterre.com/</a> old crow medicine show lyrics

    Kommentiert von Anthonybus am 29.04.2019 15:15:42

Kommentieren

Pflichtfelder*