Künstliche Intelligenz: Kann eine Maschine moralisch handeln?

von ILLETSCHKO 18. September 2018




https://images.derstandard.at/img/2018/0...e494&s=1304f461


Der MIT-Wissenschafter Iyad Rahwan war in Wien, um über Maschinen und ihre möglichen Verhaltensweisen zu diskutieren.

"Hal 9000" war eine höchst neurotische Maschine.
Er reagierte trotzig und sogar bösartig, als ihn die Besatzung des Raumschiffs verdächtigte, fehlerhaft zu arbeiten. Durch Zufall bemerkte er, dass sie sogar daran dachten, ihn abzuschalten, worauf er begann, die Astronauten auszuschalten.
Für ihn war das eine logische Konsequenz aus dem ihm einprogrammierten Auftrag, zum Jupiter zu fliegen: ein Verhalten, das Hal's Hersteller und die Besatzung so nicht vorhersehen konnten.




Unterschiedliche Definitionen

Rahwan sagt dazu: "Das kommt darauf an, was Sie unter Moral verstehen: Wenn man zehn Menschen nach einer Definition fragt, kommen zehn verschiedene Erklärungen zutage.

"Derzeit, so der Wissenschafter, können Maschinen keinesfalls "moral agents" im menschlichen Sinn sein, wenn sie aber irgendwann einmal auch ein Bewusstsein erhalten wie Hal, dann ist das technisch sicher möglich. "Es liegt aber in ferner Zukunft." Das klingt fast beruhigend.

https://derstandard.at/2000087527611/Kue...ralisch-handeln


Mir graut vor einer Zukunft mit moralisch handelnden Maschinen!

Das ist ganz interessant:

Studie: Maschinen können moralisch handeln
Selbstfahrende Autos sind die erste Generation von Robotern, die den alltäglichen Lebensraum mit uns teilen. Deshalb ist es unabdingbar, Regeln und Erwartungen an autonome Systeme zu erarbeiten, die definieren, wie sich solche Systeme in kritischen Situationen verhalten sollen. Das Institut für Kognitionswissenschaft der Universität Osnabrück hat nun eine Studie veröffentlicht, die zeigt, dass menschlich-ethische Entscheidungen in Maschinen implementiert werden können.

https://www.digital-manufacturing-magazi...ralisch-handeln

Menschlich-ethische Entscheidungen, die von Maschinen getroffen werden, erzeugt bei mir Gänsehaut....

Diesbezüglich mag ich sehr altmodisch sein...aber Maschinen "mit Bewusstsein" ausgeliefert zu werden, ist für mich eine Horrorvorstellung!

Liebe Jin-Jin

Du siehst das auf der einen Seite "nicht ganz richtig", und auf der anderen Seite hast du recht.

Es ist so:

Diese "Moral" die in Maschinen eingesetzt wird oder in Zukunft vielleicht, mit großer Wahrscheinlichkeit auch eingesetzt wird, ist trotzdem nicht so wie bei einem echten Menschen. Sie ist nur bedingt auf besondere Zulässe. Also nicht das ganze Menschliche Gehirn mit Liebe und Hass und so, wie in deinem ersten Link.

Da fehlt es noch sehr weit. Das sind nur Bruchteile wo die Maschine durch Moral entscheiden kann. Diese Moral ist vorgegeben durch andere Menschen, wie sie handeln würden.

Was ich jetzt gerade als Unsinn empfinde. Denn entweder handelt sie so oder so, wie sie programmiert worden ist, oder gar nicht. Auf der anderen Seite denke ich gerade, dass dann alles mögliche eingegeben werden muss, was nicht möglich ist, denn auch ein Mensch ist nicht auf alles eingestellt was auf ihn zukommt.
Deswegen finde ich die Idee mit der "Moral" gar nicht mal so abwägend.

---> eine Maschine die bei besonderen Situationen selbst entscheiden kann, aber durch die Eingebung von echten Menschen. Dadurch werden bestimmt keine Menschen genommen, die einfach absichtlich Enten überfahren, was ich leider kürzlich lesen musste :-(

Es werden also nur die bestmöglichsten Entscheidungen genommen die möglich sind, und dass es trotzdem sicher ist.

Wenn man mit 100 auf eine Ente zukommt, weicht man aus oder nicht??? Kommt drauf an. Kurz gesagt: kommt ein Fahrzeug entgegen, dann natürlich nicht. Ist die Straße nass, dann ?????????

Eine Maschine kann das sogar besser berechnen als ein Mensch, wenn sie dazu programmiert ist.

Bei meinem Link: sie muss bestimmte Sachen erkenne: Mensch - Tier - Objekt. <<<<--------------

Es ist sogar denke ich unabweichlich eine Maschine ohne das handeln zu lassen in der Zukunft.

Das heißt noch lange nicht dass uns Maschinen ersetzen können. Denn sie haben dann auch nach wie vor keine Emotionen usw. Sie sind """nur für bestimmte Situationen""" so ausgestattet.

---> Jetzt zu deinem Bedenken: die Menschheit ist saublöd, und eines Tages, könnte es wirklcih dazu kommen dass sie Maschinen bauen die dem Menschen so ähnlich sind dass es ganz aus ist. Ich würde zu gerne sagen das ist unmöglich dass der Mensch sowas tut. Aber das kann ich leider nicht. Denke du verstehst mich da :-) und :-(

Liebe Grüße. Hoffe du kommst mit was ich dir da geschrieben habe. Denn es ist nur aus dem Stehgreif und deine Frage finde ich absolut toll. Das hat mir jetzt auch dazu zu denken gegeben.

Sag ma so .
Maschinen können das was der Mensch ihnen eingibt .
Können Menschen immer moralisch handeln .?

Lieber Südländer,


Wenn vielleicht auch der Eindruck täuscht....ich denke, dass ich noch nicht so senil bin, um Dich nicht doch noch verstehen zu können!

Zitat

---

Es werden also nur die bestmöglichsten Entscheidungen genommen die möglich sind, und dass es trotzdem sicher ist. ]

---

Da muss ich Dir widersprechen, denn


„Gefährlich an künstlicher Intelligenz ist auch, dass man sie Dinge machen lassen kann, die man selbst nie tun würde, zum Beispiel Menschen töten. Das ist vor allem in der Kriegsführung relevant.“

Die Robotergesetze, die Isaac Asimov 1942 formulierte und die heute noch in der Debatte um eine KI-Ethik eine Rolle spielen, besagen unter anderem, dass Roboter kein menschliches Wesen verletzen dürfen. Bryson hält diese Gesetze für obsolet: „Es gibt bereits Roboter, die Menschen töten. Sie kommen in Kriegsgebieten zum Einsatz. Ein solches Robotergesetz würde an der Realität scheitern.“ ....

https://science.orf.at/stories/2863692/



Lieber Südländer, in Deinen Augen mag ich die Dinge "nicht ganz richtig sehen" oder recht oder unrecht haben --- Maschinen sind und bleiben ein Albtraum für mich, nicht zuletzt auch deshalb, weil sie jederzeit einen Defekt haben können und das kann zu verheerenden Konsequenzen führen!


Liebe Grüße auch! :-)
Jin-Jin

Wirklich denkende Computer mit echter Intelligenz gibt es ja noch nicht, das wird wohl die nächsten Jahre / Jahrzehnte so bleiben.

Das was heutzutage an moralischen Werten in die Maschinen - sprich selbstfahrende Autos - implementiert wird, sind die Auswertungen von Entscheidungen, die Menschen getroffen haben. Ein Programmierer / eine Firma legt fest, wie das Fahrzeug in bestimmten Situationen reagiert.

Die Schwierigkeit bei der Programmierung von diesen Computern besteht darin, dass diese eben keinerlei Intelligenz haben und selbst keine Entscheidungen treffen können. Es muss also für jede Situation eine bestimmte Handlung vorgegeben sein.

Im Straßenverkehr kann es da natürlich auch zu moralisch schwierigen Situationen kommen. Wenn durch einen nicht zu umgehenden Umstand zum Beispiel die Entscheidung getroffen werden muss, ob das Auto in eine Gruppe von Kindern, oder Erwachsenen gelenkt wird. Dabei kann es zu tödlichen Verletzungen kommen und die moralische Frage ist dann, welches Leben wiegt mehr. Als dritte Möglichkeit wäre vielleicht den beiden Gruppen auszuweichen und einen Abhang runter zu stürzen. Dabei würde vielleicht der Fahrer des Wagens ums Leben kommen.

Als Mensch hätte man da schon Probleme dies zu Entscheiden, aber wie soll man das Fahrzeug programmieren, was es tun soll?

Man kann also sagen, dass hinter jeder Entscheidung, die ein selbstfahrendes Auto im Straßenverkehr trifft, die Wertung eines Menschen steht.

Zitat von Jin-Jin im Beitrag #6

---

Maschinen sind und bleiben ein Albtraum für mich, nicht zuletzt auch deshalb, weil sie jederzeit einen Defekt haben können und das kann zu verheerenden Konsequenzen führen!

---

Menschliche Reaktionen, auch Moral betreffend, sind in der Anzahl endlich, vermutlich sind sie begrenzt durch die - wenn auch riesengroße - Anzahl der jeweils diesbezüglichen Verknüpfungen im Gehirn, wie immer diese zustande kommen, kamen. Insofern könnte ich mir vorstellen, dass auch Moral "maschinengemacht" sein könnte. Aber bis die gigantische Anzahl der zudem dynamischen Verknüpfungen im Gehirn nachgebildet werden können, dürfte es noch einige Zeit dauern.
M. E. ist es geradezu fahrlässig, die Speicherkapazität des Gehirnes mit der von Festplatten zu vergleichen: Das "Wissen" auf Festplatten ist unter sich nicht dynamisch verknüpft, kein magnetisches Bit interagiert mit einem anderen auf der Platte, damit dies geschieht, müssen die Bits erstmal gelesen, dann prozessiert werden und wieder (statisch!) abgelegt werden. Das ist ein ganz anderes, viel primitiveres Verfahren als in unseren Hirnen.
Neuronale Netze funktionieren etwas anders, das geht eher in Richtung Hirn, aber auch diese arbeiten digital.
Unsere Hirne arbeiten nicht rein digital, so dass sich pro Neuron nicht sagen lässt, es wäre einfach nur ein Speicherbit oder so.
Das macht mir Hoffnung, dass Elektronenhirne sobald nicht den unseren komplett ebenbürtig werden!