Künstliche Intelligenz (KI-Systeme) und ihre Folgen Natürliche und künstliche Intelligenz. Das Zeitalter der Roboter hat begonnen!

Hallo @det,

Gewissen misst die Diskrepanz zwischen unserem innerer Bewertungsmaßstab für unsere Entscheidungen und den realen Folgen derselben. Erfahrung bedeutet die Wahrnehmung einer solchen Diskrepanz oder dem Fehlen davon. Lernfähigkeit bedeutet, das zukünftige Verhalten so anzupassen, dass die "Abweichung" beim nächsten Mal möglichst kleiner wird.

Wie werden Bewertungsmaßstäbe in uns verankert? Es mögen fest einprogrammierte Komponenten dabei sein (z. B. sogenannte Angeborene Auslösende Mechanismen), viel wird durch Lob oder Tadel von den Eltern, Lehrern, Freunden hinzugekommen sein, manches vielleicht durch eigenes Nachdenken.

Bewertungsmaßstäbe für ihre Entscheidungen muss auch jede entscheidungsfähige Maschine haben, denn sonst würde sie untätig bleiben oder zwischen Handlungsalternativen würfeln müssen.

Berühmt sind die drei Asimovschen Gesetze für Roboter:

"Erstens, dass kein Roboter einem Menschen Schaden zufügen darf, noch dass er zulassen darf, dass ein Mensch Schaden erleidet. Zweitens, dass ein Roboter sich immer an menschliche Anweisungen halten muss. Drittens, dass ein Roboter nichts unternehmen darf, was seine eigene Existenz gefährdet."

Dass diese Gesetze allgemein immer Anwendung finden werden, darf bezweifelt werden. Schon die Science Fiction Asimovs kreisten um die Konflikte, die sich durch die Anwendung seiner Gesetze ergaben. 

Karl

[...]

Bewertungsmaßstäbe für ihre Entscheidungen muss auch jede entscheidungsfähige Maschine haben, denn sonst würde sie untätig bleiben oder zwischen Handlungsalternativen würfeln müssen.

[...[
 

Hi @karl,

genau dafür habe ich ein passendes Beispiel, das das Dilemma verdeutlicht:
ich fahre auf einer vierspurigen Straße auf der linken Fahrbahn und plötzlich kommt ein Auto aus dem Gegenverkehr frontal auf mich zu. Ich reisse das Steuer herum und lande auf dem Fußweg noch bevor mein Auto zum Stehen kommt. Einfach nur Glück gehabt, dass ich keinen Fußgänger erwischt habe.

Wie hätte ein selbstfahrendes Auto in dieser Situation reagieren müssen? Darf die KI des Autos die Sicherheit der Insassen höher bewerten als die der Fußgänger oder der des verkehrwidrig handelnden Fahrers? Oder muss die Ki ausrechnen bei welcher Reaktion weniger Menschen verletzt werden? Reicht die Zeit für eine berechnete Reaktion überhaupt?
 
Soweit ich weiß hat der Ethikrat eine auf rein utilitaristischen Maßstäben basierende Entscheidung verworfen. Aber wie kann eine Berechnung der Folgen möglicher Reaktionen nicht utilitaristisch sein? Bleibt da nicht nur der Würfel?

Schade dass ich freitags den festen Termin habe. 

Nochmal @karl,

vergiß das mit der utilitaristischen Bewertung. Ich habe das noch mal nachgelesen und hatte es falsch in Erinnerung.

Das bringt einen zum Nachdenken 😁 Nicht nur Roboter machen Fehler.


 
Karl

Fehler einzugestehen ist eine der letzten Bastionen, in denen Menschen Vorteile gegenüber KIs oder Robotern haben. Ich habe noch nicht erlebt, dass Siri sich von selbst meldet und zugibt, dass sie am Vortag Unsinn erzählt hat.  😉

@det 😂

ich habe jetzt meinen Vortrag auch auf Calaios angekündigt. Natürlich ist mein Vortrag kostenlos für alle, aber auf Calaios besteht die für mich attraktive Möglichkeit, diesen Vortrag mit einer Spendenaktion für die Ukraine zu verbinden. Wenn sich nämlich jemand über diese Webseite anmeldet, kann er einen beliebigen Betrag spenden, der zu 100% an Kunst- und Kulturschaffende in der Ukraine weitergeleitet wird. Das finde ich unterstützenswert.

Karl

Wenn alles gut geht, schaffe ich es bis morgen ein Manuskript zum Vortrag fertig zu stellen, dessen Link würde ich dann morgen auf ZOOM im Chat bekanntgeben. Karl

Für alle, die gestern nicht dabei sein konnten, hier ist mein ausgearbeitetes Manuskript als PDF zum Vortrag. Ich danke allen Diskutanten und Zuhörern, die live dabei waren.

Im Video, das ich im Laufe der nächsten Tage hochladen werde, sehe ich, dass ich anfangs sehr nervös war.

Karl

Vielen Dank, lieber Karl, das war ja eine enorme Fleißarbeit! Nun freue ich mich auf den gesamten Vortrag, den ich leider gestern nicht sehen und hören konnte!

LG barbarakary

"Natürliche Intelligenz hat sich nicht in Pflanzen, sondern in Tieren entwickelt, die sich autonom fortbewegen können."

Als Nicht-Biologe bin ich mir da inzwischen nicht mehr so sicher. Angeregt durch den (umstrittenen!) Förster Peter Wohlleben, stieß ich auf das Phänomen der Nachrichtenübermittlung bei Pilzsystemen, die wir nur zu einem Bruchteil (eben als Pilz an der Oberfläche) sehen. Ich frage mich auch, ob Wohlleben recht hat, dass sich Bäume untereinander "verständigen" können, um z.B. vor Schädlingen zu warnen. Oder ob "Kinder" der Bäume über die Wurzeln besonders mit "süßer Nahrung" (Cellulose) versorgt werden, um sie zu fördern (z.B. bei der Buchenverjüngung). Offenbar steht die Forschung da noch ziemlich am Anfang, weil man Standort gebundene Pflanzen und Bäume per se als "dümmer" betrachtet als Tiere oder gar Menschen. 

Ökologisch wäre es vermutlich von großem Interesse - unter Umständen sogar global überlebenswichtig, die DNA von Pflanzen und Bäumen sowie ihre "Kommunikation" stärker zu erforschen. - Digitalisieren lässt sich das alles, wenn ich das Kapitel "DNA=Daten=DNA" in dem mir Augen öffnenden Buch von Christian Stöcker [1] richtig verstehe. 

[1] Christian Stöcker: Das Experiment sind wir. Grundwissen für eine beschleunigte Welt (Sonderauflage Bundeszentrale für politische Bildung, Bonn 2021)
https://www.bpb.de/shop/buecher/schriftenreihe/345559/das-experiment-sind-wir/