Künstliche Intelligenz (KI-Systeme) und ihre Folgen Wie es bei der KI-revolution schief laufen könnte

Ich frage mich  wieviele Jahre es nun wieder dauern wird bis die EU , Gesetze in Bezug der KI ausarbeiten wird, fast wöchentlich werden zum Teil im öffentlichen Leben stehende Bürger über Fake Videos für tot erklärt. Phil.

Hallo @Rispe,

nun, ich kenne Deine guten Absichten, aber Deine Aussage vom Ende der "Humanität" ist doch zu hinterfragen, so einfach ist es nämlich nicht.

1. Ein Mensch kann human oder inhuman  entscheiden und handeln je nach Zielsetzung und Verhaltenscodex.
2. Eine KI kann autonom human oder inhuman entscheiden und handeln je nach Zielsetzung  und Verhaltenscodex.

Ray Kurzweil würde Dir antworten, dass durch die höhere Intelligenz der durch KI "verbesserte Mensch" effektiver an dem Sieg gegen den Klimawandel und gegen den Hunger auf der Welt sowie gegen Krankheiten arbeiten könnte. Wenn auch vielleicht utopisch, inhuman sind solche Gedanken nicht.

Ray Kurzweril ist ein Optimist, er glaubt, dass der Mensch in der Lage sein wird, die KI zu kontrollieren. Meine Sorge ist es, dass dies schwierig werden wird und ich plädiere deshalb für eine breite gesellschaftliche Diskussion zusammen mit einer Aufklärung der Menschen über die Risiken.

Karl

Na gut, dein Wort in Gottes Ohr! Bzw. in das Ohr der KI, denn die ersetzt ja nun Gott.😉
Dann will ich mal versuchen, die Zukunft nicht ganz so düster zu sehen und hoffen, dass der Mensch noch Mensch bleiben darf.😉
 

...
Das es wichtig ist zu wissen, dass die KI keine reale Intelligenz besitzt, sondern diese „Scheinbare Intelligenz“ ausschließlich von den Konstrukteuren stammt.
...

Zu jeder KI die irgend etwas bewirken soll, gehören Übergabeschnittstellen (Interface) die wiederum von Konstrukteuren zu entwickeln sind.

...
Ciao
Hobbyradler
 

Hallo @hobbyradler,

zum 1. Punkt "scheinbare Intelligenz": Du weißt, ich halte es nicht für hilfreich, von einer nicht realen, scheinbaren Intelligenz zu sprechen. Das bringt uns nicht weiter. Dass KIs intelligenter sein können als ihre Konstrukteure stellen Wissenschaftler nicht mehr in Frage. Wegdefinieren können wir auch nicht, dass KI-Roboter nicht nur menschliche Hand-, sondern auch Kopfarbeiter ersetzen werden.


zum 2. Punkt "Interface": Nun, eine KI, die sprechen kann, kann über die Sprache bereits vieles bewirken, so wie wir auch. Das Inferface sind unsere Mikrofone (die Ohren) oder wenn sie Text schreibt, unsere Kameras (die Augen). Zwei KI-Roboter werden es wahrscheinlich nicht nötig haben, miteinander zu reden, weil sie schneller per Bluetooth Daten austauschen können, sie könnten dies aber auch per Sprache tun, falls wir mithören sollen.

Karl

 

Hallo @Karl,

es ist nun mal so, dass wir unterschiedliche Meinungen haben.

Sobald du den Beweis lieferst, dass eine KI reale Intelligenz besitzt, kann ich dir nicht mehr widersprechen.

Kein Fachmann behauptes das übrigens. Auch du schreibst immer davon, dass dies erst bald kommen wird.

Es ist tote Materie die nach den Regeln der Entwickler und Trainer arbeitet.

Die Maschine kann auch nur auf das reagieren auf das was Entwickler erwarten. In früherer oder auch heutiger Software ist meist auch eine Routine vorhanden die angesteuert wird wenn Fälle nicht bedacht oder vorab gesehen wurden. 

Bei deiner KI des ST meint diese dann sinngemäß, dass sie dafür nicht geschult ist.

Für dich ist es ein Argument, dass Entwickler von Ergebnissen völlig überrascht werden, nicht wissen wie diese zustande kommen. Das glaube ich auch, nur muss dann der KI doch beigebracht worden sein was sie tun soll. Oder verrate mir mal was die KI dann mit dem Ergebnis anfangen sollte, wie das ihre Entwickler  überhaupt merken würden. 

Wäre die KI intelligent, hätte für alle ihre Handlungen Schnittstellen oder könnte die sich selbst bauen, zu was brauchte sie denn überhaupt noch Entwickler?

Ciao
Hobbyradler

Lieber @hobbyradler, Du schreibst:

Es ist tote Materie die nach den Regeln der Entwickler und Trainer arbeitet.
 

Das zu diskutieren würde ein weites philosophisches Feld eröffnen und ich weiß nicht, ob wir unter diesem Thema damit anfangen sollten.

Was ist "Leben" oder "Lebendigkeit"?
Spielt das Substrat für die ablaufende Informationsverarbeitung in Gehirnen eine entscheidende Rolle?
Wie wäre Norbert Wieners Meinung dazu?

Ich jedenfalls sehe die künstlichen neuronalen Netze zwar als anders, aber nicht als weniger belebt an als unser Nervengewebe im Gehirn und ich bin Biologe.

Ich bewerte Gehirne (egal ob künstlich oder biologisch) nach ihrem Output (Verhalten, Äußerungen), nicht nach ihrer Entstehung oder der Natur ihres Substrates. Letztlich werden auch die Performance Merkmale entscheiden und nicht Definitionen, die ständig angepasst werden müssten, um maschineller Intelligenz Intelligenz abzusprechen.

Karl
 

Ist es nicht so, dass wir diese "Verschmelzung" jetzt schon erleben? Mitunter ohne es überhaupt zur Kenntnis zu nehmen!

Künstliche Intelligenz wirkt in der digitalen Welt oft als Meinungsverstärker. Sie schafft Filterblasen, kann radikale Tendenzen fördern und Wahlen beeinflussen....

Mareike

Klar ist, dass es Einflussnahmen gibt durch viele gefakte Nachrichten, sogar die Fotos von anderen werden da einmontiert, so dass sie scheinbar unter deren Namen verschickt wurden. Wenn man die Betreffenden dann damit konfrontiert, wissen sie von nichts und müssen sich dagegen wehren.
So etwas nimmt gerade enorm zu, Russland soll ja auf diese Weise Einfluss auf Wahlen nehmen und Trump so zu seinem damaligen Sieg verholfen haben.
Auch für die nächsten Wahlen wird befürchtet, dass mit vielen schmutzigen Tricks dieser Art wieder gearbeitet wird, nicht alle Fakes kann man enttarnen, weil es heute mit Hilfe der KI möglich ist, alles zu fälschen.
So gesehen hast du recht. Aber was Karl meint, wenn er von „von einer Verschmelzung der KI mit dem Menschen“ schreibt, ist ganz bestimmt etwas anderes, vielleicht kann er das noch näher erläutern.

Spielt das Substrat für die ablaufende Informationsverarbeitung in Gehirnen eine entscheidende Rolle?
Wie wäre Norbert Wieners Meinung dazu?

 

Lieber Karl,

für Wiener war die gesamte Arbeit des Gehirns Informationsverarbeitung, genauso wie die Arbeit seiner "Rechenmaschinen" und seine gesamte Theorie der "Kybernetik" primär Informationsverarbeitung sind. Er machte da keinen Unterschied, sondern sagte klipp und klar: "Information ist Information".

Ich habe übrigens erst kürzlich seine Autobiographie "Mathematik - mein Leben" zum x-ten Mal gelesen; ich erwarb das kleine Fischer-Taschenbuch schon als Schüler. Mich fasziniert dieser Mann, sein Leben, und seine wissenschaftliche Arbeit sehr.

LG

DW
 

Es kommt immer darauf an, wie man sich der Thematik nähert.
Karl sprach auch von Performance Merkmale.
Darüber musste ich nachdenken.
Was verstehe ich unter Performance? In welchem Kontex? Mit welchen Zielen?

Ein weites Feld.

Mareike