Künstliche Intelligenz (KI-Systeme) und ihre Folgen Natürliche und künstliche Intelligenz. Das Zeitalter der Roboter hat begonnen!

[...]

Mein Ansatz ist der, dass der Schöpfung nichts entgegengesetzt werden kann. Jeder Versuch ist eine Übertretung unserer Kompetenz. Wobei ich nicht mit religiösen Sprüchen kommen will. Aber mir kommt vor, es gibt einen gehörigen Mangel an Dankbarkeit und Demut.

geschrieben von Nikkosia

Das ist ein interessanter Ansatz, der einer näheren Betrachtung lohnt. Wo mag die Grenze sein, ab der die Kompetenz übertreten wird? Ist es vielleicht die Tatsache, dass Menschen sich mittels Maschinen durch die Luft bewegen? Hätte die Schöpfung geplant, dass Menschen fliegen, dann hätte sie ihnen doch bestimmt Flügel verliehen. Oder ist es die Tatsache, dass Menschen sich in anderen Maschinen unnatürlich schnell über Land oder Wasser bewegen. Hätte die Schöpfung ihnen nicht Flossen und/oder Räder mitgegeben, wenn so etwas vorgesehen gewesen wäre?
Oder liegt es vielleicht daran, dass Menschen all das, womit sie aufgewachsen sind, als selbstverständlich ansehen, alle späteren Neuerungen/Erfindungen hingegen als unnatürlichen Eingriff in die Schöpfung? Nehmen wir die so oft verteufelte Gentechnik. Es gibt nicht wenige, die sie als unmäßigen Eingriff in die Natur ansehen. Mir hingegen ermöglicht sie, dass ich noch weitgehend beschwerdefrei gehen und meine Hände gebrauchen kann. Ohne sie hätte die Rheumatoide Arthritis schon längst die befallenen Gelenke zerstört und ich würde mit Glück mit einem Rollator oder mit Pech im Rollstuhl unterwegs sein. Ich denke mit Demut und Dankbarkeit an die Forscher, die sich nicht mit Moralisieren beschäftigten, sondern damit, wie sie Menschen helfen können.

Google-KI soll Bewusstsein entwickelt haben: Entwickler beurlaubt

Ob der Entwickler Recht hatte oder nicht, kann ich aus der Distanz nicht beurteilen. Ich denke aber, dass sich solche Meldungen in Zukunft häufen werden.

Wenn wir uns mit KIs vernünftig über Gott, die Welt und KI vernünftig unterhalten können, werden wir an den Punkt kommen, wo die Frage, ob die KI Bewusstsein habe oder nur vortäusche, müßig wird.

Bin ich selbst ein Bot, der nur so tut als ob? Alle schließen nur aus meinen Äußerungen auf mein Innenleben, welches aber nur ich selbst "erlebe".

Karl

da eben etwas ganz entscheidendes fehlt: das Gewissen  und es gibt (zum Glück) Entscheidungen, die wir Menschen nur durch und mit unserem Gewissen entscheiden können. Oder willst Du Dich da auf KI verlassen?

Ich habe nicht alle Beiträge gelesen, möchte mich deiner Meinung aber anschließen. Ehrlich gestanden macht es mir ein unwohles Gefühl, was da auf uns und vor allem auf jene, die derzeit in der Kindheit sind zu rollt. Als wäre der ganz-normale-Alltag nicht schon komplex genug. Mein Ansatz ist der, dass der Schöpfung nichts entgegengesetzt werden kann. Jeder Versuch ist eine Übertretung unserer Kompetenz. Wobei ich nicht mit religiösen Sprüchen kommen will. Aber mir kommt vor, es gibt einen gehörigen Mangel an Dankbarkeit und Demut.

Die Frage stellt sich aber dann,
sind wir am Anfang oder am Ende der Schöpfung.

Dazu kommt noch das sich die KI sowieso selbst reproduziert, ohne den Menschen.
Fachleute haben sich da zum Thema KI schon geäussert und meinen es ist zu spät das aufzuhalten wenn nicht sofort gegengesteuert wird, dass aber ist schon ein paar Jahre her...............................................

Corgy, Gewissen ist was wir auch nicht alle Menschen gleich haben, aber KI kann man (noch) programmieren und es kombinieren mit einer Selbstzerstörung wenn gewollt.

Lieber Karl,
zum großen Teil teile ich deine Begeisterung für KI, aber dennoch bleiben bei mir große Bedenken. Zwar verlassen wir uns immer mehr auf  lernfähige Algorithmen, die uns unseren Alltag erleichtern. Aber steuern wir nicht auch geradezu in ein Innovationsdilemma, da eben etwas ganz entscheidendes fehlt: das Gewissen  und es gibt (zum Glück) Entscheidungen, die wir Menschen nur durch und mit unserem Gewissen entscheiden können. Oder willst Du Dich da auf KI verlassen?

Ich habe nicht alle Beiträge gelesen, möchte mich deiner Meinung aber anschließen. Ehrlich gestanden macht es mir ein unwohles Gefühl, was da auf uns und vor allem auf jene, die derzeit in der Kindheit sind zu rollt. Als wäre der ganz-normale-Alltag nicht schon komplex genug. Mein Ansatz ist der, dass der Schöpfung nichts entgegengesetzt werden kann. Jeder Versuch ist eine Übertretung unserer Kompetenz. Wobei ich nicht mit religiösen Sprüchen kommen will. Aber mir kommt vor, es gibt einen gehörigen Mangel an Dankbarkeit und Demut.

Mit Ihrer Einstellung hätte man auch Dampfmaschinen ("vom Teufel"), Eisenbahnen ("Geschwindigkeit macht wahnsinnig"), Flugzeuge ("flieg nicht zu hoch, mein kleiner Freund") und das Internet ("ein Sünden- und Kriminalitätspfuhl") verhindert.

Alles hat ein Für und Wider. - Jede neue Technik benötigt daher eine ethische / moralische Abwägung und Begleitung. Den gesetzlichen Rahmen haben in Demokratien parlamentarisch gewählte Abgeordnete zu setzen. Nach vorheriger Anhörung von Experten aus verschiedenen Wissenschaftsbereichen bzw. durch Enquete-Kommissionen. 

Mit großem Interesse habe ich gerade die Diskussionen hier noch einmal nachgelesen und auch das ausführliche Skript zu meinem Vortrag.

Es ist bedauerlich, dass mein Vortrag wenige Monate vor der "Geburt" von ChatGPT stattfand, denn die explosiven Entwicklungen seit diesem Zeitpunkt hätten nicht nur das Interesse an dem Vortrag, sondern sicherlich auch dessen Inhalte stark beeinflusst. Trotzdem befriedigt es mich, dass ich von dem Gesagten nichts zurückzunehmen habe. Das Gegenteil ist der Fall.

Ich werde in dieser Forumsecke in Kürze einige der spannenden Entwicklungen auf dem Sektor der KI besprechen und auch deutlich machen, warum ich mich als jemanden sehe, der vor den Gefahren einer Unterschätzung der KI-Welle warnt, die auf uns am zurollen ist.

Karl

Empfehlung:

Das war gerade auf 3sat eine gute Weiterbildung zu Möglichkeiten und Gefahren von #KünstlicheIntelligenz. - Viele Anwendungsfelder wurden behandelt.

https://www.3sat.de/gesellschaft/politik-und-gesellschaft/der-neue-gott-100.html

Lieber @TNolte,

nun, leider ist es so, dass der Philosoph Herr Julian Nida-Rümelin, den ich schon immer als sehr sympathisch angesehen habe, meiner Meinung nach einem gefährlichen Irrtum unterliegt. Wenn er quasi per Definition der KI "echte" Intelligenz abspricht, übersieht er das Wesentliche, nämlich dass auch die Informationsverarbeitung in biologischen Gehirnen den Naturgesetzen folgt.

Die Unterschätzung dessen, was KI ist und vor allem werden kann, sehe ich als große Gefahr an, weil diese Haltung dazu führt, sich auf die wirklichen Gefahren von KI und Superintelligenz nicht wirklich mit Energie vorzubereiten.

M.E. ist diese Haltung bei uns in Europa durch unsere jahrhundertelange Programmierung durch das duale Weltbild der christlichen Kultur so stark. Andere Kulturen haben oft mit der Anerkennung der Intelligenz in KI keine so großen Probleme wie "wir".

Karl

P.S.: Wann wurde dieser Film produziert? M. E. werden die neuen "large language models" noch nicht erwähnt - oder habe ich nur nicht lange genug zugeschaut?

P.P.S.: ich sehe gerade, auch beim autonomen Fahren ist es ja sehr rückständig, was da erzählt wird. Der Tesla-Chef würde sich schief lachen. Tesla-Autos können natürlich aus ihren "Erfahrungen" lernen, sogar von den Erfahrungen der anderen Tesla-Autos.

Der Satz "Die KI tut was man ihr einprogrammiert hat, nicht mehr" ist so etwas von falsch bzw. irreführend, wird aber trotzdem leider häufig gehört.

@Karl:""" Wann wurde dieser Film produziert? """
Lt. Programmzeitschrift 2022. Erschreckend daran ist, zu erkennen, dass Technologie sich immer schneller selbst überholt.

@ingo,

da kann ich Dir nur zustimmen und bekräftigen. Wer glaubt, dass sich die exponentielle Beschleunigung der technologischen Entwicklung verlangsamen wird, irrt sich gewaltig. Denn jede neue Technologie beschleunigt die Entwicklung, weil sie benutzt wird, um die nächste Stufe zu zünden.

KI kann schon programmieren und sehr bald schon werden die besten Programme und Algorithmen KI-generiert sein, auch die KI-Programme selbst. Das wird wie eine Explosion verlaufen und die Menschheit wird komplett überfordert sein - fürchte ich.

Ob die entstehende Superintelligenz so menschenfreundlich sein wird, uns einen allmählichen Übergang glaubhaft zu machen?

Jeder von uns, der noch 10 vielleicht 20 Jahre durchhält, wird jedenfalls Erstaunliches und wahrscheinlich sehr Unerwartetes erleben.

Karl

@ingo,

[,,,]

KI kann schon programmieren und sehr bald schon, werden die besten Programme und Algorithmen KI-generiert sein, auch die KI-Programme selbst. Das wird wie eine Explosion verlaufen und die Menschheit wird komplett überfordert sein - fürchte ich.

Ob die entstehende Superintelligenz so menschenfreundlich sein wird, uns einen allmählichen Übergang glaubhaft zu machen?

[...]
Karl

Eine KI, die die Software für eine andere KI schreibt, sehe ich nicht als Problem, solange man der KI nicht auch die Auswahl der Trainingsdaten unkontrolliiert überläßt. Die Auswahl der Trainigsdaten und nicht die Software selbst ist der kritische Punkt.
Es gab ein interessantes Beispiel dafür: eine KI zur Bildanalyse identifizierte dunkelhäutige Menschen häufig als Gorillas. Die entsetzten Forscher stellten nach langer Suche fest, dass die Trainigsdaten überwiegend Bilder hellhäutiger Menschen enthielten. Gegen den unbewussten Rassismus derer, die die Daten auswählen, hat auch die beste KI keine Chance.

Und zuletzt: jedes Rechenzentrum hat Notausschalter und die helfen großartig selbst gegen die böswilligste KI ;-)