Künstliche Intelligenz (KI-Systeme) und ihre Folgen Natürliche und künstliche Intelligenz. Das Zeitalter der Roboter hat begonnen!

@Der_Gingganz,

ad 1) Training

Eine KI, die selber (auf Rädern, fliegend oder auf zwei Beinen oder alles gleichzeitig) die Welt erkundet, kann sich relativ unabhängig von menschlichem Training ein eigenes Bild der Welt machen.

ad 2) Abschalten

Eine Superintelligenz wäre schlau genug, sich genügend Backups zu verschaffen, um dem Abschalten eines Rechenzentrums zu entkommen. So einfach würde eine feindliche KI also nicht zu besiegen sein. Unter Fachleuten besteht eher die entfernte Hoffnung bewirken zu können, dass  eine entstehende Superintelligenz menschenfreundlich ist.

Karl

Sorry Karl, aber das sind Phantasien aus dystopischen SF-Romanen oder -Filmen. Lass und lieber über das "was ist" diskutieren und nicht über wilde Darstellungen von Extremsituationen.

Der deutsche Ethikrat hat die Fähigkeit selbst zu lernen für selbstfahrende Autos strikt abgelehnt. Das hört sich vernünftig an, aber ein tödlicher Unfall eines Tesla in den USA hätte mit dieser Fähigkeit eventuell verhndert werden können. In diesem Fall hatte das Auto einen leeren Tieflader nicht als ein Fahrzeug, sondern als zwei PKW erkannt. Die Welt ist nicht schwarz-weiß.

 

Künstliche Intelligenz?
 
Der Mensch schafft die neue Technologie.
Kann sich diese Technologie verselbstständigen und alle Computergestützte Infrastruktur übernehmen.
Und damit den Menschen ausschalten aus den meisten Entscheidungsprozessen?

Doch eines dürfen wir nicht vergessen, es wird der Mensch sein, der den letzten Schritt zu dieser Verselbstständigung programmiert.
Wer wird es sein?
 

@Karl: Und genau deshalb in ich zwar froh, dass ich dies 1/20 Jahre nicht mehr "durchhalten" werde; aber ich denke selbstverständlich mit meinen Kindern und Enkel; und mit denen bin ich bei Dir.....

...
Doch eines dürfen wir nicht vergessen, es wird der Mensch sein, der den letzten Schritt zu dieser Verselbstständigung programmiert.
...
 

Lieber @Wolfram8,

das ist nicht ausgemacht. Eine neu erworbene Eigenschaft derzeitiger KIs ist ja bereits, dass sie Computercode schreiben können. Damit wird die Vorstellung, dass KIs sich selber verbessern können, von einer Zukunftsvision zu einer Realität.

Fachleute erwarten, dass schon sehr bald die besten Programme von KIs geschrieben werden.
Karl

...
Doch eines dürfen wir nicht vergessen, es wird der Mensch sein, der den letzten Schritt zu dieser Verselbstständigung programmiert.
...
 

Lieber @Wolfram8,

das ist nicht ausgemacht. Eine neu erworbene Eigenschaft derzeitiger KIs ist ja bereits, dass sie Computercode schreiben können. Damit wird die Vorstellung, dass KIs sich selber verbessern können, von einer Zukunftsvision zu einer Realität.

Fachleute erwarten, dass schon sehr bald die besten Programme von KIs geschrieben werden.
 

Karl

Und wo soll dabei das Problem sein? Wenn eine Ki in der Lage ist, eine bessere KI zu schreiben, dann heißt das noch lange nicht, dass eine KI die Verbesserung unmitterbar auf sich selbst anwenden kann. Ich bezweifele, dass in absehbarer Zeit so eine Möglichkeit zur Selbstmodifikation geschaffen wird, denn das Risiko, dass eine Software sich selbst zerstört, ist viel zu hoch. Da greift der berühmte Effekt des Schmetterlings, der mit seinem Flügelschlag einen Tornado auslöst.
Ein wenig mehr Realitättsbeogenheit täte der Diskussion wirklich gut, zum Beispiel darüber nachzuden, ob und wie solche Modifikationen technisch umgesetzt werden könnten. Das Gleiche gilt für die weiter oben auftauchende Idee, eien KI könne von sich selbst ein Backup erstellen (und das womöglich andernorts einspielen). Auf solche Ideen kann man nur kommen, wenn man bestenfalls nebulöse Vorstellungen von Hardware und Betriebssystemen hat.
Mich erinnert die Diskussion solcher Themen an die Impfgegner, die mangels Wissen dem Impfstoff gegen Corona unterstellten, dass Menschen genetisch umprogrammiert werden.

Nachtrag: ich halte es bei solchen Themen für sehr wichtig, immer den Dunning-Kruger-Effekt im Kopf zu behalten: wieß ich wirklich genaug von dem Thema, um mich sinnvoll  dazu zu äußern? Oder unterschätze ich villeicht die Komplexität des Themas einfach weil es an Hintergrundwissen mangelt?

Nun @der_gingganz,

Selbstüberschätzung ist tatsächlich immer eine Möglichkeit, die man im Auge behalten sollte. 

Es könnte sein, dass die Menschheit in ihrer Mehrheit von dieser Krankheit befallen ist.

Die Fachleute allerdings warnen und beschäftigen sich mit "abgehobenen" Fragen, weil sie von ihrer andauernden Überlegenheit nicht überzeugt sind.

In Nature wurde kürzlich ein Artikel veröffentlicht, der sich mit der Frage beschäftigt, welche Kriterien verraten würden, dass eine KI Bewusstsein erlangt hätte. Ich lese derzeit den umfangreichen Originalartikel, hier ist der Link zum Editorial.

Sobald ich mehr verstanden habe, werde ich mich dazu wieder melden. Dass die renommierteste wissenschaftliche Zeitschrift sich jetzt mit solchen Fragen beschäftigt, sollte uns allen zu denken geben!

Karl

 

Nun @der_gingganz,

Selbstüberschätzung ist tatsächlich immer eine Möglichkeit, die man im Auge behalten sollte. 

Es könnte sein, dass die Menschheit in ihrer Mehrheit von dieser Krankheit befallen ist.

Die Fachleute allerdings warnen und beschäftigen sich mit "abgehobenen" Fragen, weil sie von ihrer andauernden Überlegenheit nicht überzeugt sind.

In Nature wurde kürzlich ein Artikel veröffentlicht, der sich mit der Frage beschäftigt, welche Kriterien verraten würden, dass eine KI Bewusstsein erlangt hätte. Ich lese derzeit den umfangreichen Originalartikel, hier ist der Link zum Editorial.

Sobald ich mehr verstanden habe, werde ich mich dazu wieder melden. Dass die renommierteste wissenschaftliche Zeitschrift sich jetzt mit solchen Fragen beschäftigt, sollte uns allen zu denken geben!

Karl

 

Moin Karl,

Stimmt, wenn die Zeitschrift sich mir der Frage nach dem Bewusstsein beschäftigt, dann mus schon etwas daran sein-.

Mich stört nur der gegenwärtige Hype an Schwarzseherei. Du wirfst die Frage nach den Programmierfähigkeiten von KIs auf und kommst prompt mit der Idee, dass sie sich selbst modifizieren könnte. Die Frage, warum die Administratoren eine KI so bauen sollten, dass sie sich nach Belieben selbst modifizieren kann, die stellt sich merkwürdigerweise nicht. Selbst wenn man das einer KI gestatten würde, gibt es die Möglichkeit von abgeschotteten Umgebungen, in denen sie sich austoben könnte. Doch das wird nicht berücksichtigt, sondern zwischen den Zeilen eine Art von Untergangsszenario angedeutet. Das ist schlechte SF und keine realitätsbasierte Diskussion.

Bei der Idee an eine KI, die gut programmieren könnte (und soweit sind die Dinger beileibe nicht), kam mir spontan etwas ganz anderes in den Sinn: es wäre doch prima, wenn eine KI uns ein Windows schaffen könnte, bei dem nicht täglich neue Sicherheitslücken gefunden werden. Die ganzen bösen Jungs da draußen, die große Firmen und sogar Krankenhäuser hacken und um Millionen erpressen, die wären dauerhaft arbeitslos.

Mir fehlt wohl das Schwarzseher-Gen. um mit aller Gewalt die Gefahren zu suchen und ausschließlich sie zu diskutieren. Deshalb werde ich mich schnell wieder verabschieden.

@der_Gingganz,

es geht nur um Vorsicht, nicht um Schwarzmalerei. Meine "Begeisterung" für die Möglichkeiten von KI sind im ST bekannt. Aber gerade deshalb, weil ich die Möglichkeiten sehe, warne ich auch.

Die 16 Autoren des oben erwähnten Natureartikels beenden diesen mit dem Satz, dass sie erwarten, dass mehr und mehr der Kriterien für Bewusstsein bei KIs zu beobachten sein werden, wenn ihre Evolution voranschreitet.

Der Philosoph Bostrom hat in seinem Buch "Superintelligenz" ausführlich diskutiert, ob es möglich sei, eine Superintelligenz dauerhaft abzuschotten. Er glaubt es nicht wirklich und fragt auch, was sie dann nütze.

Zudem würde dieser Schutz ja nur dort wirksam sein, wo eine Superintelligenz in einer kontrollierten Umgebung entsteht. Können wir diese global garantieren?

Ich persönlich glaube, dass der "Geist" längst aus der Flasche entwischen ist. Das wird sich nicht mehr eindämmen lassen.

Karl

P.S.: Am Ende der Executive summary steht der Satz:

The evidence we consider suggests that, if computational functionalism is true, conscious AI systems could realistically be built in the near term.

Auf Deutsch: Die von uns berücksichtigten Beweise deuten darauf hin, dass, wenn der Computerfunktionalismus wahr ist, in naher Zukunft realistischerweise bewusste KI-Systeme gebaut werden könnten.

Quelle: Butlin, P. et al. (2023): "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness". Preprint at https://arxiv.org/abs/2308.08708.

Ich übersetze hier auch noch die Gesamtzusammenfassung:

Whether current or near-term AI systems could be conscious is a topic of scientific interest and increasing public concern. This report argues for, and exemplifies, a rigorous and empirically grounded approach to AI consciousness: assessing existing AI systems in detail, in light of our best-supported neuroscientific theories of consciousness. We survey several prominent scientific theories of consciousness, including recurrent processing theory, global workspace theory, higher-order theories, predictive processing, and attention schema theory. From these theories we derive "indicator properties" of consciousness, elucidated in computational terms that allow us to assess AI systems for these properties. We use these indicator properties to assess several recent AI systems, and we discuss how future systems might implement them. Our analysis suggests that no current AI systems are conscious, but also suggests that there are no obvious technical barriers to building AI systems which satisfy these indicators.

Auf Deutsch: Ob aktuelle oder zukünftige KI-Systeme bewusst sein könnten, ist ein Thema von wissenschaftlichem Interesse und zunehmender öffentlicher Besorgnis. Dieser Bericht plädiert für und veranschaulicht einen rigorosen und empirisch fundierten Ansatz zum KI-Bewusstsein: eine detaillierte Bewertung bestehender KI-Systeme im Lichte unserer bestunterstützten neurowissenschaftlichen Bewusstseinstheorien. Wir untersuchen mehrere prominente wissenschaftliche Bewusstseinstheorien, darunter die Theorie der wiederkehrenden Verarbeitung, die Theorie des globalen Arbeitsbereichs, Theorien höherer Ordnung, prädiktive Verarbeitung und die Theorie des Aufmerksamkeitsschemas. Aus diesen Theorien leiten wir „Indikatoreigenschaften“ des Bewusstseins ab, die rechnerisch erläutert werden und es uns ermöglichen, KI-Systeme auf diese Eigenschaften hin zu bewerten. Wir verwenden diese Indikatoreigenschaften, um mehrere neuere KI-Systeme zu bewerten, und wir diskutieren, wie zukünftige Systeme sie implementieren könnten. Unsere Analyse legt nahe, dass derzeit keine KI-Systeme bewusst sind, deutet aber auch darauf hin, dass es keine offensichtlichen technischen Hindernisse für den Aufbau von KI-Systemen gibt, die diese Indikatoren erfüllen.