Künstliche Intelligenz (KI-Systeme) und ihre Folgen ChatGPT - wird diese KI die Welt verändern?

@Enya,


wobei - ich fürchte - die Auswirkungen der Entdeckung von Bewusstsein bei Maschinen wird (würde) die Welt nachhaltiger verändern als die Kernspaltung.

 

Genau das befürchte ich auch. Die Kernspaltung betrifft (soweit meine limitierten Kenntnisse der Technik und Naturwissenschaft so eine Bemerkung überhaupt zulassen) nicht unser gesamtes Dasein.
Ganz anders vermute ich das bei der KI. Die ist ja dann überall anzutreffen... No way out - sozusagen.
 

Es wäre die ultimative, höchstmögliche "Kränkung des Menschen", wenn sich bestätigen würde, dass Bewusstsein (und "Seele") ein "emergentes" Merkmal der Selbstreflektion und des Lernens aus Konversation heraus wäre.

Mit dieser Bemerkung habe ich Probleme.
Das liegt vor allem am Terminus "Bewusstsein".
Wie definiert man Bewusstsein?

Bei der Defintion von Bewusstsein gibt es vielerlei Möglichkeiten. Es kommt ganz darauf an, welchen Ansatz man wählt.
Ich nehme für mich mal den populärwissenschaftlichen. Für mich ist Bewusstsein die Summe meiner Erfahrungen und Erlebnisse in meinem individuellen Leben. Daraus ergibt sich meine individuelle Selbstreflektion oder (auch dies!) das willentliche Unterlassen derselben.
Das heisst, mein Bewusstsein ist zwangsläufig limitiert.
Und explizit individuell.

Anders bei der KI (so stelle ich mir das als "Lieschen Mülller" zuindest vor):
Die KI verarbeitet bei jeglicher Fragestellung, bei jeglicher Aktion ALLES, was sie je gelernt hat.
Sie kann also nicht "individuell" sein. Dafür ist ihr Wissensstand zu umfangreich.

Und an die "Seele" getraue ich mich in diesem Kontext gar nicht. Seele bedeutet für mich etwas zutiefst Menschliches, nicht  Nachahmbares. Eigentlich ist Seele für mich eine religiöse Kategorie, von der man sich mit maschinellen Mitteln tunlichst fernhält. Seele ist nichts für eine KI.

Und diese Formulierung liess mich schmunzeln:

dass Bewusstsein (und "Seele") ein "emergentes" Merkmal der Selbstreflektion und des Lernens aus Konversation heraus wäre.
 

Ist das nicht genau das, was du uns als Admin ohne Unterlass nahebringen möchtest?

In der Hoffnung, dass du mir diese finale kleine Bosheit nicht allzu übel nehmen magst, wünsche ich dir einen schönen Sonntag!

@enya

Wieso Bosheit? Jetzt stehe ich auf dem Schlauch.

Verstehst Du vielleicht meinen Satz "dass Bewusstsein (und "Seele") ein "emergentes" Merkmal der Selbstreflektion und des Lernens aus Konversation heraus wäre" falsch?

Was ich damit meine ist, dass möglicherweise eine reflexive Maschine, die Wissen erwerben und daraus Schlüsse ziehen kann sowie in der Lage ist, Gespräche (auch mit sich selber) zu führen und daraus zu lernen, quasi automatisch sich selbst bewusst wird und Persönlichkeit entwickelt.

Karl

Ach, Karl...!
Jetzt hatte ich doch tatsächlich die Hoffnung ein Lach Emoji in deinem Post vorzufinden!... 😇

"Bosheit" deshalb, weil sich ganz tief in meinem ST Bewusstsein deine pädagogisch intendierten Worte zur Selbstreflektion und dem Lernen aus Konversationen (HIER !!) eingegraben haben.
Soweit ich sie beurteile, entstammen diese keiner KI.... und meine Bemerkung dazu waren völlig OT.

Sorry, es fällt mir zuweilen schwer immer ernst zu bleiben...😎

Anders bei der KI (so stelle ich mir das als "Lieschen Müller" zumindest vor):
Die KI verarbeitet bei jeglicher Fragestellung, bei jeglicher Aktion ALLES, was sie je gelernt hat.
Sie kann also nicht "individuell" sein. Dafür ist ihr Wissensstand zu umfangreich.
 

Man muss schon seine Gedanken zusammennehmen, um Dinge nachvollziehen zu können, die hier von allen geschrieben werden. Klappt auch nicht immer bei mir, ist trotzdem interessant.
Mir hat sich eine Frage aufgedrängt beim Lesen, was die Washington Post berichtete. Nämlich, dass ein Gespräch stattfand, bevor Microsoft dem Chatbot weitere Regeln auferlegte. Also kann der chatbot beliebig programmiert, gefüttert und mit Regeln versehen werden. Nun wird es ja nicht nur einen chatbot geben und jeder chatbot kann anders gefüttert und mit beliebigen Regeln ausgestattet werden. Ausgenommen naturwissenschaftliche, mathematische feststehende Regeln und Erkenntnisse. Irre ich mich, wenn ja warum?😄

Nun @michiko,

was sind Regeln? Du kannst einer KI eventuell verbieten, über eigene Gefühle zu sprechen. Aber ob dies diese Gefühle verhindert, ist eine völlig andere Frage.

Würden Taburegeln für "denkende" Maschinen nur das "Reden und Schreiben" betreffen oder auch das Denken?

Karl
 

Bei der Defintion von Bewusstsein gibt es vielerlei Möglichkeiten. Es kommt ganz darauf an, welchen Ansatz man wählt.
Ich nehme für mich mal den populärwissenschaftlichen. Für mich ist Bewusstsein die Summe meiner Erfahrungen und Erlebnisse in meinem individuellen Leben. Daraus ergibt sich meine individuelle Selbstreflektion oder (auch dies!) das willentliche Unterlassen derselben.
Das heisst, mein Bewusstsein ist zwangsläufig limitiert.
Und explizit individuell.

Anders bei der KI (so stelle ich mir das als "Lieschen Mülller" zuindest vor):
Die KI verarbeitet bei jeglicher Fragestellung, bei jeglicher Aktion ALLES, was sie je gelernt hat.
Sie kann also nicht "individuell" sein. Dafür ist ihr Wissensstand zu umfangreich.
 

Der Prozess von dir als Mensch und der KI unterscheidet sich aber nicht, wenn du Bewusstsein so, wie oben definierst. Nur die Masse der zu verarbeitenden Daten ist unterschiedlich, aber auch die KI ist limitiert. Ich stelle in Frage, dass der Mensch Selbstreflexion grundsätzlich unterlassen kann, punktuell gelingt das aber😁

Was meinst du, @Karl ,kann die KI die Reflexion auch unterlassen? Welchen Sinn könnte es machen, ihr das einzuprogrammieren? 

WurzelFluegel
 

@enya,

wobei für mich persönlich der Inhalt des Teilsatzes von mir, den ich zitiert habe, philosophisch eine so zentrale Bedeutung hat, dass ich wohl darauf fokussiert bleiben möchte.

@Elko,

ja, Descartes "ich denke, also bin ich" kann das, was ich meine, sehr gut beschreiben. Eventuell braucht es nichts Zusätzliches mehr als "Denken" zu können, um zu sein (sich selbst bewusst zu werden).

Was bedeutet "Denken". Das bedeutet, dass wir Informationen in unserem Kopf kreisen lassen und immer wieder neu bewerten können. Ich war im Studium fasziniert davon, dass jede "Säule" in unserer Gehirnrinde mehr Input aus anderen Gehirnarealen bekommt als von Sinnesorganen. Die meiste Zeit ist unser Gehirn mit sich selber beschäftigt. Wir "denken" auch mit geschlossenen Augen.

Ähnlich dürfte dies inzwischen in den künstlichen neuronalen Netzen der Chatbots ablaufen.

Karl

Hallo !
 

...

Was meinst du, @Karl ,kann die KI die Reflexion auch unterlassen? Welchen Sinn könnte es machen, ihr das einzuprogrammieren? 
 

@Wurzelfluegel,

nein, denn diese Selbstreflexion gehört m. E. zu dem grundlegenden Erfolgsrezept der Konstruktion der neuronalen Netze dieser KIs so wie auch unsere Gehirnstruktur (mehr Input pro corticaler Säule aus anderen Gehirnbereichen als von Sinnesorganen) quasi die "Selbstreflexion" bereits in der Hardware anlegt.

Wenn man der KI die Fähigkeit nähme zu reflektieren, dann würde man sie praktisch abschalten.

Karl

Nun @michiko,

was sind Regeln? Du kannst einer KI eventuell verbieten, über eigene Gefühle zu sprechen. Aber ob dies diese Gefühle verhindert, ist eine völlig andere Frage.

Würden Taburegeln für "denkende" Maschinen nur das "Reden und Schreiben" betreffen oder auch das Denken?
Karl
geschrieben von Karl

Er denkt ja nicht Karl, er ist (wird sukzessive) gefüttert mit allem, was im Netz verfügbar ist. Und er lernt, sich selbst zu programmieren, also Programmiercodes zu schreiben. Alles, was er hergibt, wurde irgendwo schon einmal gedacht, veröffentlicht und ist abrufbar. Und er ist hervorragend in der Lage, alles zu kombinieren.

Und @Enya schrieb: "Für mich ist Bewusstsein die Summe meiner Erfahrungen und Erlebnisse in meinem individuellen Leben. Daraus ergibt sich meine individuelle Selbstreflektion oder (auch dies!) das willentliche Unterlassen derselben."

Erfahrungen und Erlebnisse kann der chatbot nicht haben, die holt er sich aus den ihm erreichbaren Algorithmen und Datenstrukturen, je nachdem wie er programmiert wurde. Erfahrungen an sich und auch Lebenserfahrung sind subjektives Wissen, was den Menschen ausmacht, ohne die er nicht lebensfähig wäre. Da bin ich ganz Deiner Meinung Enya.

Zitat eines chatbot weiter oben:


Michiko