Künstliche Intelligenz (KI-Systeme) und ihre Folgen Wie es bei der KI-revolution schief laufen könnte

Karl Olsberg hat ein düsteres Szenario gezeichnet:
 

Im Zusammenhang mit der offensichtlichen Herabstufung der Sicherheitsaspekte aufgrund wirtschaftlicher Vorteile bei OpenAI eine denkbare Entwicklung?

Was meint ihr dazu?

Karl

also ich fühl mich ja auch angesprochen, muß ehrlich zugeben, denkbare negative Entwicklungen würden mich traurig machen, aber sind bei ähnlichen Revolutionen immer nicht auszuschliessen.
Ich versuche ja, an einem Nebenschauplatz der KI Freude zu erhaschen, ich kann zu dem Video kompetent nichts äussern. Missbrauch und Nutzen sollten in einem sinnvollen Verhältnis stehen, ob das gelingt, hängt buchstäblich von "der ganzen Welt" ab.

Durch herkömmliche Atombomben in Verbindung mit Steuerung durch bereits vorhandene Software und entsprechende Maschinen, kann die Menschheit bereits jetzt recht schnell von der Erde verschwinden. Das ist real und keine fiktive Zukunft.

Das in dem Video erfundene Geschehen basiert ausschließlich auf Gedanken die geläufig sind und einsehbar erscheinen könnten. Sie sind allerdings unrealistische Panikmache.

Eines bleibt in dem Video völlig offen. Wie kommuniziert die KI mit den Menschen und wie kommuniziert sie mit den vielen benötigten Maschinen. Woher kommt das jeweils notwendige Interface?

Eine KI ohne Anbindung an real funktionierende Maschinen ist machtlos. Ich glaube nicht, dass sich Menschen durch ein KI-Programm völlig vom eigenen Denken abhalten lassen und zu reinen Ausführungsorganen einer KI werden.

So wie es bereits jetzt weltweit verbreitete Software gibt, wird es künftig zu unterschiedlichen Aufgaben entsprechende KIs geben. Das sehe ich positiv.

Angenommen ein menschliches Gehirn, ohne sonstige Körperteile und Aussenverbindungen wäre ohne Energiezufuhr lebensfähig. Angenommen es wäre super intelligent und würde Tag und Nacht die tollsten Ideen produzieren. Wem könnte es schaden oder nutzen ohne Verbindung nach aussen zu haben?
(Wie das Wissen in dieses menschliche Gehirn gelangt sein könnte weiß ich natürlich nicht - vielleicht durch KI als es noch mit dem Körper verbunden war?👼)

Ciao
Hobbyradler
 

Keine Diskussion mehr hier?

Ist das folgende eine Angst oder eine schlichte realistische Zukunfts-extrapolation von Karl?



 

...

Eines bleibt in dem Video völlig offen. Wie kommuniziert die KI mit den Menschen und wie kommuniziert sie mit den vielen benötigten Maschinen. Woher kommt das jeweils notwendige Interface?

...

Ciao
Hobbyradler
 

Hallo @Hobbyradler,


KI und Menschen werden sich wie Menschen unterhalten, mit Sprache, siehe hier mein Gespräch mit ChatGPT4o.

KI und Maschinen werden per Internet kommunizieren.

Die existentiellen Gefahren durch KI sehe ich nicht in einer Analogie zu Atombomben, sondern in einem schleichenden Bedeutungsverlust der Menschen. 

Zuerst werden sie von unangenehmen Arbeiten befreit, dann von der Kopfarbeit. Zuerst genießen sie die gewonnenen Freiheiten, dann verzweifeln sie am Sinnverlust.

Die Menschheit wird nicht von der KI willentlich und zielgerichtet umgebracht, nein. In ihrer Bedeutungslosigkeit wird sie nur marginalisiert. Wie der deutsche KI-Forscher Jürgen Schmidhuber es im Interview mit dem Philosophen Precht ausgedrückt hat: Wir Menschen werden die bedeutungslosen Ameisen sein, über die die KI ihre Entscheidungen hinweg fällen wird.

Karl 

Lieber @Karl,

hast Du im STERN von letzter Woche das Interview mit William Saunders (einem der früheren Verantwortlichen von OpenAI) gelesen? Da kann einem Angst und Bange werden, und der Mann hat nahezu Panik angesichts dessen, was uns da alles noch bevorsteht. Er ist ausgestiegen, riskiert seine Existenz, kann das Ganze aber nicht mehr schweigend mit ansehen, was er da mit anderen selbst ins Laufen gebracht hat.

Umso wichtiger ist, dass a) die Menschen ihren Kopf nicht in den Sand stecken, und b) dass sie nicht glauben sollten, diese KI sei in jedem Fall vom Menschen beherrsch- und kontrollierbar.

LG

DW

Lieber @der-waldler

Nein, das Interview habe ich nicht gelesen, weiß aber über die Vorgänge bei OpenAI Bescheid. Dort haben mehrere führende Mitglieder, auch der Chef der KI-Sicherheitsabteilung, aus Protest ihren Hut genommen.

Die Warner werden nicht ernstgenommen. Dafür gibt es mehrere Gründe:

1. Das kurzfristige Geldverdienen durch KI steht bei OpenAI und vielen anderen Firmen im Vordergrund.
2. Manche der Manager glauben daran, dass KI beherrschbar sein wird.
3. Die große Mehrheit in der Bevölkerung weiß gar nicht, was da auf sie zukommt.
4. Philosophen wie Richard David Precht sind so von ihrem eigenen Intellekt eingenommen, dass sie nicht wirklich verstehen, dass ihr Gehirn unterlegen sein wird.

Die besten Entwickler und Kenner der KI wie Geoffrey Hinton und Mustafa Suleyman gehören zu den Warnern oder aber sie sind wie Jürgen Schmidhuber und Ray Kurzweil begeistert von den Aussichten und sehen in der KI die Fortsetzung der Evolution. Schmidhuber sieht die KI-Roboter sich unabhängig entwickeln, Kurzweil träumt von einer Verschmelzung der KI mit dem Menschen.

Karl

"Kurzweil träumt von einer Verschmelzung der KI mit dem Menschen."

Was für eine Science-Fiction-Horrorvorstellung!
Damit können wir den Begriff "Humanität" endgültig ad acta legen und vergessen, dass es so ein Streben mal irgendwo gegeben hat und die Welt nicht nur von kaltem Berechnungsdenken gesteuert werden sollte.

Ich hoffe, ich muss so etwas nicht mehr erleben.

Ich wünsche es mir auch, @Rispe, aber ich befürchte, unsere Wünsche werden nicht erfüllt. Auch aus diesem Grund beobachte ich das Ganze sehr genau, lese Fachbücher, recherchiere, denn viele der führenden KI-Wissenschaftler sprechen von "Monaten", max. von "1-2 Jahren", in denen das alles akut werden kann.

LG

DW

Hallo @Karl,

vielleicht erinnerst du dich, dass ich mehrfach darauf hinwies, dass ausschließlich die Konstrukteure verantwortlich für die KI sind. Das es wichtig ist zu wissen, dass die KI keine reale Intelligenz besitzt, sondern diese „Scheinbare Intelligenz“ ausschließlich von den Konstrukteuren stammt. Die Entscheidungen werden über die konstruierten künstlichen neuronalen Netze nur anders gewonnen.
Was daraus gemacht wird unterliegt auch nur der Verantwortung der Konstrukteure.

Zu jeder KI die irgend etwas bewirken soll, gehören Übergabeschnittstellen (Interface) die wiederum von Konstrukteuren zu entwickeln sind.

Auch schrieb ich, dass dies alle Menschen wissen sollten um keine falschen Schlüsse zu ziehen und um Probleme nicht bei der Maschine suchen sollten.

Der Maschine Intelligenz zuzusprechen bedeutet zudem eine Verschleierung dessen, der die Verantwortung trägt.

Ciao
Hobbyradler