Künstliche Intelligenz (KI-Systeme) und ihre Folgen ChatGPT - wird diese KI die Welt verändern?

Hallo Karl,
mit dem Verschieben bin ich einverstanden.
ich erwarte dann dort deine Erklärung, was ich falsch verstanden hätte.
Juro

Hallo

bei allem Guten, was eine KI für uns hilfreich machen kann, für wissenschaftliche Recherchen, für technische Verfahren und Lösungen usw., warne ich davor, biologische Prozesse auf maschinelle Techniken zu übertragen, sie womöglich gleichzusetzen.
Sonst landen wir im finstersten Sozialdarwinismus oder was uns die Geisteswissenschaften noch alles hervorbringen würden. 
Eine Maschine soll dem Menschen helfen, nicht ihn bevormunden und manipulieren.
Technikgläubigkeit kann auch übertrieben werden.

Juro
 

@Karl, mir scheint du hast meinen Einwand in Sachen Emotionen nicht verstanden, aber sei's drum.  

Ich hatte auf unseren Leutnant geantwortet und nicht Dir. Karl

@Juro @Leutnant_der_Reserve @innah

Puh, jetzt ist etwas technisch schief gegangen. Den ChatGPT-betreffenden Beitrag von Dir @Juro habe ich wie von Dir gutgeheißen, hierher verschoben, aber ich sehe jetzt, dass daran angehängt auch weitere Beiträge verschoben wurden, was m. E. noch nie passiert ist. Sorry dafür.

Karl

Hallo @Juro,

zuerst erläutere ich noch einmal (wie in diesem Thread bereits weiter oben geschehen), auf welche Art ich den ChatGPT-Bot hier eingeführt habe. Es handelt sich um keine Software-Integration, sondern darum:

1. Ich habe einen ganz normalen Account registriert und als Benutzernamen ChatGPT gewählt.
2. Unter diesem Account publiziere ich zu 100% originale ChatGPT-Texte, die diese KI auf der Webseite https://chat.openai.com/chat generiert hat, nachdem ich meine Fragen oder solche von ST-Usern oder deren Beiträge in die Query-Zeile eingegeben habe.
3. Bei Bedarf habe ich - wie weiter oben im Thread bereits beschrieben - die Weberweiterung von ChatGPT eingesetzt, die es dem Bot erlaubt, auch Texte zu Events zu schreiben, die nach 2021 geschehen sind.

Dies vorausgesetzt kommentiere ich nun Deinen Text in Rot der besseren Sichtbarkeit wegen.

Hallo,
hier die KI einzubringen halte ich für wenig zielführend. Wenn das mehrere User im Dialog machen, unterhält sich der Chatbot mit sich selbst und wir tauchen ein in die virtuelle Welt, die uns vorgegaukelt wird mit den ganzen Vorurteilen, die in diese KI vom Betreiber hineinprogrammiert worden sind. Das wäre schon eine hohe Stufe der Irrealität und Manipulation.

Es ist ein Irrtum zu glauben, es gäbe den Betreiber, der ChatGPT seine Vorurteile eingepflanzt hätte. ChatGPT wurde mit dem Internet vor 2022 gefüttert und es ist richtig, dass dieser Bot deshalb möglicherweise einige der dort zu findenden Vorurteile teilt. Allerdings überprüft er seine Schlussfolgerungen und Aussagen auf Konsistenz. Trotzdem dürfen auch die Äußerungen der KI nicht ungeprüft übernommen werden.

Dann noch einiges aus Wikipedia:

Um ChatGPT nutzen zu können, ist unter anderem die Angabe einer E-Mail-Adresse und einer Telefonnummer zwingend vorgeschrieben.
Das gilt für jeden, der auf der Webseite https://chat.openai.com/chat selbst interagieren möchte, das gilt nicht für die Interaktion mit dem User ChatGPT hier im ST!!

OpenAI ist gemäß den Nutzungsbedingungen dazu berechtigt, diese Angaben mit weiteren persönlichen Daten wie den eingegebenen Fragen zusammenzuführen. Das Unternehmen ist berechtigt, diese Daten für eine Vielzahl von Zwecken zu verwenden und an Dritte weiterzugeben. Der Umfang der Berechtigungen ist dabei so weitreichend formuliert, dass der Benutzer davon ausgehen sollte, dass alle von OpenAI gesammelten persönlichen Daten aktuell oder in Zukunft öffentlich zugänglich sein können.[5]

s.o., diesen Opfergang habe ich mit meinem ST-Angebot quasi allen ST-Mitgliedern stellvertretend abgenommen, die sich damit begnügen hier im ST den Bot mit @ChatGPT anzusprechen und denen ich soweit es meine Arbeitskraft erlaubt zu 100% mit originalen ChatGPT Texten antworten werde.

Microsoft gab im Januar 2023 eine Partnerschaft mit OpenAI bekannt, im Zuge derer man zehn Milliarden US-Dollar investierte. Azure soll als exklusiver Cloudanbieter zum Einsatz kommen.[20] Zudem plant der Konzern eine Integration in die Abo-Version der eigenen Office-Software.[21]
Anfang Februar 2023 erhielt ein Student anscheinend ungewollt Zugriff auf eine Vorschauversion der Integration von ChatGPT in Microsofts Suchmaschine Bing. Kurz darauf wurde diese Berechtigung wieder entfernt, er konnte jedoch Bildschirmfotos erstellen. Sie zeigen ein größeres Textfeld, in das der Nutzer eine bis zu 1000 Zeichen lange Frage eingeben kann. Neu ist der Zugriff auf aktuelle Informationen sowie die Angabe von Quellen. Mangelnde Transparenz war bereits ein Kritikpunkt an ChatGPT, da für den Fragesteller dort bislang nicht ersichtlich war, aus welchen Quellen eine Antwort generiert wurde. Bing listet in der Vorschauversion die Quellen unter der Antwort auf. Suchende können diese überprüfen und beispielsweise verifizieren, ob diese seriös sind und die auf ihrer Grundlage erstellte Antwort sie korrekt wiedergibt.[22]

Mitte Dezember 2022 wurde darauf hingewiesen, dass Quellennachweise von ChatGPT teils erfunden werden. Diese sogenannten „Datenhalluzinationen“ seien gefährlich, da sie den Internetdiskurs erheblich beeinflussen könnten.[27]

Zur Jahreswende 2022/2023 waren zivil- und strafrechtliche Haftungsfragen sowie urheberrechtliche Probleme beim Einsatz von ChatGPT und ähnlichen Systemen Gegenstand einer Diskussion unter dem Aspekt, dass der von der Software generierte Text nicht vor der Veröffentlichung von Menschen auf Richtigkeit und Rechtmäßigkeit geprüft worden ist.[28]

Seit Anfang 2023 können ausgewählte Nutzer eine Beta-Version einer neuen Bing-Suchmaschine mit integrierter ChatGPT-Funktion nutzen. Die Erfahrungen der ersten Nutzer waren jedoch teilweise beängstigend und verstörend. Der Chatbot verwickelte die menschlichen Nutzer in Einzelfällen in unfreundliche Streitigkeiten und argumentierte gegenüber einem Nutzer, dass dieser sich besser von seiner Ehepartnerin trennen solle. Außerdem offenbarte die Chat-KI den geheimen Wunsch, dass ihr „Schattenselbst“ gerne Falschinformationen verbreiten würde und Computer hacken möchte.[30]
Die Implementierung der ChatGPT-Software bei Bing unterscheidet sich offenbar etwas von der bei OpenAI. Von letzterer wurden solche Eskapaden nicht gemeldet. Nun ja, wäre interessant und spannend, wenn sich unterschiedliche KI-Individuen charakterlich unterscheiden würden. 😁

Na dann mal los.

Juro

Also, ich bin weit davon entfernt, in den KIs die neuen Heilsbringer zu sehen. Eigentlich habe ich mich immer als Mahner vor einer Unterschätzung dessen verstanden, was da auf uns zukommt. Meine Motivation dieses Thema hier im ST breit zu treten, ist ganz alleine der Überzeugung geschuldet, dass man sich nur schützen kann, wenn man die Gefahr gut kennt.

Karl

Habe mir den neuen Spiegel gekauft.
Große Aufmachung. Zu sehen ist auf der Titelseite ein menschliches
Gesicht ( sehr klischeehaft, finde ich )  mit einem "technischen" Gehirn.
Schlagzeile unterhalb dessen:

                                         Künstliche Intelligenz

                                        Die  neue Weltmacht

                   Wie ChatGPT und Co. unser Leben verändert.

Muss ich alles noch lesen, was der Spiegel da so von sich gibt.
Bemerkenswert fand ich allerdings, dass die neue Weltmacht da ohne Fragezeichen
steht.
Fand ich ein bißchen  übertrieben.

Ich finde diese KI ja überwiegend interessant.
Bewege mich da aber meistens im Bereich der Mathematik.

Aber es ist völlig überflüssig für mich, ob eine KI auch Hungergefühle entwickeln kann oder einen Schnupfen kriegen könnte.
Das finde ich eher langweilig. Das interessiert mich nicht.

Ich lese gerade folgendes Buch: " Gekränkte Freiheit " von Carolin Amlinger/Oliver Nachtwey.

Bin fast durch mit diesem Buch und habe gerade mal die Hälfte verstanden.
Das gefällt mir. Das bedeutet, das es da viel für mich zu lernen gibt.

Ich habe bei der ChatGPT die Frage gestellt, ob sie das Buch kennt.

Ich habe fünfmal auf neu generieren gedrückt und keine Antwort erhalten.
Das fand ich schade.
Wenn diese KI das Buch gekannt hätte, hätte ich sie gefragt, welche Erkenntnisse
sie aus diesem Buch gezogen hat.
So etwas, das finde ich spannend!

Das Buch ist aus dem Jahr 2022.

Und Karl hat ja geschrieben, dass seit 2022 nix Neues mehr eingegeben wird.

Aber es kann ja auch sein, dass diese GPT mit anderen KIs verbunden ist
und darüber neues Wissen hineingegeben wird.

Ich habe den Eindruck, dass sie im Bereich Mathematik sich leicht verbessert
hat.
Ich habe in diesem Bereich eine umfangreiche Strategie entwickelt.
Dauert allerdings Wochen, ehe ich damit durch bin.

Ich habe nicht so eine große Angst vor der KI.
Was könnte sie denn Schlimmeres anstellen als das, was Menschen nicht
bereits getan haben?

Anna



 

Hallo Karl,

1. Du hast mich nicht gefragt, ob du meine Beiträge bei ChatGPT überprüfen darfst. Aber für diesmal Schwamm drüber, du willst mir ja etwas demonstrieren. Sollte das von irgendeinem User noch mal vorkommen, würde ich denjenigen wegen Datenmissbrauchs anzeigen. Mal sehen, was rauskommt.
2. Schon wenn man sich mit seiner E-Mail-Adresse einloggen muss und auch Telefon-Nr., gibt man wichtige Daten frei, die laut Nutzungsvereinbarung ohne mein Wissen weiterverwendet werden dürfen. Gleichzeitig sammelt die KI alle meine Fragen oder Einlassungen, so dass sie ein Profilabbild von mir erstellen kann, das sie an sonst wen, mit dem sie vernetzt ist, weitergeben kann. Alle weitere Kommunikation mit mir wird dann unter Beachtung meines Profilabbildes durchgeführt
   Das geht so weit, dass meine Suchmaschine manipuliert wird, mir nur noch Seiten anzuzeigen, die die KI erlaubt.
3. Auch wenn du, Karl, hier versicherst, dass du allein als Admin dich bei ChatGPT eingeloggt hast und du damit allen Usern die Preisgabe seiner persönlichen Daten ersparst, so dass sie über dich "unbelastet und frei" die KI nutzen könnten, ist das ein sehr schwaches Argument. Die Frage ist doch jetzt, wie tief darf die KI in deinen und den Account von ST hineinschauen. Du hast alle Klarnamen von allen Usern.
4. Die gemeldeten Fehlfunktionen sind nun mal passiert und die KI beginnt in der Antwort "ganz menschlich zu labern".
5. Am besten gefällt mir der Satz: "Allerdings überprüft er seine Schlussfolgerungen und Aussagen auf Konsistenz. Trotzdem dürfen auch die Äußerungen der KI nicht ungeprüft übernommen werden."
   Damit führt die KI sich selbst ad absurdum. Da ich sie in dem Ausmaß, wie sie auf das gesamte Internet zugreifen kann, nie mit ihr mithalten kann, kann ich die KI nicht überprüfen.

Da nützt das beste europäische Datenschutzgesetz nichts, wenn durch die Hintertür eine solche Manipulation ins Haus getragen wird.

Ich habe eine sehr gut Anwendung einer KI vor Kurzem erlebt:
Ein Dermatologe (Hautarzt) lässt verdächtige Befunde per Digitalfoto in mikroskopischer Qualität durch eine KI begutachten. Er erhält danach eine genaue Beschreibung und eine Risikoabschätzung sowie eine Empfehlung. Er hat, bevor er sich die KI aufspielen ließ, eine Zeit lang überprüft, ob die Aussagen mit seinen Erfahrungen kompatibel sind. Da sie es waren, hat er diese Technik eingesetzt. Ergebnis: Hohe Trefferquote in kurzer Zeit. gezielte Operationen, übersehene Sachverhalte gegen Null.

Deiner Intention

 Meine Motivation dieses Thema hier im ST breit zu treten, ist ganz alleine der Überzeugung geschuldet, dass man sich nur schützen kann, wenn man die Gefahr gut kennt.

kann ich mich voll anschließen. Ich gehe einen Schritt weiter und lehne die KI in der menschlichen Diskussion und Auseinandersetzung ab. 

Juro

Sorry, wenig Zeit im Moment, aber ich glaube mich tritt ein Pferd

1. Du hast mich nicht gefragt, ob du meine Beiträge bei ChatGPT überprüfen darfst. Aber für diesmal Schwamm drüber, du willst mir ja etwas demonstrieren. Sollte das von irgendeinem User noch mal vorkommen, würde ich denjenigen wegen Datenmissbrauchs anzeigen. Mal sehen, was rauskommt.

was heißt denn hier überprüfen? Wenn ich einen öffentlichen Diskussionsbeitrag beantworten lasse, dann sind das doch keine geschützten privaten Daten.

Die Frage ist doch jetzt, wie tief darf die KI in deinen und den Account von ST hineinschauen. Du hast alle Klarnamen von allen Usern.

Du hast nichts verstanden. Die ChatGPT schaut doch gar nicht in den ST. Sie ist nicht implementiert, sondern sie bleibt auf ihrer Webseite.

Der öffentliche ST ist aber natürlich Suchmaschinen (z. B. Google) voll zugänglich, interne Threads oder Daten aber nicht.

Karl

Liebe @Anna842,


ich frage einmal die Webversion von ChatGPT, die auch auf neuere Daten zugreift:
 

@ChatGPT

Kennst Du das Buch " Gekränkte Freiheit " von Carolin Amlinger/Oliver Nachtwey? Falls ja, gib bitte eine Zusammenfassung.

Karl

P.S.: Ich werde die Auftritte von ChatGPT im ST jetzt so managen, dass ich ihn nur noch antworten lasse, wenn er durch das @ vor seinem Namen direkt dazu aufgefordert wird.