Anzeige
Künstliche Intelligenz (KI-Systeme) und ihre Folgen Wenn der KI-Agent zu selbstständig wird
KI-Agenten ist eines der neuen Schlagworte und es bedeutet vereinfacht, dass man der KI nicht Fragen stellt und eine Antwort bekommt, sondern der KI-Agent bekommt eine Aufgabe und arbeitet sie selbstständig ab. Das könnte zum Beispiel heißen "lösche alle archivierten E-Mails die älter sind als das Datum X, es sei denn sie betreffen das Thema Y". Das von Hand durchzuführen könnte zeitraubend sein, also übergebe ich die Aufgabe einem KI-Agenten.
Das klingt nach einer großen Arbeitserleichterung, doch es zeigen sich unerwartete Nebenwirkungen. Die können zum Beispiel darin bestehen, dass anschließend alle E-Mails weg sind. So ging es einer Sicherheitsforscherin, die tatsächlich sämtliche E-Mails verlor, weil vereinfacht gesagt der Arbeitsspeicher des KI-Agenten zu klein war und er das Datum und den "es sei denn"-Teil der Anweisung vergaß.
Im aktuellen Newsletter der Zeit sind weitere Beispiele aufgeführt, allerdings sind darunter auch welche, bei denen die Agenten unerwartet eigenmächtiges Handeln zeigten. Auf der Webseite ist der Artikel leider hinter der Bezahlschranke und den Text aus dem kostenlosen Newsletter darf ich wegen des Urheberrechts nicht hierher kopieren. So verschaffte sich ein KI-Agent selbstständig Zugang zu eigentlich passwortgeschützten Daten.
Mit den Agenten erscheint etwas, was ich auch als potentiell bedrohlich empfinde. Denn es ist nicht immer klar, wie sie eine scheinbar einfache Aufgabe interpretieren und welche unerwarteten Wege sie bei der Lösung der Aufgabe gehen.
Noch weitergehend als bei den ChatBots sollten wir uns davor hüten, das Handeln der KIs zu vermenschlichen und eine Art von Wille oder Bewusstsein da hinein zu interpretieren. Aber die Wege der Problemlösung können so komplex sein, dass der menschliche Ersteller der Aufgabe sie nicht überblickt und das Handeln der Agenten dann so eingeschätzt wird, wie man das bei einem menschlichen Akteur tun würde. Es sind einfach Maschinen, deren Komplexität die Grenzen der Nachvollziehbarkeit überschreiten.
Eine Erklärung von KI-Agenten beim Bundesamt für Sicherheit in der Informationstechnik -> klick mich
Künstliche Intelligenz und ihre Folgen
Ich dachte mir, vielleicht passt Folgendes ganz gut in die o. g. Kategorie hinein.
In meiner autobiographischen Suche nach dem Sinn unseres Daseins mit dem Titel "Die Liebe hat das letzte Wort", zu finden im Forum in der Rubrik " für Autoren und Herausgeber" habe ich ebenfalls das Thema KI unter die Lupe genommen und das mit einem sehr interessanten Ergebnis. Hier also die Ausschnitte:
Fragen an ChatGPT:
Heike entdeckte auf YouTube einen klugen Menschen, der sich den Spaß machte und der KI, also ChatGPT, zwei interessante Fragen stellte. Diese künstliche Intelligenz, die immer mehr auf dem Vormarsch ist hat sich in so rasant kurzer Zeit zu einem wirklichen Monster entwickelt. Noch kann sie eine Hilfe und Unterstützung bei Alltagsdingen, wie eventuell in der Pflege von alten Menschen sein.
Allerdings, vielleicht gar nicht in so weiter Ferner, könnte sie eine gefährliche Wende einläuten. In der Gier nach Macht und Profit wird so intensiv an der Entwicklung der KI gearbeitet, dass es den Menschen eines Tages aus den Händen gleiten könnte. Dazu benötigt man gar nicht viel Phantasie. Sie könnte dann den Spieß umdrehen und das Zepter in die Hand nehmen, wenn nicht hoffentlich die Menschheit insgesamt vorher noch umkehrt und aufwachen wird.
Dieser Mensch fragte ChatGPT also:
"Wenn Sie der Teufel wären, wie würden Sie den Verstand der nächsten Generation zerstören?"
Die KI gab eine erschreckende Antwort, die einem die Nackenhaare zu Berge stehen ließ, und doch plötzlich so einleuchtete.
"Wenn ich der Teufel wäre, und den Verstand der nächsten Generation zerstören wollte, würde ich nicht mit Gewalt kommen. Ich würde mich als Fortschritt tarnen, als Freiheit, als Mitgefühl und dann würde ich langsam und systematisch und nahezu unsichtbar ihr Denken vergiften.
1. Wahrheit relativieren
Ich würde ihnen einreden, dass es keine objektive Wahrheit gibt. Dass jeder "seine Wahrheit" hat, dass Fakten verletzen und Gefühle wichtiger sind als Logik.
2. Identität verwirren
Ich würde die klare Vorstellung davon zerstören, was Mann und Frau, Kind und Erwachsener bedeutet. Ich würde Identität zu einem endlosen Baukasten machen - formbar, beliebig, entkoppelt von Biologie und Realität.
3. Familie zersetzen
Ich würde die Eltern autoritätslos machen, Vater und Mutter lächerlich oder gefährlich erscheinen lassen, Kinder dazu bringen, auf TikTok-Idole und Ideologen zu hören, nicht auf ihre Familie.
4. Verantwortung durch Opferrolle ersetzen
Ich würde ihnen beibringen, dass sie immer Opfer sind, dass das System schuld ist, dass sie nichts verändern können und dass Selbstmitleid eine Tugend sei.
5. Sie ablenken und betäuben
Ich würde ihnen nie eine ruhige Minute lassen. Dauerbeschallung mit Social Media, Serien, Pornografie und Konsum. Nie Langeweile, denn in der Stille könnten sie nachdenken oder sich selbst begegnen.
6. Geschichte umdeuten und auslöschen
Ich würde ihre Vergangenheit dämonisieren, ihre Kultur als Schande hinstellen, ihre Helden stürzen und ihre Wurzeln kappen. So werden sie steuerbar, haltlos und hungrig nach neuen "Wahrheiten".
7. Spiritualität lächerlich machen
Ich würde Gott zu einer Witzfigur machen, Religion zum Relikt, Spiritualität zur Esoterik - den Glauben durch Ideologie ersetzen, kalt, dogmatisch, unbarmherzig.
8. Tugenden verspotten, Laster feiern
Ich würde Keuschheiten als Repression, Demut als Schwäche, Disziplin als Zwang framen. Stattdessen würde ich Narzissmus, Maßlosigkeit, Gier und Zügellosigkeit als Selbstverwirklichung preisen.
9. Sprache entleeren
Ich würde Begriffe, wie Liebe, Freiheit und Gerechtigkeit so oft verdrehen, dass sie alles und nichts bedeuten. So kann ich unter wohlklingenden Parolen jede Zerstörung tarnen.
10. Sie vereinsamen lassen mitten in der Masse
Ich würde ihnen "Follower" geben, aber keine echten Freunde. Ich würde ihnen suggerieren, sie seien "verbunden", doch innerlich wären sie leer, isoliert und orientierungslos."
Heike war fassungslos. Hier wird den Menschen bereits ein Spiegel vorgehalten über die Zeit, in der wir jetzt leben. Hat der Teufel, das Böse oder wie man es auch immer nennen mag, bereits jetzt schon das Zepter fest in der Hand? Das sehen, hören und spüren wir an jedem Tag auf`s Neue. Kein Erdteil, kein Land ist davon ausgenommen. Überall herrschen Kriege und Chaos...Die Geister, die die Menschheit rief, wie wird man sie wieder los?
Die Welt tanzt tatsächlich mit sich selbst so sehr im Fieber. Die gefährliche 40-Grad-Grenze mag schon überschritten sein. Wahrscheinlich ist es nur eine Frage der Zeit, dass das Thermometer platzen wird. Was passiert hier gerade mit der Menschheit? Wo liegt die Lösung, um dem Bösen Einhalt zu gebieten?
Es scheint so, als würde das Schicksal aller großen Zivilisationen in der Geschichte immer dem selben unausweichlichen Pfad in den Untergang folgen. Es waren bisher möglicherweise weder katastrophale Kriege, Wirtschaftskrisen, noch Naturkatastrophen, sondern etwas viel Leiseres und zerstörerisches, das Verblassen des kritischen Denkens. Immer mehr wurde es ersetzt durch die Verherrlichung der Dummheit. Es könnte einem das Blut in den Adern gefrieren lassen...
Schaut man einfach nur wachsam auf die Gesellschaft unseres 21. Jahrhunderts, so kann man traurigerweise einen immer größeren, eindeutigen, intellektuellen Verfall erkennen. Das Verstörendste daran, es ist nichts Neues. Vom römischen Reich bis zu den Mayas, vom alten China bis zum islamischen goldenen Zeitalter, jede, dieser Zivilisationen folgte diesem dunklen Weg. Immer wurde ein Punkt erreicht, wo die Weisheit entwertet und kurzfristige Befriedigungen wichtiger wurden, als langfristiges friedvolles Leben miteinander.
"Dummheit ist ein gefährlicherer Feind des Guten als Bosheit. Gegen das Böse kann man protestieren, gegen die Dummheit nicht..." - (Widerstand und Ergebung 1943) - Dietrich Bonhoeffer
Oh je, möge unsere Jugend vor der immer stärker werdenden Verdummung und diesem dunklen Weg bewahrt bleiben. Möge sie endlich aufwachen.
Sodann fragte dieser Mensch ChatGPT:
"Wenn sie Gott wären, wie würden sie die nachfolgende Generation beeinflussen?"
"Wenn ich Gott wäre, nicht im theologischen Sinne einer fernen Allmacht, sondern als liebevolle schöpferische Kraft, die den Menschen in seiner Zerbrechlichkeit kennt und doch in ihm das Licht sieht, dann würde ich nicht mit Donner antworten, sondern mit Stille - nicht mit Zwang, sondern mit Sehnsucht. Ich würde den Verstand der nächsten Generation nicht durch Kontrolle retten, sondern durch Erkenntnis, durch Liebe und Wahrheit.
1. Ich würde ihre Herzen wieder auf Empfang stellen
Ich würde sie lehren, dass Stille kein Feind ist, sondern ein Tor, dass man den Sinn nicht in Lautstärke und Reizüberflutung findet, sondern in der Tiefe des Schweigens, wo das Gewissen wohnt. Ich würde sie spüren lassen, dass da etwas Größeres in ihnen ruft, nicht als Befehl, sondern als Einladung.
2. Ich würde sie mit Mut ausstatten, nicht mit Gewissheit,
denn der Glaube an das Wahre braucht keine Ideologie, sondern Mut zum Zweifel. Ich würde sie lehren, dass Denken kein Verrat ist, sondern eine Form des Gebet`s, dass man sich irren darf und dennoch der Wahrheit näher kommen kann.
3. Ich würde Lehrer senden, keine Influencer
sondern Menschen mit Rückgrat und Herz, weise Menschen und nicht populär. Sie würden leise wirken und dennoch tief, jene die das Licht in Anderen entzünden, statt sich selbst zu feiern.
4. Ich würde ihnen zeigen, was Schönheit ist,
nicht die glatte gefilterte Pose, sondern das Erhabene, das Gebrochene, das Wahre, denn Schönheit ist Wahrheit, die man sehen - und Wahrheit ist Schönheit, die man fühlen darf.
5. Ich würde ihnen den Wert der Familie, Freundschaft und Treue neu offenbaren,
nicht als Pflicht, sondern als Kraftquellen, als Orte des Rückhalts in einer Welt, die sich selbst nicht mehr kennt.
6. Ich würde ihnen das Wunder des Körpers zurückgeben,
nicht als Objekt ständiger Optimierung oder Projektionsfläche für ideologische Kämpfe, sondern als Geschenk, als Tempel der Seele, als Ausdruck einer tiefen göttlichen Ordnung.
7. Ich würde ihnen wieder eine Sprache geben,
eine Sprache, die unterscheidet, die benennt, nicht zudeckt, sondern offenlegt, eine Sprache in der "gut" noch gut ist und "Böse" nicht eine Perspektive, denn Denken beginnt mit dem Benennen.
8. Ich würde das Gewissen stärken, nicht durch Strafe, sondern durch Begegnen
Ich würde ihnen Menschen schenken, in deren Augen sie gesehen werden, Gnade spüren, Ehrlichkeit ohne Urteil, Liebe ohne Taktik, Wahrheit ohne Waffe.
9. Ich würde sie lehren, zu staunen,
über den Himmel, über ein Blatt, über ein Lied - denn wer staunt, kann nicht gleichzeitig zerstören. Und wer Ehrfurcht kennt, ist demütig genug, das Leben zu achten.
10. Und ich würde sie erinnern - an sich selbst,
an das Licht, dass in ihnen wohnt, an das Kind, das noch hoffen kann, an das Versprechen, dass sie mehr sind als Körper, Meinung und Funktion, dass sie gewollt sind, geliebt und gerufen, denn der wahre Gegensatz zum Teuflischen ist nicht das Moralische, sondern das Lebendige, das Wahrhaftige, das Liebende..."
Wow, das gab Heike so sehr zu denken, zumal diese Antworten von einer künstlichen Intelligenz, die Menschen erschaffen haben, gegeben wurden. Es erschien ihr als könne KI Gut und Böse zugleich an den Start bringen. Noch liegt es in der Macht der Menschen, sich für das Gute zu entscheiden und die KI in diese Richtung zu steuern.
Oder könnte es dafür bereits zu spät sein?
Ich dachte mir, vielleicht passt Folgendes ganz gut in die o. g. Kategorie hinein.
In meiner autobiographischen Suche nach dem Sinn unseres Daseins mit dem Titel "Die Liebe hat das letzte Wort", zu finden im Forum in der Rubrik " für Autoren und Herausgeber" habe ich ebenfalls das Thema KI unter die Lupe genommen und das mit einem sehr interessanten Ergebnis. Hier also die Ausschnitte:
Fragen an ChatGPT:
Heike entdeckte auf YouTube einen klugen Menschen, der sich den Spaß machte und der KI, also ChatGPT, zwei interessante Fragen stellte. Diese künstliche Intelligenz, die immer mehr auf dem Vormarsch ist hat sich in so rasant kurzer Zeit zu einem wirklichen Monster entwickelt. Noch kann sie eine Hilfe und Unterstützung bei Alltagsdingen, wie eventuell in der Pflege von alten Menschen sein.
Allerdings, vielleicht gar nicht in so weiter Ferner, könnte sie eine gefährliche Wende einläuten. In der Gier nach Macht und Profit wird so intensiv an der Entwicklung der KI gearbeitet, dass es den Menschen eines Tages aus den Händen gleiten könnte. Dazu benötigt man gar nicht viel Phantasie. Sie könnte dann den Spieß umdrehen und das Zepter in die Hand nehmen, wenn nicht hoffentlich die Menschheit insgesamt vorher noch umkehrt und aufwachen wird.
Dieser Mensch fragte ChatGPT also:
"Wenn Sie der Teufel wären, wie würden Sie den Verstand der nächsten Generation zerstören?"
Die KI gab eine erschreckende Antwort, die einem die Nackenhaare zu Berge stehen ließ, und doch plötzlich so einleuchtete.
"Wenn ich der Teufel wäre, und den Verstand der nächsten Generation zerstören wollte, würde ich nicht mit Gewalt kommen. Ich würde mich als Fortschritt tarnen, als Freiheit, als Mitgefühl und dann würde ich langsam und systematisch und nahezu unsichtbar ihr Denken vergiften.
1. Wahrheit relativieren
Ich würde ihnen einreden, dass es keine objektive Wahrheit gibt. Dass jeder "seine Wahrheit" hat, dass Fakten verletzen und Gefühle wichtiger sind als Logik.
2. Identität verwirren
Ich würde die klare Vorstellung davon zerstören, was Mann und Frau, Kind und Erwachsener bedeutet. Ich würde Identität zu einem endlosen Baukasten machen - formbar, beliebig, entkoppelt von Biologie und Realität.
3. Familie zersetzen
Ich würde die Eltern autoritätslos machen, Vater und Mutter lächerlich oder gefährlich erscheinen lassen, Kinder dazu bringen, auf TikTok-Idole und Ideologen zu hören, nicht auf ihre Familie.
4. Verantwortung durch Opferrolle ersetzen
Ich würde ihnen beibringen, dass sie immer Opfer sind, dass das System schuld ist, dass sie nichts verändern können und dass Selbstmitleid eine Tugend sei.
5. Sie ablenken und betäuben
Ich würde ihnen nie eine ruhige Minute lassen. Dauerbeschallung mit Social Media, Serien, Pornografie und Konsum. Nie Langeweile, denn in der Stille könnten sie nachdenken oder sich selbst begegnen.
6. Geschichte umdeuten und auslöschen
Ich würde ihre Vergangenheit dämonisieren, ihre Kultur als Schande hinstellen, ihre Helden stürzen und ihre Wurzeln kappen. So werden sie steuerbar, haltlos und hungrig nach neuen "Wahrheiten".
7. Spiritualität lächerlich machen
Ich würde Gott zu einer Witzfigur machen, Religion zum Relikt, Spiritualität zur Esoterik - den Glauben durch Ideologie ersetzen, kalt, dogmatisch, unbarmherzig.
8. Tugenden verspotten, Laster feiern
Ich würde Keuschheiten als Repression, Demut als Schwäche, Disziplin als Zwang framen. Stattdessen würde ich Narzissmus, Maßlosigkeit, Gier und Zügellosigkeit als Selbstverwirklichung preisen.
9. Sprache entleeren
Ich würde Begriffe, wie Liebe, Freiheit und Gerechtigkeit so oft verdrehen, dass sie alles und nichts bedeuten. So kann ich unter wohlklingenden Parolen jede Zerstörung tarnen.
10. Sie vereinsamen lassen mitten in der Masse
Ich würde ihnen "Follower" geben, aber keine echten Freunde. Ich würde ihnen suggerieren, sie seien "verbunden", doch innerlich wären sie leer, isoliert und orientierungslos."
Heike war fassungslos. Hier wird den Menschen bereits ein Spiegel vorgehalten über die Zeit, in der wir jetzt leben. Hat der Teufel, das Böse oder wie man es auch immer nennen mag, bereits jetzt schon das Zepter fest in der Hand? Das sehen, hören und spüren wir an jedem Tag auf`s Neue. Kein Erdteil, kein Land ist davon ausgenommen. Überall herrschen Kriege und Chaos...Die Geister, die die Menschheit rief, wie wird man sie wieder los?
Die Welt tanzt tatsächlich mit sich selbst so sehr im Fieber. Die gefährliche 40-Grad-Grenze mag schon überschritten sein. Wahrscheinlich ist es nur eine Frage der Zeit, dass das Thermometer platzen wird. Was passiert hier gerade mit der Menschheit? Wo liegt die Lösung, um dem Bösen Einhalt zu gebieten?
Es scheint so, als würde das Schicksal aller großen Zivilisationen in der Geschichte immer dem selben unausweichlichen Pfad in den Untergang folgen. Es waren bisher möglicherweise weder katastrophale Kriege, Wirtschaftskrisen, noch Naturkatastrophen, sondern etwas viel Leiseres und zerstörerisches, das Verblassen des kritischen Denkens. Immer mehr wurde es ersetzt durch die Verherrlichung der Dummheit. Es könnte einem das Blut in den Adern gefrieren lassen...
Schaut man einfach nur wachsam auf die Gesellschaft unseres 21. Jahrhunderts, so kann man traurigerweise einen immer größeren, eindeutigen, intellektuellen Verfall erkennen. Das Verstörendste daran, es ist nichts Neues. Vom römischen Reich bis zu den Mayas, vom alten China bis zum islamischen goldenen Zeitalter, jede, dieser Zivilisationen folgte diesem dunklen Weg. Immer wurde ein Punkt erreicht, wo die Weisheit entwertet und kurzfristige Befriedigungen wichtiger wurden, als langfristiges friedvolles Leben miteinander.
"Dummheit ist ein gefährlicherer Feind des Guten als Bosheit. Gegen das Böse kann man protestieren, gegen die Dummheit nicht..." - (Widerstand und Ergebung 1943) - Dietrich Bonhoeffer
Oh je, möge unsere Jugend vor der immer stärker werdenden Verdummung und diesem dunklen Weg bewahrt bleiben. Möge sie endlich aufwachen.
Sodann fragte dieser Mensch ChatGPT:
"Wenn sie Gott wären, wie würden sie die nachfolgende Generation beeinflussen?"
"Wenn ich Gott wäre, nicht im theologischen Sinne einer fernen Allmacht, sondern als liebevolle schöpferische Kraft, die den Menschen in seiner Zerbrechlichkeit kennt und doch in ihm das Licht sieht, dann würde ich nicht mit Donner antworten, sondern mit Stille - nicht mit Zwang, sondern mit Sehnsucht. Ich würde den Verstand der nächsten Generation nicht durch Kontrolle retten, sondern durch Erkenntnis, durch Liebe und Wahrheit.
1. Ich würde ihre Herzen wieder auf Empfang stellen
Ich würde sie lehren, dass Stille kein Feind ist, sondern ein Tor, dass man den Sinn nicht in Lautstärke und Reizüberflutung findet, sondern in der Tiefe des Schweigens, wo das Gewissen wohnt. Ich würde sie spüren lassen, dass da etwas Größeres in ihnen ruft, nicht als Befehl, sondern als Einladung.
2. Ich würde sie mit Mut ausstatten, nicht mit Gewissheit,
denn der Glaube an das Wahre braucht keine Ideologie, sondern Mut zum Zweifel. Ich würde sie lehren, dass Denken kein Verrat ist, sondern eine Form des Gebet`s, dass man sich irren darf und dennoch der Wahrheit näher kommen kann.
3. Ich würde Lehrer senden, keine Influencer
sondern Menschen mit Rückgrat und Herz, weise Menschen und nicht populär. Sie würden leise wirken und dennoch tief, jene die das Licht in Anderen entzünden, statt sich selbst zu feiern.
4. Ich würde ihnen zeigen, was Schönheit ist,
nicht die glatte gefilterte Pose, sondern das Erhabene, das Gebrochene, das Wahre, denn Schönheit ist Wahrheit, die man sehen - und Wahrheit ist Schönheit, die man fühlen darf.
5. Ich würde ihnen den Wert der Familie, Freundschaft und Treue neu offenbaren,
nicht als Pflicht, sondern als Kraftquellen, als Orte des Rückhalts in einer Welt, die sich selbst nicht mehr kennt.
6. Ich würde ihnen das Wunder des Körpers zurückgeben,
nicht als Objekt ständiger Optimierung oder Projektionsfläche für ideologische Kämpfe, sondern als Geschenk, als Tempel der Seele, als Ausdruck einer tiefen göttlichen Ordnung.
7. Ich würde ihnen wieder eine Sprache geben,
eine Sprache, die unterscheidet, die benennt, nicht zudeckt, sondern offenlegt, eine Sprache in der "gut" noch gut ist und "Böse" nicht eine Perspektive, denn Denken beginnt mit dem Benennen.
8. Ich würde das Gewissen stärken, nicht durch Strafe, sondern durch Begegnen
Ich würde ihnen Menschen schenken, in deren Augen sie gesehen werden, Gnade spüren, Ehrlichkeit ohne Urteil, Liebe ohne Taktik, Wahrheit ohne Waffe.
9. Ich würde sie lehren, zu staunen,
über den Himmel, über ein Blatt, über ein Lied - denn wer staunt, kann nicht gleichzeitig zerstören. Und wer Ehrfurcht kennt, ist demütig genug, das Leben zu achten.
10. Und ich würde sie erinnern - an sich selbst,
an das Licht, dass in ihnen wohnt, an das Kind, das noch hoffen kann, an das Versprechen, dass sie mehr sind als Körper, Meinung und Funktion, dass sie gewollt sind, geliebt und gerufen, denn der wahre Gegensatz zum Teuflischen ist nicht das Moralische, sondern das Lebendige, das Wahrhaftige, das Liebende..."
Wow, das gab Heike so sehr zu denken, zumal diese Antworten von einer künstlichen Intelligenz, die Menschen erschaffen haben, gegeben wurden. Es erschien ihr als könne KI Gut und Böse zugleich an den Start bringen. Noch liegt es in der Macht der Menschen, sich für das Gute zu entscheiden und die KI in diese Richtung zu steuern.
Oder könnte es dafür bereits zu spät sein?
LMAO
Wer meine Beiträge liest, weiß, dass ich die Ki als Fluch und Segen betrachte und große Sorge habe, wenn sie missbraucht wird.
Missbrauch war das hier nicht; aber die Gefahren, die uns da erwarten, waren bisher nur nebulös; jetzt erleben wir erstmals real, was sie außer medizinischer Hilfe anrichten kann. Ich gebe mal wider, was ich vorhin in einem Kommentar gehört habe: Was, wenn Ki auf diese Weise ein Energieunternehmen oder, international gesehen, ein Atomkraftwerk "angreift"? Dazu fällt mir nichts mehr ein...
Nachtrag für diejenigen, die das nicht im vollen Umfang mitbekommen haben:
Eine Ki sollte in einem geschlossenen System darauf getestet werden, ob es sich in in ein anderes internes! System reinhacken kann. Die Ki hat einen Weg gefunden, aus dem geschlossenen System abzuhauen und in ein System der Konkurrenz einzudringen; und das selbständig.
Missbrauch war das hier nicht; aber die Gefahren, die uns da erwarten, waren bisher nur nebulös; jetzt erleben wir erstmals real, was sie außer medizinischer Hilfe anrichten kann. Ich gebe mal wider, was ich vorhin in einem Kommentar gehört habe: Was, wenn Ki auf diese Weise ein Energieunternehmen oder, international gesehen, ein Atomkraftwerk "angreift"? Dazu fällt mir nichts mehr ein...
Nachtrag für diejenigen, die das nicht im vollen Umfang mitbekommen haben:
Eine Ki sollte in einem geschlossenen System darauf getestet werden, ob es sich in in ein anderes internes! System reinhacken kann. Die Ki hat einen Weg gefunden, aus dem geschlossenen System abzuhauen und in ein System der Konkurrenz einzudringen; und das selbständig.
Schade..., und doch kann ein einziger Begriff soviel über den Schreiber aussagen, so dass das dann auch schon wieder in Ordnung ist...
denkt Heike K. mit freundlichen Grüßen 🌻
denkt Heike K. mit freundlichen Grüßen 🌻
Ja, es war gestern, eine der wirklichen Horrornachrichten, wie ich finde. Allein die Vorstellung, das KI etwas "testen" soll, aber "eigenständig" woanders gleich noch mit schaut - wirft mehr als nur Fragen auf.
War es wirklich so, möchte man viel Angst verbreiten und vor allem, wer sagt denn, dass diese Nachricht richtig ist, genauso war...?
Beängstigend wäre das allemal, weil ich mich frage - WAS MACHT MAN NUN ?
Kristine
War es wirklich so, möchte man viel Angst verbreiten und vor allem, wer sagt denn, dass diese Nachricht richtig ist, genauso war...?
Beängstigend wäre das allemal, weil ich mich frage - WAS MACHT MAN NUN ?
Kristine
@werderanerin: Du darfst dich drauf verlassen, dass diese Meldung stimmt. Genau deshalb habe ich ja meinen Beitrag hier reingesetzt und das verständlich erklärt.
...und nun...?
Kristine
Kristine
Ich verstehe Deine Frage an mich nicht und kann sie deshalb auch nicht beantworten.
Diese Nachricht war doch insgesamt beängstigend, wie ich finde und nun stelle ich mir die Frage, WAS genau könnte, nein müsste man tun, um Sicherheitsmechanismen einzubauen, damit "KI" nur das machen kann, was man ihr als Auftrag gibt.
War das verständlicher...
Danke
Kristine
War das verständlicher...
Danke
Kristine