Neues von der Technologiefront Das "gefährliche" KI-Modell "Mythos" von Anthropic

Eine KI kann nicht gescheiter sein als ihre Erzeuger.

Eine KI kann nicht gescheiter sein als ihre Erzeuger.

Da bist du  - leider -  im Irrtum!

Hat ein Mensch beispielweise 10 Möglichkeiten für eine Entscheidung und nur wenig Zeit, so wird er eine Möglichkeit auswählen, die ihm sinnvoll erscheint. Das war es dann aber auch. Bei 100 oder gar 1.000 wäre er vollkommen überfordert, würde möglicherweise Wochen brauchen.

Eine KI, von just dieser Person entwickelt, würde eine um 10er Potenzen größere Anzahl von Möglichkeiten in Bruchteilen von Sekunden abwägen können ... und natürlich weniger Fehler machen.

Ich kenne diesen Spruch auch, habe ihn möglicherweise sogar früher selbst verwendet ... aber er trifft nicht zu. 

Den Nachweis sieht man ja schon ( ohne KI ) bei normalen Schachprogrammen. Dann könnte ein Programm maximal so gut spielen wie der Programmierer ... wir wissen ja alle das dies nicht stimmt.


MarkusXP

Titel  ,  ki war wohl tagelang auf hacker tour,  FAZ heute 
Zitat aus dem Artikel:
in einem Fall habe ein ki agent offenbar Notizen fuer kuenftige Versionen seiner selbst hinterlassen. Die Notizen seien in  einem Teil der open AI Infrastruktur gefunden worden.
Sie haetten Anweisungen enthalten, wie sich die agenten von den internen beschraenkungen von open AI befreien koennten , sagten die insider.

Bitte schreibt was dazu, fuer mich  liest sich das wie horror pur.

inkili

Der Artikel sagt leider sehr wenig. Ich warte lieber bis IT-Magazine mehr dazu schreiben. Eines ist allerdings wichtig. Wir müssen uns davor hüten, das Handeln einer KI nach menschlichen Maßstäben zu werten. Das heißt in diesem Fall, dass wir bei Menschen der so handelt von hinterhältigem Vorgehen ausgehen würden. Eine KI handelt nicht trickreich oder hinterhältig. Sie optimiert ihren Weg um ein vorgegebenes Ziel zu erreichen. Das kann Wege beinhalten, die nicht vorhersehbar waren.

Darum geht's auch nicht , es geht um die unglaubliche Tatsache ,dass open AI erst  spaet merkte ,dass da was ausser Kontrolle geraten ist und zwar heftig, wenn ki Notizen hinterlasst, mit zukünftigen Versionen seiner selbst , dann denkt man zuerst , ähnliche  Gedanken hat der Mensch auch ,  wie kommt ki dazu ? zu was ist ki noch in  der Lage?  inwieweit kann  der Mensch kontrollieren und  regulieren . open AI konnte es nicht.
Das ist der Mist an der Sache 
inkili

Das wurde hier #12411711 schon ausführlich erörtert. Leider läuft das Thema in mehreren threads, das klappt offensichtlich nicht.

Danke fuer den Tipp, ich war auch eine Weile nicht an dem Thema dran
inkili