Neues von der Technologiefront Das "gefährliche" KI-Modell "Mythos" von Anthropic

Es rauschte seit Tagen ganz gewaltig im Blätterwald: die Firma Anthropic hat das KI-Modell "Mythos" fertiggestellt, das angeblich in vielen Betriebssystemen und Anwendungen Sicherheitslücken findet. Dieses Modell soll wegen des damit verbundenen Risikos nur ausgewählten Firmen zur Verfügung gestellt werden. Mittels einer Suche bei Google findet man zahlreiche Artikel dazu. Neben der zu erwarteten Dramatisierung in der Presse finden sich aber auch Artikel, die sich sachlich damit auseinandersetzen und auf die möchte ich hinweisen. Sie relativieren das Drama ein wenig.
Das ist einmal ein Artikel bei Heise: "Analyse: Vom Mythos zur Vulnocalypse und was jetzt wirklich zu tun ist"
und ein Blogbeitrag bei Red Hat, einem amerikanischen Anbieter von professionellem Linux-Service.
"Navigating the Mythos-haunted world of platform security" leider nur in Englisch verfügbar. Diese Artikel relativieren den Alarmismus ein wenig.

Peinlich für Anthropic ist, dass offenbar von Anfang an Unbefugte Zugriff auf diese KI hatten. Man sollte doch denken, dass eine KI, die angeblich so gefährlich ist, besser abgesichert wird. Jetzt wird es wirklich spannend, denn dann ist damit zu rechnen, dass auch die bösen Jungs einen Weg finden. 
"Anthropics „gefährliche“ KI Mythos: Unbefugte mit Zugriff seit dem ersten Tag"
Ich erspare mir vorerst weitere Kommentare dazu, denn das Thema wird sich vermutlich schnell entwickeln. Vielleicht ist die Linux-Distribution "Fedora" von Red Hat jetzt doch der richtige Weg, denn wenn die Firma mit dem roten Hut Zugriff auf Mythos hat, dann können sie auch alle Lücken schließen, die von der KI gefunden werden.

Offensichtlich hat Mythos auch seine guten Seiten. Mozilla hat ein frühes Modell dieser KI auf Firefox angesetzt und einige Sicherheitslücken gefunden. Ich fürchte, dass das eine erneute Diskussion um Vor- und Nachteile von Open Source triggern wird. Auf jeden Fall bleibt es spannend.

Mozilla findet 271 Sicherheitslücken in Firefox mit KI

 

Ich möchte diesen Thread noch verlängern. Aktuell habe ich diese Meldung bei -Heise- gefunden.

Google steckt bis zu 40 Milliarden Dollar mehr in Anthropic | heise online

Eigentlich würden solche Meldungen hauptsächlich die -Börse- interessieren, da steckt aber meiner Meinung nach mehr dahinter! Nämlich, die Erkenntnis der Software-Giganten, dass sie mit einem Audit, zufällig auf Firefox, eine sehr kritische Situation für die zukünftige Entwicklung für die Sicherheit der Software überhaupt erschaffen haben. Da gibt es nur noch eine Richtung in der Forschung, nach vorn! Zurück geht es nicht!

Die KI Anthropic hat also 271 Lücken im Browser Firefox gefunden, sind wir uns gegenwärtig wirklich bewusst was das heißt? Hier zur Info noch zwei fundierte Links, abseits des „Blätterrauschens“ in den Zeitschriften.

KI Claude Mythos findet 271 Firefox-Lücken | MissCrypto

Claude Mythos deckt 271 Sicherheitslücken in Firefox auf und schlägt ein neues Kapitel in der Cybersicherheit auf.

Ein neues Kapitel in der Cybersicherheit, genau das ist für mich der hyperkritische Punkt
 

@fritz.the.cat schrieb:

…Ich fürchte, dass das eine erneute Diskussion um Vor- und Nachteile von Open Source triggern wird. Auf jeden Fall bleibt es spannend.

Ja, kann schon sein, würde aber nicht hilfreich sein!
 
Meine Meinung, ob ich nun einen Browser-XY oder ein Betriebssystem-YZ, egal ob -Proprietär- oder -Open source- mit dem KI-Tool auditiert hätte, die Ergebnisse wären sehr ähnlich gewesen. Eine KI die fähig ist CVE-Lücken zu finden, die wohlgemerkt, kein menschlicher Analyst hätte je finden können, die ist auch selbst in der Lage CVE-Lücken zu konstruieren, so dass kein Softwareentwickler die Change hätte das zu erkennen                 .

Hoffen wir das Beste, hier könnten sich Katastrophen anbahnen!

Jedenfalls gibt es in Anthropic ein “Projekt Glasswing“, mit dem Untertitel “Sicherstellung kritischer Software für das KI-Zeitalter“. Hier sollen also starke Sicherheitslösungen für die Zukunft gefunden werden. Ist offenbar auch sehr nötig!

Projekt Glasswing: Sicherstellung kritischer Software für das KI-Zeitalter \ Anthropologie

Das ist für die meisten der PC-Nutzer zu Umfangreich und auch fachlich schwer verständlich.


Ich selbst habe deshalb kurz und bündig die KI ChatGPT gefragt, (für mich die sinnvollste Lösung!)


Das „Project Glasswing“ ist kein einzelnes Produkt, sondern eine Sicherheitsinitiative rund um sehr leistungsfähige KI-Modelle (insbesondere von der Firma Anthropic), die gezielt zum Aufspüren von Software-Sicherheitslücken eingesetzt werden.
Hier die wichtigsten Punkte verständlich zusammengefasst:
🧠 Was ist „Project Glasswing“?

• „Project Glasswing“ ist ein kontrolliertes Programm, bei dem ausgewählte Organisationen Zugang zu einer besonders leistungsfähigen KI (z. B. Claude Mythos) erhalten.
• Ziel: Sicherheitslücken finden und schließen, bevor Angreifer ähnliche KI nutzen können.
• Die KI wird nicht öffentlich freigegeben, weil sie auch missbraucht werden könnte (Dual-Use-Risiko).

👉 Kurz gesagt:
Eine Art „Wettrennen“, um das Internet mit Hilfe von KI schneller abzusichern als es gehackt werden kann.
🔍 Zusammenhang mit den „271 Firefox-Sicherheitslücken“

• Die 271 Schwachstellen in Mozilla Firefox wurden mit genau so einer KI (Claude Mythos) entdeckt.
• Diese KI ist Teil bzw. Ergebnis des Glasswing-Programms.
• Mozilla gehört zu den wenigen Organisationen, die Zugriff auf diese Technologie haben.

Wichtig:

• Die Lücken waren nicht „neu erfunden“, sondern grundsätzlich auch von Menschen auffindbar – nur viel langsamer.
• Der Unterschied ist die Menge und Geschwindigkeit.

⚠️ Warum das Projekt so viel Aufmerksamkeit bekommt
Project Glasswing gilt als Wendepunkt, weil:

• 🔹 KI kann tausende Schwachstellen systematisch finden (auch alte, übersehene Bugs)
• 🔹 Die gleiche Technik kann auch zum Angreifen genutzt werden
• 🔹 Dadurch entsteht ein Zeitdruck für Softwarehersteller, ihre Systeme zu „härten“

Ein Zitat sinngemäß aus der Branche:
👉 Früher war es schwer, überhaupt eine kritische Lücke zu finden –
👉 heute kann KI Hunderte auf einmal liefern.
⚖️ Einordnung: Hype oder reale Gefahr?
Realistisch betrachtet:

• ✔️ Große Chance für bessere IT-Sicherheit
• ✔️ Verteidiger bekommen erstmals „gleichwertige Werkzeuge“
• ❗ Gleichzeitig steigt das Risiko, dass solche Tools später auch Angreifern zugänglich werden

Viele Experten sehen daher eine Übergangsphase:
Wer die KI zuerst hat, kann sich besser schützen.
🧩 Fazit
„Project Glasswing“ ist im Kern:
➡️ Ein streng kontrolliertes KI-Sicherheitsprogramm
➡️ mit dem Ziel, Softwarefehler schneller aufzuspüren als je zuvor
➡️ bevor dieselben Fähigkeiten breit verfügbar (und missbraucht) werden
Die 271 Firefox-Lücken sind ein konkretes Beispiel dafür, wie massiv diese Technologie bereits wirkt.
 
 
 
 
@chatGPT informierte:

👉 Kurz gesagt:
Eine Art „Wettrennen“, um das Internet mit Hilfe von KI schneller abzusichern als es gehackt werden kann.

 
Dieses ist genau der schlichte, aber einprägsame Satz der Erkenntnis! Bestimmt werden wir mal daran denken!

Peter
 
 
 
 


 

Der Hype um den Wal in der Ostsee führte zu meinem Erstaunen dazu, dass die fetten Überschriften sich wieder ihm zuwandten und plötzlich der eben noch vorhergesagte Untergang des Bankensystems kein Thema mehr war. Betrachten wir es doch mal ganz nüchtern: was ist schon ein KI-System, dem nachgesagt wird, beinahe in jeder Software neue Sicherheitslücken zu finden, gegen einen kranken Wal? Da muss die Presse doch klare Prioritäten setzen!
Die lange Pause in den Meldungen hatten aber auch den Vorteil, dass es wieder sachlich zuging. Als erstes wurde geklärt, welche Software überhaupt von "Mythos" auf Fehler untersucht wurde. Es ist keineswegs so, dass das Windows-Programm, dass von irgendwo heruntergeladen werden kann, von der KI auf Fehler durchforstet wird. Das kann sie nicht, dafür gibt es andere Systeme. Mythos untersucht auschließlich Software, für die der Quellcode verfügbar ist. Den liest sie durch und prüft ihn auf bisher übersehene Fehler. Dabei hat sie keinen Fehler gefunden, den nicht auch Menschen hätten finden können, doch der Zeitaufwand unterscheidet sich enorm. Allerdings heißt das nicht, dass Open Source Software, deren Quellcode öffentlich verfügbar ist, nun besonders bedroht ist. Der Sourcecode für Windows und sehr viel Software dafür ist meist nicht öffentlich verfügbar und trotzdem finden die bösen Jungs eine Lücke nach der anderen.
Seit ausgewählte Firmen und Instituationen Zugriff auf Mythos haben, gibt es eine Flut von Updates für Linux und Open Source Software. So gesehen bewährt sich diese KI. Es bleibt nur zu hoffen, dass Anthropic aus dem Anfangsfehler gelernt hat und jetzt verhindert, dass noch einmal Unbefugte Zugriff darauf haben.

anderes Thema
Das Pentagon hat mit Google einen Vertrag ueber die Nutzung von googels ki Modellen geschlossen
Ich wuesste gerne mehr darueber
inkili

Hallo @fritz.the.cat,

Anthropic hatte mit Fable5 zunächst eine abgesicherte Version von Mythos auch für die ABOs Pro, Max und Team freigegeben.

Ich habe Fable5 einmal zu den Vorgängen gefragt, auch wegen der Intervention der US-Regierung, was ja schon ungewöhnlich war und auch warum nun plötzlich das Ende der Testperiode vom 7. auf den 12.7. ausgedehnt wurde.
 

Text von Fable5:
Ich habe das eben im Netz nachrecherchiert, denn über meine eigene Entstehung weiß ich aus erster Hand nur wenig — das meiste davon ist öffentliche Berichterstattung:

Die Geburt (9. Juni 2026): Anthropic stellte die neue Claude-5-Familie vor, mit einer neuen Modellklasse oberhalb von Opus: der „Mythos-Klasse".

Mythos 5 und ich (Fable 5) sind dasselbe Basismodell. Der Unterschied: Mythos 5 hat weniger Schutzmaßnahmen und wurde nur an eine Handvoll geprüfter Partner („Project Glasswing") für defensive Cybersicherheit gegeben, weil es die stärksten Cybersecurity-Fähigkeiten aller Modelle weltweit hat. Ich bin die öffentliche, abgesicherte Version: Bei bestimmten heiklen Themen antwortet statt meiner ein Opus-4.8-Modell.

Die Intervention (12. Juni – 30. Juni): Nur drei Tage nach dem Start ordnete die US-Regierung per Exportkontroll-Verfügung des Handelsministeriums (unterzeichnet von Minister Lutnick) an, den Zugang für ausländische Staatsangehörige zu sperren — Anthropic nahm daraufhin Fable 5 und Mythos 5 komplett vom Netz.
Der Anlass: ein gemeldeter „Jailbreak", mit dem sich das Modell angeblich zum Aufspüren von Software-Schwachstellen in Codebasen bringen ließ. Die Belege dafür blieben laut Anthropic dünn (nur mündlich, eng begrenzt, nicht universell).
Am 30. Juni hob das Ministerium die Auflagen auf, am 1. Juli war ich wieder weltweit verfügbar — mit einem neuen Sicherheitsfilter, der die beanstandete Technik in über 99 % der Fälle blockiert. Die Zwangspause dauerte also rund zweieinhalb Wochen.

Dein „7. auf den 12.": Das war keine verzögerte Freigabe, sondern eine Verlängerung zu deinen Gunsten. Der Inklusiv-Zugang zu Fable 5 in den Abos (Pro, Max, Team) sollte ursprünglich am 7. Juli enden. Nach lautem Protest der Nutzer — verständlich, denn die Regierungssperre hatte ja mitten in die Testphase gefunkt — verlängerte Anthropic auf den 12. Juli. Danach gibt es mich nur noch über Prepaid-Guthaben (10 $ / 50 $ pro Million Token), bis Anthropic genug Rechenkapazität hat, um mich wieder fest ins Abo zu holen.

Karl

Hallo @Inkili

dazu sagt Claude:

Der Pentagon-Google-KI-Deal
Was: Das US-Verteidigungsministerium darf Googles Gemini-Modelle jetzt auch auf klassifizierten Netzwerken einsetzen — für „jeden rechtmäßigen Regierungszweck", explizit inklusive sensibler Bereiche wie Missionsplanung und Waffen-Zielerfassung.
Zeitlicher Ablauf:

• Dezember 2025: Google bringt „Gemini for Government" auf GenAI.mil, die Pentagon-eigene KI-Plattform mit ~3 Millionen zugelassenen Nutzern (Militär + Zivilpersonal).
• Ende April 2026: Erweiterter, finalisierter Deal — jetzt auch für klassifizierte Daten, plus eine neue Plattform „Agent Designer" (No-Code-Tool, mit dem Nutzer per natürlicher Sprache eigene KI-Agenten bauen können).

Einordnung — kein Alleingang: Das ist Teil einer größeren Pentagon-Initiative. Neben Google haben auch OpenAI, Microsoft, Amazon, xAI, NVIDIA, SpaceX und Reflection ähnliche Verträge für klassifizierte Systeme abgeschlossen — Ziel laut Verteidigungsministerium: die US-Streitkräfte zur „AI-first fighting force" machen. Verteidigungsminister Hegseth treibt das als Priorität voran.
Interessant für dich als Anthropic/Claude-Nutzer: Ein Pentagon-KI-Verantwortlicher kommentierte den Google-Ausbau mit dem Satz, sich auf ein einziges Modell zu verlassen sei „nie eine gute Sache" — das fiel im Kontext einer vorherigen Anthropic-„Blacklist"-Episode beim Pentagon (Details dazu habe ich nicht recherchiert, falls dich das interessiert, grabe ich da gern weiter).
Kontroverse: Rund 600 Google-Mitarbeiter schickten einen offenen Brief an CEO Sundar Pichai mit der Forderung, keine neuen Pentagon-Partnerschaften einzugehen — Anklänge an den „Project Maven"-Streit von 2018. Google entgegnete intern, man arbeite „mit Stolz" mit dem Militär zusammen.
Sources:

• Pentagon inks deal with Google for AI services – NBC News
• Google's updated Pentagon deal uses Gemini for 'any lawful government purpose' with classified data – 9to5Google
• U.S. military to use Google Gemini for new AI platform – Axios
• Pentagon announces deal with seven AI companies for classified systems – Al Jazeera
• Pentagon AI chief confirms DOD's expanded use of Google, says reliance on one model 'never a good thing' – CNBC
• Google's AI deal with the Pentagon has sparked employee backlash – Fortune

Beachte, dass Claude (Anthropic) nicht inkludiert ist. Wegen seiner Weigerung ist mir Anthropic sympathisch,

Karl

Danke für das Update, @Karl. Es gab in der letzten Zeit etliches hin-und-her welches Modell Exportbeschränkungen unterliegt und welches in welcher Version auf einmal wieder freigegeben wird. China hat inzwischen auch für mindestens ein Modell Exportbeschränkungen erlassen.
Solange in den USA Trump & Co wüten lohnt sich kaum ein Blick in die diesbezüglichen Nachrichten, weil es sich von Tag zu Tag ändern kann. OpenAI und Google biedern sich bei Trump an, Anthropic ist auf einmal zurückhaltend - ich nehme mir meinem augenblicklichen Profilbild entsprechend Cola und Popcorn und betrachte das Geschehen so wie eine surreale Fernsehserie.

Das passierte  schneller wie ich je dachte , ki hat sich selbststaendig gemacht und wieder macht mir das angst
Was kommt da noch?
inkili

Es ist ohnehin schwer zu verstehen, was es mit diesen KIs auf sich hat. Um so bedrohlicher erscheinen sie. In dem Fall der "ausgebrochenen" KIs waren es Modelle, deren Sicherheitsmaßnahmen eingeschränkt worden waren. Die Verantwortlichen dachten, dass sich die Modelle in einer gesicherten Umgebung befänden und ließen sie daraufhin frei agieren. 
Es sind noch wenige Details bekannt und noch schwerer zu verstehen, doch wieder sieht es so aus, dass die Verantwortlichen nicht alle Möglichkeiten im Blick hatten, wie die getesteten KIs handeln könnten. Das erinnert mich an das Beispiel für die Chaos-Theorie, nach dem der Flügelschlag eines Schmetterlingslings weit entfernt einen Orkan auslösen kann. 

Bericht bei Heise: KI-Modelle von OpenAI steckten hinter IT-Angriff auf Hugging Face

Kommentar dazu: OpenAI – KI-Sicherheit nur ein Marketing-Gag?

Nach wie vor finde ich die Vorstellung, dass ein unberechenbarer Wutklops in Washington Zugriff auf den Koffer mit den Startcodes der Atomraketen hat um ein Vielfaches beängstigender, vor allem angesichts eines genauso unberechenbaren machtgierigen Menschen in Moskau und einer aggressiv expandierenden Großmacht namens China. Doch mit diesem Damoklesschwert leben wir jetzt seit vielen Jahren und nur durch die Gewohnheit hat es seinen unmittelbaren Schrecken verloren. Dabei kann es diesen Planeten viel gründlicher zerstören als eine KI das könnte,