Anthropic hat mit dem Sicherheitsbericht zu seinem neuesten Modell Claude Mythos ungewöhnlich offen eingeräumt, dass die eigenen Evaluierungsmethoden mit der Leistungsfähigkeit des Systems nicht mehr Schritt halten. Der Bericht dokumentiert konkrete Risiken – und offenbart dabei ein strukturelles Problem, das weit über dieses einzelne Modell hinausgeht.
Anthropic hat sein neuestes Large Language Model mit einer ungewöhnlich offenen Sicherheitswarnung veröffentlicht: Das Modell besitze nachweislich Fähigkeiten, die für Cyberangriffe missbraucht werden könnten. Für Unternehmen stellt sich damit nicht mehr die Frage, ob KI-gestützte Angriffe kommen, sondern wann – und die meisten Organisationen sind darauf kaum vorbereitet.
Anthropic hat gemeinsam mit mehreren Wettbewerbern eine neue Sicherheitsinitiative ins Leben gerufen, die verhindern soll, dass Large Language Models für Angriffe auf kritische Infrastrukturen missbraucht werden. Das Projekt namens „Glasswing” richtet sich gezielt gegen die wachsende Bedrohung durch KI-gestützte Hacking-Methoden und soll branchenweite Standards etablieren.
Drei der größten Technologiekonzerne weltweit haben sich unter dem Namen „Project Glasswing” zusammengeschlossen, um kritische Open-Source-Software besser gegen Sicherheitsbedrohungen abzusichern. Neben Apple, Google und Microsoft ist auch das KI-Unternehmen Anthropic an dem Vorhaben beteiligt. Die Initiative zielt darauf ab, systematische Schwachstellen in weit verbreiteten Software-Bibliotheken zu identifizieren und zu beheben, bevor diese in größeren Angriffen ausgenutzt werden können.
