Tag: KI-Governance

Anthropic veröffentlicht sein neuestes Modell Claude Mythos Preview nicht für die breite Öffentlichkeit – mit der Begründung, es sei zu leistungsfähig im Bereich Cybersecurity. Das Modell soll eigenständig Tausende Schwachstellen in Betriebssystemen und Browsern identifiziert haben, die kaum ein menschlicher Prüfer nachvollziehen konnte. Damit wiederholt sich ein Muster aus der frühen KI-Geschichte – diesmal jedoch mit konkreten technischen Belegen.

Anthropic hat entschieden, ein intern entwickeltes KI-Modell nicht öffentlich bereitzustellen – mit der Begründung, dass dessen Fähigkeiten im Bereich Cybersecurity ein zu hohes Missbrauchsrisiko darstellen. Es ist einer der seltenen dokumentierten Fälle, in denen ein führendes KI-Labor ein fertiges Modell bewusst aus dem Markt herausnimmt.