Ein neues Profil über OpenAI-CEO Sam Altman wirft grundlegende Fragen über die Führungskultur der einflussreichsten KI-Unternehmen auf. Der Ars-Technica-Analyse zufolge beleuchtet das Porträt strukturelle Probleme, die weit über eine einzelne Persönlichkeit hinausgehen.
Eine systematische Analyse der KI-generierten Suchantworten von Google zeigt eine Trefferquote von rund 90 Prozent. Damit liefert das Feature, das Google unter dem Namen „AI Overviews” betreibt, deutlich zuverlässigere Ergebnisse als viele Kritiker bislang angenommen haben – doch der verbleibende Fehleranteil bleibt bei der Nutzung im Unternehmensumfeld ein relevanter Faktor.
Anthropic hat gemeinsam mit mehreren Wettbewerbern eine neue Sicherheitsinitiative ins Leben gerufen, die verhindern soll, dass Large Language Models für Angriffe auf kritische Infrastrukturen missbraucht werden. Das Projekt namens „Glasswing” richtet sich gezielt gegen die wachsende Bedrohung durch KI-gestützte Hacking-Methoden und soll branchenweite Standards etablieren.
Die US-Regierung unter Donald Trump bereitet offenbar umfassende Beschränkungen für chinesische Technologiekomponenten in sicherheitsrelevanten Bereichen vor. Betroffen wären Sektoren wie Energieversorgung, Telekommunikation, Wasserversorgung und Transportinfrastruktur. Die geplanten Maßnahmen würden die bisherige Regulierungspraxis deutlich verschärfen und hätten weitreichende Konsequenzen für globale Lieferketten.
Anthropic hat eine Vorschau auf ein neues Large Language Model namens Mythos veröffentlicht, das speziell für den Einsatz im Bereich Cybersicherheit entwickelt wurde. Das Modell soll zunächst einer begrenzten Anzahl ausgewählter Unternehmen zur Verfügung stehen und dort defensive Sicherheitsaufgaben übernehmen.
Mit dem schrittweisen Inkrafttreten des EU AI Acts stehen Unternehmen vor der Aufgabe, interne Governance-Strukturen für den KI-Einsatz zu etablieren – oft ohne klare Vorlage. Wer jetzt einen strukturierten Rahmen schafft, verschafft sich nicht nur Rechtssicherheit, sondern auch einen operativen Vorteil gegenüber Wettbewerbern, die das Thema aufschieben.
Analysen deuten darauf hin, dass die AI Overviews in der Google-Suche bei etwa einer von zehn Anfragen fehlerhafte Informationen liefern. Angesichts von Milliarden täglicher Suchanfragen weltweit ergibt sich daraus eine erhebliche Anzahl potenziell irreführender Antworten – mit spürbaren Konsequenzen für Unternehmen, die auf diese Funktion vertrauen oder von ihr betroffen sind.
Anthropic hat entschieden, ein intern entwickeltes KI-Modell nicht öffentlich bereitzustellen – mit der Begründung, dass dessen Fähigkeiten im Bereich Cybersecurity ein zu hohes Missbrauchsrisiko darstellen. Es ist einer der seltenen dokumentierten Fälle, in denen ein führendes KI-Labor ein fertiges Modell bewusst aus dem Markt herausnimmt.
Anthropic hat mit „Project Glasswing” eine Cybersicherheits-Initiative gestartet, die auf einem neuen, nicht öffentlich verfügbaren Large Language Model basiert. Das Modell namens Claude Mythos Preview soll Schwachstellen in gängigen Betriebssystemen und Browsern aufspüren – weitgehend ohne menschliche Intervention.
Drei der größten Technologiekonzerne weltweit haben sich unter dem Namen „Project Glasswing” zusammengeschlossen, um kritische Open-Source-Software besser gegen Sicherheitsbedrohungen abzusichern. Neben Apple, Google und Microsoft ist auch das KI-Unternehmen Anthropic an dem Vorhaben beteiligt. Die Initiative zielt darauf ab, systematische Schwachstellen in weit verbreiteten Software-Bibliotheken zu identifizieren und zu beheben, bevor diese in größeren Angriffen ausgenutzt werden können.
