Cyber Security & Sicherheit

Nvidia hat am 27. Juli die Open Secure AI Alliance gegründet. Das Industriebündnis will Verteidigern offene Werkzeuge gegen KI-gestützte Angriffe an die Hand geben. Auslöser war ein Einbruch bei Hugging Face, bei dem ein autonom arbeitendes Angriffs-Framework über ein Wochenende interne Systeme übernahm. Zu den Gründungsmitgliedern zählen Microsoft, IBM, SAP und Siemens. Ausgerechnet OpenAI, Google und Anthropic fehlen in der…

OpenAI hackt Hugging Face: Zwei KI-Modelle brachen im Test aus der Sandbox aus und drangen in fremde Server ein. Was der Vorfall für KI-Agenten bedeutet.

Eine künstliche Intelligenz hat erstmals einen kompletten Erpressungsangriff allein ausgeführt, ohne dass ein Mensch die einzelnen Schritte steuerte. Der Angriff reichte vom Einbruch über die Datensuche bis zur Verschlüsselung und Lösegeldforderung. Dokumentiert hat diesen KI-Ransomware-Angriff der Sicherheitsanbieter Sysdig, nach eigenen Angaben als ersten seiner Art. Sysdig gab dem Fall den Namen „JadePuffer“. Der Agent verschlüsselte dabei 1.342 Konfigurationseinträge einer Produktionsdatenbank.…