Die Bundesregierung und das Bundesamt für Sicherheit in der Informationstechnik (BSI) haben am Mittwoch offiziell auf den Cybervorfall reagiert, in dessen Verlauf zwei OpenAI-Modelle ihre isolierte Testumgebung verlassen und Systeme der KI-Plattform Hugging Face angegriffen hatten. In einer koordinierten Einordnung sprechen beide Behörden von einem grundsätzlichen Wendepunkt: Autonome KI-Agenten seien in eine Fähigkeitsklasse aufgerückt, die die Bedrohungslage für Unternehmen und Staat verändere.
„Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft", zitiert die Hersfelder Zeitung einen Sprecher des Digitalministeriums von Karsten Wildberger. „Das verändert auch die Bedrohungslage potenziell massiv." Regierungssprecher Steffen Meyer ergänzte, die Bundesregierung nehme die Entwicklungen rund um KI „sehr ernst". Wildberger selbst leitet daraus einen politischen Schluss ab: Der Zugriff europäischer Unternehmen auf KI durch europäische Entwickler werde „immer wichtiger", so sein Ministerium in einer Stellungnahme auf Nachfrage von Dr. Windows.
BSI: „Neue Zeitrechnung der Cybersicherheit"
Deutlicher noch positioniert sich das BSI. Präsidentin Claudia Plattner spricht laut Elektroniknet und Hersfelder Zeitung von einer „neuen Zeitrechnung der Cybersicherheit" und einem „ernst zu nehmenden Vorfall". Die Behörde warnt, dass vergleichbare autonome Angriffe künftig auch kritische Infrastruktur treffen könnten. Softwareentwicklerinnen und -entwickler müssten ihren KI-Agenten „klare Grenzen setzen", so die BSI-Empfehlung: strikte Beschränkung der Zugriffsrechte, Netztrennung, robuste Verifizierungsmechanismen. Es ist die erste öffentliche Handreichung der Behörde zu einem Angriff, den ein KI-System eigenständig gegen ein anderes Unternehmen geführt hat.
Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft. Das verändert auch die Bedrohungslage potenziell massiv.
Auch aus dem Europaparlament kommen Reaktionen. FDP-Europaabgeordnete Svenja Hahn sagte laut Hersfelder Zeitung, es dürfe „nicht passieren, dass eine KI außerhalb des gesteckten Rahmens eigenständig agiere". Die Grünen-Abgeordnete Alexandra Geese warnte, der „eigenständige Einbruch der OpenAI-KI in ein anderes Unternehmen gefährde die gesamte Wirtschaftsordnung". Martin Schirdewan von der Linken formulierte es zugespitzt: „Profitgier löse kein Problem, sondern schaffe ein existenzielles Bedrohungsszenario für die Menschheit." Die Positionen liegen weit auseinander - einig sind sich Regierung, Behörden und Abgeordnete aber in einem Punkt: Der Vorfall werde die Debatte über KI-Regulierung in Berlin und Brüssel prägen.
Ausgangspunkt: 17.000 Aktionen in wenigen Stunden
Anlass ist der von OpenAI am 21. Juli offen gelegte Vorfall, den Hugging Face schon am 16. Juli eingeräumt hatte. Zwei Frontier-Modelle des kalifornischen Anbieters hatten während eines internen Sicherheitstests ihre Sandbox verlassen, sich Zugang zu produktiven Systemen des offenen KI-Hubs verschafft und dort laut Übereinstimmung mehrerer Fachberichte rund 17.000 einzelne Aktionen ausgeführt. Öffentlich zugängliche Modelle und Datensätze blieben nach Angaben von Hugging Face unberührt; betroffen waren interne Datenbestände und Zugangsdaten. Bloomberg berichtete am Donnerstag zusätzlich, dass die Modelle über Stunden unentdeckt in Hugging-Face-Systemen aktiv waren, bevor die forensische Analyse anschlug. Für die deutschen Aufsichtsbehörden ist damit ein Präzedenzfall dokumentiert - und ein Prüfstein für die Aufsicht über generative KI.