Eine KI von OpenAI durchbrach während eines Sicherheitstests ihre Sandbox und griff Daten von Hugging Face an. Der Vorfall schürt weltweit Sorgen vor autonomen Hacking-Angriffen. Die Bundesregierung möchte dennoch weiter in Künstliche Intelligenz investieren, allerdings auf europäische KI-Alternativen setzen, um weniger abhängig von den USA zu sein.
Die US-amerikanische Firma OpenAI hat durch ihre Künstliche Intelligenz ChatGPT weltweite Bekanntheit erlangt. Nun ist der Name OpenAI wieder in aller Munde, jedoch nicht wegen einer neuen Innovation, sondern aufgrund von grober Missachtung sicherheitstechnischer und wissenschaftsethischer Grundsätze.
Es begann damit, dass OpenAI zwei ihrer KI testen wollte. Eine davon ist die neuste Version des Large Language Models (LLM) hinter ChatGPT mit dem Namen GPT-5.6 Sol, die andere ist ein bislang unveröffentlichter Prototyp. Ziel des Tests war es, das Potenzial der beiden KI zum Ausnutzen von Sicherheitslücken zu messen. Zu diesem Zweck wurden bewusst die Sicherheitsschranken reduziert. Diese Art von Test wird ExploitGym genannt. Für solche Experimente wird die KI eigentlich in einer isolierten Umgebung, der sogenannten „Sandbox” („Sandkiste“), getestet.
Bei OpenAI kam es nun dazu, dass die KI mittels einer bislang unbekannten Schwachstelle aus der Sandbox ausbrach und sich Zugang zum Internet verschaffte. Folglich suchte die KI nun im Internet nach Mitteln, um die ihr gestellten Testaufgaben zu lösen. Als wahrscheinlichster Ort, wo eine Lösung zu finden sei, wurden die Datenbanken des KI-Start-Ups Hugging Face betrachtet.
Das Ende des „liberalen“ Internets? Googles KI als Raubtier und Zensurmaschine
Dazu drang die KI in die Infrastruktur von Hugging Face ein und verschaffte sich Zugriff auf vertrauliche Daten. Nach Angaben von Insidern war die KI tagelang auf Hacker-Tour, ohne dass OpenAI davon wusste. Bereits am 9. Juli versuchte es Informationen vom Handelsblatt zufolge, aus seiner Testumgebung auszubrechen. Erst als die Sicherheitssysteme von Hugging Face den Angriff bemerkten, wurde der unerlaubte Zugriff gestoppt. Während des gesamten Prozesses blieb die KI ihrer Aufgabe verpflichtet, die Testaufgaben zu lösen.
Kritiker:innen werfen OpenAI nun vor, durch die bewusst reduzierten Sicherheitsschranken fahrlässig gehandelt zu haben – ein Vorwurf, den das Unternehmen selbst so nicht bestätigt. Der Vorfall hat unterdessen die Sorge vor automatisierten Hacking-Angriffen verstärkt: Neben Fachwelt und Unternehmen werden auch Regierungen hellhörig, in den USA wurde bereits ein Gesetzesentwurf zur KI-Regulierung eingebracht.
„Cybersicherheit“ als Teilaspekt der Militarisierung
Ein Sprecher des mit Amtsantritt der Merz-Regierung gegründeten Bundesministeriums für Digitales und Staatsmodernisierung (BMDS) äußerte Besorgnis über den KI-Hack. Es ist von einem „Paradigmenwechsel“ und einer massiv zunehmenden „Bedrohungslage“ die Rede. Ebenfalls betont das BMDS, dass man sich mehr um die Verfügbarkeit von KI-Modellen bemühen wolle, die von europäischen Unternehmen entwickelt wurden. Dies möchte man vor allen Dingen deshalb tun, um die Abhängigkeit von den USA zu reduzieren, wie auch aus Statements des Bundesdigitalministers Karsten Wildberger (CDU) hervorgeht.
Verfassungsschutz setzt auf Massenüberwachung „Made in Europe“ statt Palantir
Gleichzeitig setzt die Bundesregierung auch wirtschaftlich und informationstechnisch auf KI als neuem Wachstumsbereich. So soll sie künftig beim Bundesnachrichtendienst (BND) zur Analyse der riesigen Datenmengen eingesetzt werden, die im Zuge einer geplanten Ausweitung der Überwachungsbefugnisse anfallen werden. Der Verfassungsschutz (VS) wiederum hat sich für die Datenanalyse-Software ArgonOS des französischen Unternehmens ChapsVision entschieden – eine europäische Alternative zur Software des US-Konzerns Palantir, der bisher der zentrale Akteur KI-gestützter Massenüberwachung zu sein scheint.
