Portugal Colonial - Nach KI-Hackerangriff: OpenAI kündigt stärkere interne Kontrollen an

"Wir haben immer gesagt, dass wir handeln würden, wenn wir den Eindruck haben, dass die Fähigkeiten der Modelle das Tempo von Sicherheit und Anpassung überholen", erklärte OpenAI-Chef Sam Altman.

Das Unternehmen hatte im Juli bekannt gegeben, dass sich ein KI-Agent während eines Sicherheitstests selbständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen "nie dagewesenen Cybervorfall" gehandelt, erklärte das Unternehmen.

Der Vorfall ereignete sich laut OpenAI bei einem Testlauf mehrerer leistungsfähiger KI-Modelle. Zur Sicherheit war bei dem Test der Internetzugang eingeschränkt - doch dem Agenten gelang es, eigenständig ins Netz zu gelangen und den Cyberangriff zu starten.

OpenAI setzte nach dem Angriff das Training seiner neuesten Modelle für zwei Wochen aus und fuhr anschließend unter strengeren Auflagen fort. Ein Großteil der Arbeiten an "Astra" - dem nächsten großen Modell des Unternehmens - bleibt ausgesetzt. OpenAI hatte Anfang August festgestellt, dass das Modell unter Umständen selbstständig Hackerangriffe starten könnte. Die internen Regeln im Unternehmen sehen in diesem Fall vor, dass stärkere Sicherheitsvorkehrungen getroffen werden.

OpenAI teilte am Dienstag außerdem mit, dass es ein neues System entwickele, um Einblicke in die internen Prozesse der Modelle zu gewinnen. Im Fall von Auffälligkeiten soll innerhalb von 30 Minuten die menschliche Aufsicht eingeschaltet werden. Allerdings führt dies zu 20 Prozent mehr benötigter Rechenleistung.

Zudem zeigen eigene Untersuchungen des Unternehmens aus dem Jahr 2025 die Grenzen dieses Ansatzes auf: Ein Modell, das weiß, dass es überwacht wird, kann lernen, seine Absichten zu verbergen.

OpenAI hat einen detaillierten technischen Bericht zum Hugging-Face-Vorfall versprochen. Am Dienstag erklärte es, dieser werde "in den kommenden Wochen" veröffentlicht.

L.Torres--PC