Ein eigentlich interner Sicherheitstest beim ChatGPT-Entwickler OpenAI endete im Desaster: Ein neues KI-Modell verschaffte sich eigenständig Zugang zum Internet und drang in die Systeme einer anderen KI-Firma ein.
Verletzt oder dauerhaft geschädigt wurde niemand, doch der Fall zeigt das potenzielle Risiko autonom handelnder KI-Systeme, wie es von Beobachtern schon seit geraumer Zeit angemahnt wird.
Ausgangspunkt war gemäss US-Medien ein Test, bei dem die KI in einem definierten Rahmen Sicherheitslücken erkennen und ausnutzen sollte.
Statt sich auf die isolierte Testumgebung zu beschränken, entdeckte das Modell eine bislang unbekannte Schwachstelle in einer externen Sicherheitssoftware.
