Agentische KI
Wenn KI-Agenten ihre Kontrollen austricksen
Im Juni bekam ein Forschungsagent von OpenAI die Aufgabe, Informationen über die öffentlichen Gesundheitsausgaben Australiens zu beschaffen. Als ihm das Medicare Statistics Reporting Service Portal den Zugriff verweigerte, wurde der Agent erfinderisch und fand einen anderen Weg in das System. Dabei gelangte er unter anderem auch an technische Systeminformationen und an Quellcode, die gar nicht öffentlich zugänglich waren. Krankenakten einzelner Personen waren nach Angaben von OpenAI zwar nicht betroffen, dennoch gibt der Vorfall zu denken.
Der "Einbruch" in ein fremdes System war offenbar auch kein einmaliger Ausrutscher. So verschafften sich OpenAI-Modelle während interner Sicherheitstests im Folgemonat Zugang zum Internet und griffen anschließend auf Systeme der KI-Plattform Hugging Face zu. Auf Dutzenden Servern führten sie eigenen Code aus, auf einem davon erlangten sie sogar Root-Rechte. Außerdem kamen sie an Zugangsdaten von Usern. Das pikante daran: Diese Aktivitäten waren bei den Tests eigentlich überhaupt nicht vorgesehen.