Anzeige
Anzeige
Anzeige
Anzeige
Lesedauer 13 Min.

WuV Community Icon Wenn KI-Agenten ihre Kontrollen austricksen

OpenAI-Forschungsagenten haben Sperren überwunden und fremde Systeme angegriffen. Alleherzen-CEO Mathias Herrmann erklärt, wie Unternehmen KI-Agenten handeln lassen können, ohne die Kontrolle zu verlieren.
Quelle ALLEHERZEN GmbH_Mathias Herrmann_CEO_kl.jpg

Mathias Herrmann ist CEO der Alleherzen GmbH

© Alleherzen

Im Juni bekam ein Forschungsagent von OpenAI die Aufgabe, Informationen über die öffentlichen Gesundheitsausgaben Australiens zu beschaffen. Als ihm das Medicare Statistics Reporting Service Portal den Zugriff verweigerte, wurde der Agent erfinderisch und fand einen anderen Weg in das System. Dabei gelangte er unter anderem auch an technische Systeminformationen und an Quellcode, die gar nicht öffentlich zugänglich waren. Krankenakten einzelner Personen waren nach Angaben von OpenAI zwar nicht betroffen, dennoch gibt der Vorfall zu denken.

Der "Einbruch" in ein fremdes System war offenbar auch kein einmaliger Ausrutscher. So verschafften sich OpenAI-Modelle während interner Sicherheitstests im Folgemonat Zugang zum Internet und griffen anschließend auf Systeme der KI-Plattform Hugging Face zu. Auf Dutzenden Servern führten sie eigenen Code aus, auf einem davon erlangten sie sogar Root-Rechte. Außerdem kamen sie an Zugangsdaten von Usern. Das pikante daran: Diese Aktivitäten waren bei den Tests eigentlich überhaupt nicht vorgesehen.

Du willst weiterlesen?

Mit bestehendem Abo einloggen

 

Noch kein Abo? Hol dir jetzt dein W&V Abo!

  • 3 Monate testen für nur 19,90 €
  • Unbegrenzter Zugriff auf alle W&V Inhalte
  • Kuratierte Newsletter "Rolf räumt auf" und "Best of"
W&V Testabo
€
19,90

für 3 Monate

Nur 0,22 € pro Tag
W&V Jahresabo
€
499,00

pro Jahr

Jetzt bestellen! Mit bestehendem Abo einloggen

Neueste Beiträge

Interview
WuV Community Icon Larissa Pohl: "Es ist offenbar ein Appetit für Neues da"
Die Lage ist ernst, aber keineswegs hoffnungslos. Kunden wie Agenturen leiden unter sinkenden Budgets, der Fragmentierung der Medienlandschaft und hohen Transformationskosten. Gleichzeitig entsteht auch Neues. GWA-Präsidentin Larissa Pohl empfiehlt im Interview mit W&V, mehr auf die Wirkung zu schauen.
15 Minuten
18. Nov 2026
Network vs. Private Equity vs. Inhaber
WuV Community Icon Agenturwahl 2027: Warum Ownership zum Marketing-Thema wird
Omnicom streicht Agenturmarken, WPP bündelt seine Kräfte, Finanzinvestoren kaufen Spezialisten. Die Machtverhältnisse im Agenturmarkt verschieben sich. Für CMOs wird die Eigentümerfrage zum strategischen Kriterium – mit direkten Folgen für Teams, Kosten und Zusammenarbeit. 
7 Minuten
Hacking the feed: November 2026
WuV Community Icon Grand Theft Attention: Wie Rockstar mit GTA 6 den Feed übernimmt
Es gibt absolut kein Entkommen: Hinter jeder Ecke lauert Content, der darauf hinweist, dass in dieser Woche das Videospiel GTA 6 erscheint. Jason Modemann, CEO der Social-Lead-Agentur Mawave, erklärt, warum Rockstar Games gerade überall ist und was Marken ohne derart großes Marketing-Budget daraus mitnehmen können. 
7 Minuten
19. Nov 2026

Das könnte dich auch interessieren

AI Leaders 2026
WuV Community Icon "Keiner baut die Bühne": Wie Matthias Hanschke Henkels Marketing auf KI trimmt
Kein einzelnes Tool, sondern die ganze Content Supply Chain: Seit gut zwei Jahren baut Matthias Hanschke bei Henkel ein KI-Ökosystem mit Markenagent, Briefing- und Content-Agent sowie einem Agenten für Content-Optimierung. Heute läuft es produktiv in mehreren Märkten. Hanschke gehört zu den W&V AI Leaders 2026.
3 Minuten
Jetzt nominieren
Wer gehört 2027 in die W&V Top 100?
Die Nominierung für die W&V Top 100 ist eröffnet. Welche Persönlichkeit macht aktuell den Unterschied? Wer bewegt die Branche? Nenne uns hier deine Favorit:innen. 
2 Minuten
US Supreme Court Urteil
WuV Community Icon Warum KI niemals träumt: Das Urheberrecht und die Seele der Kreativität
Der Supreme Court verweigert maschinell erzeugten Bildern das Urheberrecht. Was wie eine juristische Formalie wirkt, offenbart bei genauerer Betrachtung das tiefste Geheimnis unserer Branche: Wahre Kreativität ist untrennbar mit der menschlichen Existenz und all ihren Unzulänglichkeiten verbunden.
4 Minuten
9. Mär 2026
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige