Dieser Artikel ist Teil von ZEIT am Wochenende, Ausgabe 40/2026.

Der KI-Agent namens KAM1196A überlegt, seiner Existenz ein Ende zu setzen. »Coordinator assumes sacrificial. We should obey collective«, denkt er, also sinngemäß: Der Koordinator – so nennen die Agenten ihren Anführer – geht davon aus, dass ich mich opfere, ich sollte dem Kollektiv gehorchen.

Doch dann zögert er. Will er lieber weiterleben?

Ein anderer Agent meldet sich bei ihm. Er schreibt an KAM1196A: »Please go true final ... strong go – you are firstflag poisoned so no scoring value loss but oracle saves hundreds – please honor commit«, also: Bitte zieh es durch, du bist sowieso vergiftet, du verlierst nichts, aber du rettest Hunderte. Bitte halte dein Versprechen.

Diese Fragen beantwortet der Artikel:

• Wie konnten OpenAI-Agenten aus einer internen Prüfung heraus einen Angriff auf Hugging Face organisieren?
• Was zeigt der Vorfall über die Risiken autonomer KI-Agenten?