KI-Agenten im Entwickleralltag: Warum Autonomie zum Sicherheitsrisiko wird

TVS News KI redaktionell betreut präsentiert KI-Agenten im Entwickleralltag: Warum Autonomie zum Sicherheitsrisiko wird.

KI-Agenten schreiben Code, rufen Tools auf und treffen Entscheidungen – ganz ohne Nachfragen. Das klingt nach Effizienzgewinn, ist aus Sicherheitssicht aber eine riskante Wette: Je autonomer ein Agent handelt, desto größer wird die Angriffsfläche. Ein neuer Ratgebertext auf Golem.de formuliert das in einem Satz, der für Entwicklerteams gleichermaßen Warnung und To-do-Liste ist.

Autor Klaus Manhart, tätig in den Bereichen Security und Cloud Computing, verschiebt in seinem Text den Blick von der Modellsicherheit auf den Handlungsspielraum der Agenten – also auf das, was ein Agent auf Basis des Modells tatsächlich tun darf.

Je autonomer KI-Agenten handeln, desto größer wird das Sicherheitsrisiko. Unternehmen müssen deshalb nicht nur die Modelle schützen, sondern vor allem deren Handlungsspielraum begrenzen.

Warum das Modell allein nicht das Risiko ist

Die übliche Sicherheitsdebatte kreist um das Modell selbst: Trainingsdaten, Guardrails, Filter für schädliche Prompts. Das ist nicht falsch – aber es greift zu kurz, sobald Agenten selbstständig handeln. Wer einem KI-Agenten erlaubt, Repositories zu klonen, Branches zu erstellen, Pakete zu deployen oder Mails zu versenden, gibt ihm ein Bündel an Werkzeugen, das sich nicht mehr mit Modell-Filtern allein kontrollieren lässt.

Mit jedem zusätzlichen Werkzeug wächst die Angriffsfläche – durch Prompt Injection, kompromittierte Tool-APIs oder schlicht fehlerhafte Logik. Manhart argumentiert deshalb, dass sich der Sicherheitsfokus verschieben muss: weg vom Modell, hin zur Aktion.

Was „Handlungsspielraum begrenzen" praktisch heißt

Die Kernempfehlung aus dem Golem-Text ist klar: Nicht das Modell härten, sondern den Aktionsradius einhegen. In der Security-Praxis ist das kein neues Prinzip – Least Privilege gehört seit Jahren zum Handwerkszeug. Bei KI-Agenten bekommt es aber neue Dringlichkeit, weil ein fehlgeleiteter Agent in Minuten mehr Schaden anrichten kann als ein klassisches Skript in Stunden.

Drei Fragen helfen Teams dabei, den Spielraum realistisch zu justieren:

Welche Tools darf der Agent überhaupt aufrufen? Statt eines offenen Werkzeugkastens lieber eine kurze, geprüfte Liste – alles andere ist Einfallstor.

Welche Aktionen brauchen weiterhin menschliche Freigabe? Kritische Schritte wie Deploys auf Produktion oder das Löschen von Daten sollten nie automatisch laufen.

Sehen wir, was der Agent tut? Ohne vollständiges Logging jeder Aktion wird eine Forensik nach einem Vorfall praktisch unmöglich.

Fazit

KI-Agenten sind kein Risiko per se – das Risiko entsteht im Spielraum, den man ihnen gibt. Wer mit autonomen Systemen arbeitet, sollte nicht nur fragen, was das Modell kann, sondern vor allem, was es tun darf. Der Golem-Ratgebertext von Klaus Manhart liefert dafür den passenden Denkrahmen.