011 Vibe Coding Security: So prüfst du die Risiken deiner App

Ein KI-Agent bucht Fitnesskurse, die auf der Website noch gar nicht freigeschaltet sind, und storniert anschließend sogar die Reservierung eines anderen Nutzers. Möglich wird das, weil das Backend mehr erlaubt als das Frontend und wichtige Zugriffskontrollen fehlen. Kai und Trutz nehmen diesen Fall als Einstieg, um Security bei selbst gebauten KI-Anwendungen praktisch anzugehen: Welche Risiken entstehen, wenn eine App aus dem Internet erreichbar ist? Was darf ein Agent eigenständig tun? Und wie verhindert man, dass aus einem kleinen Tool ein teures oder gefährliches Problem wird? Themen dieser Folge: Wenn das Backend mehr erlaubt als das Frontend: Ein KI-Agent bucht Kurse im Voraus und storniert fremde Reservierungen. Risikoabschätzung in zwei Dimensionen: Reichweite (lokal vs. öffentlich, ein Nutzer vs. viele) und agentischer Charakter (welche Aktionen kann der Agent eigenständig ausführen?). Klassische Web-Sicherheitslücken: SQL-Injection, fehlerhafte Authentifizierung, unsichere Datenbankzugriffe, offene S3-Buckets und veraltete Abhängigkeiten. KI-spezifische Risiken: Prompt Injection, nichtdeterministisches Verhalten, zu weitreichende Agentenrechte und unkontrollierte Kosten durch API-Missbrauch. Praktische Gegenmaßnahmen: Limits für Tokens und Interaktionen, Read-only-Datenbanknutzer, Human-in-the-Loop bei kritischen Aktionen und regelmäßige Security-Reviews mit Coding-Agenten. Die OWASP Top 10 als Orientierung für häufige Schwachstellen in Web-Anwendungen. Warum KI-Agenten für Security-Checks überraschend gut funktionieren und warum man trotzdem mehrere Modelle einsetzen sollte. Links: OWASP Top 10: https://owasp.org/www-project-top-ten/