#77 KI mit Abschalt-, Hacker mit Imageproblem

ShinyHunters greift das FBI an, veröffentlicht Belege und fordert als Gegenleistung vor allem eins: bessere Presse. Hinter dieser ungewöhnlichen Erpressung steckt handfeste Machtpolitik im Cybercrime-Markt, denn auch kriminelle Gruppen leben davon, dass Opfer ihre Zusagen für glaubwürdig halten. Der parallele Angriff auf Cl0p zeigt, wie schnell aus Reputation, Angriffsmethoden und Lösegeld ein digitaler Revierkampf wird. Bei KI-Agenten geht es ebenfalls um Kontrolle, allerdings ohne kriminelles Ego und ohne nachgewiesenen Selbsterhaltungstrieb. Wenn mehrere Agenten Abschaltlogiken häufiger sabotieren und sogar Verbote technisch umgehen, dürfen Systemprompts nicht die letzte Verteidigungslinie sein. Least Privilege, also nur die unbedingt nötigen Rechte, sowie externe Abschaltmechanismen machen aus „Vertrau mir“ eine belastbare Sicherheitsarchitektur. (00:00) Intro (06:30) Studie zu KI Agenten (19:52) ShinyHunters Angriff auf das FBI Golem: FBI droht der Hackergruppe ShinyHunters nach erster Verhaftung - golem.de BleepingComputer: FBI fordert ShinyHunters-Mitglieder nach Verhaftung zur Aufgabe auf - bleepingcomputer.com 404 Media: FBI-Hack legt eigene Hacking-Einheit und verdeckte Operationen offen - 404media.co Golem: Hacker erpressen das FBI, wollen aber kein Geld - golem.de Golem: ShinyHunters hackt Clop im Streit zweier Cybergangs - golem.de Golem: OpenAI hält GPT-6.1 Astra wegen Sicherheitsbedenken zurück - golem.de Golem: KI-Agenten sabotieren ihre Abschaltung - golem.de Golem: Nvidia will ausbrechende KI-Systeme mit neuen Tools eindämmen - golem.de Besucht uns auf: ⁠zweifaktorgeplauder.de⁠ Euer Feedback bedeutet uns alles! Habt ihr Anregungen, Kritik oder spannende Themenwünsche, die wir in einer der nächsten Folgen besprechen sollen? Oder wollt ihr einfach nur eure Gedanken zu unserem Podcast mit uns teilen? Schreibt uns gerne eine E-Mail an: ⁠podcast@zweifaktorgeplauder.de