OFF LIMITS Tech Talk #43: Kleinanzeigen-Hack, KI-Wasserzeichen und lokale KI

Ein gekapertes Konto, eine ausgetauschte E-Mail-Adresse und Hunderte Newsletter im Postfach. Daniel berichtet von einem Hacking-Vorfall bei Kleinanzeigen und zeigt, wie schnell ein privater Account übernommen werden kann. Gemeinsam mit Patrick und Christian diskutiert er, warum unterschiedliche Passwörter und Zwei-Faktor-Authentifizierung entscheidend sind und wo Plattformen bei ihren Sicherheitsmechanismen nachbessern müssen. Danach geht es um Kennzeichnungspflichten für KI-generierte Inhalte und mögliche Wasserzeichen in Texten von Anthropic-Modellen. Doch was sagt ein solches Wasserzeichen überhaupt aus? Es kann nicht unterscheiden, ob ein Mensch seine eigenen Gedanken von einer KI sprachlich überarbeiten ließ oder ob ein vollständiger Beitrag ohne eigenen inhaltlichen Input entstanden ist. Mit Gwen 3.8 richtet sich der Blick auf lokale KI, Agent Loops, Tool Calls und Modelle ohne Guardrails. Christian und Daniel sprechen darüber, warum solche Modelle nicht nur für fragwürdige Anwendungsfälle interessant sein können, sondern auch bei Red Teaming und der Verteidigung gegen Cyberangriffe eine Rolle spielen könnten. Dabei wird deutlich, wie wichtig die Hoheit über Modelle und ihre Guardrails werden kann. Zum Abschluss diskutieren die drei Hosts über den neuen Voice Mode von OpenAI, technologische Abhängigkeiten und die Kopplung von Azure und AWS. Welche Vorteile entstehen daraus tatsächlich und welche Anwendungsfälle scheitern vorerst an Bandbreite und Latenz?