OFF LIMITS Tech Talk #44: KI-Agenten, digitaler Führerschein & Open-Source-Modelle

KI-Agenten suchen automatisiert nach Schwachstellen in Onlineshops, Phishing wird überzeugender und bekannte Betrugsmaschen lassen sich in deutlich größerer Masse ausspielen. Christian und Daniel sprechen darüber, weshalb technische Schutzmaßnahmen allein nicht ausreichen und warum auch die Nutzer weiterhin ein entscheidender Faktor bleiben. Brauchen wir deshalb einen digitalen Führerschein? Die beiden diskutieren, welche Rolle Schulen, Eltern und Unternehmen bei der Vermittlung von Medienkompetenz übernehmen sollten. Dabei geht es auch um unterschiedliche Anforderungen für Kinder, Eltern, Online-Banking und den alltäglichen Umgang mit Smartphones. Noch technischer wird es beim Blick auf KI-Agentenschwärme. Am Beispiel des Hugging Face-Vorfalls diskutieren Christian und Daniel, wie Agenten Aufgaben lösen, Informationen untereinander teilen und dabei Wege einschlagen können, die von den Verantwortlichen nicht vorgesehen waren. Die entscheidende Frage lautet, wie solche Systeme überwacht werden müssen und wer dafür die Verantwortung trägt. Zum Abschluss geht es um Gwen Image 2.1, Gwen 4, Open Weights und die Entwicklung spezialisierter, ressourcenschonender Modelle. Gleichzeitig sprechen die beiden über fehlende Guardrails, mögliche Risiken und die Frage, wie sich Unternehmen künftig gegen KI-gestützte Angriffe verteidigen können.