Die Nerd Show #27 - Die KI Handbremse

KI wird immer handlungsfähiger. Aber wer behält den Überblick, wenn Agenten selbstständig Entscheidungen treffen – und wer trägt die Verantwortung, wenn etwas schiefgeht? In dieser Folge der Nerdshow diskutieren Carlo, Manuel und Sebastian über das Tempo der KI-Entwicklung und die Lücke zwischen dem, was moderne Modelle können, und dem, was wir zuverlässig kontrollieren können. Es geht um Sicherheitsprüfungen, Transparenz, Haftung und die Frage, ob freiwillige Selbstverpflichtungen der großen KI-Unternehmen ausreichen. Eine einfache Lösung haben wir nicht – aber einige konkrete Ideen, von unabhängigen Tests bis zur Meldepflicht für schwerwiegende Vorfälle. Danach schauen wir auf die praktische Seite: Brauchen wir für jede kleine Entscheidung wirklich ein großes Sprachmodell? Am Beispiel von Jev von Type-Safe AI sprechen wir über spezialisierte Modelle für klar definierte Entscheidungen und darüber, was das für Kosten, Geschwindigkeit und verlässlichere Workflows bedeuten könnte. Außerdem geht es um Live-Sprachassistenten, persönliche KI-Agenten und die Frage, in wessen Interesse ein Assistent handelt, wenn er für uns recherchiert, bucht oder einkauft. Zum Schluss werfen wir noch einen Blick auf neue Forschungsansätze für KI-Systeme, die Wissen laufend aktualisieren können – und darauf, warum die Arbeit mit immer mehr KI-Tools nicht automatisch weniger anstrengend wird. Was meint ihr: Welche Entscheidung würdet ihr einem KI-Agenten heute schon überlassen – und wo müsste zwingend ein Mensch prüfen? Schreibt es in die Kommentare. Bloom or Doom https://www.nytimes.com/2026/09/12/technology/anthropic-dario-amodei-ai-slowdown.html Athropic Wet Lab: https://x.com/uncledoomer/status/2101049477519814662?s=46 SystemOne Model: TypeSafe.ai JEV Decisions 4x faster / 20-59x cheaper https://www.linkedin.com/feed/update/urn:li:activity:7508994409233969153/ (Joke: https://www.youtube.com/watch?v=wM8rTAXpw9g) OpenJev https://github.com/kyegomez/open-jev SD: RailsConf Keynote https://www.youtube.com/watch?v=vDjW_dRyKXY Gemini 3.8 Live + Gemini 3.8 Live Extended Thinking https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-8-live-gemini-3-8-live-extended-thinking/ Muse von Meta: https://ai.meta.com/muse/ Muse Connector: https://www.linkedin.com/posts/gisenberg_i-just-read-what-zuck-wrote-about-muse-connectors-share-7507051223158677504-Uu1p/ Cadence https://philpapers.org/rec/MUECAP-2 Infinite LLM Parameters: https://arxiv.org/abs/2609.18842