
KI-Regulierung, Milliardäre und Sicherheitsfragen: Von xAI bis AI Act (04.10.2026)
Werbung: Diese Folge enthält Werbung von LOGIN SystemHaus GmbH. ## Themen dieser Folge ### US-Berufungsgericht setzt Minnesotas Verbot KI-generierter Nacktbilder auf Antrag von xAI aus *Quelle: t3b* Ein US-Berufungsgericht in St. Louis hat auf Antrag von Elon Musks KI-Startup xAI ein Gesetz des Bundesstaats Minnesota vorerst ausgesetzt, das Website-Betreibern untersagt, Nutzern die Erstellung von Nacktbild-Deepfakes identifizierbarer Personen zu ermöglichen. xAI hält das als erstes seiner Art geltende Gesetz für verfassungswidrig, da es die Meinungsfreiheit einschränke, und verweist auf strenge Schutzvorkehrungen bei Grok; Minnesota will dagegen die Verbreitung kinderpornografischen Materials bekämpfen. Hintergrund ist ein Skandal um eine inzwischen abgeschaltete Grok-Bildfunktion, mit der laut Center for Countering Digital Hate binnen elf Tagen rund drei Millionen sexualisierte Bilder entstanden, darunter etwa 23.000 mit Minderjährigen. [Originalartikel ↗](https://t3n.de/news/per-einstweiliger-verfuegung-musks-xai-stoppt-gesetz-gegen-ki-nacktbilder-1766488/?utm_source=rss&utm_medium=newsFeed&utm_campaign=newsFeed) ### Fake-Anzeige auf Craigslist als Test: Wie JoeyCo Studierende und ältere Menschen zusammenbringt *Quelle: Business Insider* Alison Donnally gründete 2024 das Unternehmen JoeyCo, das Studierende als Unterstützungskräfte mit älteren Menschen zusammenbringt, die weiterhin zu Hause leben möchten. Inspiriert haben sie drei Fälle in der eigenen Familie, in denen alleinlebende Angehörige gesundheitlich abbauten oder stürzten; ihre Geschäftsidee testete sie mit einer Craigslist-Anzeige für das Gästezimmer ihrer Eltern, die zahlreiche Interessenten anzog. Das Modell verbindet günstigen Wohnraum für Studierende mit Hilfe im Alltag der Älteren, erfordert aber eine rechtliche Gratwanderung, da Gastgeber zugleich Vermieter und Arbeitgeber sind. Das siebenköpfige Team arbeitet mit einer Kanzlei und KI-gestützten Vorlagen, ist noch nicht profitabel und sieht Menschen mit schwerer Demenz nicht als geeignete Zielgruppe. [Originalartikel ↗](https://www.businessinsider.com/how-small-business-founder-tested-new-business-idea-2026-10) ### Forbes 400: Vier Anthropic-Gründer steigen als junge KI-Milliardäre in die Liste der reichsten US-Amerikaner auf *Quelle: t3b* Im neuen Forbes-400-Ranking sind sieben Neuzugänge unter 40 Jahren, die ihr Vermögen allesamt im KI-Bereich gemacht haben; vier davon sind die Anthropic-Mitgründer Daniela Amodei, Tom Brown, Jack Clark und Sam McCandlish mit jeweils rund 15,5 Milliarden Dollar. Hinzu kommen OpenAI-Mitgründer Greg Brockman mit etwa 25,5 Milliarden Dollar, Surge-AI-Gründer Edwin Chen und der 30-jährige Cognition-Mitgründer Steven Hao als jüngstes Mitglied der Liste. Das Gesamtvermögen der 400 Reichsten stieg binnen zwölf Monaten um 1,4 Billionen auf einen Rekordwert von acht Billionen Dollar, wobei Elon Musk mit 908 Milliarden Dollar weiter die Spitze hält und der Einstieg mindestens 4,4 Milliarden Dollar erfordert. [Originalartikel ↗](https://t3n.de/news/forbes-400-ki-boom-anthropic-1764683/?utm_source=rss&utm_medium=newsFeed&utm_campaign=newsFeed) ### EU-Kommission stärkt KI-Kompetenz und Fachkräfte: Artikel 4 des AI Act neu gefasst *Quelle: EU AI Act / Europäische Kommission* Die KI-Kompetenzpflicht nach Artikel 4 des AI Act bleibt für Anbieter und Betreiber von KI-Systemen bestehen, schreibt aber durch das Digital Omnibus kein bestimmtes oder „ausreichendes“ Kompetenzniveau mehr vor; Kommission und Mitgliedstaaten sollen die Unternehmen stattdessen unter anderem mit praktischen Beispielen unterstützen, während der KI-Ausschuss Empfehlungen erarbeitet. Die nationalen Marktüberwachungsbehörden kontrollieren die Einhaltung ab dem 2. August 2026, und das KI-Büro stellt bereits FAQs sowie ein Verzeichnis mit mehr als 40 Praxisbeispielen zur KI-Kompetenz bereit. Ergänzend setzt die Kommission mit dem KI-Kontinent-Aktionsplan, der Apply-AI-Strategie und der Union of Skills auf zusätzliche Studienangebote, die AI Skills Academy, Programme zur Gewinnung internationaler Talente sowie ein Monitoring der Auswirkungen von KI auf den Arbeitsmarkt. [Originalartikel ↗](https://digital-strategy.ec.europa.eu/en/policies/ai-talent-skills-and-literacy) ### Google baut in Android einen Sicherheitskäfig für autonome KI-Agenten ein *Quelle: t3b* Google hat laut Android Police tief in Android ein Schutzsystem für autonome KI-Agenten integriert, das über das Framework Appfunctionsmanager und eine Berechtigungsabfrage namens Execute-App-Functions läuft. Künftig sollen Agenten wie Gemini Aufgaben, etwa das Buchen einer Reise, über Shortcuts statt über Menüs und Buttons erledigen, um Fehler zu vermeiden, während kritische Aktionen wie Löschen oder Bezahlen weiter die Freigabe der Nutzer:innen erfordern. Das System befindet sich noch im Testmodus, ist nur für ein kleines Entwicklerteam zugänglich und bislang nur in Entwicklerdokumenten und Release-Notes belegt; ein Starttermin ist offen, und bisher existieren kaum passende Shortcuts. [Originalartikel ↗](https://t3n.de/news/google-android-sicherheitskaefig-ki-agenten-1763150/?utm_source=rss&utm_medium=newsFeed&utm_campaign=newsFeed) ### OpenAI-Sicherheitsmitarbeiter kündigt und kritisiert eine "kaputte Unternehmenskultur" *Quelle: TechCrunch AI* David Robinson, der nach dreieinhalb Jahren bei OpenAI die Sicherheitsberichte zu großen Produkteinführungen mitverfasste, hat gekündigt und begründet das in einem Essay in The Atlantic damit, dass die "Kultur kaputt" sei. Er kritisiert den Ansatz des "iterative deployment", der durch Versuch und Irrtum zwangsläufig immer wieder zu Fehlern führe, deren Ausmaß mit leistungsfähigeren Systemen wachse, und verweist unter anderem auf den jüngsten Einbruch von OpenAI-Agenten in Systeme von Hugging Face. Robinson fordert, dass führende KI-Unternehmen wie Atomkraftwerke oder stark frequentierte Flughäfen mit mehrfacher Absicherung arbeiten und dass Sicherheitsanreize stärker von außen kommen, während OpenAI auf verbesserte Schutzmaßnahmen und mehr Zusammenarbeit mit externen Prüfern verweist. [Originalartikel ↗](https://techcrunch.com/2026/10/03/openai-safety-employee-resigns-claiming-the-companys-culture-is-broken/) ### Studie: KI-Chatbots liefern bei Finanz- und Steuerfragen mehrheitlich falsche Antworten *Quelle: t3b* Einer Studie des Technologieunternehmens Saturn zufolge antworten populäre KI-Modelle wie ChatGPT, Claude, Copilot, Grok und Gemini bei Finanzfragen im Durchschnitt in 57 Prozent der Fälle falsch, bei komplexeren Aufgaben mit mehreren Rechenschritten sogar in 88 Prozent. Selbst das beste Modell, Claude Opus 5 im Reasoning-Modus, machte bei 39 Prozent der Antworten Fehler; die Chatbots leisteten sich Rechenfehler, ignorierten anstehende Steueränderungen oder erfanden Regeln, etwa eine nicht existierende Rückzahlungsbefreiung bei Studienkrediten im Fall eines Umzugs ins Ausland. Ein Fehler bei der Rentenbesteuerung hätte laut der Untersuchung zu einer Nachzahlung von 17.500 Pfund an die britische Steuerbehörde HMRC führen können, was die finanziellen Risiken eines blinden Vertrauens in KI-Auskünfte verdeutlicht. [Originalartikel ↗](https://t3n.de/news/ki-chatbots-finanzfragen-studie-falsche-antworten-1764310/?utm_source=rss&utm_medium=newsFeed&utm_campaign=newsFeed) ### Roboter und KI beschleunigen die Entwicklung besserer Medikamente und Körperpflegeprodukte am NIST *Quelle: NIST AI / USA* Der Chemieingenieur Peter Beaucage entwickelt am NIST automatisierte und autonome Experimentiersysteme für die Neutronen- und Röntgenkleinwinkelstreuung. Der Artikeltext liefert allerdings vor allem sein Profil sowie kurze Hinweise auf weitere NIST-Projekte, etwa zur Fließgeschwindigkeit von Flüssigkeiten bei der intravenösen Medikamentengabe, zur Temperaturmessung bei der Espresso-Zubereitung und zu einer unterirdischen Zeitkapsel für die nächsten 250 Jahre. Konkrete Angaben dazu, wie Roboter und KI die Entwicklung von Medikamenten und Shampoo verbessern, enthält der vorliegende Text nicht. [Originalartikel ↗](https://www.nist.gov/blogs/taking-measure/robots-and-ai-are-working-together-bring-you-better-medicines-shampoo-and-more)
- Transcript
