KI-Update

Autonome KI-Agenten im Unternehmen Klemens M. Hellmann (Martini Mogg Vogt) und Dennis Mittelmann (TrendView GmbH) sprechen mir dem Host Robin Lindner über selbstständig handelnde KI-Systeme, neue Möglichkeiten und Risiken sowie veränderte Spielregeln. Eine Geschäftsreise steht an. Bahn oder Flug, Hotel in Bahnhofsnähe, Rückfahrt am Freitagabend. Heute bedeutet das: suchen, vergleichen, buchen. Künftig könnte dafür ein einziger Satz ausreichen: „Buche mir von Donnerstag auf Freitag eine Übernachtung mit Frühstück und Transfer, möglichst nah am Messegelände und zu den besten verfügbaren Konditionen.“ Den Rest erledigt ein KI-Agent – bis hin zur Bezahlung. Agentic Commerce nennt sich diese Entwicklung. Die KI gibt dabei nicht mehr nur Empfehlungen, sondern bekommt einen Auftrag und führt ihn innerhalb vorgegebener Grenzen selbstständig aus. Dennis Mittelmann, Geschäftsführer der TrendView GmbH, und Rechtsanwalt Klemens M. Hellmann LL.M. von der Kanzlei Martini Mogg Vogt nehmen im neuen WIRTSCHAFT-Campus-Podcast Entwicklungen unter die Lupe, die Unternehmen und Verbraucher betreffen und ganze Märkte verändern. Eine davon betrifft die Sicherheit: Je selbstständiger KI-Systeme handeln, desto schwerer wiegen Fehler und Manipulationen. Ein Chatbot, der auf manipulierte Informationen hereinfällt, liefert womöglich eine falsche Antwort. Bei einem autonomen Agenten kann daraus eine falsche Handlung werden. Er greift auf Daten zu, nutzt Programme oder löst eine Transaktion aus. Prompt Injection, also gezielt eingeschleuste Anweisungen, manipulierte Daten oder Angriffe auf angebundene Werkzeuge bekommen damit eine neue Tragweite. „Unternehmen müssen festlegen, welche Systeme ein Agent nutzen, auf welche Daten er zugreifen und welche Aktionen er tatsächlich ausführen darf“, sagt Dennis Mittelmann. Dabei geht es um Berechtigungen, menschliche Freigaben und die Sicherheit von Modellen, die etwa über offene Plattformen wie Hugging Face verbreitet werden. Doch bevor ein KI-Agent etwas kauft, muss er auswählen. Jahrelang lautete die digitale Königsdisziplin: bei Google möglichst weit oben stehen. Heute beantworten ChatGPT, Claude, Gemini, Copilot oder Perplexity viele Fragen direkt, nennen Unternehmen und empfehlen Angebote. Neben SEO tritt GEO – Generative Engine Optimization, also die Optimierung für Sichtbarkeit in KI-Antworten. Dabei zählt nicht nur die eigene Website. Fachartikel, Bewertungen, Branchenportale oder Beiträge auf LinkedIn prägen mit, welches Bild eine KI von einem Unternehmen gewinnt. Für Entscheider stellt sich damit die Frage: Was erfährt die KI über mein Unternehmen, wenn ein Kunde nach dem besten Anbieter fragt? „Es reicht nicht mehr, nur auf das Google-Ranking zu schauen“, erklärt Mittelmann. „Entscheidend wird, ob eine KI unser Unternehmen versteht, für glaubwürdig hält und als passende Lösung empfiehlt.“ Manchmal entscheidet sich also schon vor dem Klick, wer ins Geschäft kommt. Mit der technischen Entwicklung verändert sich zugleich der regulatorische Rahmen. Mit dem Omnibus-II-Paket hat die EU bei der KI-Verordnung nachjustiert: Für Hochrisiko-KI-Systeme gelten längere Übergangsfristen, zentrale Transparenzpflichten nach Artikel 50 der KI-Verordnung gelten dagegen seit dem 2. August 2026. Die verlängerten Fristen lösen die praktischen Fragen für Unternehmen allerdings nicht. „Der Aufschub entlastet das Unternehmen nur kurzfristig “, betont Klemens M. Hellmann. „Unternehmen müssen dringend klären, in welche Kategorie ihre Systeme fallen und welche Pflichten – von der Dokumentation über die Risikobewertung bis zur Transparenz gegenüber Nutzern – sie erfüllen müssen.“ Hellmann rät deshalb auch zu klaren Regeln für den Einsatz im eigenen Haus: Unternehmen sollten eine KI-Leitlinie schaffen und ihre Mitarbeiter entsprechend schulen. Die Vorgaben zur KI-Kompetenz wurden zwar gelockert. Ein geringeres Bußgeldrisiko schließt eine zivilrechtliche Haftung jedoch nicht aus. Auch der Verweis auf einen eingesetzten KI-Agenten entlastet das Unternehmen nicht autom