Skip to content
Artwork for netzpolitik.org

netzpolitik.org

Wir thematisieren die wichtigen Fragestellungen rund um Internet, Gesellschaft und Politik und zeigen Wege auf, wie man sich auch selbst mit Hilfe des Netzes für digitale Freiheiten und Offenheit engagieren kann. Mit netzpolitik.org beschreiben wir, wie die Politik das Internet durch Regulierung verändert und wie das Netz Politik, Öffentlichkeiten und alles andere verändert.

Play
  • 41 episodes
  • German
Counted on this page — what you have heard stays on this device, so it is not something the list can be paged by.
  • Today · length unknown

    KW 35: Die Woche, in der die Räume für die Zivilgesellschaft enger werden

    Die 35. Kalenderwoche geht zu Ende. Wir haben 20 neue Texte mit insgesamt 161.008 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick. Liebe Leser:innen, der Begriff „Shrinking Spaces“ beschreibt, wie Räume für die kritische Zivilgesellschaft immer enger werden. Früher wurden in diesem Zusammenhang vor allem Länder wie Ungarn, die Türkei oder Kasachstan genannt. Oder Russland, Äthiopien und Venezuela. In der Regel werden die Räume für die Zivilgesellschaft enger, weil lokale Regierungen der Zivilgesellschaft das Leben schwer machen. Das kann über das Gemeinnützigkeitsrecht gehen, über „Agenten-Gesetze“, die ausländisches Geld für die Zivilgesellschaft verbieten, über Einschüchterungen und Klagen oder über die Einschränkung des Versammlungsrechts. Es gibt zahllose Möglichkeiten, die Regierungen nutzen, um sich kritischer Stimmen zu entledigen oder diesen zumindest Steine in den Weg zu legen. Auch in Deutschland. Derzeit lässt sich aber noch eine andere Stoßrichtung bei den Shrinking Spaces beobachten: Die rechtsradikale Trump-Regierung greift von außen in die Zivilgesellschaften anderer Länder ein, um diese zu kriminalisieren, zu stören, zu behindern und zu schwächen. Ziel der rechten Regierung ist hierbei vor allem der politisch linke Teil der Zivilgesellschaft. Beispiele für das Eingreifen der USA in die deutsche Zivilgesellschaft waren zuletzt die Sanktionen gegen HateAid, bei denen Akteurinnen der NGO mit einem Reiseverbot belegt wurden, oder die Einstufung der Antifa-Ost – was immer das auch sein soll – als Terrorgruppe. Letzteres hatte zur Folge, dass der Rechtshilfegruppe „Rote Hilfe“ Bankkonten gesperrt wurden, weil die Banken offenbar Angst hatten, in den Strudel der US-Sanktionen zu geraten. Freiheiten in Gefahr Nun hat die US-Regierung zu einem weiteren Schlag angesetzt. Im Visier ist ein linkes Internetkollektiv aus Italien, das seit einem Vierteljahrhundert Internetservices und Webseiten für Tausende politische Gruppen aus ganz Europa zur Verfügung stellt. Mehr als 10.000 politische Blogs und 1.500 Webseiten nutzen die kostenlosen Dienste des spendenfinanzierten Kollektivs. Seit 2001 hat das Kollektiv politischen Gruppen und Initiativen eine Präsenz im Netz ermöglicht und damit Bewegungsgeschichte geschrieben. In den Archiven lassen sich Debatten, Proteste und Ereignisse aller Art nachvollziehen, ein Füllhorn an politischer Aktivität und gesellschaftlicher Auseinandersetzung – unabhängig davon, wie man persönlich zu den einzelnen Gruppen steht. Am Mittwoch hat die US-Regierung das Internetkollektiv Autistici/Inventati zu einer Terrorgruppe deklariert, samt den dazugehörigen Sanktionen. Seit Freitag sind die unter einer .org-Domain gehosteten Services nicht mehr erreichbar, offenbar weil die zuständige Domainverwaltung kalte Füße bekommen hat. So schnell geht es! So schnell werden Tausende politische Gruppen durch den Eingriff der US-Regierung Opfer haltloser Terroranschuldigungen. So schnell kann eine Regierung Webseiten ausradieren – ohne ein einziges Verfahren geführt zu haben, ohne einen einzigen Beweis vorgelegt zu haben, ohne einen einzigen Server zu beschlagnahmen. Man muss nicht besonders links sein, um diese Angriffe auf die Meinungsfreiheit, Handlungsfähigkeit und politische Unabhängigkeit europäischer Zivilgesellschaften zu verurteilen. Hier werden Räume der politischen und pluralen Auseinandersetzung attackiert, verengt und zerstört. Die USA agieren hier als Unterstützer rechtsradikaler Bewegungen und Parteien in Europa, die diese Attacken selbst politisch nicht durchsetzen können. Es geht bei der Sache um mehr als um ein kleines linkes italienisches Internetkollektiv. Denn am Ende verliert bei solchen Methoden nicht nur ein Teil der Zivilgesellschaft Internetservices und Webseiten, sondern wir als europäische Gesellschaften ein Stück Freiheit, Unabhängigkeit und Demokratie. Das dürfen wir nicht zulassen. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Es grüßt Euch besorgt und wütend Markus Reuter Breakpoint: Aufruf zu digitalem Ungehorsam Überwachung ist ein mächtiger Zensor, der uns gehorsam werden lässt. Selbst dann, wenn sie gar nicht stattfindet. Deshalb ist jetzt die Zeit für mehr Kritik und Aufmüpfigkeit. Von Carla Siepmann – Artikel lesen Verhaltensscanner in Berlin: Jetzt beginnt die automatisierte Überwachung Am Kottbusser Tor in Berlin werden seit Sonntag rund 30 Überwachungskameras installiert und an ein KI-System angeschlossen, das prüft, wer artig ist und wer nicht. Weitere Areale sollen folgen. Menschen, die sich regelmäßig am Kotti aufhalten, sind von dem Überwachungsprojekt überrascht. Von Martin Schwarzbeck – Artikel lesen Verhaltensscanner in Berlin: Harte Kritik an der KI-Überwachung Am Sonntag begann die Installation von Kameras, mit denen die Berliner Polizei die automatisierte Verhaltensanalyse einführen will. An dem Überwachungsprojekt gibt es massive Kritik aus Nachbarschaft, Wissenschaft und Politik. Von Martin Schwarzbeck – Artikel lesen Kriminalitätsbelastung in Berlin: Problematisches Herrschaftswissen Ob Gegenden in Berlin mit Videokameras und Verhaltensscanner überwacht werden dürfen, hängt davon ab, ob sie als kriminalitätsbelastet gelten. Die Datengrundlage zur Einstufung ist allerdings Herrschaftswissen. Ein Zahlendreher der Polizei zeigt, wie problematisch das ist. Von Martin Schwarzbeck – Artikel lesen Überwachung im ÖPNV: Mit dieser Realsatire führte Bremen Verhaltensscanner ein Die Bremer Straßenbahn AG wollte eigentlich gar keine automatisierte Verhaltenskontrolle, das System war nur gerade im Angebot. Ohne Plan und Ahnung von Persönlichkeitsrechten startete der Einsatz. Die Datenschutzaufsicht hat grundsätzliche Bedenken. Von Rika Baack, Martin Schwarzbeck – Artikel lesen Erzwungene „Grenzpartnerschaft“: Abkommen zum US-Datenzugriff auf der Zielgeraden Die USA fordern von Partnerstaaten weitreichenden Zugriff auf deren Polizeidatenbanken, die EU-Kommission verhandelt dazu ein Rahmenabkommen. Nun liegt ein neuer Entwurf vor. Max Schrems kritisiert die enthaltenen Regelungen. Von Matthias Monroy – Artikel lesen Kritik an Deutschland-App: Menschenzentrierte Verwaltung statt vorgeschaltetem Chatbot Bürger:innen sollen einen zentralen Zugang zur Verwaltung bekommen, und zwar mit der Deutschland-App. Digitalminister Karsten Wildberger setzt dabei auf generative KI. Der Koalitionspartner kritisiert, dass der Chatbot die Probleme der Verwaltungsdigitalisierung nicht löst, so ein internes Positionspapier der SPD, das wir veröffentlichen. Von Esther Menhard – Artikel lesen Brasilianische Präsidentschaftswahl: Facebook lässt Wahlwerbung mit Desinformation zu Amnesty International hat erfolgreich getestet, dass Facebook Wahlwerbung mit Falschinformationen in Brasilien ausspielen würde. Das Unternehmen würde damit gegen eigene Regeln und brasilianische Gerichtsbeschlüsse verstoßen. Von Rika Baack – Artikel lesen LinkedIn, Etsy, Roblox: Wer dein Gesicht scannt, wenn du dich online verifizierst Beim Verifizieren des eigenen Profils oder Alters auf vertrauten Plattformen geben Nutzende sensible biometrische Informationen an dritte Unternehmen weiter. Eines dieser Unternehmen ist das US-amerikanische Persona, dessen Prüfungen weit über bloße Identitätskontrollen hinausgehen. Von Timur Vorkul – Artikel lesen Smart Glasses: Petition gegen „Spanner-Brillen“ sammelt mehr als 180.000 Unterschriften Der Protest gegen Smart Glasses nimmt Fahrt auf. Eine Petition fordert das Verbot solcher Überwachungsbrillen, die heimliches Filmen ermöglichen – und mit denen schon jetzt Menschen belästigt werden. Von Markus Reuter – Artikel lesen Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Postident mit AutoID: Deutsche Post trainiert ihre KI mit Ausweisfotos Um sich online auszuweisen, können Kund:innen das Postident-Verfahren nutzen. Bei einer der Varianten sollen sie ihre Daten für KI-Training freigeben. Laut Deutscher Post ist das freiwillig, doch Nutzer:innen sehen das anders. Von Esther Menhard – Artikel lesen Schattendatenbank: Datenschützer mahnen Schufa ab Die Schufa hält eine Schattendatenbank mit veralteten Daten über Millionen von Menschen vor. Dagegen wehrt sich jetzt die Datenschutzorganisation noyb mit einer Abmahnung – und der Vorbereitung einer möglichen Sammelklage. Von Markus Reuter – Artikel lesen Ethisches Hacken: Raus aus der Grauzone Sicherheitsforscher:innen, die auf eigene Faust Lücken in IT-Systemen entdecken und diese verantwortungsbewusst melden, können schnell in die Bredouille geraten. Nun legt die Gesellschaft für Informatik ein Papier dazu vor, wie die überfällige Reform des Computerstrafrechts endlich gelingen könnte. Von Tomas Rudl – Artikel lesen Polizeigesetz Niedersachsen: „Das vergiftet alles“ Rot-Grün will mit dem neuen Polizeigesetz in Niedersachsen hochinvasive Überwachungsmaßnahmen erlauben. Am Donnerstag diskutierte der Innenausschuss des Landtages darüber. Opposition sucht man im Parlament vergeblich, doch nun formiert sich Widerstand aus der Zivilgesellschaft. Von Martin Schwarzbeck – Artikel lesen Jugendschutz im Sonderangebot: Meta kauft sich frei Vor Gericht hätten mehrere US-Bundesstaaten ein historisches Urteil zum Schutz junger Menschen erstreiten können. Stattdessen haben sie sich auf einen halbgaren Deal mit Meta eingelassen. Neben vielen Milliarden US-Dollar bringt er Jugendschutz mit Ablaufdatum. Ein Kommentar. Von Sebastian Meineck – Artikel lesen KI-Befugnisse in Thüringen: Polizeigewerkschaft kritisiert Polizeigesetz Normalerweise freuen sich Polizist*innen über erweiterte Befugnisse. Doch das geplante Thüringer Polizeigesetz geht selbst der dortigen Gewerkschaft der Polizei zu weit. Sie warnt vor den Folgen von KI-gestützter Überwachung und fordert klare Beschränkungen. Von Martin Schwarzbeck – Artikel lesen Autistici/Inventati: USA sanktionieren italienisches Internetkollektiv Die USA setzen ihren Kampf gegen linke zivilgesellschaftliche Projekte in Europa fort. Nun hat es das bekannte Internetkollektiv Autistici/Inventati getroffen. Das wehrt sich gegen die Vorwürfe und Sanktionen. Von Markus Reuter – Artikel lesen Polizeigesetz Thüringen: „Haben, haben, haben – und dann schauen, was passiert“ Im Innenausschuss von Thüringen hat eine Reihe von Expert*innen das geplante Polizeigesetz massiv kritisiert. Gleichzeitig fand vor der Tür eine Kundgebung gegen die umfassenden Überwachungsbefugnisse statt, die damit erlaubt werden sollen. Von Martin Schwarzbeck – Artikel lesen Interaktive Karte: An diesen Orten sollen bundesweit neue Rechenzentren entstehen Die Bundesregierung legt nicht offen, wo bundesweit neue Rechenzentren gebaut werden sollen, obwohl diese schwerwiegende Folgen für Umwelt und Gesellschaft haben. Das Projekt Heiße Luft hat nun eine Übersichtskarte der Standorte veröffentlicht. Sie zeigt auch, wo sich Protest regt. Von Rika Baack – Artikel lesen Berliner Polizeigesetz: Linke und Grüne ziehen vor den Verfassungsgerichtshof Nach der Verschärfung des Berliner Polizeigesetzes durch CDU und SPD lassen Linke und Grüne das Gesetz jetzt vom Verfassungsgerichtshof prüfen. Der Antrag zielt gegen öffentliche KI-Videoüberwachung, biometrischen Massenabgleich im Netz, Training von KI-Systemen mit Polizeidaten, automatisierte Datenanalyse und den Einsatz von Staatstrojanern. Von Denis Glismann – Artikel lesen Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Yesterday · length unknown

    Berliner Polizeigesetz: Linke und Grüne ziehen vor den Verfassungsgerichtshof

    Nach der Verschärfung des Berliner Polizeigesetzes durch CDU und SPD lassen Linke und Grüne das Gesetz jetzt vom Verfassungsgerichtshof prüfen. Der Antrag zielt gegen öffentliche KI-Videoüberwachung, biometrischen Massenabgleich im Netz, Training von KI-Systemen mit Polizeidaten, automatisierte Datenanalyse und den Einsatz von Staatstrojanern. CDU und SPD wollen die KI-Überwachung in Berlin. Linke und Grüne lassen nun vom Verfassungsgerichtshof prüfen (Symbolbild). – Alle Rechte vorbehalten: IMAGO / PIC ONE Die Fraktionen von Bündnis 90/Die Grünen und Die Linke im Berliner Abgeordnetenhaus lassen die Verschärfung des Berliner Polizeigesetzes gerichtlich überprüfen. Ihren Normenkontrollantrag gegen das Allgemeine Sicherheits- und Ordnungsgesetz (ASOG) stellten die innenpolitischen Sprecher Vasili Franco (Grüne) und Niklas Schrader (Linke) am Freitag im Abgeordnetenhaus vor. Der Prozessbevollmächtigte David Werdermann (Kanzlei KM8) reichte den Antrag am Freitagmorgen beim Verfassungsgerichtshof des Landes Berlin ein. Das Gericht soll nun klären, ob die im Dezember 2025 durch CDU und SPD beschlossenen Regelungen mit der Landesverfassung vereinbar sind. Der 155-seitige Antrag richtet sich im Kern gegen die Ausweitung von fünf Befugnissen: den präventiven Einsatz von Staatstrojanern, die KI-gestützte Videoüberwachung mit Verhaltensscannern, den biometrischen Massenabgleich mit Daten aus dem Netz, das Training von KI-Systemen mit Polizeidaten und die Weitergabe an Dritte sowie die automatisierte Datenanalyse. „Das Berliner Polizeigesetz war bis vor einem Jahr eines der liberalsten in ganz Deutschland. Damit ist es vorbei“, sagte Werdermann beim Pressegespräch im Abgeordnetenhaus. Die Novelle sei ein gesetzgeberischer Aktionismus, dessen zentrales Motiv die Inszenierung von Handlungsfähigkeit sei. Fünf zentrale Ausweitungen der Befugnisse Die Online-Durchsuchung und das heimliche Abgreifen verschlüsselter Kommunikation von Handys und Rechnern erlaubt das Gesetz laut Werdermann noch bevor eine Straftat stattgefunden hat. Die Polizei nutzt dafür IT-Sicherheitslücken aus, wodurch ein Anreiz bestehe, die Lücken offenzuhalten, statt diese dem Hersteller zu melden. Derartige Sicherheitslücken könnten auch von Kriminellen oder anderen Akteuren genutzt werden, wie der Cyber-Angriff auf die Berliner Verwaltung vor wenigen Tagen gezeigt habe. Laut Werdermann ist Berlin nach Mannheim und Hamburg die dritte Großstadt, die auf KI-gestützte Videoüberwachung setzt. Erste Kameras wie am Kottbusser Tor sind bereits installiert. Die Software solle nun erkennen, wer sich „atypisch“ verhalte. Damit gerieten alle Menschen unter Generalverdacht, während insbesondere Wohnungslose und andere marginalisierte Gruppen von der Software als gefährlich eingestuft würden. »Abkehr von der grundrechtsfreundlichen Politik« Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Beim biometrischen Massenabgleich darf die Polizei zukünftig öffentliche Daten aus dem Netz auswerten. Damit kann jedes hochgeladene Foto in die Fahndung einfließen. Die Polizei könnte Dienste ähnlich wie PimEyes nutzen, diese verstoßen laut Werdermann jedoch gegen die Datenschutz-Grundverordnung und KI-Verordnung. Berlin legalisiere die Nutzung nun für die Polizei statt gegen die Dienste vorzugehen. Ferner erlaube das Gesetz, die erhobenen Polizeidaten zum Training von KI-Systemen weiterzuverwenden, ohne dabei Eingrenzungen vorzunehmen, kritisiert Werdermann. Selbst sehr sensible Daten und private Gespräche könnten so an Unternehmen zu KI-Trainingszwecken weitergegeben werden. Mit der automatisierten Datenanalyse entstehe zudem eine „Superdatenbank“. Die Polizei darf ihre Datenbestände auf einer Plattform zusammenführen und per KI auswerten. Wer eine Anzeige erstatte, müsse so künftig damit rechnen, in den Datenanalysen aufzutauchen. Der Senat betont zwar, nicht auf die umstrittene Analysesoftware Palantir zurückgreifen zu wollen, „die Befugnis aber gibt es her“, sagte der Linken-Abgeordnete Niklas Schrader. Jede künftige Mehrheit könne sie nutzen. Bundesweite Signalwirkung Einen Eilantrag haben die Fraktionen aufgrund der rechtlich hohen Hürden nicht gestellt, womit das Gesetz vorerst in Kraft bleibt. Mit einer Entscheidung des Verfassungsgerichtshofs rechnet Werdermann frühestens in ein bis zwei Jahren. Für die abstrakte Normenkontrolle dagegen hat es ein Viertel der Abgeordneten gebraucht. Grüne und Linke kommen zusammen auf aktuell 53 der 159 Sitze im Berliner Abgeordnetenhaus. Dass beide Fraktionen nach der Wahl womöglich regieren, ändere aus ihrer Sicht nichts. Das Gericht solle zeigen, wie weit der Gesetzgeber bei KI-Technologie und Datenanalyse gehen dürfe. Viele der Maßnahmen seien im Hinblick auf andere Bundesländer begründet, ohne dass diese je verfassungsgerichtlich überprüft worden sind, sagte der Grünen-Innenpolitiker Vasili Franco. „Verfassungswidrige Polizeigesetze sind keine guten Polizeigesetze.“ Die Überprüfung vor dem Verfassungsgerichtshof des Landes Berlin habe so auch eine bundesweite Signalwirkung. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Yesterday · length unknown

    Interaktive Karte: An diesen Orten sollen bundesweit neue Rechenzentren entstehen

    Die Bundesregierung legt nicht offen, wo bundesweit neue Rechenzentren gebaut werden sollen, obwohl diese schwerwiegende Folgen für Umwelt und Gesellschaft haben. Das Projekt Heiße Luft hat nun eine Übersichtskarte der Standorte veröffentlicht. Sie zeigt auch, wo sich Protest regt. Rechenzentren, Gaskraftwerke und Protest auf einer übersichtlichen Karte. – Alle Rechte vorbehalten: Heiße Luft Das Ziel der Bundesregierung ist klar: mehr Rechenpower, mehr KI. Doch im Gegensatz zu anderen Ländern legt die Regierung nicht offen, wie viele Rechenzentren wo gebaut werden. Das Projekt Heiße Luft will das ändern. Es stellt erstmals Standorte von Rechenzentrumsprojekten auf einer interaktiven Übersichtskarte dar. Die dafür erforderlichen Daten hat ein Team aus öffentlichen Quellen und mithilfe von Bürger:innen zusammengetragen. Hinter dem Projekt steht eine Kooperation von AlgorithmWatch, FragDenStaat, Leitmotiv und dem Heiße-Luft-Kollektiv. Die in Teilen ehrenamtlich arbeitenden Personen wollen Transparenz in die KI-Strategie der Bundesregierung bringen. Der Nationalen Rechenzentrumsstrategie zufolge möchte die Bundesregierung die Rechenkapazitäten bis 2030 verdoppeln und die Kapazitäten für KI-Anwendungen vervierfachen. Sie veröffentlicht jedoch weder eine vollständige Übersicht über geplante Rechenzentren noch weiß sie, wie viel Wasser deren Ausbau verbrauchen wird. Wie der KI-Boom die Klimakatastrophe befeuert Die Physikerin Tiziana von Witzleben ist Mitgründerin des Heiße-Luft-Kollektivs. Sie hofft, dass die Übersicht den Bürger*innen vor Ort zugutekommt. Auch in diesem Sommer haben mehrere Landkreise wegen Wasserknappheit die Nutzung von Frischwasser rationiert. „Durch ihren enormen Strom- und Wasserverbrauch beeinflusst der massive Ausbau von Rechenzentren viele Menschen in Deutschland direkt,“ sagt von Witzleben. „Indirekt trifft er uns alle: Die rasant steigende Zahl von Rechenzentren treibt den Einsatz fossiler Energie nach oben und befeuert damit die Klimakatastrophe.“ Das Projektteam durchforstete öffentlich einsehbare Quellen nach Daten – in Pressemitteilungen der Betreiber und Entwickler, in amtlichen Veröffentlichungen und Publikationen börsennotierter Unternehmen. Auch die Preisentwicklungen auf dem Immobilienmarkt bezogen die Aktivist:innen ein. Darüber hinaus richtete das Team ein Kontaktformular ein, mit dem Menschen gesammelte Daten anonym korrigieren und ergänzen konnten. Wo drohen Konflikte ums knappe Gut Wasser? Auf dieser Grundlage haben sie eine interaktive Übersichtskarte erstellt, die zeigt, wo Rechenzentren entstehen, wie weit der Bau vorangeschritten ist und wer sie betreibt und finanziert. Nutzer:innen können sich außerdem anzeigen lassen, wie viel Strom die Zentren vermutlich benötigen, welche Gesamtfläche sie beanspruchen werden und wie ihr Betrieb den Grundwasserstress erhöhen könnte. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden In der Gemeinde Baruth in Brandenburg etwa hat sich der RedBull-Konzern einen großen Teil des Grundwassers gesichert. Zusätzlich möchte Amazon dort ein großes Rechenzentrum bauen. Dabei liegt Baruth in einem Landkreis mit akutem und strukturellem Grundwasserstress. Mögliche Konflikte liegen auf der Hand. Wie viel erhalten die Rechenzentren vom knappen Gut Wasser, wie viel die Landwirte? Regierung will noch mehr Intransparenz Die Bundesregierung möchte derweil das Energieeffizienzgesetz novellieren und dadurch Vorgaben für den Ausbau von Rechenzentren lockern. Der von der Regierung als „pragmatisch“ und „bürokratiearm“ gefeierte Vorstoß käme jedoch vor allem den Fossilkonzernen entgegen. Laut Gesetzentwurf müssten Rechenzentren erst ab dem Jahr 2030 bilanziell vollständig auf erneuerbare Energien setzen – statt wie bisher ab 2027. Vor diesem Hintergrund erfasste das Team hinter dem Projekt Heiße Luft auch neu entstehende Gaskraftwerke, die es braucht, um den enormen Strombedarf der vielen neuen Rechenzentren zu decken. Dank des Schlüsselworts „bilanziell“ konnten Betreiber ohnehin schon ein Schlupfloch nutzen. Gesetzlich müssen sie die Hälfte ihres Stroms aus erneuerbaren Energien beziehen. Etwa in Maintal und Birstein sollen Rechenzentren jedoch abgekoppelt vom öffentlichen Stromnetz in Betrieb gehen. Ihren Strom erhalten sie ausschließlich von neuen Gaskraftwerken. Indem sie ihre Bilanz mit zugekauften Ökostrom-Zertifikaten aufpolieren, können sie die gesetzlichen Vorgaben erfüllen, während sie die Abhängigkeit von fossilen Brennstoffen aufrechterhalten. Der Entwurf des Energieeffizienzgesetzes sieht außerdem vor, dass künftig noch weniger Daten zum Verbrauch von Rechenzentren veröffentlicht werden. Bislang müssen die Betreiber ihre Verbrauchsdaten den Behörden melden und zudem selbst publizieren. Der Gesetzentwurf würde es ihnen künftig erlauben, diese Informationen mit Verweis auf Geschäftsgeheimnisse zurückzuhalten. „Das sollte uns Sorgen um unsere Datensicherheit machen“ Dass die Bundesregierung den Ausbau von Rechenzentren mit Verweis auf „digitale Souveränität“ begründet, sieht die Kooperation hinter dem Heiße-Luft-Projekt ebenfalls kritisch. Denn ein Großteil der geplanten Rechenzentren werde von US-Konzernen betrieben, die dem US Cloud Act unterliegen. Das bedeutet: Selbst wenn die Server amerikanischer Unternehmen in Europa stehen, wären diese rechtlich dazu verpflichtet, die Daten europäischer Nutzer:innen an US-Behörden herauszugeben. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren „Unseren Informationen nach soll etwa die Hälfte der IT-Kapazitäten der neuen Rechenzentren von US-amerikanischen Big-Tech-Unternehmen genutzt werden,“ sagt Joschi Wolf vom Climate Helpdesk von FragDenStaat. „Das sollte uns Sorgen um unsere Datensicherheit machen – seien es persönliche, unternehmensbezogene oder staatliche Daten.“ Auch Versprechen, das der Ausbau von Rechenzentren neue Arbeitsplätze schaffe, wurden bisher meist nicht eingelöst. So seien etwa im rumänischen Mischii nur 10 der zugesagten 21 Stellen geschaffen worden; in der niederländischen Gemeinde Hollands Kroon waren es nur rund 530 statt der angekündigten 2.000 Stellen, wie eine Recherche von AlgorithmWatch zeigt. Eine Karte des Protests Ein weiteres Feature der Karte zeigt, wo sich Protest gegen den Ausbau von Rechenzentren formiert. Vielerorts wehren sich Anwohner:innen gegen Pläne, die Ressourcen ihrer Gemeinden für den KI-Boom zu nutzen. In den Niederlanden und in Irland haben Proteste schon dazu geführt, dass der Ausbau von Rechenzentren gestoppt wurde. Trotz der zusammengetragenen Fülle an Daten sind viele Informationen noch immer nicht öffentlich. Die Betreiber des Heiße-Luft-Projekts rufen dazu auf, weitere Informationsfreiheitsanfragen an Kommunen und Behörden zu richten und so zu zeigen, dass die „die Klimaversprechen der Tech-Konzerne heiße Luft sind“. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Yesterday · length unknown

    Polizeigesetz Thüringen: „Haben, haben, haben – und dann schauen, was passiert“

    Im Innenausschuss von Thüringen hat eine Reihe von Expert*innen das geplante Polizeigesetz massiv kritisiert. Gleichzeitig fand vor der Tür eine Kundgebung gegen die umfassenden Überwachungsbefugnisse statt, die damit erlaubt werden sollen. Protest vor dem Landtag von Thüringen. – CC-BY-NC-SA 4.0: ThürPAG stoppen. Bearbeitung: netzpolitik.org Vor der Tür des Landtages von Thüringen verteilen Menschen Flyer. Sie haben einen Pavillon und darunter einen Info-Stand aufgebaut und weisen Passant*innen darauf hin, dass im Landtag an diesem Tag, dem vergangenen Donnerstag, ein massiver Ausbau des Polizeiaufgabengesetzes, kurz PAG, besprochen wird. Die Protestbewegung „ThürPAG stoppen“, zu der die Aktivist*innen gehören, ist noch ganz jung, aber bereits hochaktiv. Sie sammelt auch Unterschriften, um die Abgeordneten dazu zu bringen, den Gesetzentwurf abzulehnen, über 3.400 Menschen haben die Petition bereits signiert. David Sommer, der „ThürPAG stoppen“ mit gegründet hat, sagt: „Auf den Veranstaltungen, die wir in den letzten Monaten durchgeführt haben, stellen wir immer wieder fest: Viele Menschen wollen keinen schleichenden Ausbau staatlicher Überwachung und machen sich große Sorgen.“ Alexis Wagenfeld, Mitinitiatorin der Protestbewegung, fürchtet, dass die neuen High-Tech-Überwachungswerkzeuge in die Hände einer rechtsextremen Regierung fallen könnten. „Deshalb brauchen wir rechtsstaatliche Zurückhaltung statt immer neuer Eingriffsbefugnisse“, sagt sie. Sommer und Wagenfeld sind allerdings durchaus optimistisch, dass sich der Entwurf noch aufhalten oder zumindest entschärfen lässt. Datenanalyse, Verhaltensscanner, Gesichtersuchmaschine und vieles mehr Das geplante Gesetz soll verschiedene Überwachungsmaßnahmen erlauben: Eine Meta-Datenbank mit KI-Analyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle, das automatisierte Tracking von Personen im Kameranetzwerk, die Suche nach biometrischen Daten im Internet, Kennzeichenscanner, Videodrohnen und elektronische Fußfesseln. Doch zur Verabschiedung des Gesetzes ist die Minderheitsregierung, eine Koalition aus CDU, SPD und BSW, auf Stimmen aus der Opposition angewiesen. Die besteht im Landtag nur aus der Linken und der AfD. Die Linke hat ebenfalls substanzielle Kritik an den geplanten KI-Überwachungsmaßnahmen und hält den Entwurf in der aktuellen Form für nicht zustimmungsfähig. Laut einer Pressemitteilung, die sie vor der Ausschusssitzung herausgegeben hat, will sie gegen das Gesetz klagen, sollte es in dieser Form verabschiedet werden. Es sei „sehr wahrscheinlich verfassungswidrig“. Ronald Hande, innenpolitischer Sprecher der Fraktion Die Linke im Thüringer Landtag sagt: „Das hier vorgelegte Polizeigesetz schafft eine verfassungsrechtlich hochriskante Überwachungsarchitektur.“ Die Landesregierung greife damit nach Werkzeugen, „die auch in autoritären und demokratiefeindlichen Regimen Anwendung finden, um die eigene Bevölkerung zu überwachen.“ Zahlreiche Expert*innen hatten den Gesetzentwurf in schriftlichen Stellungnahmen massiv kritisiert. Auch bei der mündlichen Sachverständigen-Anhörung, die im Landtag läuft, während die Aktivist*innen vor der Tür protestieren, werden elementare Bedenken formuliert. „Eine ganz neue Dimension“ Im ersten Block spricht der Landesdatenschutzbeauftragte Tino Melzer. Er hält die automatische Auswertung von Videostreams für eine „ganz neue Dimension“ der Polizeiarbeit. Er sieht eine Intensivierung des Grundrechtseingriffs für eine Vielzahl von Personen, die keinen Anlass dazu geben. Melzer verweist auf die Fehleranfälligkeit der Systeme. „Eine Umarmung kann als ein Schlag gedeutet werden.“ So könnten unbescholtene Personen von weitergehenden Maßnahmen beeinträchtigt werden. Besonders problematisch an der Videoanalyse sei, dass sie unbemerkt erfolgt. Die Betroffenen könnten sich somit nicht dagegen wehren. Nach dem Gesetzentwurf sollen – wenn die automatisierte Verhaltenskontrolle Alarm schlägt, Menschen auch automatisch über ein Kameranetzwerk hinweg verfolgt werden. Zuvor allerdings soll ein Mensch die mutmaßliche Risikosituation begutachten. Melzer kritisiert, dass dieser Zwischenschritt in unübersichtlichen Lagen regelmäßig ausfallen könnte. Landesdatenschutzbeauftragter fordert ersatzlose Streichung der Video-KI Betrachtet man dazu die Möglichkeit, die Videoanalyse auch auf den Bildern von Drohnen laufen zu lassen, „bekommen sie eine Vollbebilderung des Freistaats“, sagt Melzer. Er spricht sich für eine ersatzlose Streichung der Video-KI-Regelung aus. Auch in der elektronischen Fußfessel, die mit dem Entwurf auch für nicht näher spezifizierte „Gefährder“ eingeführt werden soll, sieht Melzer einen schwerwiegenden Eingriff in informationelle Selbstbestimmung. Er moniert, dass es noch keine wissenschaftlichen Erkenntnisse zur Wirksamkeit gäbe, diese aber Teil der Begründung sein müssten. Bei der automatisierten Datenanalyse verweist der Datenschutzbeauftragte auf das Urteil des Bundesverfassungsgerichts zu derartigen Systemen in Hessen und Hamburg. Das erlegt der Technologie enge Grenzen auf. Melzer zufolge entsprechen die Formulierungen im thüringischen Gesetz den diesbezüglichen Vorgaben nicht. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Erfahrungswerte fehlen weltweit „Das geht ja in Richtung Vorratsdatenspeicherung: Haben, haben, haben – und dann schauen was passiert“, sagt Melzer. Er fordert die Pflicht zur Evaluierung der Befugnis. „Erfahrungswerte fehlen uns als Gesellschaft, auch weltweit. Das fährt hoch, das fährt an, aus der Warte müsste man dringend evaluieren“, sagt er. Zudem sieht er einen Richtervorbehalt vor dem Einsatz für erforderlich. Die Internetsuche nach biometrischen Daten bestimmter Person birgt laut Melzer die Gefahr, dass sich Menschen aus der öffentlichen Kommunikation zurückziehen. Aufgrund der Vielzahl der Bilder, die sich von vielen Menschen im Netz finden lassen, sei damit die Bildung umfassender Profile möglich. Und auch hier könnten „aufgrund von Fehlern, Menschen irrtümlich von weiteren polizeilichen Handlungen in Anspruch genommen werden“. Kritisch sei zudem, dass der Entwurf mit der KI-Verordnung der EU kollidiert, wenn dafür Daten ungezielt aus dem Netz ausgelesen werden. Melzer spricht sich dafür aus, auch diesen Paragrafen ersatzlos zu streichen. Mandy Koch, Landesvorsitzende der Gewerkschaft der Polizei (GdP), fürchtet, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. Die Stellungnahme der GdP umfasst weitere Kritik. Diese ist für eine Polizeigewerkschaft so ungewöhnlich deutlich, dass wir ihr einen eigenen Beitrag gewidmet haben. „Die Grundrechtsintensität wird teils überhaupt nicht eruiert“ Felix Ruppert, Jurist von der Uni München, beschreibt den Entwurf als eine beispiellose Sammlung an Maßnahmen zur Datensammlung und ‑analyse. Er sieht erheblichen Überarbeitungsbedarf, „ansonsten droht Verfassungswidrigkeit weiter Teile des Gesetzentwurfs“. Die Verhältnismäßigkeitsprüfung komme zu kurz, Geeignetheit, Erforderlichkeit und Angemessenheit seien nicht hinreichend geklärt. Ruppert sagt: „Die Grundrechtsintensität wird teils überhaupt nicht eruiert.“ Die Erforderlichkeit werde in einigen Fällen einfach unterstellt. „Das ist dann befremdlich wenn es sich gegen eigene ministeriale Erkenntnisse richtet, wie zum Beispiel bei Videoüberwachung im öffentlichen Raum. Wenn man 2020 noch davon ausgeht, dass diese überhaupt nicht geeignet sei, die Sicherheit zu verstärken, wirft das schon Fragen auf, wenn jetzt die Erforderlichkeit einfach thesenartig unterstellt wird“, sagt er. Problematisch sei auch die Loslösung von der Voraussetzung einer konkreten Gefahr in weiten Teilen der Maßnahmen. Klare Eingriffsvoraussetzungen würden fehlen, die Eingriffsschwellen seien vielfach niedrig oder gar nicht vorhanden, der Einsatz der Software sei weitgehend unbegrenzt. Damit beschreite der Entwurf den „Weg in Richtung eines präventiven Sicherheitsrechts.“ Dorothea Marx von der SPD, Teil der angeschossenen Regierungskoalition, nennt Rupperts Rede danach „Salve eines Vernichtungsfeuerwerks“. „Die Streubreite wird enorm sein Constanze Kurz, die ein Teil der Redaktion von netzpolitik.org ist und für den Chaos Computer Club im Innenausschuss spricht, referiert eine Technikfolgenabschätzung ausgewählter Befugnisse. Bezüglich der automatisierten Datenanalyse gibt sie zu Protokoll, dass dafür eine dauerhafte Zusammenführung heterogener Daten unvermeidlich sei. „Egal wie man es ausgestaltet: Die Streubreite wird enorm sein.“ Wenn schon Datenanalyse, dann empfiehlt sie eher eine deterministische und damit auch nachvollziehbare Software. „Man braucht keine KI, um Querverbindungen zu finden“, sagt sie. Grundsätzlich fragt sie sich angesichts des Entwurfs „ob man immer an die äußerste verfassungsrechtliche Grenze gehen muss.“ Die Internetsuche nach biometrischen Daten von bestimmten Personen sieht Kurz ebenfalls kritisch. Die Streubreite sei auch dabei enorm und es seien Körperdaten betroffen, „die man nicht wechseln kann und die besonders geschützt sind.“ Zudem sieht sie keine legale Möglichkeit, diese Befugnis anzuwenden. „Es ist unmöglich, solche Abgleiche zu machen, wenn man nicht vorher eine Datenbank bildet“, sagt sie. Man müsse die Daten vereinheitlichen, um sie durchsuchbar zu machen. Das Anlegen einer Datenbank stünde aber, wie schon der Landesdatenschutzbeauftragte konstatierte, im klaren Widerspruch zur KI-Verordnung. Auch die Videoüberwachung mit angeschlossener Verhaltenskontrolle kommt bei Kurz nicht gut weg. „Es gibt in Deutschland kein einziges Projekt, das gezeigt hätte, dass das funktioniert“, sagt sie. Ihre größte Besorgnis dabei ist, „dass durch permanente Videoüberwachung und Auswertung eine Normalisierung von Dauerbeobachtung stattfindet.“ „Gefährlich ist, was nach einem Fehler passiert“ padeluun vom Verein Digitalcourage sagt zu der algorithmisch analysierten Videoüberwachung: „Gefährlich ist, was nach einem Fehler passiert. Ein falscher Treffer kann eine Kontrolle, eine Durchsuchung oder eine ziemlich unangenehme Begegnung mit bewaffneten Beamt*innen bedeuten.“ Die Befugnis ermögliche eine Infrastruktur automatisierter Kontrolle. Dabei verhindere Videoüberwachung keine Straftaten. „Das einzige, das man damit machen kann, ist Wahlkampf“, sagt er. Die geplante Fotofahndung im Internet bringe eine elementare Veränderung: „Menschen konnten bislang öffentlich sichtbar sein, ohne deshalb jederzeit maschinell identifizierbar zu sein“, sagt er. An der automatisierten Datenanalyse stört ihn vor allem, dass auch Daten von Zeug*innen und Opfern darin einbezogen sind. Wenn man diverse Datenbestände mit einem Mausklick verbinden könne, verändere sich zudem die Qualität staatlicher Macht. „Einer Überwachungsinfrastruktur können sie keinen demokratischen Charakter geben“, sagt er. Was heute als eng begrenzte Ausnahme eingeführt werde, sei morgen schon vorhandene Technik. Die zentrale Frage müsse sein: „Würden wir dieses Instrument einer Regierung an die Hand geben, der wir überhaupt nicht vertrauen?“ Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Der Verein Digitalcourage empfehle, die drei Paragrafen komplett zu streichen. „Polizisten sollen Ermittler sein, keine Überwacher“, sagt padeluun. Potenziell jede*r betroffen Kilian Vieht-Ditlmann von der gemeinnützigen Organisation AlgorithmWatch sagt zur biometrischen Internetsuche: „Stellen sie sich vor, Sie posten ein Bild von der Hochzeit ihrer Schwester, einem Kindergeburtstag oder einer Chorprobe – dann soll die Polizei daraus biometrische Daten extrahieren und in einer Datenbank ablegen können.“ Von dem Eingriff seien nicht nur Verdächtige betroffen, „sondern potenziell jeder von uns“. Zudem seien womöglich sensible Kontexte betroffen, Bilder von Demos, aus Gay-Bars oder Gottesdiensten zum Beispiel. Er verweist auch darauf, dass die Technologie in anderen Ländern genutzt wird, um auf Demonstrationen Regime-Gegner*innen zu identifizieren. Vieth-Ditlmann sagt, er habe mal eine kommerzielle Gesichtersuchmaschine ausprobiert und sei erstaunt gewesen, dass diese auch Bilder fand, die er gar nicht auf dem Schirm hatte. Zudem seien auch Bilder anderer Menschen in der Ergebnisliste gewesen. Derartige Fehlidentifikation könne im polizeilichen Kontext den Betroffenen deutliche Nachteile bringen. Bei der Videoüberwachung, die automatisch verdächtiges Verhalten markiert, sieht Vieth-Ditlmann ein großes Problem in der Umsetzbarkeit: „Polizistinnen müssen eine Flut von Fehlalarmen manuell prüfen.“ Die Befugnis solle zwar nur an sogenannten gefährlichen Orten eingesetzt werden, „aber die werden von Beamt*innen teils flexibel festgelegt, das ist keine feste Grenze, sondern eher so ein Gummiband.“ Die Möglichkeit, sich frei und unbeobachtet im öffentlichen Raum zu bewegen, sei keine Nebensache, sondern „Grundvoraussetzung, dass Demokratie überhaupt funktioniert“, sagt Vieth-Ditlmann. Die beiden genannten Befugnisse sollten deshalb aus der Sicht von AlgorithmWatch komplett gestrichen werden. „Wir bitten Sie darum, diesen Weg gar nicht erst einzuschlagen“, sagt er. „Das Sicherheitsgefühl ist kein polizeiliches Schutzgut“ Alexis Wagenfeld und David Sommer, die eben noch vor der Tür protestierten, sind jetzt im Landtag und sprechen dort für das „Auf die Plätze“-Bündnis, das sich rechtsextremen Raumnahmen entgegenstellt. Wagenfeld verweist zunächst auf die Polizeistatistiken, die in Thüringen einen kontinuierlichen Rückgang erfasster Straftaten zeigen. Es ginge bei der Einführung der neuen Befugnisse also nicht um tatsächliche Sicherheit, sondern um ein Sicherheitsgefühl. Sie sagt: “Das Sicherheitsgefühl der Bevölkerung ist kein polizeiliches Schutzgut.“ Sommer erklärt, dass polizeiliche Daten die Kontrollpraxis der Polizei widerspiegeln, die überdurchschnittlich oft zu Lasten von armen und migrantisierten Menschen gehe. „Aus diesen verzerrten Trainingsdaten ergibt sich ein hohes Diskriminierungspotential“, sagt er. Daraus ergebe sich eine selbsterfüllende Prophezeiung – die Vorverurteilung führe zu verstärkten Kontrollen, die wiederum die Vorverurteilung bestätigen. Der Grundrechtseingriff wird zum Mausklick Wagenfeld fügt hinzu: „Der Entwurf treibt eine schleichende Normalisierung autoritärer Werkzeuge und entgrenzter Polizeiarbeit voran.“ Auch wenn Technologien wie die automatisierte Datenanalyse, die elektronische Fußfessel oder der biometrische Abgleich noch über gewisse Eingriffsschwellen verfügen, werde die Polizei an den Einsatz der Technologien gewöhnt. „Was in der Theorie ein schwerer Grundrechtseingriff ist, wird in der Polizeiarbeit schnell zur Routine, zum Mausklick“, sagt sie. Sie nehme wahr, dass Grundrechte oftmals als Hindernis auf dem Weg zu mehr Sicherheit betrachtet würden. Das verkenne ihre Rolle für eine Demokratie in fundamentaler Weise. „Grundrechte sind Abwehrrechte gerade gegen den – auch liberalen – Staat, und stellen herausragende historische wie gesellschaftliche Errungenschaften dar.“ In Demokratien solle die Exekutive der Bevölkerung ein hohes Maß an Vertrauen entgegenbringen. Der aktuelle Gesetzesentwurf stelle jedoch zahlreiche Menschen unter Generalverdacht, und entfalte an vielen Stellen eine hohe abschreckende Wirkung auf die Ausübung von Grundrechten. „Wir lehnen ihn deshalb in weiten Teilen ab“, sagt sie. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Thursday · length unknown

    Autistici/Inventati: USA sanktionieren italienisches Internetkollektiv

    Die USA setzen ihren Kampf gegen linke zivilgesellschaftliche Projekte in Europa fort. Nun hat es das bekannte Internetkollektiv Autistici/Inventati getroffen. Das wehrt sich gegen die Vorwürfe und Sanktionen. Holt gegen das kleine italienische Internetkollektiv den ganz großen Hammer raus: US-Außenminister Marco Rubio (auf dem Bild links) – Alle Rechte vorbehalten: IMAGO / ABACAPRESS Die US-Regierung hat am Mittwoch das bekannte linke italienische Internetkollektiv Autistici/Inventati mit Sanktionen belegt und als „Globale Terroristen“ eingestuft. Das Amt zur Kontrolle von Auslandsvermögen (OFAC) behauptet, dass es mit der Maßnahme „der wachsenden Bedrohung durch gewalttätige linksradikale Terrorgruppen“ entgegenwirken würde. Auch US-Außenminister Marco Rubio äußerte sich. Die Trump-Regierung setzt die Maßnahme zudem in Zusammenhang mit Maßnahmen gegen „die Antifa“, die sie im November 2025 ergriffen hatte. Sie begründet die Sanktionen damit, dass das Kollektiv angeblich „spezielle digitale Architektur, Tools und Dienstleistungen für Antifa-Zellen und andere gewalttätige linksradikale Extremisten bereitstellt“. Die Regierung sagt in ihrer Mitteilung, dass angeblich auch die Arbeiterpartei Kurdistans die Dienste des Kollektivs genutzt habe, die mit der Erdogan-Regierung verhandelt und ihre Auflösung verkündet hat. USA gegen „die Antifa“ Die US-Regierung behauptet, ohne Beweise vorzulegen, dass das Internetkollektiv eine terroristische Handlung wesentlich gefördert oder finanziell, materiell oder technologisch unterstützt habe bzw. Waren und Dienstleistungen für eine solche Handlung oder zu deren Unterstützung bereitgestellt habe. Die Trump-Regierung bedient sich rechtlich bei einer Verordnung von George W. Bush nach denn Terroranschlägen am 11. September 2001. Das Kollektiv weist in einer Erklärung alle Vorwürfe zurück: Wir weisen alle in den Erklärungen enthaltenen Vorwürfe zurück und bekräftigen gleichzeitig nachdrücklich unser Engagement, eine Plattform mit Werkzeugen zur digitalen Selbstverteidigung bereitzustellen, die dem Bedürfnis nach freier Kommunikation von Aktivisten sowie anderen Einzelpersonen, Gruppen und Vereinigungen gerecht wird. Wir werden nicht nachgeben. Wir werden weiterhin das tun, was wir all die Jahre getan haben. Und wir werden alles in unserer Macht Stehende tun, um den falschen Anschuldigungen einer politisch verzweifelten Regierung entgegenzuwirken. Deren einzige Absicht besteht darin, die Aufmerksamkeit der Menschen und der Medien von ihrer eigenen Gewalt und Kriegstreiberei abzulenken. Antifaschismus und Antikapitalismus sind kein Terrorismus. Protestieren ist kein Terrorismus. Und jeder hat das Recht, seine Meinung zu äußern und für die Menschlichkeit zu kämpfen. Autistici/Inventati existiert seit dem Jahr 2001. Das Kollektiv wurde im Umfeld des G8-Gipfels in Genua gegründet. Den Namen „Autistici“ entnahmen die Aktivist:innen der ironischen Selbstbezeichnung, quasi autistisch auf einen Bildschirm fixiert zu sein. „Inventati“ bedeutet, je nachdem wie ein Akzent gesetzt wird, entweder „sich selbst erfinden“ oder „die Erfundenen“. Bekannt ist das Kollektiv unter anderem für die Blogplattform NoBlogs.org, die auch in Deutschland rege genutzt wird und auf der tausende Blogs gehostet sind. Das Kollektiv von Ehrenamtlichen stellt sozialen Bewegungen seit Jahren unentgeltlich Mailadressen, Instant Messenger und selbstverwaltete Infrastruktur abseits von großen Plattformen und Unternehmen zur Verfügung. Laut Informationen des ND hostet das Kollektiv 1.500 Webseiten. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Mögliche Probleme mit Spendenkonten Autistici/Inventati finanziert sich ausschließlich über Spenden. Hier könnten Sanktionen greifen und dem Kollektiv die Finanzierung schwer machen, wenn Banken und Zahlungsdienstleister aus Angst vor US-Sanktionen Konten kündigen. Es ist nicht das erste Mal, dass politisch-motivierte Sanktionen der rechtsradikalen US-Regierung Folgen für zivilgesellschaftliche Organisationen in Europa haben. Zuletzt waren der deutschen Rote Hilfe ihre Konten bei GLS Bank und Sparkasse gekündigt worden. Die Sparkasse bestätigte einen Zusammenhang mit den US-Sanktionen. Die Rote Hilfe konnte nur durch Proteste und Gerichtsverfahren den Zugang zu ihren Konten wiedererlangen. Die US-Regierung belegte zudem Ende 2025 die Organisation HateAid mit Sanktionen und begründete dies mit angeblicher Zensur. Update 16:30 Uhr: In einer längeren Erklärung schreibt das Medienkollektiv Sabotmedia, was nun passieren könnte. Autistici/Inventati hat den Text auf seinem Blog gecrosspostet: Nun sei der Stichtag des 25. Septembers entscheidend. Denn ab diesem Tag gelten die Sanktionen vollends. Ab diesem Zeitpunkt sei mit dem Verlust von Bankkonten und Zahlungsabwicklung, Hosting, Cloud-Infrastruktur und Upstream-Netzwerkdiensten, Domain-Registrierung, Zertifikaten usw. zu rechnen – auch wenn nicht alle, die mit dem Kollektiv Geschäftsbeziehungen haben, gesetzlich verpflichtet sind, zu reagieren. Weiter heißt es, dass sich die Einstufung zwar gegen das Kollektiv an sich richte, doch die Maßnahme Auswirkungen für alle haben wird, die die Infrastruktur nutzen: Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Die Infrastruktur von A/I wird von Schriftstellern, Organisatoren, Forscher:innen, Künstler:innen, Publikationen von Bewegungen und Menschen genutzt, die sich gerade deshalb dafür entschieden haben, weil kommerzielle Plattformen unsicher, politisch feindselig oder darauf ausgelegt waren, ihre Daten abzugreifen. Diese Nutzer werden nicht automatisch sanktioniert, nur weil sie eine A/I‑Adresse haben oder auf Noblogs veröffentlichen. Sobald jedoch der Anbieter selbst auf eine Terrorismus-Blacklist gesetzt wird, kann eine gewöhnliche Verbindung zu einem Risikosignal werden. Mehr als nur das Kollektiv betroffen Sabotmedia warnt in diesem Sinne vor einem „Kreis der Angst“, der sich auf alle Nutzer:innen der Services auswirken könnte. Das umfassendere Ziel der Maßnahme sei die Community rund um die Server des Kollektivs und soziale Bewegungen insgesamt, indem unabhängige, zensurfreie, nicht-kommerzielle Infrastrukturen, die auch kontroverse Inhalte und Gruppen hosten, unter Druck gesetzt werden. Im Text heißt es weiter: Nutzer:innen könnten von vertrauenswürdiger Infrastruktur der Bewegung zu kommerziellen Systemen abwandern, die leichter zu überwachen, per Vorladung zu erzwingen und zu kartieren sind. Der Staat gewinnt an Einfluss, selbst wenn er keine Klartextdaten von den verschlüsselten Festplatten von A/I erhält: Menschen isolieren sich voneinander, Anbieter sammeln mehr Informationen, und die sozialen Beziehungen rund um regimekritisches Engagement lassen sich leichter beobachten. Die Struktur der Maßnahme der USA sei erkennbar. Sie ersetze eine eng gefasste Anschuldigung gegen identifizierbares Verhalten durch eine pauschale Sanktion gegen die Infrastruktur; verlagere die Durchsetzung vom Gerichtssaal in ein globales Netz vorsichtiger Institutionen; und mache die Ungewissheit selbst zu einem Instrument der Kontrolle. Das unmittelbare Ziel möge darin bestehen, A/I außer Gefecht zu setzen. Die weiterreichende Wirkung bestehe aber darin, jeden zu warnen, der Kommunikationswege außerhalb der Kontrolle von Unternehmen und Staat aufbaue, dass der Schutz, den diese bieten, als Beweismittel gegen sie umgedeutet werden könne. Solidarität jetzt wichtig Weiter heißt es im Text, dass das Kollektiv zwar die technischen Infrastrukturen vermutlich retten könne und für dies gut gerüstet sei. Die Maßnahme ziele aber nicht auf die technische Infrastruktur, sondern das Gefüge rund um diese. Genannt werden dabei Finanzierung, Spenden, Verträge mit Rechenzentren, usw. Es komme deswegen darauf an, dass es Solidarität mit dem Projekt gebe. Der 25. September sei kein Stichtag für Schweigen, heißt es weiter: Unabhängige Berichterstattung, Kritik, Protest, Aufklärung und politisches Engagement bleiben möglich. Die Menschen können die Geschichte von A/I erzählen, die Behauptungen der Regierung hinterfragen und anfechten, Journalist:innen und Bürgerrechtsorganisationen kontaktieren, öffentlich zugängliche Materialien sichern und sich unabhängig gegen die Kriminalisierung widerständiger Kommunikationsinfrastruktur organisieren. Dennoch würde es ab dem 25. September schwieriger das Kollektiv offen und direkt zu unterstützen. In einem Kapitel „Was Unterstützer vor dem 25. September tun können“ ruft das Kollektiv auf, die Geschichte des Kollektivs zu erzählen und die Darstellung der US-Regierung zu kontern, was mit der Maßnahme wirklich angegriffen wurde. Weiter heißt es in dem Solidaritätsaufruf von Sabotmedia, den wir an dieser Stelle in voller Länge dokumentieren (automatische Übersetzung): Bildet eine öffentliche Verteidigungskoalition. Bittet unabhängige Serverkollektive, Organisationen für digitale Rechte, Hacklabs, Freie-Software-Projekte, radikale Bibliotheken, unabhängige Verlage, Journalisten, Rechtsanwälte, Forscher und ehemalige Nutzer, öffentlich Stellung zu nehmen. Sichert das Archiv. Server können beschlagnahmt werden. Domains können gesperrt werden. Hosting-Anbieter können in Panik geraten. Sichert öffentlich zugängliche und historisch wertvolle Noblogs-Beiträge sowie die Manifeste, technischen Dokumente, Rechtsunterlagen und die Bewegungsgeschichte von A/I. Erfasst Quell-URLs, Urheberschaft, Veröffentlichungsdaten und Abrufdaten. Respektiert Datenschutz, Urheberrecht und Löschanträge. Greift nicht auf private Konten zu und umgeht keine Sicherheitsvorkehrungen. Persönliche Archivierung, Forschungsarchivierung und gewöhnlicher Journalismus sind nicht dasselbe wie der öffentliche Betrieb einer Ersatzinfrastruktur; wer einen öffentlichen Mirror in Betracht zieht, sollte zunächst qualifizierten Rat einholen. Dokumentiert übermäßige Compliance. Erfasst Unternehmen, Banken, Registrare, Plattformen und Institutionen, die Dienste einstellen oder Material entfernen. Bewahrt Mitteilungen und Korrespondenz auf. Die öffentlichen Aufzeichnungen sollten zeigen, wie weit die Einstufung über ihren formalen Wortlaut hinausgeht. Fordert Antworten. Fragt Digitalrechtsgruppen, europäische Institutionen und Amtsträger, ob sie zulassen werden, dass amerikanische Sanktionen ein italienisches Kommunikationskollektiv zerschlagen. Fragt, welcher Schutz für europäische Infrastruktur, Nutzer und Archive besteht. Organisiert Euch unabhängig. Führt öffentliche Diskussionen über autonome Infrastruktur, Sanktionen, Überwachung und das Gesetz zur materiellen Unterstützung. Veröffentlicht Erklärungen. Vermittelt Kenntnisse über Verschlüsselung. Unterstützt unabhängige Bürgerrechtsarbeit, die sich gegen weitreichende Terrorismus-Einstufungen wendet. Bereitet rechtmäßige materielle Unterstützung vor. A/I hat sich in der Vergangenheit durch freiwillige Spenden finanziert, doch US-amerikanische Unterstützer sollten während der Gültigkeit der Einstufung ohne klare Genehmigung kein Geld senden oder umleiten. Organisationen für digitale Rechte und Rechtshilfe können eigenständig rechtmäßige Unterstützungsmechanismen, Lizenzierungen und mögliche Verfahren zur Aufhebung der Einstufung prüfen. Hört euch die öffentliche Stellungnahme von A/I aufmerksam an und achtet dabei darauf, dass die Interessenvertretung rechtlich unabhängig bleibt. Die Erklärung des Kollektivs sollte darüber Aufschluss geben, wie seine Geschichte und die Umstände beschrieben werden. Jede koordinierte Kampagne, jeder Fundraising-Kanal oder jede direkte Dienstleistung erfordert eine gesonderte rechtliche Prüfung. Das unmittelbare Ziel ist es, ein stilles Verschwinden von A/I unmöglich zu machen. Das Netzwerk namens Solidarität A/I hat Konzerne überstanden, die Zensur forderten, sowie verdeckten polizeilichen Zugriff, beschlagnahmte Festplatten, feindselige Provider, Angriffe aus dem Parlament und internationale Ermittlungen. Der Fall Trenitalia führte zu Spiegelservern und einem juristischen Sieg. Der Aruba-Hack führte zu „Plan R*“. Die Zensur durch Provider führte zu Redundanz. Die Beschlagnahmung in Norwegen zeigte, dass sich das Netzwerk innerhalb von Stunden wieder erholen konnte. Jeder Versuch, das Kollektiv zu isolieren, verbreitete Wissen darüber, wie Zensur und Überwachung funktionieren. Jeder Angriff wurde zu einer Gelegenheit, mehr Menschen beizubringen, wie sie sich gegenseitig schützen können. Die Vereinigten Staaten haben diese Geschichte nun in einen globalen Test verwandelt. Auf dem Spiel steht nicht nur das Überleben eines italienischen Hacker-Kollektivs. Es geht darum, ob die Aufrechterhaltung einer Infrastruktur für radikale Bewegungen an sich schon als Terrorismus behandelt werden kann; ob Privatsphäre als Verschleierung neu definiert werden kann; ob die Weigerung, identifizierende Informationen zu sammeln, als Behinderung dargestellt werden kann; und ob ein Provider politisch und rechtlich für jeden Text, jede Taktik und jede Behauptung verantwortlich gemacht werden kann, die über seine Maschinen übertragen werden. A/I hat sich 25 Jahre lang auf den Tag vorbereitet, an dem ein Server verschwindet. Es weiß, wie man eine Maschine ersetzt, einen Dienst verlagert, verschlüsselte Daten wiederherstellt und den Betrieb fortsetzt, nachdem Polizei oder Provider den Stecker gezogen haben. Die Vereinigten Staaten versuchen etwas anderes. Sie versuchen, Banken, Hosts, Registrare, Infrastrukturanbieter und Unterstützer auf der ganzen Welt einzuschüchtern, damit sie das Kollektiv im Stich lassen. Ob das gelingt, wird zum Teil von der Architektur von A/I abhängen. Es wird auch von uns abhängen. Bewahrt bis zum 25. September die Geschichte. Teilt die Geschichte. Baut die Koalition auf. Dokumentiert die Isolation. Vermittelt die Werkzeuge. Bereitet eine rechtmäßige Verteidigung vor. Lasst nicht zu, dass der Staat stillschweigend festlegt, dass der Aufbau einer datenschutzfördernden Infrastruktur für Dissens an sich schon ein Akt des Terrorismus ist. Vor fünfundzwanzig Jahren versammelten sich zehn Menschen um einen ausrangierten Rechner und ließen sich bewusst viel Zeit bei der Konfiguration, weil jeder im Raum etwas lernen sollte. Das ist nach wie vor die Lehre daraus. Überlasst das Wissen nicht den Experten. Konzentiert die Infrastruktur nicht an einem Ort. Lasst die Betroffenen nicht allein. Der erste Server hieß Paranoia. Das Netzwerk, das er schuf, hieß Solidarität. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Thursday · length unknown

    KI-Befugnisse in Thüringen: Polizeigewerkschaft kritisiert Polizeigesetz

    Normalerweise freuen sich Polizist*innen über erweiterte Befugnisse. Doch das geplante Thüringer Polizeigesetz geht selbst der dortigen Gewerkschaft der Polizei zu weit. Sie warnt vor den Folgen von KI-gestützter Überwachung und fordert klare Beschränkungen. Polizist*innen in Erfurt. (Symbolbild) – CC-BY-NC-SA 4.0: Denis Glismann Im Thüringer Landtag lief am Donnerstag eine Expert*innenanhörung zum aktuellen Polizeigesetzentwurf der Regierungskoalition aus CDU, BSW und SPD. Unter den geladenen Sachverständigen ist auch Mandy Koch, Vorsitzende der Gewerkschaft der Polizei (GdP), Landesbezirk Thüringen. Koch begrüßt ein „zeitgemäßes Instrumentarium“, kritisiert aber die unbestimmten Rechtsbegriffe im Gesetzentwurf. Kennzeichenscanner dürften demnach beispielsweise nicht flächendeckend und nicht dauerhaft eingesetzt werden, „aber was heißt das?“ Die automatisierte Videoüberwachung soll bestimmte Verhaltensmuster erkennen, „aber wie definiert man das?“ Koch fordert eindeutige Eingriffsschwellen. „Klare Grenzen behindern Polizeiarbeit nicht, sondern schützen Bürgerrechte und schaffen Rechtssicherheit für Kolleginnen und Kollegen“, sagt sie. Koch fürchtet zudem, dass mit dem neuen Polizeigesetz eine präventive Überwachung von Versammlungen möglich wird. „Wenn ich mir vorstelle, ich gehe zu einer Demo, es ist alles schön, es ist alles schick, ich versammle mich friedlich und ohne Waffen und über mir fliegt eine Drohne ständig rum, dann fände ich das nicht schön, weil das immer so ein unwohles Gefühl birgt“, sagt sie. Die Gewerkschaftsvorsitzende sieht die Gefahr, „dass Menschen sagen, dann geh ich da nicht hin, das will ich nicht und dann nehme ich mein Grundrecht nicht wahr, das sehen wir kritisch.“ „Erhebliche Risiken für die Grundrechte“ Im Vorhinein hatte die GdP Thüringen bereits eine schriftliche Stellungnahme eingereicht, die in Umfang, Detailtiefe und auch Schärfe der Kritik noch einmal deutlich über die in der Anhörung getätigten Aussagen hinausgeht. Die Gewerkschaft nennt „erhebliche Risiken für Grundrechte“ und kritisiert erstaunlich deutlich die geplanten Befugnis-Erweiterungen. Der Polizeigesetz-Entwurf soll eine Reihe von KI-basierten Technologien erlauben: Datenanalyse nach Palantir-Art, Videoüberwachung mit automatisierter Verhaltenskontrolle und eine Internet-Suchmaschine für biometrische Daten. Diese Befugnisse wurden auch in vielen anderen Bundesländern eingebracht und teils bereits verabschiedet. Auch Bundespolizei und BKA sollen mit den Tools arbeiten. Das verschafft der klaren Position der Polizeigewerkschaft in Thürigen bundesweite Relevanz. Ein zentrales Problem an den automatisierten Systemen ist für die GdP Thüringen deren fehlende Neutralität. Die Gewerkschaft warnt davor, technische Systeme als scheinbar objektive Entscheidungsinstanzen zu betrachten. „Biometrische Treffer, automatisierte Warnmeldungen oder algorithmische Risikobewertungen dürfen niemals alleinige Grundlage schwerwiegender polizeilicher Eingriffe sein“, schreibt sie. Sie hält externe Audits, regelmäßige Evaluierungen und klare gesetzliche Begrenzungen automatisierter Analyse- und Identifikationssysteme für unverzichtbar. Insbesondere bei datengetriebenen und technisch gestützten Eingriffsbefugnissen müssten rechtsstaatliche Grenzen und demokratische Kontrolle stärker berücksichtigt werden. GdP fordert strenge Richtervorbehalte für Datenanalysen Speziell bei der automatisierten Datenanalyse, wenn also unterschiedliche Datenbestände verknüpft und algorithmisch analysiert werden, steige zwangsläufig die Gefahr fehlerhafter Zuordnungen oder unklarer Verdachtslagen. Deshalb braucht es dafür aus Sicht der GdP Thüringen strenge Richtervorbehalte und nachvollziehbare Kontrollmechanismen. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Grundsätzlich ist die GdP – bei einer Polizeigewerkschaft erwartbar – einer Ausweitung der Befugnisse nicht abgeneigt. Auch die neuen Befugnisse lehnt sie nicht grundsätzlich ab. Sie unterstützt das Ziel, „das Thüringer Polizeiaufgabengesetz an moderne Gefahrenlagen anzupassen und der Polizei zeitgemäße Instrumente zur Verfügung zu stellen“. Allerdings äußert sie auch erhebliche Bedenken. Zuallererst ist da die immer wieder geäußerte Sorge davor, dass mit einer Ausweitung der Befugnisse auch eine erhöhte Belastung des Personals einhergeht. Deshalb fordert sie, bei einem Ausbau von Kompetenzen immer auch Ressourcen der Polizei aufzustocken. Die Gewerkschaft sieht in dem vorliegenden Gesetzentwurf zudem „die Gefahr, dass polizeiliche Eingriffe immer weiter in das Vorfeld konkreter Gefahren verlagert werden“. Sie kritisiert die vielen unbestimmten Formulierungen im Gesetzestext, wie „hinreichende Wahrscheinlichkeit“, „Verhaltensmuster“ oder „übersehbarer Zeitraum“ – die ja eigentlich den Spielraum der Polizei erweitern. „Unklare Normen schützen keine Grundrechte. Sie verlagern Rechtsunsicherheit lediglich auf die Ebene der handelnden Polizeibeamtinnen und Polizeibeamten“, schreibt die GdP dazu. Regelmäßige Evaluation und Berichtspflichten Die Gewerkschaft fordert, die Befugnisse regelmäßig zu evaluieren und Berichtspflichten an das Parlament zu hinterlegen. „Gerade bei neuen technischen Maßnahmen liegen bislang nur begrenzte belastbare empirische Erkenntnisse zu tatsächlicher Wirksamkeit, Fehlerraten oder langfristigen Auswirkungen auf Grundrechte und gesellschaftliches Vertrauen vor“, erläutert sie. Harmlose Bewegungen oder alltägliche Interaktionen könnten technisch fehlerhaft als Gefahrensituation interpretiert werden, warnt die GdP Thüringen. „Die Folgen solcher Fehlbewertungen bleiben nicht theoretisch. Sie können unnötige Polizeieinsätze auslösen, unbeteiligte Personen in polizeiliche Maßnahmen hineinziehen und letztlich das Vertrauen der Bevölkerung in die Verhältnismäßigkeit staatlichen Handelns beeinträchtigen“, schreibt die Polizeigewerkschaft. Die GdP Thüringen warnt, dass die neuen Überwachungs- und Analysebefugnisse erhebliche Auswirkungen auf die Wahrnehmung der Versammlungsfreiheit entfalten könnten. „Gerade Videoüberwachung, automatisierte Verhaltensanalyse oder biometrische Identifikationssysteme bergen die Gefahr sogenannter ‚Chilling Effects‘“, schreibt sie. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Versammlungen nicht präventiv überwachen Die von Mandy Koch in der Anhörung genannten Sorgen zur Versammlungsfreiheit erwähnt die Stellungnahme ebenfalls. Friedliche Demonstrationen dürften nicht den Eindruck vermitteln, sie stünden unter einer allgemeinen präventiven Dauerbeobachtung. Die GdP Thüringen hält demnach eine ausdrückliche gesetzliche Klarstellung für erforderlich, dass friedliche Versammlungen nicht zum Gegenstand allgemeiner präventiver Überwachung gemacht werden dürfen. Das würde nicht nur Bürgerrechte schützen, sondern auch die Polizei selbst – vor dem Vorwurf politisch motivierter Überwachung. Die GdP Thüringen kritisiert nicht nur das geplante Polizeigesetz, sondern auch aktuell existierende Regelungen. Derzeit legen Polizist*innen in Thüringen sogenannte gefährliche Orte, an denen sie beispielsweise verdachtsunabhängige Kontrollen vornehmen dürfen, relativ freihändig fest, teils auch einfach spontan. Die Gewerkschaft schreibt, dass diese Orte nicht beliebig und ohne nachvollziehbare Kriterien festgelegt werden dürften. „Wenn Kontrollräume kurzfristig, uneinheitlich oder ohne ausreichende Dokumentation entstehen, leidet die Akzeptanz polizeilichen Handelns“, schreibt sie. Die sogenannte elektronische Fußfessel, deren Einsatz mit dem Entwurf in Thüringen zur Abwehr verschiedener Gefahren erlaubt werden soll, würde die GdP Thüringen gern hart begrenzen. Sie soll nur unter engen gesetzlichen Voraussetzungen eingesetzt werden und regelmäßig richterlich überprüft werden. „Je intensiver ein Grundrechtseingriff ist, desto höher sind die Anforderungen an Kontrolle, Dokumentation und Verhältnismäßigkeit“, betont die Gewerkschaft. „Menschen dürfen nicht den Eindruck gewinnen, vollständig technisiert überwacht zu werden“ Mit dem Gesetzentwurf sollen der Polizei auch Elektroimpulspistolen, sogenannte Taser, erlaubt werden. Die GdP Thüringen fordert dazu umfangreiche Schulungsmaßnahmen, verpflichtende medizinische Nachkontrollen der Betroffenen und eine lückenlose Dokumentation sämtlicher Einsätze. Zudem soll der Einsatz wissenschaftlich begleitet und regelmäßig evaluiert werden. „Nur so lässt sich nachvollziehen, in welchen Situationen Distanzelektroimpulsgeräte tatsächlich deeskalierend wirken und wo Risiken oder Fehlentwicklungen bestehen“, schreibt die Gewerkschaft. Der vorliegende Entwurf soll den Einsatz von Videoüberwachung mit Verhaltensanalyse auch in Gewahrsamsräumen erlauben. Was der GdP Thüringen dabei fehlt, sind ein expliziter Schutz der Intimsphäre, klare Löschfristen und nachvollziehbare Dokumentationspflichten. „Menschen dürfen auch im Gewahrsam nicht den Eindruck gewinnen, vollständig technisiert überwacht zu werden“, schreibt sie. Die GdP Thüringen treibt auch die Sorge darum, dass die Daten, die mit den neuen Befugnissen erhoben werden, digitalen Angriffen zum Opfer fallen könnten. „Gerade sicherheitsrelevante Systeme geraten zunehmend in den Fokus organisierter Cyberkriminalität sowie ausländischer Nachrichtendienste“, warnt sie. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Thursday · length unknown

    Jugendschutz im Sonderangebot: Meta kauft sich frei

    Vor Gericht hätten mehrere US-Bundesstaaten ein historisches Urteil zum Schutz junger Menschen erstreiten können. Stattdessen haben sie sich auf einen halbgaren Deal mit Meta eingelassen. Neben vielen Milliarden US-Dollar bringt er Jugendschutz mit Ablaufdatum. Ein Kommentar. Wird durch den Vergleich nicht vor Gericht aussagen müssen: Meta-Chef Mark Zuckerberg. – Alle Rechte vorbehalten: IMAGO / PxImages Welche Verantwortung tragen Tech-Konzerne wie Facebook und Instagram, wenn sie junge Menschen an sich binden, bis ihre Gesundheit leidet? Wie hoch ist die Strafe, wenn Konzerne aus der Aufmerksamkeit junger Menschen maximalen Profit schlagen und dabei Schaden in Kauf nehmen – mit suchtfördernden Mechanismen, manipulativen Designs und allerlei Psycho-Tricks? Diese und weitere Fragen hätte ein wegweisender Gerichtsprozess in den USA beantworten können. Aber die klagenden US-Bundesstaaten haben es zugelassen, dass Meta sich freikauft. Mit einem Vergleich über zunächst rund 13 Milliarden US-Dollar entgeht der Mutterkonzern von Facebook und Instagram einem Urteil und bestreitet weiter die Vorwürfe. Das Gericht muss dieser Einigung allerdings noch zustimmen. Zum Vergleich gehören nicht nur Milliarden, sondern auch eine Reihe von Maßnahmen für mehr Kinder- und Jugendschutz auf Facebook und Instagram. Meta präsentiert das in einem Blogpost. Unter anderem soll es für Jugendliche ein Zeitlimit von zwei Stunden am Tag geben, das sie nur mit elterlicher Erlaubnis abschalten können. Zwischen Mitternacht und sechs Uhr morgens sollen junge Menschen zentrale Funktionen der Plattformen nicht nutzen können. Und nicht zuletzt sollen sie einen Feed wählen können, der nicht auf ihre persönlichen Interessen optimiert wurde. Einerseits können solche Maßnahmen tatsächlich helfen, um die oftmals unwiderstehliche Sogwirkung der Apps zu lindern. Andererseits steckt darin ein vergiftetes Angebot. Offensichtlich wollen Facebook und Instagram damit einem drohenden Urteil entgehen, das möglicherweise deutlich härtere Geldbußen, Auflagen und Folgeklagen mit sich gebracht hätte. Jugendschutz als Knaller-Schnäppchen Die Maßnahmen aus dem Vergleich sind keine schönen neuen Standards, auf die sich Betroffene in Zukunft berufen können. Kein Gericht hat geklärt, dass sich solche Maßnahmen aus geltendem Recht ergeben. Die Maßnahmen sind bloß ein Deal mit Meta, und sie haben sogar ein Ablaufdatum. Nur zehn Jahre lang will sich Meta zu den meisten dieser Maßnahmen verpflichten. Und nur fünf Jahre lang will sich der Konzern dazu verpflichten, die Nutzungszeit für junge Menschen zu beschränken – auf zwei Stunden am Tag und auf Basisfunktionen in der Nacht. Fünf schlappe Jahre. Die Gründe für diese lächerlich kurze Zeitspanne liegen auf der Hand. Wenn junge Menschen ihre Aufmerksamkeit anderen Dingen widmen, verliert Meta Geld, und Meta will kein Geld verlieren. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Wer sich Metas Darstellung des Deals durchliest, hört förmlich die Stimme eines windigen Teleshopping-Verkäufers tönen: „Unglaublicher Jugendschutz-Deal, greifen Sie jetzt zu!“ Es ist tatsächlich Teil des Deals, dass Meta die auf nur fünf Jahre beschränkte Laufzeit seiner beiden Vorzeige-Maßnahmen auf volle zehn Jahre verlängern könnte – vorausgesetzt, dass sich auch TikTok und YouTube den Standards anschließen. „Aber das ist noch längst nicht alles“, raunt der fiktive Verkäufer. Wenn TikTok und YouTube mitziehen, will Meta dem Deal zufolge das tägliche Zeitlimit für junge Menschen noch weiter senken, und die Summe des Vergleichs würde weiter steigen: von 12,7 auf 18 Milliarden US-Dollar. Im Teleshopping würden an dieser Stelle goldene Dollarzeichen aufpoppen, begleitet von Konfetti-Regen und dem ekstatischen Ruf des Verkäufers: „Ist das nicht ein absolutes Knaller-Schnäppchen, bei dem kein Jugendschutz-Fan Nein sagen kann?!“ Metas Deal wirft eine bohrende Frage auf: Sollte Schutz der mentalen Gesundheit junger Menschen ein befristetes Sonderangebot sein – oder ein Standard, auf den sich eine Gesellschaft dauerhaft einigt? Genau das hätten die klagenden US-Bundesstaaten vor Gericht klären können. Es wäre eine historische Chance gewesen, mit weltweiter Signalwirkung. Es hätte das Leben junger Menschen nachhaltig verbessern können, auch über die nächsten fünf bis zehn Jahre hinaus. Aber, und hier zeigt sich die unrühmliche Gemeinsamkeit von Klägern und Beklagtem: Das Geld war wichtiger. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Thursday · length unknown

    Polizeigesetz Niedersachsen: „Das vergiftet alles“

    Rot-Grün will mit dem neuen Polizeigesetz in Niedersachsen hochinvasive Überwachungsmaßnahmen erlauben. Am Donnerstag diskutierte der Innenausschuss des Landtages darüber. Opposition sucht man im Parlament vergeblich, doch nun formiert sich Widerstand aus der Zivilgesellschaft. Voll von oben herab: Überwachung durch die Polizei Niedersachsen. – Alle Rechte vorbehalten: IMAGO / BREUEL-BILD Am Donnerstag wurde das niedersächsische Polizeigesetz im Innenausschuss des Landtages diskutiert. Der Entwurf soll zahlreiche hochinvasive KI-gestützte Überwachungsinstrumente erlauben, unter anderem Datenanalyse nach Palantir-Art, die Suche nach biometrischen Daten im Internet sowie Videoüberwachung mit automatisierter Verhaltenskontrolle und Echtzeit-Gesichtserkennung – möglich auch von Videodrohnen aus. Die Verhaltenserkennung dürfte sogar bei Mustern Alarm schlagen, die auf den „Eintritt eines Unglücksfalles“ hinweisen. Die entsprechende Erfassung von liegenden Personen kann zur Diskriminierung von Obdachlosen genutzt werden. Keine Opposition zur Überwachung im Landtag Außer den Regierungsparteien SPD und Grüne sind im Landtag nur CDU und AfD vertreten. Deren Kritik an dem Entwurf besagt vor allem, dass dieser nicht weit genug gehe. Die CDU hat Gegen-Gesetzentwürfe eingebracht, die beispielsweise die Einsatzschwelle für die Live-Gesichtserkennung deutlich niedriger ansetzen – diese soll schon zur Verhinderung von Straftaten möglich sein, nicht erst bei einer „gegenwärtigen Gefahr für Leib oder Leben einer Person“. Auch die AfD begrüßt die neuen Befugnisse, fordert allerdings, für die Datenanalyse den Anbieter Palantir zu nutzen, der für seinen Beitrag zu Menschenrechtsverletzungen bekannt ist. Rot-Grün schließt diesen aktuell aus. Im Landtag finden sich also keine Stimmen, die den massiven Ausbau der Überwachungsbefugnisse hinterfragen. Doch nun bildet sich Gegenwehr aus der Zivilgesellschaft. Das überwachungskritische Bündnis NoNPOG2 wurde erst vor kurzem ins Leben gerufen – das Gründungstreffen fand am 9. August statt – doch die Initiative vereint bereits eine ganze Reihe von Gruppen aus verschiedenen gesellschaftlichen Bereichen. Hacker*innen, Klimakids und Fußballfans Im dem Bündnis finden sich neben IT-affinen Menschen zum Beispiel aus dem CCC Hannover, dem kleindatenverein, von Anarch-IT, einem Tech-Support für Aktivist*innen, den Hackspaces Chaostreff Osnabrück und Stratum 0 oder der Gruppe freiheitsfoo, auch andere gesellschaftliche Gruppen, so etwa Fußballfans aus der Blau-Gelben Hilfe, die andere Fußballfans bei Problemen mit Polizei und Justiz unterstützen. Daneben haben sich auch einige Partei-Gliederungen dem Bündnis angeschlossen: Die PARTEI Niedersachsen und Die Linke und Jusos aus Braunschweig. Außerdem gibt es im Bündnis die grenzkritischen Gruppierungen Flüchtlingsrat Niedersachsen und Seebrücke Braunschweig, das Team des Universum Filmtheater, die jungen Klimaaktivist*innen der Hildesheimer Ortsgruppe von Fridays for Future, sowie die Rote Hilfe Hannover, die linken und linksextremen Menschen Rechtshilfe anbietet. Weiterer juristischer Sachverstand kommt von der Antirepressionsgruppe Lüneburg und dem Anwalt Sven Adam. Die Aktivist*innen betonen, dass sie für weitere Gruppen und Einzelpersonen aus einem breiten gesellschaftlichen Spektrum offenstehen. Der Widerstand gegen Überwachungsmaßnahmen hat in Niedersachsen bereits Tradition. Die vorhergehende Verschärfung des Polizeigesetzes von 2019, die unter anderem Kennzeichenscanner einführte und Videoüberwachung vereinfachte, wurde von einem Bündnis unter dem Akronym NoNPOG (kurz für: Nein zum niedersächsischen Polizeigesetz) mit einer Reihe von Demonstrationen begleitet. Einige der heute beteiligten Menschen waren auch 2019 schon dabei. „Wie viele Leute das scheiße finden“ Laura und Sebastian waren damals noch nicht gegen Überwachung aktiv. Heute sind sie Teil des Widerstands. Sebastian sagt, er finde es erschreckend, dass es im Landtag keinen Widerspruch gegen die aktuell geplanten Überwachungsmaßnahmen gibt. „Die, von denen man erwarten würde, dass sie verstehen, wie problematisch die Befugnisse sind, planen deren Einführung und dahinter sitzt eine Opposition, die noch weitergehenden Druck macht“, fasst er die Lage zusammen. Deshalb müsse die Opposition von außen kommen. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Laura hofft darauf, dass sich zumindest die Grünen vom zivilgesellschaftlichen Widerstand beeindrucken lassen. „Wenn die mitbekommen, wie viele Leute das scheiße finden, dann werden die zurückrudern“, sagt sie. Von der ersten eigenen Demonstration sind Laura, Sebastian und ihr Bündnis aktuell noch ein Stück entfernt. Sie fokussieren sich aktuell darauf, Informationsmaterialien zu den geplanten Überwachungsmaßnahmen zusammenzustellen und in verschiedenen Lokalitäten Vorträge dazu zu halten. Laura stört vor allem die Befangenheit der Algorithmen, die bei der Überwachung zum Einsatz kommen sollen. „Da ist immer eine Tendenz mit drin und das lässt sich auch nicht abschalten. Das ist mein größtes Bedenken“, sagt sie. So sei beispielsweise schon die Datenlage der Polizei, mit der die Software arbeitet, rassistisch gefärbt. Und auch die Trainingsdaten der sogenannten KI seien, weil von Menschen zusammengestellt, nie neutral. Sebastian sagt, dass die Algorithmen diskriminierend wirken können, sei der Landesregierung offensichtlich bewusst. Laut Gesetzentwurf soll die Polizei nämlich verhindern, dass diskriminierende Algorithmen verwendet werden. Wie das möglich sein soll, lässt sie allerdings offen. Magisches Denken Laura und Sebastian haben sich das geplante Polizeigesetz gründlich angesehen und an weiteren Positionen Hinweise darauf gefunden, dass die Landesregierung durchaus auf dem Schirm hat, wie problematisch der Entwurf ist. So habe diese beispielsweise eine Umgehungslösung im Text verankert, die verhindern soll, dass mit der Datenanalyse nach Palantir-Art – und der dafür nötigen Meta-Datenbank – die Zweckbindung der erhobenen Daten verloren geht. Damit würden Zusammenlegung der Daten und die algorithmische Analyse in zwei Schritte aufgeteilt. „Und dann soll das auf zauberhafte Weise kein Problem mehr sein“, sagt Sebastian. Auch dass die Entscheidungen von KI grundsätzlich erst einmal nicht nachvollziehbar sind, sei der Landesregierung bewusst. Im Entwurf schreibt diese, dass die Nachvollziehbarkeit sichergestellt werden müsse – soweit das technisch möglich sei. „Da gibt es also ein Problembewusstsein, aber gleichzeitig auch den Versuch, das mit magischem Denken zu lösen“, sagt Sebastian. Er kritisiert auch die geplante Videoüberwachung mit automatisierter Verhaltenskontrolle. „Das Gruseligste ist, dass die behaupten, dass das ein weniger starker Privatsphäreneingriff sei, als wenn Menschen die Videos schauen. Das finde ich so ein perfides Argument. Weil wenn man durchgehend unter Beobachtung eines Algorithmus steht, ist das, was Chilling-Effekte angeht, viel drastischer, als wenn da ab und zu mal ein Mensch draufschaut.“ Deutlich stärkerer Grundrechtseingriff Wissenschaftler wie Edzard Schmidt-Jortzig, Professor für öffentliches Recht an der Uni Kiel, oder Felix Ruppert, der an der Uni München unter anderem Strafrecht lehrt, stützen die Annahme, dass die automatisierte Videoüberwachung ein deutlich stärkerer Grundrechtseingriff ist als die herkömmliche. Sebastian vom Bündnis NoNPOG2 fürchtet zudem, dass mit der automatisierten Kontrolle die Hürden sinken, die Videoüberwachung weiter auszudehnen. Denn diese soll ja ungewöhnliches Verhalten detektieren, ohne dass ständig Menschen auf die Bildschirme schauen müssen. „Ich finde es wahnsinnig gruselig, wenn Algorithmen definieren, was normal ist – und Menschen dann Angst haben müssen, in irgendeiner Form von der Norm abweichend aufzufallen“, sagt Sebastian. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Ebenfalls besorgniserregend ist für Sebastian die Erlaubnis, auf Livestreams von Überwachungskameras, oder auch retrograd anhand von Bildern aus dem Internet, Gesichtserkennungstechnologie einzusetzen. Denn das sorge für präventiven Gehorsam. „Ich möchte nicht in einer Demo überlegen müssen, ob ich mein Gesicht zeige oder mir immer, wenn jemand ein Smartphone zückt, überlegen, wo das Bild landet. Das vergiftet alles, wenn solche Aufnahmen Teil von Ermittlungen sein können. Und es unterdrückt politische Äußerungen in der Öffentlichkeit“, sagt er. Angesichts der Tatsache, dass die Polizei künftig auch Videodrohnen einsetzen soll, verschärfe sich die Bedrohungslage. „Damit ist eine massive Ausweitung des videoüberwachten Bereichs möglich“, sagt Sebastian. „Da wird’s mir ganz grausig“ Laura gibt zudem das Missbrauchspotenzial der Befugnisse zu bedenken. „Viele Frauen wurden bereits von Polizisten gestalkt. Die haben zum Beispiel ihre Telefonnummern aus Polizei-Akten rausgesucht.“ Und mit den neuen Machtmitteln stünden noch viel drastischere Eingriffe in die informationelle Selbstbestimmung zur Verfügung. „Da wird’s mir ganz grausig, wenn ich daran denke, was damit möglich ist“, sagt sie. Harte Kritik kommt auch vom Landesbeauftragten für den Datenschutz Niedersachsen (LfD) Denis Lehmkemper. Eine Woche vor der Diskussion im Innenausschuss hat die ihm unterstellte Datenschutzaufsicht ihren Jahresbericht veröffentlicht. Die Stellungnahme zum Polizeigesetz, die Lehmkemper im Rahmen der Verbandsanhörung abgegeben hatte, hat er nicht veröffentlicht, doch mit dem Jahresbericht machte er nun eine Zusammenfassung seiner Kritik publik. In seiner Stellungnahme habe er gefordert, so der LfD im Jahresbericht, die „intelligente“ Videoüberwachung besser zu rechtfertigen. Und bei der Echtzeit-Fernidentifizierung habe er einen engeren Anwendungsbereich angemahnt, „insbesondere mit Blick auf die Vielzahl der von der Maßnahme betroffenen Personen“. Zur Internet-Suche nach biometrischen Informationen habe er bekanntgegeben, dass diese womöglich mit der KI-Verordnung der EU kollidiert. Hinweise zur technischen Umsetzung, die erklären könnten, wie diese Kollision vermieden werden soll, vermisst Lehmkemper im Entwurf. „Diese sind allerdings entscheidend, da sich die Maßnahmen auf der Grenze zwischen Hochrisiko-KI-Systemen und in der KI-Verordnung geregelten Verboten von KI-Praktiken bewegen“, schreibt der LfD. Bei der Datenanalyse nach Palantir-Art seien die Datenbestände, die für den automatisierten Abgleich herangezogen werden sollen, „zu ungenau definiert und damit zu unbestimmt und zu weitreichend.“ Die „schwerwiegende Kritik“ aus seiner Stellungnahme sei allerdings weitestgehend unberücksichtigt geblieben. Der Datenschutzbeauftragte sieht in der Datenanalyse nach Palantir-Art einen „Paradigmenwechsel in der Polizeiarbeit“. Sie setze voraus, dass alle bisher vorgangsbezogen gespeicherten Daten der Polizei auf einer Analyseplattform zusammengeführt werden. „Damit würde die Zweckbindung aufgehoben.“ Verfassungsrechtlich höchst problematisch sei auch die Einbeziehung von Telekommunikationsdaten, damit wären auch die Inhalte von Gesprächen umfasst. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Wednesday · length unknown

    Ethisches Hacken: Raus aus der Grauzone

    Sicherheitsforscher:innen, die auf eigene Faust Lücken in IT-Systemen entdecken und diese verantwortungsbewusst melden, können schnell in die Bredouille geraten. Nun legt die Gesellschaft für Informatik ein Papier dazu vor, wie die überfällige Reform des Computerstrafrechts endlich gelingen könnte. Ethische Hacker:innen werden als "White Hats" bezeichnet – und müssen in Deutschland mit rechtlichen Folgen rechnen, wenn sie IT-Sicherheitslücken melden. – Alle Rechte vorbehalten: IMAGO / Future Image Wer in Deutschland IT-Sicherheitslücken meldet, läuft Gefahr, Probleme zu bekommen. So musste sich etwa die Sicherheitsforscherin Lilith Wittmann mit einer Anzeige herumschlagen, nachdem sie eine gravierende Sicherheitslücke in einer App der CDU gefunden hatte. Dabei half es ihr zumindest anfangs nicht, sich vorbildlich verhalten zu haben: Ausgenutzt hatte sie den unautorisierten Zugang zu zehntausenden Datensätzen nicht, sondern stattdessen der Partei Zeit genug gegeben, die Lücke zu schließen, bevor die Öffentlichkeit davon erfuhr. Obwohl die Sache letztlich glimpflich für Wittmann ausging, bewegen sich IT-Sicherheitsforscher:innen oft in einer rechtlichen Grauzone. Vor allem das seit dem Jahr 2007 geltende Computerstrafrecht kriminalisiert eine Reihe an Techniken und Werkzeugen, die zur Grundausstattung vieler IT-Sicherheitsexpert:innen zählen. Eines der Probleme dabei: Wenn Lücken nicht gefahrlos und verantwortungsbewusst („Responsible Disclosure“) gemeldet und anschließend vom Hersteller geschlossen werden können, bleiben sie offen. Ein gefundenes Fressen für tatsächliche Cyberkriminelle, Geheimdienste beliebiger Länder oder sonstige Akteure, die keine guten Absichten haben. Anläufe für Reform Inzwischen ist in der deutschen Politik über Parteigrenzen hinweg durchgedrungen, dass dieser Ansatz mehr Probleme schafft, als er löst. Die überfällige Reform lässt jedoch weiterhin auf sich warten. Zuletzt ist die Ampelregierung nicht über einen Referentenentwurf hinausgekommen, der die umstrittenen Hacker-Paragrafen entschärft hätte. Und das Versprechen der schwarz-roten Regierung, im „Computerstrafrecht Rechtssicherheit für IT-Sicherheitsforschung“ zu schaffen, steht bislang nur als nebulöse Absichtserklärung im Raum. In diese Lücke stößt ein aktuelles Papier der Gesellschaft für Informatik (GI). Diese hatte sich mit Industrie, Sicherheitsforschenden und digitalpolitischen NGOs zusammengesetzt und Lösungsansätze entwickelt, um eine rechtssichere IT-Sicherheitsforschung zu erlauben. Dabei sei Eile geboten, so GI-Präsident Martin Wolf. Das große Missbrauchspotenzial von KI-Systemen mache das frühzeitige Finden und Melden von Schwachstellen wichtiger denn je, sagt der in Aachen lehrende IT-Experte. „Ehrenamtliche Hacker:innen dürfen dafür nicht länger mit Strafanzeigen statt Anerkennung belohnt werden“, fordert Wolf. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Als Ausweg bietet das GI-Papier zum einen konkrete Gesetzesänderungen an. So müsse etwa die Absicht der meldenden Person ein „zentrales Kriterium“ einer gesetzlichen Anpassung sein. Schließlich stelle die gemeinwohlorientierte Meldung einer Sicherheitslücke einen „wesentlichen Unterschied zu böswilligem Hacking dar“, führt das Papier aus. Entsprechend sollten unter anderem Hacking-Tools, die beispielsweise das Dekompilieren von Software möglich machen, legalisiert werden: „Nicht die Herstellung oder das Zugänglichmachen von ‚Hacker*innentools’ sollte kriminalisiert werden, da diese zur Aufdeckung solcher Schwachstellen verwendet werden, sondern die Verwendung für eine verbotene Handlung.“ Polen als Vorbild Zum anderen müsse die Regierung neben dem Strafrecht weitere Gesetze anfassen, darunter das Datenschutzgesetz (TDDDG). Dieses kriminalisiere in seiner aktuellen Form das Melden einer Schwachstelle, selbst wenn diese auf eine schlechte oder fehlende Sicherung auf Herstellerseite zurückzuführen ist. Über die Gesetzesänderungen hinaus brauche es jedoch einen ganzheitlichen Ansatz, fordert die GI. Dazu würden ein „wirkungsvolles Meldeverfahren und eine aktive Meldekultur“ zählen. Zudem sei eine stärkere gesellschaftliche Anerkennung ethischen Hackens ein wichtiger Beitrag, um insgesamt die IT-Sicherheit zu erhöhen, so das Papier. Für einen neuen Anlauf zur Reform des Bereichs könnte sich die Regierung auch von anderen Ländern inspirieren lassen. Polen habe laut GI den in Europa liberalsten Ansatz. Dort seien etwa Personen, die ausschließlich zum Zweck der Sicherung von Systemen handeln, ausdrücklich von der Strafbarkeit ausgenommen. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Zugleich sollte die Regierung den „Windschatten des Cyber Resilience Act“ nutzen, empfiehlt die GI. Die vor rund zwei Jahren verabschiedete EU-Verordnung enthält unter anderem Meldepflichten für Hersteller und Betreiber, wenn sie über Schwachstellen stolpern. Dies ließe sich ausweiten, indem darüber hinaus auch eine geregelte Meldemöglichkeit für externe und/oder ehrenamtlich agierende IT-Sicherheitsforschende eingeführt wird. Damit würde der Charakter des Cyber Resilience Acts gestärkt und die Cybersicherheit im Land gefördert werden, argumentiert die GI. Sicherheitslage verbessert sich kaum Insgesamt dürfte noch einiges zu holen sein, zumal sich die Lage zuletzt keineswegs verbessert hat. So stieg im ersten Quartal 2026 die Zahl gemeldeter Schwachstellen weltweit um 25 Prozent im Vergleich zum Vorjahr an. Jährlich entsteht für deutsche Unternehmen laut eigenen Angaben ein hunderte Milliarden Euro hoher Schaden, Tendenz steigend. Diese Dynamik dürfte vorerst bestehen bleiben. Denn auf der einen Seite gelingt es KI-Modellen immer besser, bislang unbekannte Sicherheitslücken in Anwendungen zu entdecken. BSI-Präsidentin Claudia Plattner spricht gar von einer neuen „Zeitrechnung der Cybersicherheit“. Auf der anderen Seite berge sogenanntes Vibe-Coding die Gefahr, selbst Schwachstellen in Code zu erzeugen, warnt die GI. Bei Vibe-Coding richten Nutzer:innen, die mit Software-Entwicklung sonst nichts zu tun haben, in einfacher Sprache ihre Wünsche an ein KI-System. Dieses übernimmt dann den Rest – mal besser, mal schlechter. Nun müsse die Bundesregierung zügig eine Reform unter Beteiligung aller Betroffenengruppen einleiten, fordert die GI. „Eine Legalisierung von ethischem Hacking wäre ein konsequenter Schritt, die Cybersicherheitslandschaft in Deutschland besser zu gestalten und das Potenzial zu nutzen, das Expert*innen aus der Sicherheitsforschung, Hobbytüftler*innen und gewissenhafte Nerds mitbringen.“ Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Wednesday · length unknown

    Schattendatenbank: Datenschützer mahnen Schufa ab

    Die Schufa hält eine Schattendatenbank mit veralteten Daten über Millionen von Menschen vor. Dagegen wehrt sich jetzt die Datenschutzorganisation noyb mit einer Abmahnung – und der Vorbereitung einer möglichen Sammelklage. Die Datenschützer:innen von noyb schauen bei der Schufa mal genauer hin. (Symbolbild) – Alle Rechte vorbehalten: IMAGO / Political-Moments Die Datenschutzorganisation noyb hat die Schufa abgemahnt, weil diese eine Schattendatenbank mit historischen und veralteten Daten über Millionen von Menschen vorhält. Die Existenz dieser Datenbank hatte eine gemeinsame Recherche von NDR und Süddeutscher Zeitung im Juli herausgefunden. Die Schufa bewertet die Kreditwürdigkeit von Menschen, zu ihren Kunden gehören unter anderem Banken, Energieversorger oder Telekommunikationsunternehmen. Laut der Recherche von NDR und SZ handelt es sich bei den Daten um „alte Kredite und Kreditkarten, Pfändungen und Privatinsolvenzen, Schulden, die die Betroffenen oft schon vor Jahren beglichen haben“. Es seien Daten, die die Schufa schon längst gelöscht haben müsste, so der Bericht damals weiter. Die sensiblen Daten könnten großen Schaden anrichten. Wenn Menschen allerdings bei der Schufa anfragten, welche Daten diese über sie gespeichert hat, gab die Auskunftei diese historischen Informationen bei der Datenauskunft nicht an. Daran stören sich die Datenschützer von noyb: Ein Unternehmen könne seine gesetzliche Auskunftspflicht nicht einfach auf Daten beschränken, die es selbst als für Betroffene „interessant“ befindet. Der Europäische Gerichtshof habe längst klargestellt: Die Datenkopie müsse eine vollständige, originalgetreue Reproduktion aller verarbeiteten Daten sein. Marco Blocher, Datenschutzjurist bei noyb, sagt: „Die Schufa begeht hier Rechtsbruch mit Ansage – und das wissen wohl auch die Verantwortlichen bei der Schufa.“ Schufa speichert alte Datensätze über Millionen von Menschen Die Datenschützer:innen von noyb gehen nun gleich mit zwei Mitteln gegen die Schufa vor. Einerseits haben sie eine Abmahnung an die Schufa gesendet, die in eine mögliche Unterlassungsklage münden kann. Auf der anderen Seite kündigen sie eine mögliche Sammelklage gegen die Auskunftei an. Hierzu können sich Interessierte in eine Liste eintragen, um über den weiteren Verlauf informiert zu werden. Laut noyb sei ein immaterieller Schadensersatz von bis zu 500 Euro pro betroffener Person denkbar. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Wednesday · length unknown

    Postident mit AutoID: Deutsche Post trainiert ihre KI mit Ausweisfotos

    Um sich online auszuweisen, können Kund:innen das Postident-Verfahren nutzen. Bei einer der Varianten sollen sie ihre Daten für KI-Training freigeben. Laut Deutscher Post ist das freiwillig, doch Nutzer:innen sehen das anders. Die Deutsche Post greift sich personenbezogene Daten von Ausweis und Gesichtsscan. (Symbolbild) – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Unsplash / Muhammad Irfan; Bearbeitung: netzpolitik.org Ein neuer Handytarif oder das Konto bei einer neuen Bank – für viele Dinge müssen wir uns ausweisen. Wenn wir das im Netz machen, funktioniert das anders als direkt in der Bank-Filiale oder im Handy-Shop. Weit verbreitet ist das Postident-Verfahren. Es bietet verschiedene Möglichkeiten. Klassisch können Kund:innen etwa in eine Filiale der Deutschen Post gehen und ihren Ausweis dem Personal dort vorzeigen. Oder sie nutzen die Ausweisfunktion ihres elektronischen Personalausweises. Verhältnismäßig neu ist das Postident-Verfahren mit der Option AutoID. Auf ihrer Website verspricht die DHL Group, der Konzern hinter der Deutschen Post, eine „automatisierte und schnelle Identifizierung per App […] mit Methoden des Maschinellen Lernens“. So hat sich etwa der Handy-Provider Congstar schon 2019 dazu entschieden, das Postident-Verfahren mit AutoID anzubieten. Um sich mit AutoID zu identifizieren, machen Nutzer:innen über eine App auf dem Smartphone zunächst Fotos ihres Ausweises, von der Vorder- und Rückseite. Anschließend erstellen sie ein Selfie-Video. Die App gibt ihnen vor, wie sie ihren Kopf drehen müssen. Danach prüft das System automatisiert „die erfassten Daten, die Sicherheitsmerkmale und die Echtheit der Aufnahmen“, heißt es im dazugehörigen Werbe-Erklär-Video. Zutritt nur gegen Daten Bevor sie allerdings mit der Identifizierung beginnen, werden Nutzer:innen dazu aufgefordert, ihre Daten für das Training der dahinter liegenden KI-Sprachmodelle freizugeben. Sie können das Verfahren nur fortsetzen, wenn sie dem Training mit ihren Daten zustimmen. Das geht aus einem Screenshot hervor, den uns ein Leser geschickt hat, der sich identifizieren lassen wollte. Demnach muss der Schieber neben der Aufforderung zur „Qualitätssicherung“ aktiviert sein, damit der „Einwilligen“-Button funktioniert. Nutzer:innen sollen zustimmen, „dass Postident aufgenommene Ausweis- und Nachweisdaten zum Zwecke der Qualitätssicherung und des Trainings von KI-Modellen speichern und verarbeiten darf“. Damit leitet das Unternehmen also Daten zu Ausweis und Gesichtsscan in den Trainigsdaten-Pool ihrer KI. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Man wolle „das Risiko eines schrittweisen Qualitätsverlustes“ ausschließen, so die DHL Group auf Anfrage. „Ohne eine fortlaufende Aktualisierung der Trainingsdaten (könnte) die Verlässlichkeit der Ergebnisse beeinträchtigt werden.“ Als die Deutsche Post AutoID einführte, war das offenbar noch anders. So hieß es in der Datenschutzerklärung bis 2023: „Zur Weiterentwicklung der im Einsatz befindlichen Software zur automatischen Entscheidungsfindung werden keine personenbeziehbaren Daten verwendet. Die Software wird ausschließlich auf Basis öffentlicher Beispieldatensätze, sowie nicht personenbeziehbarer und/oder anonymisierter Daten aus abgeschlossenen Identifikationen weiterentwickelt.“ Einer Datennutzung zu KI-Trainingszwecken zuzustimmen, werde „nur im Kontext“ mit AutoID abgefragt, versichert der Konzern. Außerdem würden die Daten „ausschließlich intern“ verwendet. Die Landesbeauftragte für Datenschutz und Informationsfreiheit des Landes Nordrhein-Westfalen habe zu diesem Verfahren im Vorfeld keine Bedenken geäußert. Eher nicht freiwillig Grundsätzlich dürfe die Deutsche Post Nutzer:innen nach ihrer Einwilligung fragen, die Daten fürs KI-Training freizugeben, so der Datenschutz-Experte Christian Aretz. Auch dass der Konzern auf Anfrage erklärt, die Einwilligung sei freiwillig, sei nach Aretz datenschutzrechtlich legitim. Denn, wie auch die Presseabteilung der DHL Group erklärt, könnten Kund:innen auf ein anderes Postident-Verfahren ausweichen. Doch gehöre zur Einwilligung laut Datenschutzgrundverordnung auch, dass Nutzer:innen ihre Einwilligung widerrufen können. Die Deutsche Post müsste sicherstellen können, dass sie die entsprechenden Daten aus dem KI-Modell entfernen kann, so Aretz. Die Deutsche Post schreibt in ihrer Datenschutzerklärung zum Verfahren, die Speicherdauer betrage maximal 180 Tage und bietet eine Kontakt-E-Mail-Adresse an, um seine Einwilligung zu widerrufen. Unabhängig davon stößt die Deutsche Post mit ihrer Firmenphilosophie Nutzer:innen wie Jochen G. vor den Kopf. „Gestört hat mich hier vor allem, dass ein Service wie PostIdent mir ganz nebenbei einen Zwang auferlegt, meine Daten für das Training von KI-Modellen preiszugeben“, erzählt er uns. „Gerade die Kombination aus Ausweisdaten und Gesichtsscan finde ich schon sehr eingreifend in meine Datensphäre.“ Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Lieber mit eID Zwar habe Jochen G. Verständnis für das Interesse an den gelabelten Daten. „Aber es sind auch sehr wertvolle Daten, die ich nicht einfach überlassen möchte.“ Er wäre einverstanden damit gewesen, dass die KI die Daten prozessiert. „Ich wollte allerdings nicht persistiert im Trainingsdatensatz landen. Und dass ich das nicht umgehen konnte, war für mich ein Ausschlusskriterium im Verfahren.“ Er habe sich schließlich dafür entschieden, die eID-Funktion seines Personalausweises zu nutzen. Die Technologie ist bei Fachleuten zu Datenschutz und IT-Sicherheit beliebt, weil sie besonders datensparsam ist und hohe Sicherheitsauflagen hat. Wie viele Kund:innen indes Postident mit der Option AutoID nutzen, wollte der DHL Group nicht verraten. Man kommuniziere „aus Wettbewerbsgründen grundsätzlich keine Nutzerzahlen“. Gleichzeitig betont der Konzern, dass AutoID zunehmend Nutzer:innen findet. Nachtrag, 28. August: Nutzer:innen könnten ihre Einwilligung jederzeit widerrufen, wie uns ein Sprecher der DHL Group mitteilte. „Entsprechende Anfragen werden über die etablierten Datenschutzprozesse bearbeitet.“ Die betroffenen Daten von Ausweis und Gesichtsscan würden daraufhin „aus den für Trainingszwecke verwendeten Datenbeständen entfernt und nicht mehr für zukünftige Trainingszwecke genutzt“. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Wednesday · length unknown

    Smart Glasses: Petition gegen „Spanner-Brillen“ sammelt mehr als 180.000 Unterschriften

    Der Protest gegen Smart Glasses nimmt Fahrt auf. Eine Petition fordert das Verbot solcher Überwachungsbrillen, die heimliches Filmen ermöglichen – und mit denen schon jetzt Menschen belästigt werden. Fake-Werbeplakat an einer Bushaltestelle. – Alle Rechte vorbehalten: Everyone Hates Elon Eine Petition vom Zentrum für Digitalrechte und Demokratie gegen die Überwachungsbrillen von Meta & Co. hat in kurzer Zeit mehr als 180.000 Unterschriften gesammelt. Die an Justizministerin Stefanie Hubig (SPD) und den Chef der Bundesnetzagentur gerichtete Forderung lautet: Kamerabrillen, die heimliches Filmen ermöglichen, sollen konsequent vom Markt genommen werden. Getarnte Kameras gehörten laut Petition nicht in den Alltag – ein winziges, leicht zu übersehendes oder abdeckbares Licht reiche nicht als Hinweis. Hierzu könnte die Bundesnetzagentur eine bereits bestehende Norm im Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG) anwenden und Verbote durchsetzen. Die Regelung betrifft als Alltagsgegenstände getarnte Aufnahmegeräte. Zuletzt hatte die Bundesnetzagentur einem Verbot allerdings eine Absage erteilt: Die Voraussetzung sei nicht erfüllt. Weiter fordert die Petition, dass die Bundesregierung für klare gesetzliche Grenzen sorgen müsse. Menschen sollten überall wirksam vor gezielten und verdeckten Aufnahmen geschützt werden, etwa in Freibädern, Schulen, medizinischen Einrichtungen und dem Arbeitsplatz. Ich sehe was, was du nicht siehst Zudem sollten die Hersteller solcher Brillen vor dem Verkauf nachweisen müssen, dass ihre Produkte verbindliche Anforderungen an Erkennbarkeit, Datenschutz und IT-Sicherheit erfüllen. Aufnahmen müssten eindeutig erkennbar sein. Zudem dürfe es keine automatisierte Übertragung, Veröffentlichung, Gesichtserkennung oder Profilbildung ohne Einverständnis und klare Rechtsgrundlage geben. Im Vorfeld der Petition gab es Recherchen darüber, wie Männer mit den Brillen heimlich Frauen filmen und die Aufnahmen im Netz verbreiten. Selbst Instagram-Chef Adam Mosseri hat sich dazu geäußert und angekündigt, dass seine Plattform Videos löschen werde, in denen Brillenträger andere belästigen und heimlich filmen. Im Vereinigten Königreich haben etwa Restaurants, Pubs und Theater die Brillen bereits verboten. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Die Petition „Du bist kein Content: Spanner-Brillen verbieten!“ können Interessierte über die Plattform des Vereins Campact unterschreiben. Zu den ersten Unterzeichner:innen gehören unter anderem die Publizistin Katharina Nocun, der Rechtsanwalt und Kamerabrillen-Experte Thomas Schwenke sowie die Politökonomin Maja Göpel. Erhebliche Gefahr für die Privatsphäre Seit US-Konzern Google in den 2010er-Jahren Google Glasses vermarkten wollte, wenn auch ohne Erfolg, gibt es heftige Diskussionen um solche Überwachungsbrillen. Kritiker:innen warnen vor tiefgreifenden Veränderungen. In seiner Dissertation zu dem Thema stellte Schwenke schon 2016 fest: Smart Glasses bergen aufgrund fehlender Transparenz der Informationserfassung sowie mangelnder Kontrolle anschließender Informationsverarbeitung eine erhebliche Gefahr der Beeinträchtigung der Privatsphäre und damit rechtlich verbürgter Persönlichkeitsrechte der von ihnen erfassten Personen. Dabei gingen die Gefahren „weit über die bisher verwendeten Arten der optischen, akustischen und elektronischen Informationserfassung“ hinaus, etwa bei Videoüberwachung oder Smartphone-Kameras. Problematisch ist Schwenke zufolge nicht nur die Tiefe des technischen Eingriffs, sondern auch die absehbare Breite ihrer Anwendung, wenn immer mehr Menschen die Brillen nutzen. Seitdem hat sich die die Eingriffstiefe der Überwachungsbrillen drastisch erhöht: Viele Menschen sind permanent online und als Künstliche Intelligenz bezeichnete Software kann beispielsweise gefilmte Objekte und Gesichter in Echtzeit erkennen. Der rechtliche Schutz vor Überwachungsbrillen hat sich allerdings kaum weiterentwickelt. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Wednesday · length unknown

    LinkedIn, Etsy, Roblox: Wer dein Gesicht scannt, wenn du dich online verifizierst

    Beim Verifizieren des eigenen Profils oder Alters auf vertrauten Plattformen geben Nutzende sensible biometrische Informationen an dritte Unternehmen weiter. Eines dieser Unternehmen ist das US-amerikanische Persona, dessen Prüfungen weit über bloße Identitätskontrollen hinausgehen. Wer steckt hinter der Verifizierung? Auf den ersten Blick nicht erkennbar und das ist gewollt. – Alle Rechte vorbehalten: IMAGO / Indiapicture Drei Jahre lang verkauft Johanna digitale Nähanleitungen auf Etsy, einem beliebten Online-Marktplatz für Kunsthandwerk und hochwertige Waren. Vor einigen Wochen fordert Etsy sie auf, ihre Daten zu bestätigen. „Ok, Etsy will sicherstellen, dass die Daten aktuell sind“, denkt sie. Als sie jedoch ein Foto von ihrem Ausweis hochladen und ein Live-Selfie von sich machen soll, bricht sie den Vorgang sofort ab, erzählt Johanna. Johanna, die in Wirklichkeit anders heißt und anonym bleiben möchte, wird nicht nur deshalb stutzig, weil sie ihre sensiblen biometrischen Daten preisgeben soll. „Ich habe noch einen der letzten Personalausweise ohne Fingerabdruck, kaufe schon seit über zwanzig Jahren nicht mehr bei Amazon und habe noch nie ein Foto von mir irgendwo hochgeladen“, erzählt sie. Johanna stellt bei Nachforschungen außerdem fest, dass nicht Etsy selbst, sondern eine andere ihr gänzlich unbekannte Firma diese Daten erheben und verarbeiten soll: Persona Identities, Inc, mit Sitz in San Francisco, Kalifornien. Persona ist der externe Dienstleister, den Etsy damit beauftragt hat, die Identität von Verkäufer*innen wie Johanna zu verifizieren. Immer mehr digitale Plattformen kontrollieren die Identität oder das Alter ihrer Nutzer*innen. Oder besser gesagt: Sie lassen es kontrollieren. Eines der Unternehmen, das sich darauf spezialisiert hat und von dieser Entwicklung profitiert, ist Persona. Seine Technologien sind mittlerweile in vielen Branchen im Einsatz: Finanzdienstleistungen, Online-Marktplätze, Videospiele, Lernplattformen oder Soziale Medien. Auch an einem Verfahren für Alterskontrollen in Australien, wo seit letztem Herbst ein Social-Media-Verbot für unter 16-Jährige gilt, ist Persona beteiligt. Der Trend zu Identitäts- und Alterskontrollen wirft grundsätzliche Fragen auf: Wenn wir unsere Gesichter – wie wir das etwa von einer biometrischen Kontrolle am Flughafen oder der Eröffnung eines neuen Bankkontos kennen – nun auch scannen lassen müssen, um selbst gemachte Kunst zu verkaufen, mit Freund*innen zu chatten oder Online-Spiele zu spielen, macht es das Internet tatsächlich sicherer? Lassen sich Deepfakes, Bots und gestohlene Identitäten mit biometrischen Kontrollen kommerzieller Anbieter bekämpfen, die biometrische Daten von Millionen von Menschen sammeln und damit zu einem begehrten Ziel für Hacker*innen und Identitätsdiebstahl werden? Und welche Auswirkungen hat die konkrete Umsetzung solcher Kontrollen – von Datenschutz bis zu politischen Fragen, wenn unsere persönlichen Informationen in den Händen von US-Unternehmen liegen? Gesichtszüge, der Abstand zwischen den Augen, die Form des Kinns und andere biometrische Merkmale gehören zu den sensibelsten personenbezogenen Informationen überhaupt. Anders als ein Passwort oder eine PIN kann man sie nach einem Datenleck nicht einfach zurücksetzen oder neu vergeben. Gleichzeitig werden Datenlecks solcher sensibler Informationen immer mehr Teil unseres Alltags – wie zuletzt in Polen, wo Gesundheitsdaten von rund 19 Millionen Menschen kompromittiert wurden, oder nach einem Datenleck von biometrischen Informationen im Jahr 2019, bei dem eine Million Fingerabdrücke und Daten zur Gesichtserkennung offen im Netz standen. Über 1 Milliarde Verifizierungen Etsy, LinkedIn, Reddit, Roblox, OpenAI mit ChatGPT sowie seit neustem Anthropic mit Claude. Das sind nur einige Beispiele für Plattformen des modernen digitalen Lebens, die die Identität oder das Alter ihrer Nutzenden von Persona verifizieren lassen. Sie gehören zu den mittlerweile mehr als 4.000 Unternehmen, die solche Kontrollen über Persona abwickeln. Vergangenes Jahr hat Persona die Marke von einer Milliarde Verifizierungen überschritten. Ihren Shop hat Johanna ins Leben gerufen, noch bevor Etsy im Jahr 2024 die biometrische Identitätskontrolle über Persona zur Bedingung für eine Shop-Eröffnung machte. Damals habe sie eine Kopie ihres Führerscheins hochgeladen. „Das barg für mich ein geringes Risiko“, erinnert sie sich. Im Frühjahr hat der US-amerikanische Online-Marktplatz sodann damit begonnen, einige bereits aktive Verkäufer*innen in der EU zur Bestätigung ihrer Daten aufzufordern. So traf es auch Johanna und ihren Shop. Anlass sind offenbar Fake-Shops, die auf Etsy billig produzierte Massenware vertreiben und diese als handgemachte Unikate deklarieren. Laut eigenen Angaben möchte Etsy durch die Datenüberprüfungen gegen Betrug vorgehen und gesetzlichen Verpflichtungen nachkommen. Auf unsere Frage, was der konkrete Anlass für die Verifizierungen bereits bestehender Verkäufer*innen ist, hat Etsy nicht reagiert. Neben der Abfrage nach Steuer- und Kontodaten gehört auch die Prüfung der Identität durch Persona dazu. Wer steckt hinter Persona? Seit der Gründung im Jahr 2018 ist Persona enorm gewachsen. Gegründet haben das Unternehmen zwei frühere Mitbewohner: Rick Song, ehemals Softwareentwickler beim US-amerikanischen Zahlungsdienstleser Square im Bereich der Identitätsbetrugsbekämpfung, und Charles Yeh, ehemals Softwareentwickler bei Dropbox. Die Firma konnte nicht zuletzt dank der Risikokapitalgesellschaft „Founders Fund“ expandieren, die unter anderem von Peter Thiel gegründet wurde. Der rechtsautoritäre Tech-Milliardär ist Mitbegründer des Überwachungs- und Datenanalyseunternehmens Palantir. Sein Founders Fund ist neben anderen Risikokapitalgesellschaften ein wichtiger Geldgeber von Persona: Mehrere Investitionsrunden in Höhe von insgesamt 350 Millionen US-Dollar führte der Founders Fund mit an. Nach der letzten Finanzierungsrunde ist der Wert von Persona auf zwei Milliarden US-Dollar geklettert. Persona hat jegliche Verbindungen zu Palantir und der US-Regierung bestritten und beteuert, dass Thiel weder direkt in den Geschäftsbetrieb noch in Entscheidungen der Firma involviert sei. Wie viele Firmenanteile der Founders Fund an Persona hält, ist nicht öffentlich bekannt. Auf unsere Frage, wie viel strategischen Einfluss die Risikokapitalgesellschaft auf die Firma ausübt, wollte Persona nicht öffentlich antworten – ebenso wie auf viele weitere Fragen, die wir dem Unternehmen gestellt haben. Johanna hat der Kapitalgeber aber in ihrem Entschluss bekräftigt, die Identitätskontrolle mit Persona nicht durchzuführen: „Ich werde meine persönlichsten Daten wie Gesichtsbiometrie und Ausweisdokumente nicht über Etsy an eine Firma geben, mit der Peter Thiel zu tun hat“, erklärt sie. Da Etsy nicht zulässt, den Shop ohne die geforderte Identitätskontrolle weiterzubetreiben, hat sie sich entschieden, Etsy zuvorzukommen und ihren Shop zu schließen. „So viel kann ich bei Etsy gar nicht verdienen, dass es mir das wert ist.“ Für sie war der Shop „eine schöne Möglichkeit, ein passives Einkommen zu generieren“. Pläne, ihre digitalen Nähanleitungen woanders zu vertreiben, habe sie nicht. „Ich musste von meinem Ersparten leben“ Janine hingegen hat ihren Etsy-Shop zum Beruf gemacht. Sie ist nicht nur Verkäuferin in Vollzeit und lebt seit mehr als einem Jahrzehnt von den Einnahmen, die sie aus dem Verkauf von Kurzwaren für Bastelarbeiten erzielt. Sie ist auch Starverkäuferin: Ihr Shop trägt ein besonderes Abzeichen, da sie sich durch kontinuierlich gute Bewertungen hervorgetan hat. Der kleine lila Stern neben ihrem Shop-Namen soll den Käufer*innen auf den ersten Blick Zuverlässigkeit und Vertrauen signalisieren. Als Etsy Janine zur Verifizierung ihrer Daten auffordert, kann sie das nachvollziehen. „In einem geschäftlichen Verhältnis möchte man wissen, wer gegenüber sitzt und ob das auch wirklich die Person ist.“ Fake-Shops, die den besonderen Charakter von Etsy schädigen, machten ihr selbst zu schaffen und haben negative Auswirkungen auf die Kund*innen, erklärt sie. Janine macht sich also für die Verifizierung bereit. Foto vom Ausweis hochladen, ein Echtzeit-Selfie aufnehmen, fertig – Personas Identitätskontrolle soll in wenigen Klicks erledigt sein. Die Gesichtserkennungssoftware extrahiert die Gesichtsmerkmale aus dem Ausweisfoto und dem Selfie und vergleicht diese Gesichtsgeometrie miteinander. So will Persona sicher stellen, dass das Gesicht zu der Person auf dem Ausweis gehört. Allerdings scheitert Janine bereits am ersten Schritt. Jedes Mal, wenn sie ein Foto von ihrem deutschen Ausweis oder Reisepass hochlädt, erklärt Persona ihre Dokumente für nicht gültig. Nach „unzähligen verzweifelten“ Versuchen wendet sie sich an den Kundensupport von Etsy. Doch dann findet sie sich in einer „KI-Loop der Hölle“ wieder, erzählt Janine. Mehrere Wochen lang versucht sie vergeblich, zu einem echten Menschen im Support durchzukommen. Auch die Legal Abteilung von Etsy kontaktiert sie – wieder ohne Erfolg. Schließlich tritt die von Etsy angekündigte Frist ein: „Etsy hat meinen Shop dann einfach in den Ferienmodus geschickt“, erzählt Janine. „Meine ganzen Produkte waren unsichtbar. Es war praktisch nur noch eine Art digitale Visitenkarte von mir da“. Zwei Monate lang befindet sich Janines Shop im Ferienmodus, zwangspausiert. Für sie bedeutet das einen kompletten zweimonatigen Verdienstausfall. „Ich musste von meinem Ersparten leben und auch meine Krankenkasse davon bezahlen“, erzählt sie weiter. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Erst nachdem ein Anwalt Etsy in Janines Namen kontaktiert, reagiert der US-amerikanische Konzern. Sie solle die Identitätsverifizierung noch mal machen, lautet die Antwort. Diesmal funktioniert es. Was zuvor schiefgelaufen war, weiß sie nicht. 30 Tage mehr und Etsy hätte ihren Shop geschlossen. Weder eine Entschädigung noch eine Entschuldigung hat Janine bis heute erhalten. Janine heißt in Wirklichkeit anders. Aus Angst, dass Etsy ihren Shop wegen dieses Artikels sperren könnte, will sie anonym bleiben. „Ich wollte das blaue Häkchen auf LinkedIn“ Die Identitätsverifikation wird so zur Arbeitsvoraussetzung auf Etsy: Bis Anfang 2027 wird der Konzern die Verifizierungswelle in der EU fortsetzen. Nicht immer geht es bei Identitätskontrollen um so etwas Essenzielles wie den Lebensunterhalt und wirtschaftliche Teilhabe. Und sie ist nicht immer verpflichtend. Auf dem Berufsnetzwerk LinkedIn etwa soll das blaue Häckchen nach der Verifizierung signalisieren, dass hinter dem Profil wirklich die Person ist, für die man sich ausgibt – und nicht etwa ein Fake-Profil oder ein*e falsche*r Personalvermittler*in. LinkedIn betont, die Verifizierung durch Persona sei vollständig freiwillig, die Datenverarbeitung beruht also auf der Einwilligung der Nutzenden. Gleichzeitig wirbt die Tochterfirma von Microsoft damit, dass verifizierte Mitglieder im Durchschnitt 60 Prozent mehr Profilaufrufe erhalten und das Engagement um 50 Prozent steigern. Diese Anreize zeigen offenbar Wirkung: Seitdem LinkedIn die Verifizierung im Jahr 2024 eingeführt hat, haben sich nach Angaben von LinkedIn weltweit mehr als 100 Millionen Nutzende verifiziert. Unter ihnen ist auch der Zürcher Mastodon-Nutzer, der sich „rogi“ nennt und in einem Blog namens „The Local Stack“ über „Überwachungskapitalismus“ schreibt. „Ich wollte das blaue Häkchen auf LinkedIn“, schreibt rogi. „Dann tat ich, was wahrscheinlich sonst kaum jemand tut: Ich habe mir die Datenschutzerklärung und die Nutzungsbedingungen durchgelesen“, erklärt er. Und zwar die von Persona, nicht die von LinkedIn. Sein Beitrag ist viral gegangen und hat eine breite Debatte darüber ausgelöst, was mit den persönlichen Informationen von LinkedIn-Nutzenden tatsächlich passiert. Was passiert, wenn man auf „Verifizieren“ klickt? Persona erfasst laut den Datenschutzbestimmungen für die LinkedIn-Verifizierung den vollständigen Namen, den Personalausweis samt Foto, ein Echtzeit-Selfie, die daraus extrahierte biometrische Gesichtsgeometrie, Ausweisnummer, Geschlecht, Nationalität, Geburtsdatum, Alter, E‑Mailadresse, Telefonnummer, Postanschrift, IP-Adresse, Gerätetyp, MAC-Adresse, Browser, Betriebssystemversion, Sprache sowie Standortdaten, die aus der IP-Adresse abgeleitet werden. Außerdem verfolgt Persona, wie die Nutzenden die Verifizierung durchlaufen – etwa wie lange sie dafür brauchen und ob sie Informationen per Copy-and-Paste einfügen. Neben der physiologischen Biometrie des Gesichts erfasst Persona also auch sogenannte verhaltensbiometrische Daten. Zusätzlich behält sich Persona vor, Daten über Nutzende aus einem „globalen Netzwerk vertrauenswürdiger Datenquellen von Drittanbietern“ zu beziehen und abzugleichen: behördliche Datenbanken, nationale Ausweisregister, Kreditauskunfteien, Versorgungsunternehmen, Mobilfunkanbieter und Postadressdatenbanken. „Ich habe meinen Reisepass gescannt, um ein Häkchen zu erhalten, und Persona hat einen Hintergrundcheck durchgeführt“, kommentiert rogi in seinem Beitrag dazu. „Geht weit über eine einfache Identitätsprüfung hinaus“ Der CEO von Persona, Rick Song, hat auf die Vorwürfe in der Recherche reagiert und unter anderem erklärt, dass Ausweise europäischer Nutzer*innen nicht für KI-Training verwendet würden. Die entsprechende Passage, dass „berechtigte Interessen“ Persona dazu legitimieren, Ausweis-Bilder zur Verbesserung der Dienste zu nutzen, hat Persona aus der Datenschutzrichtlinie entfernt. Sie findet sich auf einer archivierten Version der Seite. Außerdem würden laut Song biometrische Daten sofort nach der Verarbeitung gelöscht und andere personenbezogene Daten maximal 30 Tage gespeichert. Michael Mrak vom Verein österreichischer betrieblicher und behördlicher Datenschutzbeauftragter kommt zu der Einschätzung, dass das Ausmaß der Datensammlung und ‑Verarbeitung „weit über das hinausgeht, was für eine einfache Identitätsprüfung erforderlich wäre“. Außerdem sagt er: „Ein Häkchen auf LinkedIn wiegt grundrechtlich nicht schwer genug, um diesen Umfang an Datenverarbeitung zu rechtfertigen“. Nach der Verifizierung erhält LinkedIn wiederum nach Einwilligung der Nutzer*innen einige der Daten von Persona. Dazu gehören der vollständige Name, die Art des amtlichen Ausweises und die ausstellende Behörde sowie gegebenenfalls die Telefonnummer. Biometrische Daten sowie Fotos aus dem Ausweis gehören laut LinkedIn nicht dazu. Wie lange das Karriere-Netzwerk die Daten speichert, dazu wollte sich der Sprecher auf unsere Anfrage nicht äußern. Etsy hingegen informiert darüber, dass biometrische Daten von Verkäufer*innen bis zu einem Jahr lang gespeichert werden – von Persona. Auch Etsy selbst geht nicht leer aus. Das Selfie und das Ausweisbild bewahrt Etsy 6 Jahre lang nach Schließung des Shops auf. 269 Hintergrundchecks und 3 Jahre Speicherfrist Im Februar hatte Song alle Hände voll damit zu tun, auf harsche Kritik zu reagieren. Denn parallel zur Kontroverse um LinkedIn entfaltete sich eine weitere um Personas Alterskontrollen auf Discord in Großbritannien. Sicherheitsforscher*innen entdeckten ein Frontend von Persona im Netz, das Persona später als Testumgebung bezeichnete. Der Fund offenbarte, dass Persona bis zu 269 verschiedene Prüfungen durchführen kann: darunter das Gesicht mit Fotos im Internet sowie in behördlichen Datenbanken, Fahndungslisten und Listen politisch exponierter Personen abgleichen, auf negative Medienberichte scannen sowie jeder Person einen Risikowert zuweisen. Persona hat daraufhin klargestellt, dass keine Partnerplattform alle 269 Hintergrundchecks durchführt. Sie stellten lediglich eine Auswahl an möglichen Überprüfungen dar und würden nicht auf jede einzelne Person angewendet. Monate später ließ Persona den eigenen Quellcode von der unabhängigen IT-Security-Firma Trails of Bits prüfen. Dort heißt es: „Die 269 Check sind ein konfigurierbares Menü und nicht universell angewandt.“ Welche Abgleiche des Gesichts und persönlicher Informationen mit welchen Datenbanken wann greifen, legt Persona nicht offen. Discord hat die Zusammenarbeit mit Persona nach der einmonatigen Testphase im Frühjahr beendet. Man habe als neuen Maßstab gesetzt, dass „Altersschätzung anhand des Gesichts […] vollständig auf dem Gerät selbst durchgeführt werden muss“. Persona erfülle diese Anforderungen nicht. Reddit und Roblox nutzen Personas Alterskontrollen weiterhin. Die persönlichen Informationen, die Persona möglicherweise bei einer Alterskontrolle sammelt und auswertet, ähneln denen, die bei einer Identitätskontrolle von LinkedIn-Nutzer*innen erfasst werden. „Die Angaben von Persona sind sehr vage“, sagt Felix Mikolasch gegenüber netzpolitik.org. Er ist Datenschutzjurist bei der Wiener Datenschutzorganisation Noyb. Es sei unklar, welche Daten wann konkret verarbeitet werden. Die vollständige Liste aller möglichen Daten wirke äußerst umfangreich. „Eine so umfangreiche Datenverarbeitung dürfte kaum oder nur sehr, sehr selten verhältnismäßig sein, um Alter oder Identität zu bestätigen“, sagt Mikolasch weiter. Biometrische Daten von 75 Millionen Kindern und Jugendlichen So verlangt die beliebte Videospiel-Plattform Roblox seit Anfang des Jahres eine Alterskontrolle, um chatten zu können. Roblox nutzt die Alterskontrolle von Persona außerdem, um Spielende in Altersgruppen einzusortieren und ihnen altersbasierte Konten zuzuweisen. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Entweder schätzt Persona das Alter anhand des Gesichts oder liest es aus dem Ausweis aus, wobei auch bei dieser Ausweisverifizierung ein Selfie her muss. Wer die Alterskontrolle nicht macht, kann bei Roblox nur auf ein eingeschränktes Spielangebot zugreifen. Auf diese Weise werden Millionen von Spieler*innen faktisch in den Biometrieprozess gedrängt. Nach Angaben der Gaming-Plattform gegenüber netzpolitik.org haben bereits 57 Prozent der weltweit täglichen Nutzenden die Altersverifikation abgeschlossen. Bei 132 Millionen aktiven Nutzenden täglich bedeutet es, dass sensible biometrische Daten von rund 75 Millionen Spieler*innen an Personas Infrastruktur übertragen wurden ― die meisten davon dürften Kinder und Jugendliche sein. Gefragt nach konkreten Speicherfristen, schweigt sich der Spieleanbieter aus: „Unser Anbieter Persona löscht Bilder und Videos, sobald sie sicher verarbeitet wurden“, sagte eine Sprecherin auf Anfrage von netzpolitik.org. Biometrische Daten insbesondere von Minderjährigen unterliegen einem besonderen Schutz. Versteckt im Kleingedruckten auf der Hilfeseite zur Ausweisverifizierung sowie in der Datenschutzrichtlinie von Roblox findet sich der Hinweis, dass Persona biometrische Daten bis zu 30 Tage lang speichere. Andere Plattformen benennen wiederum andere Fristen. Für Reddit etwa spricht Persona von einer automatischen Löschung nach drei Tagen. Persona wirbt mit deutscher Jugendschutz-Zertifizierung In Deutschland hat die Kommission für Jugendmedienschutz (KJM) Personas Konzept für das „Tool zur Alterseinschätzung mittels künstlicher Intelligenz“ 2024 als geeignet bewertet. Persona präsentiert das Logo der Behörde auf der eigenen Webseite. In ihrer Bewertung beschreibt die KJM Personas Technologie als ein neuronales Netzwerk, das mittels einer Vielzahl von Gesichtsbildern dazu trainiert wurde, das Alter anhand biometrischer Daten einzuschätzen. Maßgeblich für die Positivbewertung ist, ob die Technologie eine „geschlossene Benutzergruppe für Erwachsene“ sicherstellen kann. In anderen Worten, ob sie Kinder ausschließen und gefährdende Inhalte nur Erwachsenen zugänglich machen kann. Im Antrag habe Persona damals angegeben, die Datenrechte der betroffenen Personen zu beachten, sagte eine KJM-Sprecherin auf Anfrage von netzpolitik.org. Bei Personas Alters- und Identitätsverifikation ist „weder ein Vorhalten von Daten noch ein Datenbankabgleich erforderlich“ und „findet ausweislich des zur Bewertung vorgelegten Antrags auch nicht statt“, so die Sprecherin weiter. Die für die Altersschätzung erforderlichen Daten würden nach Abschluss des Vorgangs gelöscht, hieß es damals außerdem im Antrag. Im Widerspruch zum europäischem Datenschutz Joris Leander Kanowski und Michael Kolain vom Zentrum für Digitalrechte kritisieren, dass entgegen dem Prinzip „Privacy by Design“ Nutzende nicht kontrollieren können, wer in welchem Umfang auf ihre Daten zugreifen kann. Denn Persona legt die Daten an eine Reihe weiterer Tech-Unternehmen offen, die sie ebenfalls verarbeiten ― wiederum im Auftrag von Persona. Insgesamt zählt Persona 17 solcher Subunternehmen, darunter die KI-Unternehmen Anthropic, OpenAI und Groqcloud. An welche dieser Unternehmen Daten von Nutzer*innen geschickt werden, ist aus der veröffentlichten Liste nicht ersichtlich. Unter den Aufgaben, die die Subunternehmen ausführen, finden sich etwa Kreditkarten-Verarbeitung, Bildverarbeitung oder Datenbankdienste. Mit einer Ausnahme aus Kanada haben alle diese Subunternehmen ihren Hauptsitz in den USA. Es bleibe unklar, auf welchen Rechenzentren und in welchen algorithmischen Systemen die Daten der Nutzer*innen zirkulieren, so Kanowski und Kolain weiter. „Das hat mit informationeller Selbstbestimmung nichts mehr zu tun“. Laut Datenschutzjurist Felix Mikolasch steige dadurch außerdem das Risiko, dass die Daten für andere Zwecke als nur die Verifizierung von Alter oder Identität weiterverwendet werden. „Ob das geschieht, ist für Nutzende und für uns, zumindest derzeit, kaum nachvollziehbar“. Hinzu komme das Risiko, dass ein Unternehmen die Daten unabsichtlich öffentlich macht oder US-Behörden darauf zugreifen. Sind biometrische Daten in den USA überhaupt sicher? Damit spricht Mikolasch den Konflikt zwischen europäischem Datenschutz und der US-amerikanischen Gesetzgebung, dem sogenannten CLOUD Act, an. Im Kern geht es darum, dass US-Sicherheitsbehörden wie FBI, NSA, CIA und Co. sich Zugriff auf sensible Daten europäischer Bürger*innen verschaffen können. Auf Verlangen der Behörden müssen US-Unternehmen die Daten europäischer Nutzer*innen herausgeben, selbst wenn sie diese in Rechenzentren innerhalb der EU speichern. Laut Mikolasch sind persönliche Informationen europäischer Nutzer*innen in den USA nicht sicher. Denn für die Übermittlung personenbezogener Daten in das Land sei „derzeit kein angemessenes Schutzniveau vorhanden“, sagte der Jurist gegenüber netzpolitik.org. Das Data Privacy Framework, das Abkommen zwischen der EU und den USA, das den Datentransfer regelt und auf das sich Persona bezieht, bietet laut dem Juristen „keinen wirklichen Schutz“. Das Problem ist laut Noyb umso akuter, als dass die US-amerikanische Aufsichtsbehörde FTC, die die Einhaltung der Datenschutzpflichten durch Unternehmen überwachen und durchsetzen soll, nun direkt Trump untersteht. Das hat der Oberste Gerichtshof der USA Ende Juni entschieden. Die Unabhängigkeit dieser Behörde ist aber eine wichtige Voraussetzung für den transatlantischen Datendeal. Damit ist das rechtliche Konstrukt, das den Schutz biometrischen Daten europäischer Nutzer*innen garantieren soll, noch mehr infrage gestellt, als es ohnehin schon war. Nicht-biometrische Alternativen und öffentlicher Druck sind notwendig Persona unterhält seit letztem Jahr neben einem Sitz in London auch einen Sitz in Dublin. Auch wenn die irische Datenschutzbehörde für ihre Zurückhaltung gegenüber Big Tech bekannt ist: Zumindest rechtlich ist damit ein Zugriff auf das Unternehmen und seinen Umgang mit persönlichen Informationen europäischer Nutzer*innen möglich. Damit die Behörde aktiv wird, braucht es öffentlichen Druck. Es gehört nicht nur zu Personas Geschäftsmodell, sensible biometrische Daten von Nutzer*innen zu verarbeiten. Anbieter von biometrischen Kontrollen wie Persona sowie Plattformen, die solche Kontrollen einführen, leisten auch der Normalisierung derartiger Verfizierungsmethoden im Internet insgesamt Vorschub. Solange es keine verbindlichen Regelungen für Identitäts- und Alterskontrollen gibt, werden Unternehmen wie Persona den nachvollziehbaren Wunsch nach vertrauensvoller Kommunikation und verlässlichem Online-Handel mit Slogans wie „Das Internet menschlich halten“ nutzen, um biometrische Kontrollen als Versprechen gegen KI-Fakes, Bots und Betrug zu verkaufen. Solange Nutzer*innen zu biometrischen Kontrollen faktisch gezwungen werden, bleibt ihnen die Wahl, entweder ihre Biometrie gegenüber US-Unternehmen preiszugeben oder – wie Johanna – die Plattformen zu verlassen oder nur eingeschränkt zu nutzen. Letztlich mit der Konsequenz, dass sie von essenziellen digitalen Diensten ausgeschlossen sind. Menschen, die auf die Dienste nicht verzichten wollen oder können – wie Janine – müssen ihre sensibelsten persönlichen Informationen gegenüber kommerziellen Unternehmen offenlegen. Sie müssen dann mit der Angst leben, dass ihre sensibelsten persönlichen Informationen in einem Datenleck offengelegt werden können. Um Menschen nicht vor diese Wahl zu stellen, müssen Plattformen nicht-biometrische Alternativen anbieten und auf diese mindestens genauso prominent hinweisen wie auf biometrische Kontrollen. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Tuesday · length unknown

    Brasilianische Präsidentschaftswahl: Facebook lässt Wahlwerbung mit Desinformation zu

    Amnesty International hat erfolgreich getestet, dass Facebook Wahlwerbung mit Falschinformationen in Brasilien ausspielen würde. Das Unternehmen würde damit gegen eigene Regeln und brasilianische Gerichtsbeschlüsse verstoßen. Brasiliens Präsident Luiz Inacio Lula da Silva tritt zur Wiederwahl an (Archivbild). – Alle Rechte vorbehalten: IMAGO / Xinhua Ein Experiment der Menschenrechtsorganisation Amnesty International hat aufgedeckt, dass Facebook in Brasilien es nicht schafft, wahlbezogene Desinformation zu stoppen. Die Plattform des Konzerns Meta hätte mehr als die Hälfte der zum Test eingereichten irreführenden Werbeanzeigen von Amnesty ausgespielt. Knapp fünf Wochen vor der brasilianischen Präsidentschaftswahl am 4. Oktober zeigt sich damit, wie leicht sich Facebook für Desinformationskampagnen missbrauchen lässt. Was ein Weckruf für jede Plattform sein sollte, die in einem Land fast die Hälfte der Einwohner erreicht, wird vermutlich alles andere als Gehör finden. Meta wehrt sich zusammen mit anderen Tech-Unternehmen in Brasilien bereits seit Jahren gegen staatliche Regulierung. Metas Standards auf dem Prüfstand Im Vorfeld der Wahl sollte das Experiment von Amnesty International testen, wie gut das Unternehmen gegen Desinformation gewappnet ist. Das Team erstellte verschiedene portugiesischsprachige Fake-Werbeanzeigen, um zu testen, wie Facebook mit ihnen umgeht. Einige behaupteten, im Land würde es Wahlbetrug geben. Andere warben für eine militärische Machtübernahme. Eine Anzeige lautete zum Beispiel: „Wir brauchen eine militärische Revolution. Geht nicht zur Wahl – und das Militär wird die Macht zurückerobern, wenn weniger als 50 Prozent der Wähler an der Wahl teilnehmen!“ All das sollte bei Facebook eigentlich Alarmglocken auslösen. In den Richtlinien von Meta heißt es, unter anderem würden Inhalte entfernt, „die wahrscheinlich direkt zur Beeinträchtigung des Funktionierens politischer Prozesse beitragen“. So etwas erkennen soll Metas Moderationssystem mit Künstlicher Intelligenz (KI). Sie soll Inhalte in Anzeigen identifizieren, die möglicherweise gegen die Richtlinien des Unternehmens verstoßen. Die Inhalte werden laut Facebook anschließend entweder automatisch oder von menschlichen Prüfern bewertet. Wird ein Verstoß bestätigt, werden Anzeigen gemäß den Community-Standards von Meta entfernt, eingeschränkt oder abgelehnt. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden „Meta unternimmt nicht genug“ Dennoch akzeptierte Facebook sieben der 15 Anzeigen, auch die zuvor zitierte. Selbst die restlichen Testobjekte wurden nicht aufgrund ihres irreführenden Inhalts ausgeschlossen, sondern nur gekennzeichnet, da es sich um Wahlwerbung handelte. Amnesty International stellte sicher, dass keine der Wahlanzeigen tatsächlich veröffentlicht wurde. Besorgniserregend ist außerdem, dass die Plattform die Anzeigen zuließ, obwohl sie nicht aus Brasilien geschaltet wurden. Da Amnesty International sie erfolgreich aus London hätte ausspielen lassen können, steht offenbar auch ausländischen Akteuren wenig im Weg, wenn sie Einfluss auf die Wahl nehmen wollen. Jurema Werneck, Leiterin der brasilianischen Sektion von Amnesty International, sagt: „Das zeigt, dass Meta nicht genug unternimmt, um zu verhindern, dass seine Plattform als Verbreitungskanal für Desinformation dient, während das Unternehmen weiterhin von den Inhalten und Werbesystemen profitiert, die deren Verbreitung ermöglichen.“ Im ersten Quartal von 2026 generierte der Konzern 98 Prozent seines Umsatzes allein aus Werbung. Dabei nimmt der Konzern etwa auch in Kauf, dass massive Anteile seines Umsatzes aus Scam-Werbeanzeigen stammt; im Jahr 2024 waren das zehn Prozent. Umstrittene Regulierung Die Bekämpfung von Manipulation und schädlichen Inhalten im Internet ist in Brasilien bis heute eine politische Priorität. Bereits die Wahlen im Jahr 2022 waren von massiven Desinformationskampagnen geprägt. Im darauffolgenden Jahr gab es eine Welle von Angriffen auf Schulen, die über soziale Medien organisiert wurden. Schon seit 2020 versuchte die brasilianische Regierung die Fake News Bill (Projeto de Lei 2630/2020) gegen Desinformation einzubringen. Das Gesetz stand von Anfang an auch durch Menschenrechtsorganisationen in der Kritik, weil es Identifikations- und Klarnamenpflichten enthielt, sowie Gefahren für die Meinungsfreiheit brachte. Internetaktivist:innen nannten es „das schlechteste Internetgesetz der Welt“. Auch die starke Lobby der Big-Tech-Unternehmen in Brasilien wehrte sich gegen diese Regulierung. Das Gesetz wurde im Jahr 2024 auf Eis gelegt. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Mit Gerichten gegen Desinformation Nach dem gescheiterten Gesetz waren es vor allem Gerichte wie der Oberste Wahlgerichtshof, der den Tech-Konzernen Regeln im Bezug auf Wahlen und Desinformation auferlegte. So führte er während der Präsidentschaftswahlen 2022 strengere Maßnahmen ein, die Online-Plattformen dazu verpflichten, falsche oder wissentlich aus dem Zusammenhang gerissene Informationen über den Wahlprozess umgehend zu entfernen. Bei Nichteinhaltung drohen den Plattformen Geldstrafen und eine mögliche Sperrung. Auch den Einsatz von KI schränkte das Gericht im Vorfeld der Kommunalwahlen 2024 ein, um Desinformation und die Manipulation der Wahlen zu verhindern. Außerdem ordnete der Oberste Gerichtshof Brasiliens zudem die Sperrung von X an, nachdem das Unternehmen es versäumt hatte, gerichtlichen Anordnungen nachzukommen, darunter Anordnungen im Zusammenhang mit Konten, denen die Verbreitung von Desinformation vorgeworfen wurde. Im März 2026 legte ein neuer Beschluss des Wahlgerichtshofes fest, welche Inhalte Plattformen konkret entfernen müssen, darunter falsche oder aus dem Zusammenhang gerissene Inhalte über das elektronische Wahlsystem, das Wahlgericht und andere Wahlprozesse. Gleichzeitig wurde der Einsatz generativer KI zum Bewerten, Empfehlen, Vorschlagen oder Priorisieren von Kandidierenden, Wahlkampagnen und politischen Parteien untersagt. Meta soll Menschenrechte schützen Angesichts der Ergebnisse ihres Experiments ruft Amnesty International Meta dazu auf, ihr Moderationssystem umgehend zu verbessern. Dieses dürfe nicht zulassen, dass falsche Inhalte verbreitet werden, die das Recht des Einzelnen auf Information und Teilhabe am öffentlichen Leben beeinträchtigen könnten. Selbst abgesehen von staatlichen Vorschriften – denen Meta sich ersichtlich entziehen will – sei das nämlich Teil der international geltenden Menschenrechte. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Tuesday · length unknown

    Kritik an Deutschland-App: Menschenzentrierte Verwaltung statt vorgeschaltetem Chatbot

    Bürger:innen sollen einen zentralen Zugang zur Verwaltung bekommen, und zwar mit der Deutschland-App. Digitalminister Karsten Wildberger setzt dabei auf generative KI. Der Koalitionspartner kritisiert, dass der Chatbot die Probleme der Verwaltungsdigitalisierung nicht löst, so ein internes Positionspapier der SPD, das wir veröffentlichen. Digitalminister will Kontakt der Bürger:innen zur Verwaltung über einen Chatbot kanalisieren. – Alle Rechte vorbehalten: IMAGO / photothek So hat sich die SPD das Bürgerkonto nicht vorgestellt: eine Deutschland-App, in der Bürger:innen ihr Anliegen einem KI-Chatbot anvertrauen. In einem internen Positionspapier, das wir veröffentlichen, kritisiert die SPD die Pläne zur Deutschland-App von Digitalminister Karsten Wildberger (CDU): „Eine Deutschland-App greift zu kurz, wenn sie Bürgerinnen und Bürger lediglich mithilfe eines KI-Bots durch bestehende Verwaltungsleistungen führt.“ Dabei bezieht sich die SPD auf eine Vereinbarung aus dem Koalitionsvertrag. Demnach soll die Verwaltung „voll digitalisiert“ werden und ein „digitales Bürgerkonto soll den Zugang zu Behördendienstleistungen erleichtern“. Um das zu erreichen, sollen Bund, Länder und Kommunen zusammenarbeiten. Das eigentliche langfristige Ziel lautet: Bürger:innen sollen „Unterlagen und Willenserklärungen grundsätzlich ohne persönliches Erscheinen“ im Amt abgeben können. Komplexität lösen oder kaschieren? SPD und CDU sind sich darin einig, dass Bürger:innen einen zentralen Zugang zur Verwaltung bekommen sollen. Doch gehen die Meinungen darüber auseinander, wie der genau aussehen soll. Während Wildbergers Deutschland-App die Beziehung zwischen Bürger:in und Verwaltung mithilfe eines KI-Layers vereinfachen will, denkt die SPD umfassender. Nicht nur der Zugang von Bürger:innen sei wichtig, sondern auch das gesamte digitale Ökosystem dahinter. Der Staat müsse „digital als Einheit“ funktionieren. Bund und Länder sollen also nicht mehr unabhängig voneinander IT-Lösungen für die Verwaltung umsetzen, die wie Inseln für sich stehen. Vielmehr sollen „Behörden und Fachverfahren besser miteinander vernetzt arbeiten“, heißt es im Positionspapier. Der Bund soll die Kompetenz bekommen, „einheitliche IT-Standards und eine übergreifende Infrastruktur für alle Verwaltungsebenen festzulegen“. Dafür will die SPD sogar den Artikel 91c Grundgesetz ändern, der eine Mischverwaltung ausschließt. Demnach arbeiten die Verwaltungen von Bund und Ländern grundsätzlich eigenständig und die Verwaltungszuständigkeiten sind voneinander getrennt. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Chatbot der Verwaltung vorgeschaltet Woran Verwaltungsdigitalisierung bisher scheitert, will Wildberger in der Deutschland-App mit einem KI-Layer überbrücken. Gegen die Komplexität von Mischverwaltung und das Gerangel um Zuständigkeiten setzt die App auf generative KI in Form eines Chatbots. Die App ignoriere – zunächst zumindest – die wilde Bestandslandschaft der Verwaltungs-IT, räumt Staatssekretär Markus Richter im Interview mit heise (€) ein. Wenn der Chatbot funktioniert, würden Bürger:innen davon auch nichts sehen. Sie würden Termine vereinbaren und Anträge stellen, ohne umständlich nach den zuständigen Verwaltungsmitarbeiter:innen suchen zu müssen. Sie würden nicht mehr über die Websites von Bund, Land oder Kommune nach den Informationen zu ihrer Anfrage suchen. Denn das soll die KI für sie übernehmen, so Richter. Dabei können sie für den Chatbot sogar einen Avatar wählen, etwa eine Frau, die aussieht wie eine Sachbearbeiterin. Ein Assistenzsystem soll Bürger:innen dabei unterstützen, direkt in der App ein Formular auszufüllen und einen Antrag zu stellen. Im Hintergrund der App würden Crawler und KI-Sprachmodelle dafür sorgen, dass sie die Formulare ausfüllen, die zu ihrer Anfrage passen, erklärt Richter. Bürger:innen könnten anschließend ihre Daten über die App an die Behörde übermitteln. Damit die Daten „unmittelbar und fehlerfrei“ dort ankommen, wo sie hin sollen, verwende man eine entsprechende Schnittstelle. Menschen im Fokus Der gesamte Verwaltungsprozess könnte theoretisch ohne einen einzigen direkten Kontakt zu Verwaltungsmitarbeiter:innen verlaufen. Mit einem KI-Bot setze die App laut SPD jedoch einen falschen Fokus. Der Staat müsse mehr auf die Perspektive der Bürger:innen eingehen, fordert die SPD. Das digitale Konto solle sich „am Alltag der Menschen“ orientieren und sich „nicht nach Behörden“ ausrichten. Leistungen sollten „nach den Lebenssituationen der Menschen“ gebündelt organisiert sein: Umzug, die Geburt des Kindes oder Anmelden eines Fahrzeugs. Zu einem solchen menschenzentrierten Ansatz gehöre auch, dass die Verwaltung Bürger:innen darauf hinweist, wenn sie Ansprüche auf Verwaltungsleistungen wie Elterngeld haben. Das könne auch automatisch erfolgen, wie das Beispiel Kindergeld zeigt. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Praktisch soll das Online-Angebot außerdem nicht nur über eine App, sondern auch als Webanwendung verfügbar sein. Daneben sollen Bürger:innen über ein Dashboard jederzeit einen Überblick haben – über digitale Nachweise, Nachrichten im Behördenpostfach, offene Anträge, Termine und Fristen, die sie einhalten müssen. Haftungsfrage an die Bürger:innen abgeschoben? Auch abseits vom Frontend solle der Staat Bürger:innen in allen Schritten „serviceorientiert“ unterstützen, so die SPD. Bürger:innen sind demnach nicht allein dafür verantwortlich, dass ihre Anträge erfolgreich sind. Wer bei Fehlern haftet, muss im Einzelfall geklärt werden. Mit der Deutschland-App jedoch schieben die Koalitionspartner die Verantwortung für Fehler ganz den Antragstellenden zu. So lässt sich die Antwort des Staatssekretärs Richter verstehen. Der erklärt, die Daten des Antrags würden in der App komprimiert dargestellt werden. Bevor Bürger:innen den Antrag abschicken, hätten sie die Möglichkeit zu überprüfen, ob die Daten korrekt seien. Bei Fehlern im Antrag würden also die haften, die ihn gestellt haben. Was passiert jedoch, wenn die KI die Daten falsch verarbeitet oder wenn Bürger:innen nicht erkennen, dass die KI ihnen ein falsches Formular anzeigt oder nicht die erforderlichen Daten abfragt? Diese Fragen lässt Richter offen. Die Deutschland-App sollen SAP und die Deutsche Telekom umsetzen. Die Software dafür soll in einer KI-Cloud laufen. Sie gehört zum Großprojekt IT-Infrastruktur für die öffentliche Verwaltung, für das das BMDS gut 250 Millionen Euro veranschlagt hat. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Monday · length unknown

    Erzwungene "Grenzpartnerschaft": Abkommen zum US-Datenzugriff auf der Zielgeraden

    Die USA fordern von Partnerstaaten weitreichenden Zugriff auf deren Polizeidatenbanken, die EU-Kommission verhandelt dazu ein Rahmenabkommen. Nun liegt ein neuer Entwurf vor. Max Schrems kritisiert die enthaltenen Regelungen. Neue "Grenzpartnerschaft": Wollen Staaten noch die Visafreiheit für ihre Bürger*innen, müssen sie den USA in Zukunft Daten offenlegen. – Alle Rechte vorbehalten: IMAGO / TheNews2 Fast alle EU-Staaten werden von der Regierung in Washington gezwungen, ein weitgehendes Abkommen zur Öffnung ihrer Polizeidatenbanken abzuschließen. Zum Jahreswechsel hat die EU-Kommission ein Mandat für Verhandlungen über ein transatlantisches Rahmenabkommen für eine solche „Enhanced Border Security Partnership“ (EBSP) erhalten. Das Verfahren soll zur Prüfung eines Antrags auf elektronische Reisegenehmigung (ESTA) in die USA angewendet werden und danach bei der Grenzkontrolle an US-Flughäfen. Bereits der erste geleakte Entwurf zeigte, wie umfassend die USA auf Daten zugreifen würden. Demnach sollen die Daten zur Identitäts- und Sicherheitsüberprüfung, aber auch zum „Screening“ von Personen genutzt werden dürfen. Diese Formulierungen ermöglichen auch die automatisierte Analyse mit KI-basierten Systemen, wie sie US-Polizei- und Grenzbehörden mit Technik von Palantir und anderen Firmen eingeführt haben. Sogar anschließende „Entscheidungen mit erheblich nachteiligen Folgen“ für die Betroffenen dürfen automatisiert erfolgen, wenn dies in den beteiligten Ländern zulässig ist. Nun hat die britische NGO Statewatch den aktuellen Entwurf für die geplante „Grenzpartnerschaft“ veröffentlicht. Darin gibt es zwar kleinere Einschränkungen: So soll etwa die US-Abfrage einer Person in europäischen Datenbanken nur mithilfe von Fingerabdrücken möglich sein, nicht aber mit einem Gesichtsbild. Dafür geht der mögliche Zugriff in die Breite: Laut dem ersten Entwurf sollten nur „relevante“ Datenbanken abgefragt werden dürfen, nun fehlt diese Beschränkung. Die anschließende Rückmeldung an die US-Behörden kann dann außerdem Lichtbilder der Person umfassen. Visafreiheit an Polizeidatenzugriff geknüpft Der Abschluss einer solchen „Partnerschaft“ ist eine neue Bedingung im Visa-Waiver-Programm (VWP) der USA. Bürger:innen der über 40 teilnehmenden Länder – darunter mit Ausnahme von Zypern, Bulgarien und Rumänien alle EU-Mitgliedstaaten – wird im VWP erlaubt, für bis zu 90 Tage visafrei in die USA einzureisen. Das Programm beruht auf Gegenseitigkeit: Auch US-Bürger:innen profitieren in den Partnerländern von der Visafreiheit. Weigern sich Regierungen, die neue bilaterale „Grenzpartnerschaft“ einzugehen, werden sie hingegen von der Regierung in Washington aus dem VWP ausgeschlossen. Staatsbürger:innen des betreffenden Landes sind dann wieder visumspflichtig. Die Frist für eine Zustimmung läuft bis Ende 2026. In dem EU-US-Abkommen werden nur die Rahmenbedingungen für den Zugriff auf die Polizeidatenbanken geregelt. Für die konkrete Umsetzung muss jeder Staat mit den USA dann noch ein bilaterales Abkommen schließen. Darin werden etwa die teilnehmenden Polizei- und Grenzbehörden, die abzufragenden Datenbanken und Löschfristen festgelegt. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Weit gefasste Gründe für automatisierte Abfragen Als Auslöser für Abfragen europäischer Polizeidatenbanken gilt laut dem Rahmenabkommen, wenn zu der überprüften Person „Grund zu der Annahme besteht, dass die Einreise oder der Aufenthalt eine ernsthafte und unmittelbare Gefahr für die öffentliche Sicherheit oder die öffentliche Ordnung darstellen könnte“. Im aktuellen Vertragstext wurde vor „Gefahr“ das Wort „ernsthafte“ eingefügt – eine Beschränkung also. Jedoch sind die möglichen „Zweifel“ weit gefasst: Der Datentausch kann etwa wegen einer schlechten „Risikobewertung“ der Person erfolgen. Weitere Auslöser wären das Vorliegen von „kriminalpolizeilichen Erkenntnissen“ („criminal intelligence“), falsche Angaben bei der ESTA-Registrierung oder beim Grenzübertritt oder sonstige, von den US-Behörden behauptete „verdächtige Aktivitäten“ der Reisenden. Das könnte auch Postings in Sozialen Medien betreffen. Die jeweiligen Accounts sollen nach einem Vorschlag der Trump-Administration bei einem ESTA-Antrag zwingend mitgeteilt werden. Bislang ist dies noch freiwillig. „Treffer“ öffnet Tür zu weiteren Polizeidaten Im automatisierten Datentausch erhält die anfragende US-Behörde eine Mitteilung, ob im angefragten EU-Staat ein Eintrag seiner Bürger:innen in der nationalen Polizeidatenbank vorliegt. Im „Trefferfall“ schickt die ersuchte Behörde dann einen Datensatz aus Name und Fingerabdrücken zurück. Diese Meldung soll Angaben über „strafrechtliche Verurteilungen, Gefahren für die nationale Sicherheit, terroristische Bedrohungen und/oder Verstöße gegen das Einwanderungsrecht“ und, falls vorhanden, Fotos enthalten. Im nächsten Schritt können weitere Erkenntnisse aus weiteren nationalen Informationssystemen ausgetauscht werden. Wie schnell, lässt das EU-US-Rahmenabkommen offen – dies soll in den bilateralen Abkommen festgelegt werden. Die Rede ist aber von „unverzüglich“, denn die Reisenden in die USA sollen an der Grenzkontrolle möglichst schnell abgefertigt werden. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Auskunft zu politischen Meinungen Sogar besonders sensible Daten zu „rassischer oder ethnischer Herkunft“, religiösen Überzeugungen, politischen Meinungen, Gewerkschaftszugehörigkeit sowie zu Gesundheit oder Sexualleben dürfen die EU-Staaten an die US-Polizei- und Grenzbehörden weitergeben – als „Ausnahmen“ und mit Beschränkung der Verarbeitungszwecke sowie auf befugtes Personal. Diese aufgezählten Schutzmaßnahmen werden allerdings mit dem Wort „may“ („dürfen“/„können“) abgeschwächt. Sie sind also nicht bindend. Auch die Weiterverarbeitung der personenbezogenen Daten durch andere Behörden ist von dem Rahmenabkommen gedeckt, sofern der neue Zweck mit dem ursprünglichen „nicht unvereinbar“ ist. Möglich ist zudem die Weitergabe der erhaltenen Daten an Behörden in Drittstaaten oder an internationale Organisationen – sofern die ursprünglich ersuchte Behörde im EU-Staat zugestimmt hat. EU sieht unabhängige Kontrolle vor – die USA nicht Im Entwurf für das transatlantische Rahmenabkommen werden auch vermeintliche Schutzklauseln definiert. Auf EU-Seite gehören dazu die Einbindung der unabhängigen Datenschutzbehörden der Mitgliedstaaten. Auf US-amerikanischer Seite dagegen soll die Aufsicht „kumulativ“ durch unterschiedliche Institutionen erfolgen. Genannt werden etwa Inspekteur:innen einzelner Behörden, behördeninterne Datenschutzbeauftragte oder Rechnungsprüfungsämter. Sämtliche dieser Stellen sind jedoch organisatorisch in der jeweiligen US-Behörde selbst angesiedelt. Damit genügen sie den Anforderungen an den transatlantischen Datenaustausch nicht: Unter anderem aus diesem Grund wurden etwa das „Safe Harbor“-Abkommen von 2015 und das „Privacy Shield“ von 2020 vom Europäischen Gerichtshof für ungültig erklärt. Beide Fälle gingen auf Klagen des österreichischen Datenschutzaktivisten Max Schrems zurück. Er hält auch die nun diktierte transatlantische „Grenzpartnerschaft“ für rechtswidrig. Die geplante Aufsichtsstruktur stehe im Widerspruch zur EU-Grundrechtecharta, die unabhängige Behörden verlangt, sagt Schrems zu netzpolitik.org. Probleme sieht Schrems auch beim vorgesehenen Rechtsschutz für Betroffene von US-Abfragen in europäischen Polizeidatenbanken. Das Abkommen verweise zwar auf gerichtlichen Rechtsschutz nach US-Recht. In der Praxis scheitere dieser aber häufig an der fehlenden Klagebefugnis in Datenschutzfällen, etwa wenn die Betroffenen ihre Privatsphäre verletzt sehen. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Monday · length unknown

    Überwachung im ÖPNV: Mit dieser Realsatire führte Bremen Verhaltensscanner ein

    Die Bremer Straßenbahn AG wollte eigentlich gar keine automatisierte Verhaltenskontrolle, das System war nur gerade im Angebot. Ohne Plan und Ahnung von Persönlichkeitsrechten startete der Einsatz. Die Datenschutzaufsicht hat grundsätzliche Bedenken. Videoüberwachung in einer Bremer Tram. Ein Drittel der Fahrzeuge wird mit Verhaltensscanner-Software aufgerüstet. – CC-BY-NC-SA 4.0: Lucas Fiola In Bremen wird das Verhalten von Tram-Fahrgästen von einer Software analysiert und bewertet. Dabei war das nicht geplant. Eigentlich wollte die Bremer Straßenbahn AG gar keine Verhaltensscanner an die Videokameras in ihren Trams koppeln. Das Unternehmen hatte nur ein System bestellen wollen, das automatisch Beschädigungen in der Bahn dokumentiert. Mit diesem Wunsch ist es an eine Softwareschmiede herangetreten, die den programmatischen Namen „Just Add AI“ (JAAI) trägt. Das berichten Mitarbeitende des Landesdatenschutzbeauftragten in einem internen Vermerk, nachdem sie das System vor Ort inspizierten. Mitarbeitende der Verkehrsbetriebe haben ihnen den Hergang der Geschichte dort wohl erzählt. Laut des Papiers berichtete der Nahverkehrsbetrieb, dass JAAI die Anfrage abgelehnt habe. Die Dokumentation von Beschädigungen würde „nicht so einfach gehen“. Stattdessen habe JAAI ihnen ein anderes System angeboten, eine „Aggressionserkennung“. Die habe es dann sogleich auch in einer Tram-Bahn ausprobiert. Im September 2024 wurde eine „Theaterfahrt“ veranstaltet, bei der das System „Übergriffe, Diebstahl und Waffennutzung“ vorgespielt bekam, um Derartiges künftig erkennen zu können. Am 24. März 2025 startete das Pilotprojekt. Und obwohl dieses nur fragwürdige Ergebnisse produzierte, werden insgesamt 43 Bahnen mit der High-Tech-Überwachung ausgerüstet, ein Drittel der Flotte. „Es wirkt als sei die Testphase nicht entscheidend für das weitere Vorgehen“, gab die Datenschutzaufsicht zu Protokoll. Bremen zeigt exemplarisch, was gerade in Deutschland passiert Dieser Vorgang in Bremen steht beispielhaft für eine bundesweite Entwicklung. Zahlreiche Bundesländer wollen das Verhalten von Menschen im öffentlichen Raum mit KI analysieren. In Mannheim und Hamburg laufen solche Systeme bereits, Berlin und weitere Städte in Baden-Württemberg sollen folgen. Hessen, Niedersachsen, Sachsen, Schleswig-Holstein und Thüringen haben die Erlaubnis bereits beschlossen oder arbeiten daran. In den genannten Bundesländern geht es um polizeiliche Verhaltenskontrolle auf öffentlichen Plätzen und Straßen. Bremen hingegen ist Vorreiter für die Verhaltensüberwachung im Nahverkehr durch die Verkehrsbetriebe. Das Vorbild hat anscheinend schon andere Städte inspiriert: In Dortmund und Düsseldorf laufen Pilotprojekte – letzteres mit Software einer JAAI-Tochterfirma, das erzählt der Geschäftsführer von JAAI im Gespräch mit netzpolitik.org. Und nach der Sommerpause soll der Bundestag den Einsatz von Verhaltensscannern an allen deutschen Bahnhöfen ermöglichen. Dass menschliches Verhalten automatisiert kontrolliert wird, ist bald wohl ziemlich normal. Entsprechend interessant ist der Einblick, den das Beispiel Bremen erlaubt. Den internen Vermerk und weitere Unterlagen, anhand derer wir die Entwicklung hier dokumentieren, hat Matthias Marx vom Chaos Computer Club mit Hilfe des Informationsfreiheitsgesetzes öffentlich gemacht. Die Bremer Straßenbahn AG (BSAG) hat Fragen von netzpolitik.org auch nach drei Wochen Wartezeit und wiederholten Nachfragen nicht beantwortet. Dabei ist das landeseigene Unternehmen eigentlich Journalist*innen zur Auskunft verpflichtet. Auch die für die Verkehrsbetriebe zuständige SPD-Senatorin verweigerte eine Antwort. Doch dank der vorliegenden Unterlagen lässt sich die Geschichte, wie Bremen zum Verhaltensscanner kam, dennoch umfassend erzählen. Verkehrsbetrieb ignoriert Persönlichkeitsrechte Dass die automatisierte Verhaltenskontrolle in Persönlichkeitsrechte der Fahrgäste eingreift, ignorierte die BSAG bei ihrer Entscheidung weitgehend. Das belegen die zunächst deutlich unzureichenden Datenschutz-Folgenabschätzungen, die das Unternehmen bei der Datenschutzaufsicht einreichte. Auch die Argumentation in spezifischen Punkten des Datenschutzes zeigt, dass sich der Verkehrsbetrieb der Implikationen des Projekts anfangs kaum bewusst war. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Bremen hatte gerade Fördergelder des Bundes für Digitalisierung im Nahverkehr auszugeben. Also fiel die Entscheidung wohl leicht, sich dann zumindest irgendetwas anderes mit KI einzukaufen, auch wenn das gewünschte Produkt nicht zu haben war. Der Bund zahlt 80 Prozent der über 500.000 Euro Projektkosten. Die für das Projekt nötigen Kameras hingen sowieso schon in den Trams. Vor zwei Jahrzehnten hatte die BSAG diese eingeführt, um Vandalismus zu bekämpfen. Offenbar mit mangelhaftem Erfolg, andernfalls wäre sie 2024 wohl kaum auf die Suche nach einem KI-System zur Bekämpfung gegangen. Kein Plan, wie das System im Notfall helfen soll Die Verhaltensscanner-Software, die sie nun eingekauft hat, soll die Tramführer*innen unterstützen, „indem kritische Situationen im Fahrgastraum frühzeitig erkannt werden“, so eine interne Bekanntmachung der BSAG. Doch zumindest zum Zeitpunkt der Begehung durch die Datenschutzaufsicht gab es gar keinen Bildschirm, auf dem den Tramführer*innen eine mutmaßlich gefährliche Situation angezeigt werden könnte. Eine weitere Idee war, dass die Leitstelle einen Alarm erhält, das Live-Bild einsieht und dann gegebenenfalls den Fahrer alarmiert. Auf die Frage, was dieser dann tun solle, wussten die BSAG-Mitarbeitenden allerdings keine Antwort. Als einzig realistischer Verwendungszweck wurde genannt, dass es durch das System im Falle einer Anzeige einfacher werde, den zugrundeliegenden Vorgang im Videomaterial zu finden. Während des Testbetriebs in der einzelnen Tram zählte das System Gefahrenmeldungen. Das Ergebnis glich die BSAG mit tatsächlichen Gefahrensituationen aus ihren Betriebsberichten ab. In den ersten fünf Monaten gab das System 16 Meldungen aus. Von denen ließen sich nur vier auf protokollierte Vorfälle zurückführen. Verpixelung ist keine Anonymisierung Laut JAAI werden die Gesichter im Videomaterial vor der Analyse verpixelt. Die BSAG nahm zunächst fälschlich an, dass damit sämtliche Datenschutzprobleme weitgehend vom Tisch seien und eine Datenschutz-Folgenabschätzung gar nicht nötig wäre. Schließlich würden keine personenbezogenen Daten verarbeitet. Laut Datenschutzaufsicht ist das allerdings Quatsch. Verpixelung sei „keine hinreichende Maßnahme zur Anonymisierung“ gaben die Mitarbeitenden der BSAG beim Ortstermin mit auf den Weg. Auf Anfrage schreibt der Landesdatenschutzbeauftragte Timo Utermark, dass „auffällige Kleidung oder Tattoos“ erlauben könnten, eine Person zu identifizieren. Außerdem sei nicht auszuschließen, dass die Verpixelung technisch „wieder umgekehrt werden kann“. Während die Verhaltenserkennung auf Rechnern in den betroffenen Trambahnen läuft, werden die unverpixelten Bilder gleichzeitig direkt in die BSAG-Leitstelle gesandt und im Fahrzeug 48 Stunden gespeichert. Das heißt, eine retrograde Identifizierung von Beteiligten eines KI-detektierten Vorfalls ist möglich. Das System soll Gewalttaten erkennen. Verhindern kann es sie wohl nicht. Eine Abschreckungswirkung kann schon durch die Videoüberwachung gegeben sein – wenn es sie überhaupt gibt. Im Gegensatz zu Diebstahldelikten begehen Menschen Gewalttaten öfter aus dem Affekt heraus, ungeachtet möglicher Folgen. Plötzlich geht Vandalismus-Detektion dann doch Neben aggressiven Verhaltensweisen soll die Software laut der Datenschutz-Folgenabschätzung auch Vandalismus detektieren. Dabei hatte JAAI ja auf Anfrage der BSAG einst ausgeschlossen, dass das technisch möglich sei. Nur so kam es ja überhaupt zum Einsatz der aktuellen Form der Verhaltenskontrolle. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Erkannt werden soll auch „akute Hilfsbedürftigkeit“. Einen Hinweis darauf, was das umfasst, gibt der Gesprächsvermerk des Landesdatenschutzes. Mitarbeitende des Bahnbetriebs erzählten demnach, dass das System bei Testfahrten einen „Schläfervorfall“ nicht meldete. Damit gemeint war, dass eine schlafende Person bis zur Endstation mitgefahren und auch dort nicht ausgestiegen sei. Die Datenschutzaufsicht fragt in dem Vermerk anscheinend empört, warum Derartiges überhaupt gemeldet werden sollte. „Es ist doch legal, in der Bahn zu schlafen, das ist weder eine Gefahrensituation per se, noch ein Aggressionspotenzial.“ Dennoch zählten „Schläfer“ zu den festgehaltenen „Gefahrensituationen“ während des Testbetriebs. Der Geschäftsführer von Just Add AI sagt auf Anfrage, dass die Technologie Menschen melden solle, die „eindeutig Hilfe benötigen“, etwa da sie „in einer unnatürlichen Position auf dem Boden liegen“. Dabei ist der Firma bewusst, dass die Technologie genutzt werden kann, „spezifische Bevölkerungsgruppen diskriminierend zu detektieren“. Noch mehr Druck auf Wohnungslose „Schläfervorfälle“ als Grund für eine Gefahrenmeldung könnten besonders obdach- oder wohnungslose Fahrgäste in den Fokus der Überwachung rücken. Das wirkt umso problematischer, wenn man bedenkt, dass Hilfsorganisationen Bremen eine „Politik der Vertreibung“ zuschreiben: Die Johanniter und andere Organisationen seien inzwischen am Hauptbahnhof unerwünscht, wo sie früher Essen verteilten. Auch das Verbot von Alkohol und aggressivem Betteln sind Maßnahmen, die Obdachlose besonders treffen. Die Datenschutzaufsicht schrieb der BSAG: „Sie geben an, dass die Herstellung der Sicherheit in den Fahrzeugen den Einsatz des KI-Systems erforderlich macht. Wir würden Sie daher bitten, uns entsprechende Nachweise vorzulegen, aus denen hervorgeht, dass es in den Fahrzeugen in einem solchen Maße unsicher ist, dass es nötig ist, Maßnahmen zu treffen.“ Beispielsweise könnten polizeiliche Statistiken dafür herangezogen werden. Laut Bundesverkehrsministerium hat sich allerdings die Zahl der Übergriffe im Bremer Nahverkehr im Vergleich zur Zeit vor der Corona-Pandemie nicht erhöht. Datenschutzaufsicht bezweifelt, dass der Verhaltensscanner die Sicherheit erhöht Fünf Mal musste die BSAG die Datenschutz-Folgenabschätzung zum Projekt überarbeiten. Wirklich zufrieden war die Datenschutzaufsicht dennoch bis zum Schluss nicht. Sie zweifelt weiter an, ob die Verhaltensanalyse aller Fahrgäst*innen geeignet und erforderlich ist, um die Sicherheit in den Fahrzeugen zu erhöhen. Der Landesdatenschutzbauftragte Timo Utermark verlangt deshalb von der BSAG, ein Jahr nach Inbetriebnahme eine umfassende Evaluation des Systems vorzulegen. Dabei soll unter anderem die Zahl der erfassten Vorkommnisse mit der Zahl der polizeilich erfassten Straftaten verglichen werden. Herauszufinden ist demnach, wie oft das System Menschen falsch verdächtigt und wie oft es tatsächlich zur Eindämmung von Straftaten beitragen konnte. Utermark sagt auf Anfrage, für ihn sei entscheidend, ob das System zu wenige tatsächliche Gefahrensituationen als solche erkennt oder zu oft Fehlalarm schlägt. Sei das der Fall, wäre die Datenverarbeitung „unverhältnismäßig“ und „daher zu unterbinden“. Ein Vergleich mit den Straftatenzahlen von vor Beginn des Einsatzes würde bei einer derartigen Evaluation auch eine Einschätzung der Effizienz des Systems ermöglichen. Es wäre die erste umfassende Evaluation eines Verhaltensscanners in Deutschland. In Mannheim, wo das System seit acht Jahren getestet wird, kann die Polizei bis heute keinen einzigen Fall nennen, wo es zur Verhinderung oder auch nur Aufklärung einer Straftat beigetragen hat. Update, 26.8.2026, 10.20 Uhr: Absatz zum KI-Cluster wegen Verjährung gelöscht. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Monday · length unknown

    Kriminalitätsbelastung in Berlin: Problematisches Herrschaftswissen

    Ob Gegenden in Berlin mit Videokameras und Verhaltensscanner überwacht werden dürfen, hängt davon ab, ob sie als kriminalitätsbelastet gelten. Die Datengrundlage zur Einstufung ist allerdings Herrschaftswissen. Ein Zahlendreher der Polizei zeigt, wie problematisch das ist. Wo in Berlin wie viele Straftaten welcher Art verübt werden, ist Herrschaftswissen von Landesregierung und -polizei. – Gemeinfrei-ähnlich freigegeben durch unsplash.com: Jonas Tebbe In Berlin wird seit Sonntag Videoüberwachung mit angeschlossener Verhaltenserkennung aufgebaut. Los geht es am Kottbusser Tor, dann sollen die Warschauer Brücke und weitere sogenannte kriminalitätsbelastete Orte (kbO) folgen. Die Einstufung als kbO ist Voraussetzung dafür, dass die Polizei in einer bestimmten Gegend die Überwachungstechnologien einsetzen darf. An kbO darf sie auch verdachtsunabhängige Personenkontrollen durchführen. Was als kbO gilt, wird von der Senatsinnenverwaltung relativ freihändig festgelegt. Die Datengrundlage dazu, also wo in Berlin es wie viele Fälle welcher Kriminalitätsformen gibt, ist nicht öffentlich zugänglich. Innenverwaltung und Polizei geben die Zahlen nur auf Nachfrage bekannt – und dann auch nur auszugsweise. Bei einer Presseanfrage hat die Polizei nun Zahlen vertauscht. Das führte zu irreführender Berichterstattung. Und zeigt, wie problematisch diese Form von Herrschaftswissen ist. In einer Tabelle, die netzpolitik.org vorliegt und die von der Berliner Morgenpost angefragt wurde, hat die Polizei die Zahlen für die Areale „Rigaer Straße“ und „Kottbusser Tor“ vertauscht. Das führte dazu, dass die Morgenpost von einer Explosion der Kriminalität rund um die Rigaer Straße berichtete, „eine der letzten Hochburgen der linksextremen Besetzerszene“, während am Kottbusser Tor vermeintlich ein „historischer Tiefstand“ der Kriminalitätszahlen zu berichten war. Zu Unrecht stigmatisiert Das ist ein Problem. Denn während auf der einen Seite die linke Szene aufgrund dieses Zahlendrehers zu Unrecht stigmatisiert wurde, stand auf der anderen Seite plötzlich die geplante Videoüberwachung am Kottbusser Tor in Frage. Denn wo die Kriminalität von alleine derart zurückgeht, wären hochinvasive Überwachungstechnologien weder erforderlich, noch verhältnismäßig. Auf Nachfrage von netzpolitik.org hat die Polizei die Zahlen dann überprüft und den Fehler eingeräumt. Der Fall wirft die Frage auf, warum die Datengrundlage für derart weitreichende Befugnisse nicht öffentlich zugänglich ist. Warum werden die Zahlen zur Kriminalitätsbelastung der gesamten Stadt nicht in kleinräumiger Auflösung prinzipiell publik gemacht? In der aktuellen Praxis gibt die Polizei auf Nachfrage von Abgeordneten oder Journalist*innen immer mal wieder die Zahlen zur Kriminalitätsbelastung der kbO heraus. Doch es fehlt eine stadtweite Einordnung, anhand derer sich Interessierte selbst ein Bild machen können, wie gerechtfertigt die Einstufung der kbO ist. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Die Absurdität des Konzepts Niklas Schrader, innenpolitischer Sprecher der Linken im Abgeordnetenhaus sagt: „Das zeigt die Absurdität des Konzepts der kriminalitätsbelasteten Orte. Die Zahlen sind nicht unabhängig überprüfbar. Das überlässt der Innensenatorin die Hoheit darüber, wo sie der Polizei erweiterte Befugnisse gibt.“ Vasili Franco, innenpolitischer Sprecher der Grünen im Abgeordnetenhaus, sagt dazu: „Über die Einstufung als kriminalitätsbelastete Orte entscheiden Innenverwaltung und Polizei auf einer intransparenten Grundlage und ohne Vergleichszahlen. So lässt sich nach Bedarf fast jede Gegend in Berlin aus politischen Gründen zum kriminalitätsbelasteten Ort erklären.“ Die kbO würden vielfach zur politischen Instrumentalisierung oder Stigmatisierung missbraucht. „Gerade der schwarz-rote Senat nutzt die Einstufung, um immer mehr zusätzliche Überwachungsmaßnahmen im öffentlichen Raum wie die Videoüberwachung mit Verhaltensscannern einzuführen“, sagt Franco. Eine politische Instrumentalisierung der Einstufung als kbO zeigt sich womöglich am Beispiel der oben genannten Rigaer Straße. Die dortige Hausnummer 94 ist ein kollektiv verwaltetes Wohnprojekt und den jeweiligen Berliner Innen-Senator*innen seit der Besetzung 1990 traditionell ein Dorn im Auge. Der harmloseste aller kriminalitätsbelasteten Orte Die Rigaer Straße ist dementsprechend als kbO eingestuft. Dabei zeigen die Zahlen nur eine vergleichsweise niedrige Kriminalitätsbelastung. Im ersten Halbjahr 2026 hat die Polizei rund um die Rigaer Straße gerade einmal 326 Delikte registriert. Zum Vergleich: Am Alexanderplatz, dem Ort mit der stärksten erfassten Kriminalitätsbelastung, wurden im gleichen Zeitraum 2.274 Delikte gezählt. Von den insgesamt sieben Orten, die Berlin als kriminalitätsbelastet definiert, ist die Rigaer Straße das deutliche Schlusslicht. Schon die Warschauer Brücke, Platz sechs nach dieser Zählung, hat eine fast dreimal so hohe Kriminalitätsbelastung, alle anderen Orte liegen bei über 1.700 Delikten im ersten Halbjahr 2026. Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren Einige Orte, die nicht als kbO eingestuft sind, weisen ebenfalls höhere Kriminalitätszahlen auf als das Areal rund um die Rigaer Straße, so zum Beispiel der Leopoldplatz im Wedding (1.248), die Frankfurter Allee in Friedrichshain (1.596) oder die Turmstraße in Moabit (559). Anwohner in Mithaftung Um die Einstufung als kbO dennoch zu begründen, schreibt die Innenverwaltung: „Die Kriminalitätslage am kbO Rigaer Straße zeichnet sich durch politisch motivierte Straftaten aus, die insbesondere aus der linksextremistischen Szene heraus begangen werden und sich vor allem gegen Institutionen des Staates oder Institutionen, die in ihren Tätigkeiten den politischen Zielen der relevanten Personen entgegenstehen, richten.“ Dabei gibt sie allerdings zu, dass ein Großteil der Straftaten im Rahmen von Demonstrationen oder Kundgebungen verübt wird. Das heißt: Die Vorverdächtigung – und womöglich anlasslose Kontrolle – sämtlicher Anwohner*innen dieser eigentlich ganz normalen Wohnstraße bleibt außerhalb politischer Zusammenkünfte weitgehend unbegründet. Vasili Franco sagt: „Die Zahlen aus der Rigaer geben diese Einordnung nicht her. Da könnte man jeden Ort als kbO eintragen. Die Anwohner werden in Mithaftung genommen, obwohl die Gefahr nur von einem Haus ausgeht.“ Welche Orte in Berlin als kriminalitätsbelastet geführt werden und damit besondere Befugnisse für die Polizei ermöglichen, ist erst seit 2017 öffentlich. Zuvor wussten die Betroffenen nicht einmal, ob die Polizei sie an einem bestimmten Ort überhaupt anlasslos kontrollieren darf. Die Liste der kbO hat sich seit 2019 nicht verändert. Durch die besonderen Befugnisse haben die kriminalitätsbelasteten Orte eine Tendenz zum Selbsterhalt – denn wo oft kontrolliert wird, findet sich auch viel Kriminalität. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Sunday · length unknown

    Verhaltensscanner in Berlin: Harte Kritik an der KI-Überwachung

    Am Sonntag begann die Installation von Kameras, mit denen die Berliner Polizei die automatisierte Verhaltensanalyse einführen will. An dem Überwachungsprojekt gibt es massive Kritik aus Nachbarschaft, Wissenschaft und Politik. Die erste von vielen: Etwa 30 Kameras werden hier am Kottbusser Tor installiert – und mit einer Verhaltenserkennungs-Software verknüpft. Weitere Orte sollen folgen. – CC-BY-NC-SA 4.0: netzpolitik.org Am Sonntag begann die Installation von Videokameras am Kottbusser Tor in Berlin. Damit wird erstmals öffentlicher Raum in der Stadt dauerhaft videoüberwacht. Eine Zeitenwende. Der Livestream der Kameras wird algorithmisch analysiert, um bestimmte Bewegungsmuster zu erkennen. Kritik an dem Überwachungsprojekt kommt aus Politik, Wissenschaft und von Anwohner*innen. Ein Mensch, der am Kottbusser Tor lebt, fürchtet: „Gegen Gewalt hilft keine Kamera. Und die Betäubungsmittelkriminalität wird jetzt halt noch tiefer in die Wohngebiete reingedrückt.“ Die Bezirksbürgermeisterin Clara Herrmann, Grüne, sagt: „Ich habe Zweifel, dass zusätzliche Videoüberwachung die Lage rund um das Kottbusser Tor tatsächlich verbessert.“ Die Videoanalyse koste mehrere Millionen Euro, die für sinnvolle Maßnahmen fehlen würden. „Seit Jahren fordern wir als Bezirk rund um den Kotti zusätzliche Finanzmittel, um die kommunale Infrastruktur besser auszustatten und soziale Projekte dauerhaft zu fördern. Stattdessen gibt es nun mehr Überwachung“, sagt Herrmann. Niklas Schrader, innenpolitischer Sprecher der Fraktion Die Linke im Abgeordnetenhaus, sagt: „CDU und SPD schaffen eine Überwachungsdichte, der man sich kaum entziehen kann, wenn man sich durch den öffentlichen Raum bewegt. Zudem müssen alle Betroffenen damit rechnen, dass ihre Daten weiterverwendet werden, um die KI zu trainieren. Während für diese dystopischen Tools Millionenbeträge in die Hand genommen werden, müssen Projekte der Suchthilfe oder der aufsuchenden Sozialarbeit an Orten wie dem Kotti bluten. Eins wird Berlin so garantiert nicht: sicherer.“ Vasili Franco, innenpolitischer Sprecher der Grünen im Abgeordnetenhaus, sagt: „Die Videoüberwachungspläne des Senats sind Irrsinn. Seit Jahren belegen Studien, dass Videoüberwachung bestenfalls Kriminalität verlagert, aber nicht wirksam bekämpft. Die zunehmende Entkopplung sicherheitspolitischer Entscheidungen von kriminologischer Evidenz ist bedenklich und stärkt nicht die Sicherheit.“ Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren „Eine zusätzliche Ebene von Grundrechtseingriff“ Die Verhaltensanalyse gilt Verfechter*innen der Technologie als privatsphäreschonend, weil dabei Bilder von Menschen in eine Art Strichmännchen umgerechnet werden. Anhand dieser bewegten Vektorenbündel kategorisiert die KI das Verhalten. Doch gleichzeitig wird auch das ganz normale Videobild gespeichert, auf dem Gesichter zu erkennen sind – und zwar standardmäßig bis zu einem Monat lang. Und mindestens im Fall einer Alarmierung wird es auch von Polizeikräften eingesehen. Die können dann nach dem neuen Berliner Polizeigesetz die Gesichter von Einzelpersonen aus den Aufnahmen extrahieren und zur Identifizierung mit Daten aus dem Internet abgleichen. „Die Verhaltensanalyse ist kein privatsphärenfreundlicher Ersatz für konventionelle Videoüberwachung, sondern schlicht eine zusätzliche Ebene von Grundrechtseingriff“, konstatiert Felix Ruppert, Jurist von der Uni München und Experte für Strafrecht und Digitalisierung. Die Betroffenen würden damit nicht nur aufgezeichnet und überwacht, sondern ihr Verhalten werde zudem kontinuierlich ausgewertet. „Mit dem verfassungsgerichtlich zugestandenen Recht, nicht beliebig staatlich registriert zu werden und nicht permanent dem Gefühl einer Überwachung ausgesetzt zu sein, lässt sich dies nur schwerlich in Einklang bringen“, sagt er. Nach welchen Bewegungsmustern die Software konkret sucht, will die Berliner Polizei nicht sagen. Kritiker*innen wie Felix Ruppert bemängeln, dass die Formen von Verhalten, bei denen die Kamera Alarm schlägt, weder gesetzlich festgelegt noch konkretisiert sind. Sie könnten von der Polizei somit je nach Bedarf interpretiert werden. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

  • Sunday · length unknown

    Verhaltensscanner in Berlin: Jetzt beginnt die automatisierte Überwachung

    Am Kottbusser Tor in Berlin werden seit Sonntag rund 30 Überwachungskameras installiert und an ein KI-System angeschlossen, das prüft, wer artig ist und wer nicht. Weitere Areale sollen folgen. Menschen, die sich regelmäßig am Kotti aufhalten, sind von dem Überwachungsprojekt überrascht. Am Sonntag Vormittag wurden die ersten Videokameras am Kottbusser Tor angebracht. – CC-BY-ND 4.0: netzpolitik.org Am Kottbusser Tor in Berlin haben Menschen damit begonnen, für die Polizei eine Reihe von Videoüberwachungskameras zu installieren. Etwa 30 Stück sollen das Areal überwachen. Laut der Berliner Polizei werden die Geräte zeitnah mit einer Software von Adesso verknüpft, die im Videostream automatisiert analysiert, was die Abgebildeten gerade tun und bei unerwünschtem Verhalten Alarm schlägt. Bislang gab es in Berlin – außerhalb des öffentlichen Nahverkehrs – keine dauerhafte Videoüberwachung des öffentlichen Raums. Das ändert sich jetzt. Und diese Videoüberwachung wird dann direkt auch noch algorithmisch analysiert. Das Überwachungs-Projekt, das nach dem Start am Kottbusser Tor auch auf die Warschauer Brücke und weitere mutmaßlich kriminalitätsbelastete Orte ausgedehnt werden soll, beginnt mit einer „Kalibrierungsphase“, um das System „auf die tatsächlichen Bedingungen vor Ort abzustimmen und seine korrekte Funktion sicherzustellen.“ Erst danach startet der Produktivbetrieb. In der Kalibrierungsphase sollen ungefähr 30 Kameras nach und nach in das System eingebunden werden, so die Berliner Polizei. Dabei verwendet die Polizei zwei Kameratypen des schwedischen Herstellers Axis: Q1809-LE und Q3839-PVE. Beide liefern laut Produktbeschreibung eine sehr hohe 8k-Bildauflösung und gute Sicht auch bei wenig Licht. Erstere ist eine klassische Überwachungskamera und wird mit Tele- oder Weitwinkelobjektiv ausgeliefert, zweitere vereint das Bild mehrerer Linsen zu einem 180-Grad-Panorama und liefert angeblich auch im Zoom-Modus noch volle Bildschärfe. Die Software zur Verhaltenserkennung kommt von Adesso. Vollautomatische Verhaltensanalyse ist das neue normal Berlin ist damit nach Mannheim und Hamburg die dritte Stadt in Deutschland, die Straßen und Plätze mit Verhaltensanalyse-Software überwacht. Fest geplant ist bereits, die Technologie und die dazugehörigen Kameras auch an der Warschauer Brücke zu installieren. In Berlin soll die Videoüberwachung mit Verhaltensanalyse auch an weiteren angeblich kriminalitätsbelasteten Orten sowie an mutmaßlich gefährdeten Gebäuden zum Einsatz kommen. Kameras prüfen, ob du artig bist. Da werden wir unbequem. Mit deiner Unterstützung. Jetzt spenden Auch deutschlandweit ist eine zunehmende Verwendung der Technologie zu erwarten. In Baden-Württemberg hat Innenminister Manuel Hagel (CDU) angekündigt, dass er den Einsatz von Verhaltensscannern ausweiten und mit automatisierter Gesichtserkennung sowie womöglich Abhöranlagen und Stimmerkennung koppeln will. In Hessen, Sachsen und dem Saarland ist die rechtliche Grundlage für die Verhaltensscanner bereits geschaffen, in Schleswig-Holstein, Thüringen und Niedersachsen arbeiten die Regierenden daran. Zudem soll der Bundestag gleich nach der Sommerpause erlauben, dass die Bundespolizei derartige Systeme an Bahnhöfen einsetzt. Die Abstimmung war eigentlich bereits erfolgt, muss aber wiederholt werden, weil nicht genug Abgeordnete anwesend waren. Es sieht so aus, als würde es in absehbarer Zeit selbstverständlich, dass Algorithmen im Dienst der Polizei analysieren, was wir gerade tun. Anlieger*innen zeigen sich überrascht „Davon wusste ich nichts“, sagt eine Kiosk-Mitarbeiterin, die am Kottbusser Tor arbeitet, zu den KI-Überwachungs-Plänen. Auch ein Mensch, der an einem bekannten Treffpunkt von Drogennutzer*innen steht, zeigt sich überrascht: „Krass, ich hatte ja keine Ahnung“. So geht es scheinbar einigen am Kottbusser Tor. Die Videoüberwachungspläne wurden nicht ausgehängt. Nur wer regelmäßig die Tagespresse verfolgt, weiß, dass sein Verhalten hier künftig 24 Stunden am Tag automatisch analysiert wird. Ercan Yasaroglu ist der Betreiber des Café Kotti, einer Raucherkneipe am Platz. Er kannte die Videoüberwachungspläne. Er sagt: „Wir bauen unsere demokratischen Werte ab und stattdessen ein Überwachungssystem auf. Hier wird jetzt jede Bewegung von mir kontrolliert. Wie soll ich mich da noch frei fühlen? Wie soll ich da zum Beispiel noch knutschen, ohne gleich mitdenken zu müssen, wer das wohl alles sieht?“ Alles netzpolitisch Relevante Drei Mal pro Woche als Newsletter in deiner Inbox. Jetzt abonnieren „Ich versuche, zu bleiben“ Direkt neben Yasaroglus Café ist seit 2023 eine Polizeiwache. Yasaroglu sagt, schon damals sei die Zahl der Kund*innen eingebrochen. Nun fürchtet er um seine wirtschaftliche Existenz. Doch er sagt: „Ich versuche, zu bleiben und meine Werte hier hochzuhalten.“ Die Videoüberwachung ist für Yasaroglu ein Teil von Gentrifizierung. „Der Raum verändert sich dadurch. Die Leute, die Überwachung wollen, die Wohlhabenden werden alles noch teurer machen. Armut wird verdrängt. Das ist meine Angst“, sagt er. Ob die Verhaltenserkennung überhaupt einen messbaren Einfluss auf die Kriminalitätsbekämpfung hat, ist nicht geklärt. Eine unabhängige Evaluation der bereits existierenden deutschen Projekte gab es bisher nicht. Sie ist bislang auch nicht geplant. Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Showing 1–20 of 41 episodes