UN warnt vor roter Linie: Darf KI Menschen als Ziel wählen?
Am 25. August 2026 haben UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric dringend internationale Regeln für autonome Waffensysteme gefordert. Ihre rote Linie: Maschinen, die Menschen selbstständig als Ziel auswählen. Aber was ist echte menschliche Kontrolle? Muss ein Mensch jeden einzelnen Angriff freigeben – oder kann ein Kommandeur Zielklasse, Gebiet, Dauer und Abbruchbedingungen vorher so eng festlegen, dass das System innerhalb dieses Rahmens selbst handeln darf? Diese KI-Espresso-Debatte stellt beide unvereinbaren Antworten gegeneinander. Mit der aktuellen Linie der Bundeswehr, dem britischen Beispiel der Hyperschallabwehr, den Schweizer Kriterien und einem Fünf-Punkte-Test für Kontrolle und Verantwortung. ⏰ Kapitel: 0:00 — UN und IKRK ziehen eine rote Linie 0:20 — Was ist echte menschliche Kontrolle? 0:31 — Position A: Freigabe für jeden Angriff 0:41 — Position B: Begrenzter Missionsrahmen 1:29 — Die aktuelle Linie der Bundeswehr 2:05 — Das britische Hyperschall-Beispiel 2:59 — Die Schweizer Kriterien 3:47 — Der Mensch als Bestätigungsmaschine 4:17 — NATO: schneller und trotzdem kontrollierbar? 4:54 — Der Fünf-Punkte-Test 5:41 — Die rote Linie bei Personen 6:23 — Zwei unvereinbare Grundannahmen 6:26 — Eure Entscheidung 📖 Quellen: • UN/IKRK-Appell vom 25. August 2026: https://www.icrc.org/de/stellungnahme/erneuter-appell-des-un-generalsekretaers-und-der-praesidentin-des-ikrk-verabschiedung-regeln-fur-autonome-affensysteme • IKRK-Position zu autonomen Waffen: https://www.icrc.org/en/law-and-policy/autonomous-weapons • Schweiz: klassische und autonome Waffen: https://www.eda.admin.ch/de/klassische-waffen • Bundeswehr: Loitering Munition: https://www.bundeswehr.de/de/ausruestung-technik-bundeswehr/loitering-munition • UK: verantwortungsvolle militärische KI: https://www.gov.uk/government/publications/ambitious-safe-responsible-our-approach-to-the-delivery-of-ai-enabled-capability-in-defence/ambitious-safe-responsible-our-approach-to-the-delivery-of-ai-enabled-capability-in-defence • NATO: Next Generation Targeting: https://www.act.nato.int/article/next-gen-targeting/ 🔗 Verwandte Episode: • Nur 24% bereit: Der AI Act trifft Europas Firmen unvorbereitet: https://youtu.be/tOiSUeFuev0 🎙️ KI Espresso — jeden Tag eine neue KI-Debatte in sechs Minuten. 🎧 Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #AutonomeWaffen #KuenstlicheIntelligenz #KIEspresso
- Transcript