Alignment

Von einem KI-System erwarten wir implizit, dass es Dinge tut, die wir als "gut" beachten. Sprengstoffanleitungen herstellen ist schlecht, Krebs heilen ist gut. Aber wie formalisiert man eigentlich "gut" und "schlecht" sodass ein Computer das verstehen kann? Welche Probleme und Risiken bringt es mit sich, wenn man ein Schutzgerüst um ein LLM baut, dass es "auf Linie" halten soll? Welche Paradoxen Szenarien können sich ergeben, wenn man das nicht sorgfältig tut? In dieser Folge werden die ethischen und technischen Fragen zu LLM-Alignment von Reinhold und Johannes besprochen. Webseite: cybersecurity-entschluesselt.de Reddit: /r/CSEPodcast E-Mail: mail@cybersecurity-entschluesselt.de