Die Forschungsgruppe von Professor Dr. Kristian Kersting und Dr. Patrick Schramowski von der TU Darmstadt hat in einem ARD-Beitrag mit dem Titel „Gefährliche Intelligenz – Kindesmissbrauch mit KI“ das Sicherheitssystem LlavaGuard vorgestellt. Die Sendung thematisiert die zunehmende Verbreitung KI-generierter Darstellungen sexualisierter Gewalt an Kindern und zeigt auf, wie einfach sich solche Inhalte mit frei verfügbaren KI-Modellen erstellen lassen.

In dem Beitrag stellen Kersting und Schramowski (Fachbereich Informatik) die Sicherheitslösung LlavaGuard vor, einen von ihrer Arbeitsgruppe entwickelten Mechanismus zur automatischen Bewertung visueller Inhalte für offene KI-Modelle. Das System prüft Texteingaben sowie Bilder anhand flexibel definierbaren Sicherheitsrichtlinien und kann problematische Inhalte frühzeitig erkennen, blockieren oder bereits während der Generierung in harmlose Darstellungen umleiten. pkl