Sicher ins Netz

09.12.2016

Sicher ins Netz

„Privalino“ will Kinder beim Chatten im Internet schützen

Dr. Nicolai Erbs und seine Mitstreiter haben eine Vision: Sie möchten Internet-Chats sicherer für Kinder machen. Mit ihrem Start-up „Privalino“, das seit November mit dem EXIST-Gründerstipendium gefördert wird, arbeiten sie an einem System, das mithilfe automatisierter Schreibstilanalysen potentielle Pädophile in Foren erkennen soll. Ein Bericht über einen Weg nicht ohne Hindernisse.

Eine Puppe liegt auf einer Tastatur. Bild: Paul Glogowski
Kindern sichere Chats im Internet zu ermöglichen, ist das Ziel von „Privalino“. Bild: Paul Glogowski

Der erste Dämpfer kam Anfang 2015: Nicolai Erbs, damals noch Doktorand am Ubiquitous Knowledge Processing Lab am Fachbereich Informatik der TU, stellte das Konzept von „Privalino“ beim TU-Ideenwettbewerb vor – und ging leer aus. „Die Enttäuschung in unserem Team war damals groß“, berichtet Erbs. „Wir dachten uns: Unsere Idee ist doch so gut, warum sieht die Jury das nicht?“ Aufgeben kam für Erbs trotzdem nicht in Frage.

Die Idee, an die Erbs so fest glaubt, ist, mithilfe eines Algorithmus in Chatprogrammen potentielle Pädophile zu erkennen, die sich als Kinder ausgeben, um mit Minderjährigen ins Gespräch zu kommen. Wie real die Gefahr des Cyber-Groomings – also das Ansprechen von Minderjährigen im Internet, mit dem Ziel, sie zu sexuellen Handlungen zu bewegen – ist, zeige eine Untersuchung des britischen „Internet Crime Forum“, wonach 20 Prozent der Anwesenden in Kinderchats pädophile Erwachsene seien, so Erbs. „Unser Ziel ist es, Kindern ein sicheres Chatten im Internet zu ermöglichen.“

Das Privalino-Programm untersucht Chatnachrichten anhand zahlreicher Merkmale, etwa Satzstruktur, Wortschatz und Satzkomplexität. „Durch die Kombination der Merkmale ist der Bot schwer zu täuschen und erkennt, welches Alter der Verfasser hat.“ Wenn das Programm feststellt, dass der Gegenüber, mit dem das Kind chattet, älter zu sein scheint, als er sich ausgibt, mischt es sich ins Gespräch ein: Das Kind wird dann gefragt, ob es die Person kennt, mit der es sich unterhält. „Lautet die Antwort nein, werden die Eltern informiert – das ist per automatischem Anruf oder einer Chatnachricht denkbar“, erklärt der mittlerweile promovierte Informatiker Erbs.

Der TU verbunden

Das Privalino-Team (v.l.): Patrick Schneider, Dr. Quan Nguyen und Dr. Nicolai Erbs. Bild: Jurgen Moerman
Das Privalino-Team (v.l.): Patrick Schneider, Dr. Quan Nguyen und Dr. Nicolai Erbs. Bild: Jurgen Moerman

Nach der Enttäuschung beim TU-Ideenwettbewerb 2015 traten die Privalino-Schöpfer 2016 erneut an. „Im Vergleich zum Vorjahr haben wir die Umsetzungsmöglichkeiten stärker herausgearbeitet“, berichtet Erbs. Mit Erfolg: Privalino landete auf dem dritten Platz. Nach diesem Erfolg fand sich die fünfköpfige Mannschaft am Scheideweg wieder: Nur Nicolai Erbs konnte sich vorstellen, für die Zukunft ganz auf Privalino zu setzen – mit allen Risiken, die ein solcher Schritt mit sich bringt. Er suchte sich neue Verbündete: Seit Anfang 2016 sind der Informatiker Dr. Quan Nguyen und der Kognitions- und Medienwissenschaftler Patrick Schneider mit an Bord.

Mit der Unterstützung des Gründungszentrums der TU Darmstadt HIGHEST bewarben Erbs, Nguyen und Schneider sich auf ein EXIST-Gründerstipendium, das seit 1. November für ein Jahr läuft. Über ihren Mentor Prof. Max Mühlhäuser bleiben die Start-upper der TU verbunden.

Bevor an die Markteinführung von Privalino zu denken ist, haben Erbs und seine Kollegen noch viele Probleme zu lösen: Eine offene Frage ist etwa der Datenschutz. Soll der Bot Chats automatisch mitlesen? Dann müssten die Nutzer großes Vertrauen in den Anbieter haben, das schwer zu erreichen ist. Wenn Kinder andererseits das Programm bei ihren Chats selbstständig dazuladen sollen, kann keine absolute Sicherheit gewährleistet werden. „Wir wollen auf keinen Fall eine falsche Sicherheit vorgaukeln, deshalb wollen wir mit Privalino erst dann starten, wenn solche Fragen geklärt sind“, sagt Erbs.

Zunächst muss der Algorithmus weiter lernen – Erbs hofft, die Daten von großen Chatanbietern als Trainingsmaterial zu bekommen. Außerdem sind Interviews mit potentiellen Kunden geplant, um die Frage zu klären, welche Bedürfnisse ein Programm wie Privalino befriedigen soll. Weiterhin stehen Erbs, Nguyen und Schneider mit Jugendämtern und Beratungsstellen in Kontakt, um herauszufinden, wie Pädophile Kinder ansprechen. Solange diese Punkte noch offen sind, wird Privalino nicht realisiert werden. Erbs rechnet dafür mit einem Zeithorizont von mehr als nur einigen Monaten.

Um schon früher die Sicherheit von Kindern in Chats zu verbessern, wandten die Entrepreneure sich einem anderen Aspekt des Kinderschutzes im Internet zu. Das Privalino-Programm soll zunächst in einem technisch weniger komplexen Feld angewendet werden: In geschlossenen Klassenchats soll es Mobbing erkennen und das an die Lehrer oder Eltern melden. „Das funktioniert alles mit dem gleichen Algorithmus“, erklärt Erbs. Anfang des kommenden Jahres sollen erste Versuchsklassen das System nutzen. Die Vision der Pädophilenerkennung im Internet verfolgen die Männer von Privalino natürlich weiter.

zur Liste