Sicher im Netz: Das Startup Helmit setzt sich für digitalen Kinderschutz ein

Alexander, Leonardo, warum habt ihr den Need gesehen, Helmit zu gründen? 

Leonardo: Alex und ich kennen uns tatsächlich schon aus dem Kindergarten. Wir waren im Studium – ich habe Mathe studiert, Alex Elektrotechnik – als wir beide die Ambition entwickelt haben, gemeinsam etwas auf die Beine zu stellen. Wir haben uns überlegt, wo die wichtigen Problemfelder liegen und in welches Thema es sich für uns lohnt, sieben bis zehn Jahre unseres Lebens zu stecken. Dabei sind wir relativ schnell auf Social Media Safety und ganz allgemein Online Safety für Kinder gekommen. Digitale Gewalt kennen wir selbst aus unserer Kindheit und Jugend. Wir sind Teil der Gen Z und haben bei vielen unserer Freund:innen gesehen, welche negativen Konsequenzen Social Media haben kann. Ich habe Mobbing im Netz auch selbst erlebt. Ein Blick in die Statistiken verrät, dass digitale Gewalt jedes Jahr zunimmt. Gleichzeitig übernehmen die Plattformen selbst keine Verantwortung dafür. Wenn die sich nicht darum kümmern, dann machen wir das. 

Von Cybermobbing bis Betrug: Die Gefahren im Netz für Kinder sind vielfältig

Kinder kennen heute keine Welt mehr ohne Smartphone und Internet. Wo liegen die größten Gefahren für sie? 

Alexander: Das ist eine riesige Spannweite. Dazu gehört Cybermobbing, bei dem Kinder in Klassenchats von ihren Mitschüler:innen fertiggemacht werden. Dann gibt es Cybergrooming, bei dem Kinder von Pädo-Kriminellen mit sexuellen Absichten angeschrieben werden. Das ist besonders gefährlich, weil Kinder die Situation meistens überhaupt nicht einschätzen können. Außerdem werden auf sozialen Medien unangemessene Inhalte ausgespielt – Horrorvideos, Selbstverletzungen, sexueller Content. Die sind schon für Erwachsene teilweise schwer zu verkraften und natürlich umso schlimmer für Kinder. Ein großes Problem bei allem ist das Schamgefühl, das bei Kindern oft mitschwingt und dafür sorgt, dass sie solche Situationen für sich behalten, anstatt sie den Eltern anzuvertrauen. 

Leonardo: Eine Gefahr, die viele nicht kennen, ist auch die sogenannte Sextortion. Das ist ähnlich wie Cybergrooming, nur schreiben Erwachsene Kinder und Jugendliche nicht mit sexuellen, sondern finanziellen Hintergedanken an. Sie geben sich als Gleichaltrige aus, beginnen einen Chat und bringen die Jugendlichen dazu, intime Bilder zu schicken. Damit erpressen sie sie dann.

Warum sind Eltern oft hilflos, wenn es darum geht, ihre Kinder zu schützen? 

Alexander: Eltern sind hier immer in einer Dilemmasituation. Einerseits wollen sie ihre Kinder schützen, auch in der digitalen Welt. Auf der anderen Seite wollen sie nicht zu sehr in die Privatsphäre ihrer Kinder eindringen. Und: Sie haben tatsächlich kaum Einblicke, weil sie nicht sehen können, was auf den Smartphones ihrer Kinder passiert. Gleichzeitig tun sich viele Eltern schwer, die verschiedenen Plattformen zu verstehen, weil sie nicht mit ihnen aufgewachsen sind. Sie wissen nicht, was dort genau passiert, wie und mit wem Kinder dort in Kontakt kommen. 

Warum unternehmen die Plattformen selbst nichts gegen digitale Gewalt an Kindern und Jugendlichen? 

Alexander: Weil hier ein klarer Interessenskonflikt besteht. Ihr Ziel ist es nicht, Kinder zu schützen und Eltern Lösungen dafür anzubieten. Sie wollen viel eher die Aufmerksamkeit der Kinder hacken, sodass sie so lange wie möglich auf den Plattformen bleiben. Sie sind so designt, dass sie süchtig machen. Je mehr Menschen sich auf einer Plattform aufhalten, desto mehr Werbeflächen kann sie verkaufen. Das ist auch der Grund, warum Plattformen es besonders leicht machen, Altersbegrenzungen zu umgehen. Soziale Medien wie Whatsapp oder Instagram sind eigentlich ab 13, aber werden schon viel früher genutzt. 

Wie genau setzt Helmit hier an?

Alexander: Wir haben eine Software entwickelt, die mit den Social-Media-Accounts der Kinder verknüpft ist und Chats und Interaktionen wie eine Antiviurssoftware analysiert. Die Eltern wiederum werden auf ihren eigenen Geräten nur informiert, wenn es zu einer gefährlichen Situation kommt und bekommen dann einen Screenshot mit dem entsprechenden Chat-Auszug geschickt. Mehr können sie nicht lesen, die Privatsphäre der Kinder bleibt also geschützt. Sie können Social Media ausprobieren, sich im Netz frei bewegen, und trotzdem gibt es einen Schutzmechanismus, der im Notfall greift.

Leonardo: Wir vergleichen das gerne mit Fahrradfahren: Auch hier geben Eltern ihren Kindern einen Helm, wenn sie das Fahren lernen. Sie sollen lernen, sich im Straßenverkehr zurechtzufinden, sind aber trotzdem nicht ohne Schutz unterwegs. Mit uns bekommen die Kinder einen digitalen Helm. 

Die KI erkennt alle wichtigen Gefahren und schlägt auf den Geräten der Eltern Alarm

Wie genau funktioniert die KI dahinter – und was passiert, wenn sie tatsächlich eine Warnung auf die Geräte der Eltern schickt? 

Leonardo: Die KI, die die Chats analysiert, haben wir selbst trainiert, sie erkennt alle wichtigen Gefahren. Wie sensibel das Warnsystem reagiert, können Eltern einstellen. Das hängt zum Beispiel vom Alter des Kindes ab oder auch davon, ob bestimmte Inhalte für Eltern in Ordnung gehen, etwa Ballerspiele. In Zukunft wollen wir noch mehr Individualisierungsoptionen anbieten. Wir bieten unsere Software als Abomodell im Monats- oder Jahresrhythmus an. 

Alexander: Poppt eine Warnmeldung auf, erhalten Eltern von uns Hinweise, welche Organisationen oder Anlaufstellen ihnen in schwierigen Fällen helfen können oder welcher Gesprächsleitfaden für die Unterhaltung mit ihrem Kind unterstützen kann. Denn wir wollen nicht nur ein Warnsystem sein, sondern die Eltern auch im nächsten Schritt begleiten. Während des gesamten Prozesses werden alle Daten lokal verarbeitet – es landet nichts in Clouds oder bei Drittanbietern. 

Ihr seid seit Anfang des Jahres auf dem Markt. Wie kommt euer Produkt an?

Leonardo: Wir sind ziemlich happy mit dem Feedback, das wir bisher bekommen haben. Die Kommunikation zwischen Eltern und Kindern scheint zu funktionieren. Das konnten wir im Vorfeld schlecht testen: Wie die Kinder reagieren, ob sie sich darauf einlassen oder sich eher dagegen sträuben. Und: Wir konnten mit Helmit tatsächlich schon 1.000 Gefahren erkennen, bei denen Eltern auch bestätigt haben, dass sie die Meldung wichtig fanden. Für uns ist das eine riesige Motivation. 

Viele Eltern haben angeregt, dass sie gerne eine Helmit-App möchten. Unsere Software ist aktuell für Laptop und PC zu haben – aus Datenschutzgründen. Die Analysen werden ja lokal auf den Geräten durchgeführt und PCs haben eine größere Rechenleistung. Wir haben uns das Feedback aber zu Herzen genommen und arbeiten gerade an einer App, die schon in wenigen Wochen erscheinen wird. 

Alexander: In der App wollen wir auch neue Features anbieten, zum Beispiel Bildschirmzeitregulierung. Helmit soll Eltern dabei helfen, den digitalen Familienalltag zu managen und durch viele Tipps, die wir zusammen mit Experten erarbeiten, ein Medienpädagoge für die Hosentasche werden. 

Ihr habt euch mit Helmit gerade auf Social-Media-Accounts spezialisiert. Wollt ihr in Zukunft auch andere Bereiche im Netz abdecken? 

Alexander: Absolut. Momentan unterstützen wir WhatsApp, Discord, YouTube, Signal und Instagram. Demnächst kommt dann noch TikTok dazu. Was wir auf jeden Fall noch angehen wollen, ist die Gaming-Branche. Auch dort gibt es viele Plattformen wie Roblox, in denen man mit Leuten in Kontakt kommen kann und auf der sich viele Kinder und Jugendliche aufhalten. Roblox ist zum Beispiel ein Hotspot für Pädokriminalität – weil es dort noch viel anonymer zugeht als etwa auf Whatsapp. 

Die Vision: Keine digitale Gewalt mehr in den sozialen Medien

Wenn ihr euch ein Internet ganz nach euren Wünschen bauen könntet: Wie sähe es aus? 

Alexander: Uns leitet die Vision, dass es keine digitale Gewalt mehr auf Social Media oder allgemein im digitalen Raum gibt. Dass man die Vorteile des Internets nutzen, sich mit seinen Freunden austauschen, unterhalten werden oder sich Wissen aneignen kann, und dabei sicher ist. Zwei Millionen Kinder werden allein in Deutschland im Laufe ihres Lebens Opfer von Cybermobbing. Das ist jedes fünfte Kind. Wir wollen das ändern. 

Leonardo: Es muss viel schwieriger werden, Hass im Internet zu verbreiten. Und auch die süchtigmachenden Designs müssen weg von den sozialen Plattformen. Das sollte per Gesetz verboten und die Social-Media-Plattformen hart belangt werden, wenn sie sich nicht daran halten. Ich würde mir wünschen, dass Social Media wieder zum Ursprungsgedanken zurückkehrt. Damit es wieder ein Ort ist, an dem man sich vernetzen, austauschen und connecten kann. Denn das Internet steckt auch voller guter Dinge, von denen man lernen kann.