Roblox veröffentlicht sein KI-Jugendschutzsystem Sentinel als Open-Source-Lösung

Roblox nutzt mittlerweile auch künstliche Intelligenz, um seine in der Regel jungen Nutzer vor Missbrauch zu schützen. Ein Baustein ist dabei das Frühwarnsystem namens Sentinel, welches beispielsweise potenziell gefährliche Kommunikationsmuster erkennen kann. Inzwischen gibt die Plattform bekannt, dass Sentinel als Open-Source-Lösung bereitgestellt wird und daher auch von Drittanbietern für eigene, digitale Plattformen genutzt werden kann.

Falls ihr euch selbst überzeugen wollt, dann findet ihr Sentinel hier bei GitHub. Sentinel ist laut Roblox darauf spezialisiert, problematische Kommunikationsmuster wie Grooming zu erkennen. Seit Ende 2024 setzt die Plattform das KI-Tool zum Schutz seiner Nutzer ein. In der ersten Jahreshälfte 2025 half Sentinel Roblox nach eigenen Angaben dabei, rund 1.200 Meldungen über potenzielle Versuche der sexuellen Ausbeutung von Kindern an das US-amerikanische National Center for Missing and Exploited Children weiterzuleiten.

Solltet ihr mehr über die genaue Funktionsweise erfahren wollen, dann könnt ihr auch einen Blick in diesen Blog-Post werfen. In der letzten Zeit ist Roblox stärker hinterher, sich um den Schutz von Kindern und Jugendlichen auf der Plattform zu bemühen. Das ist auch eine Reaktion darauf, dass es da in der Vergangenheit schwere Vorwürfe gegen die Plattform gegeben hatte. Nun will man vom Saulus zum Paulus werden.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.