Wie Roblox mit den Strafverfolgungsbehörden zusammenarbeitet

• Jeden Tag genießen mehr als 100 Millionen Nutzer aller Altersgruppen eine sichere und positive Erfahrung auf Roblox.
• Wir entwickeln unsere umfassenden Sicherheitssysteme kontinuierlich weiter, die modernste KI-Moderation mit dem Fachwissen Tausender geschulter Experten kombinieren.
• Wenn diese Systeme erste Anzeichen für mögliche illegale Aktivitäten, gewalttätige Drohungen oder andere reale Gefahren erkennen, untersuchen wir den Fall und ergreifen, sofern erforderlich, geeignete Maßnahmen, einschließlich der Meldung an die Strafverfolgungsbehörden.  

Sicherheit ist die Grundlage für alles, was wir bei Roblox tun – unsere Plattform wurde von Anfang an für alle Altersgruppen entwickelt, einschließlich Nutzer unter 13 Jahren. Unser Ansatz umfasst eine groß angelegte Sicherheitsinfrastruktur und die Überwachung durch Tausende von Menschen weltweit, die sich der Sicherheit verschrieben haben. Roblox unterscheidet sich zudem grundlegend vom Rest des Internets. Wir verlangen eine Altersüberprüfung für ungefilterte Chats zwischen Nutzern. Alle anderen Chats, einschließlich öffentlicher Diskussionen, werden streng gefiltert und sind so konzipiert, dass die Weitergabe personenbezogener Daten – darunter Telefonnummern, Benutzernamen und Links zu anderen Online-Plattformen – verhindert wird.

Im Rahmen unserer proaktiven Moderationssysteme nutzen wir fortschrittliche Erkennungs- und Schnellreaktionsprotokolle, um mögliche illegale Aktivitäten, Gewaltandrohungen oder andere reale Gefahren an die Strafverfolgungsbehörden zu melden. Wir konzentrieren uns auf unermüdliche Innovation, und unsere Arbeit im Bereich Sicherheit ist nie abgeschlossen. Diese Partnerschaft mit den Strafverfolgungsbehörden – auf die wir besonders stolz sind, da Roblox diese Woche an der 37. jährlichen „Crimes Against Children Conference“ (CACC) teilnimmt – ist Teil unserer umfassenden, vielschichtigen Bemühungen, die Sicherheit unserer Nutzer zu gewährleisten.

Unsere strengen Sicherheitsmaßnahmen mögen böswillige Akteure frustrieren und sie dazu veranlassen, auf anderen Plattformen aktiv zu werden. Das ist positiv – wir wollen sie nicht auf Roblox haben –, aber wir wissen auch, dass viele unserer Nutzer auf mehreren Plattformen aktiv sind, und wir möchten zu ihrer Sicherheit beitragen, selbst wenn sie nicht auf Roblox sind. Das ist einer von vielen Gründen, warum wir weltweit mit Strafverfolgungsbehörden zusammenarbeiten und dabei darauf achten, die Privatsphäre unserer Nutzer zu schützen. Indem wir dabei helfen, böswillige Akteure zu identifizieren und zu stören, möchten wir die Strafverfolgungsbehörden dabei unterstützen, plattformübergreifend Zusammenhänge herzustellen, um weitere Ermittlungen durchzuführen und gegebenenfalls einzugreifen.  

Die Teilnahme an Konferenzen der Strafverfolgungsbehörden wie der CACC ist nur eine der Möglichkeiten, wie wir mit den Strafverfolgungsbehörden zusammenarbeiten, um die Sicherheit der Roblox-Nutzer zu gewährleisten. Durch intensive weltweite Öffentlichkeitsarbeit haben wir enge und dauerhafte Beziehungen zu Strafverfolgungsbehörden auf internationaler, föderaler, bundesstaatlicher und lokaler Ebene aufgebaut. Wir tauschen bewährte Verfahren und Erkenntnisse aus, geben klare Anleitungen dazu, wie Strafverfolgungsbehörden uns über unser Portal für Strafverfolgungsbehörden kontaktieren können, erläutern detailliert, welche Arten von Unterlagen auf gültige rechtliche Anfragen hin zur Verfügung gestellt werden können, und holen aktiv die Meinung der Strafverfolgungsbehörden zu Sicherheitsfragen ein. Außerdem verfügen wir über spezielle interne Teams, die rund um die Uhr im Einsatz sind, um Anfragen von Strafverfolgungsbehörden zu bearbeiten, Sicherheitsbedrohungen auf der Plattform zu untersuchen und schwerwiegende Bedrohungen an die zuständigen Strafverfolgungsbehörden weiterzuleiten.

Wir unterhalten direkte Kommunikationskanäle mit Organisationen wie dem FBI und dem National Center for Missing and Exploited Children (NCMEC), um von uns identifizierte schwerwiegende Bedrohungen unverzüglich weiterzuleiten. Wir melden potenziell schädliche Inhalte proaktiv an das NCMEC, das als zuständige Meldestelle für die Öffentlichkeit und elektronische Dienstleister bei Verdachtsfällen sexueller Ausbeutung von Kindern fungiert. Im Jahr 2024 haben wir 24.522 Meldungen an das NCMEC übermittelt (0,12 % der insgesamt 20,3 Millionen beim NCMEC eingegangenen Meldungen).

Darüber hinaus haben wir in Zusammenarbeit mit dem NCMEC und den Strafverfolgungsbehörden konkrete Maßnahmen ergriffen, um die Verwertbarkeit unserer NCMEC-Meldungen zu verbessern, beispielsweise durch die Aufnahme wichtiger Informationen zu erschwerenden Faktoren oder zur Dringlichkeit. Diese Maßnahmen erleichtern es dem NCMEC und den Strafverfolgungsbehörden, unsere Meldungen schneller zu priorisieren und zu untersuchen. Darüber hinaus eskalieren wir potenzielle Sicherheitsbedrohungen (wie Terrorismus, gewalttätigen Extremismus oder individuelle Gewaltdrohungen) proaktiv durch eine Integration mit dem FBI, die darauf ausgelegt ist, Meldungen von Plattformen wie der unseren zu bearbeiten. In all diesen Fällen stehen unsere engagierten internen Teams rund um die Uhr bereit, um die Strafverfolgungsbehörden bei den daraus resultierenden Ermittlungen weiter zu unterstützen.

Diese Herausforderung betrifft nicht nur Roblox. Wir stehen in ständigem Austausch mit anderen Plattformen, Nichtregierungsorganisationen sowie Konsortien aus Wissenschaft und Industrie, um Lösungen zur Bekämpfung von Missbrauchstätern zu finden. Seit 2018 sind wir aktives Mitglied der Tech Coalition, einer Gemeinschaft von Technologieunternehmen, die gemeinsam daran arbeiten, Kinder im Internet zu schützen. Im Jahr 2023 traten wir Lantern als Gründungsmitglied bei. Dieses einzigartige plattformübergreifende Programm zum Austausch von Signalen ermöglicht es den teilnehmenden Unternehmen, Informationen auszutauschen und Maßnahmen gegen böswillige Akteure zu ergreifen, die von Plattform zu Plattform wechseln. Außerdem schlossen wir uns der Initiative „Robust Open Online Safety Tools“ (ROOST) als Gründungspartner an, um neue Sicherheitstechnologien zu teilen, die dazu beitragen können, die Branche als Ganzes voranzubringen, beginnend mit unserem Klassifikator für Sprachsicherheit.

Neben diesen Organisationen arbeiten wir mit politischen Entscheidungsträgern bei wichtigen Initiativen zur Kindersicherheit, bei der Gesetzgebung und anderen Bemühungen zusammen. Wir waren das erste und eines der wenigen Unternehmen, das den California Age-Appropriate Design Code Act zum Schutz der Daten junger Nutzer unterstützt hat. Außerdem haben wir eine Unterstützungserklärung für den California Senate Bill 933 (SB 933) unterzeichnet, der die staatlichen Gesetze aktualisiert, um KI-generiertes Material über sexuellen Kindesmissbrauch ausdrücklich zu verbieten.

Strafverfolgungsbehörden sind am besten in der Lage, potenzielle Straftaten zu untersuchen. Daher möchten wir sicherstellen, dass alle Verstöße auf Roblox über die richtigen Kanäle gemeldet und geahndet werden. 

Leider gibt es Fälle, in denen Selbstjustizgruppen oder Einzelpersonen gegen unsere Richtlinien verstoßen, um Nutzer in eine Falle zu locken oder die Plattform anderweitig selbst zu überwachen. Auch wenn diese Gruppen den Anschein erwecken, als hätten sie das Wohl der Öffentlichkeit im Sinn, handeln sie in Wirklichkeit auf eine Weise, die anderen schaden könnte – sowohl auf unserer Plattform als auch außerhalb. So können ihre Bemühungen beispielsweise dazu führen, dass böswillige Akteure länger auf der Plattform verbleiben, nur um sensationellere Inhalte für soziale Medien zu erstellen.

Maßnahmen von Selbstjustizgruppen erhöhen das Risiko, dass mehr Nutzer böswilligen Akteuren ausgesetzt werden, und können die Durchsetzungsbemühungen sowohl von Roblox als auch der Strafverfolgungsbehörden verzögern. Jedes Konto, einschließlich derer von Selbstjustizgruppen oder Einzelpersonen, das bei Verstößen gegen unsere Richtlinien erwischt wird, muss mit Konsequenzen rechnen, die bis hin zur Löschung und Sperrung reichen können, sofern dies gerechtfertigt ist. Wir setzen unsere Richtlinien in Übereinstimmung mit unseren Community-Standards und den allgemeinen Nutzungsbedingungen durch.

Anstatt die Angelegenheit selbst in die Hand zu nehmen, ermutigen wir die Community, unangemessenes Verhalten direkt an Roblox oder die Strafverfolgungsbehörden zu melden, indem sie die unten beschriebenen einfachen Meldeverfahren nutzt.

Wir empfehlen jedem Nutzer, der glaubt, dass eine Straftat begangen wurde, sich direkt an die örtlichen Strafverfolgungsbehörden zu wenden. Wie oben beschrieben, arbeiten wir regelmäßig eng mit den Strafverfolgungsbehörden zusammen, und wenn diese uns kontaktieren, koordinieren wir uns so umfassend wie möglich mit ihnen. Nutzer können potenzielle Fälle sexueller Ausbeutung von Kindern auch direkt an die CyberTipline des NCMEC melden. 

Zusätzlich zu unserer Zusammenarbeit mit den Strafverfolgungsbehörden haben wir ein „Trusted Flagger“-Programm eingerichtet, über das enge und vertrauenswürdige Partner uns potenzielle schwerwiegende kriminelle Aktivitäten (wie Terrorismus, gewalttätigen Extremismus oder Ausbeutung von Kindern) melden können. Wir prüfen diese Meldungen umgehend und ergreifen bei Bedarf entsprechende Maßnahmen. Wir sind stets bestrebt, dieses Programm auszuweiten, und freuen uns über Kontaktaufnahmen von interessierten Stellen.

Auf der Plattform stellen wir ein robustes Tool zur Meldung von Missbrauch bereit, mit dem jeder unserer über 100 Millionen täglich aktiven Nutzer unangemessenes Verhalten auf Roblox zur Überprüfung und möglichen Untersuchung melden kann. Wir verbessern diese Oberfläche kontinuierlich, damit Nutzer alle erforderlichen Informationen leichter erfassen können, was es unseren Sicherheitsteams ermöglicht, potenzielle Verstöße schneller und genauer zu bewerten.

Wir wissen, dass diese wichtige Arbeit niemals abgeschlossen ist. Wir werden uns weiterhin an allen Fronten für die Verbesserung der Online-Sicherheit einsetzen, unter anderem durch die Zusammenarbeit mit politischen Entscheidungsträgern bei Gesetzen zum Schutz von Kindern und Jugendlichen, durch die Zusammenarbeit mit Behörden und branchenübergreifend zum Austausch von Rückmeldungen, durch die Unterstützung von Ermittlungen der Strafverfolgungsbehörden und durch die Weiterentwicklung unserer eigenen Sicherheitssysteme, um die Sicherheit der Nutzer auf Roblox zu gewährleisten.