Roblox inför en ny funktion som ändrar meddelanden i chatten i realtid. AI skriver om svordomar och förbjudna uttryck så att tonen blir mer respektfull. Målet är att hålla samtal igång utan att fylla chatten med “####”.
- Roblox använder AI som skriver om olämpliga ord i chatten i realtid.
- Meddelanden får en mer respektfull ton i stället för att ersättas med “####”.
- Alla i chatten ser när ett meddelande har skrivits om.
- Funktionen gäller verifierade användare i liknande åldersgrupper.
- Roblox har skärpt ålderskontroller och förbättrat sina textfilter.
- Tester visar färre regelbrott och bättre upptäckt av försök att kringgå regler.
Så fungerar omskrivningen
Tidigare ersatte Roblox förbjudna ord med “#”-symboler. Det gjorde samtal svåra att följa. Nu skriver AI om texten så att budskapet finns kvar men utan svordomar.
Exempel:
“Hurry TF up!” blir “Hurry up!”
När AI ändrar ett meddelande får alla i chatten en notis om att texten har skrivits om för att hålla en respektfull ton.
Minecraft filtrerar också svordomar i vissa chattar, men där ersätts ord med symboler eller så blockeras hela meddelandet. Roblox går ett steg längre och formulerar om texten.
Funktionen finns bara i spelens egna chattar (“in-experience”) och bara för användare som har bekräftat sin ålder. Användare chattar med andra i liknande åldersgrupper, till exempel 9–12 år med 13–15 år.
Funktionen stöder alla språk som Roblox automatiska översättning stöder.
Lästips: Hur mycket kostar Roblox? Är Roblox gratis?
Ålderskontroller och tidiga resultat
Roblox började nyligen kräva åldersverifiering för att använda chatten. Plattformen har också infört varningar i realtid som påminner om regler när någon är på väg att skriva något olämpligt.
Tester visar:
- 5 % färre filtrerade chattmeddelanden.
- 6 % färre åtgärder efter anmälningar om kränkningar.
Roblox har tagit hjälp av medlemmar i sitt tonårsråd för att anpassa systemet till hur unga faktiskt skriver. Enligt rådsmedlemmar hjälper omskrivningen samtal att flyta bättre samtidigt som miljön känns trygg.
Lästips: Roblox stoppar pedofiljägare och inför hårdare regler
Starkare filter mot regelbrott
Roblox förbättrar också sitt textfilter. Systemet upptäcker fler sätt att kringgå regler, till exempel när någon byter ut bokstäver mot siffror eller symboler (så kallad leetspeak).
Tester visar att upptäckten av försök att dela personlig information, som sociala medier-konton eller telefonnummer, har förbättrats kraftigt. Plattformen har minskat missade fall med 20 gånger.
Roblox betonar att inget system är perfekt. Företaget ser förändringen som ett första steg mot en mer naturlig och trygg chatt. Utvecklingen fortsätter med fler verktyg och kontroller för användare.
