Spelföretaget bakom succén Roblox ska implementera ett AI-filter i sitt spel som är populärt bland yngre gamers. Många spel har redan ett ”Profanity filter” som automatiskt tar bort olämpliga ord så som svordomar eller sexistiska uttryck.
Men nu kommer väl vad man kan beskriva som ett Profanity Filter 2.0 när Roblox implementerar ett AI-filter som ska fånga upp olämpligt språk på ett bättre sätt och i skriva om till ett mer lämpligt ordval.
Tidigare har förbjudna ord ersatts med klassiska #####, vilket ofta gjort meddelanden svåra att tolka. Med den nya lösningen skriver AI:n i stället om texten till en mer accepterad formulering – direkt i realtid.
Alla deltagare i chatten kan se att ett meddelande har redigerats och avsändaren får tydlig information om vad som ändrats. Roblox understryker dock att ett regelbrott fortfarande räknas som ett regelbrott, även om texten justeras av systemet. Användare som fortsätter bryta mot reglerna kan därför fortfarande få varningar eller andra påföljder.
Funktionen används i textchattar mellan åldersverifierade spelare och deras kontakter. Den stöder samtliga språk som redan omfattas av Roblox automatiska översättning – ett steg som visar hur bolaget vill kombinera AI och moderering för en tryggare spelmiljö, det skriver Roblox i ett pressmeddelande.
