Roblox Pakai AI Baru, Konten Toxic Langsung Disikat Real-Time

Roblox upgrade sistem moderasi dengan AI multimodal yang bisa scan satu scene penuh dan langsung shutdown server bermasalah.

POPERS.ID, BOGOR | Kalau lo pernah main Roblox, pasti ngerti banget betapa random dan “liarnya” isi game di platform ini. Nah, justru karena itu, Roblox sekarang upgrade besar-besaran sistem keamanannya.

Mereka resmi meluncurkan sistem moderasi baru berbasis AI yang bisa bekerja secara real-time dan jauh lebih pintar dibanding sebelumnya.

AI Baru Roblox: Bukan Cuma Cek Satu Objek

Berbeda dari sistem lama yang cuma ngecek satu elemen, AI terbaru ini pakai pendekatan multimodal. Artinya, sistem bakal melihat satu scene secara utuh mulai dari avatar, teks, sampai objek 3D buat menentukan apakah ada pelanggaran.

Jadi, bukan lagi sekadar “objek ini aman atau tidak”, tapi konteks keseluruhan yang dinilai.

Contohnya, kalau ada user pakai tools gambar bebas buat bikin simbol ofensif yang mungkin lolos dari filter biasa AI ini tetap bisa nangkep karena membaca konteks visual secara keseluruhan.

Langsung Shutdown Server Bermasalah

Kalau sistem mendeteksi pelanggaran berulang dalam satu game, yang dimatikan bukan seluruh game, tapi hanya server yang bermasalah.

Sejak fitur ini diluncurkan, sekitar 5.000 server ditutup setiap hari.

Roblox juga menargetkan sistem ini bisa memantau 100% aktivitas pemain ke depannya.

Selain itu, mereka juga lagi mengembangkan fitur buat mengidentifikasi dan menindak akun bermasalah tanpa harus merusak pengalaman pemain lain.

Creator Juga Dikasih Insight Lebih Detail

Buat para kreator, Roblox juga nggak tinggal diam.

Lewat dashboard terbaru, sekarang ada grafik yang nunjukin berapa banyak server game mereka yang kena shutdown setiap hari karena perilaku pemain.

Kalau grafiknya tiba-tiba naik, itu jadi sinyal ada masalah misalnya dari emote custom atau tools dalam game yang perlu segera diperbaiki sebelum makin parah.

Roblox Ikut Bangun Standar Industri Gaming

Nggak cuma internal, Roblox juga mulai bergerak ke level industri.

Bareng Keywords Studios dan Riot Games, mereka mengembangkan program bernama DLC Leadership Program.

Program ini fokus pada pelatihan berbasis riset untuk moderator dan community manager di dunia game online.

Program akademiknya dipimpin oleh Rachel Kowert, yang juga menjabat sebagai Research Director di Games for Change.

Tujuannya jelas: bikin standar pelatihan moderasi komunitas yang selama ini belum pernah ada di industri gaming.

Langkah Paling Ambisius Roblox Soal Keamanan

Sebelumnya, Roblox memang sudah punya berbagai fitur keamanan seperti parental control dan filter chat berdasarkan usia.

Tapi update AI moderasi ini jadi langkah paling ambisius sejauh ini.

Dengan sistem yang bisa membaca konteks penuh secara real-time, Roblox jelas ingin bikin platformnya lebih aman tanpa mengorbankan kebebasan berekspresi pemain.

^{_{source article: Digitaltrends}}