Chatter meningkatkan fungsi pencegahan kekerasan dunia maya

Berceloteh versi daratan China dari platform berbagi video pendek milik ByteDance, TikTok,Baru-baru ini menambahkan fitur yang dirancang untuk mengekang kekerasan dunia maya.

Di arena digital, berkomentar dan mengirim pesan langsung adalah cara paling umum bagi orang untuk mengekspresikan pendapat mereka tentang acara sosial besar dan tokoh publik. Namun, karena biaya rendah dan penyebaran yang luas dari saluran tersebut, mereka juga rentan terhadap pelecehan, serangan pribadi, penghinaan, kecemburuan, kecemburuan dan desas-desus palsu.

Untuk mengatasi komentar yang tidak tepat, obrolan akan dicegat oleh fungsi “peringatan tindak lanjut”. Dalam pengujian skala kecil baru-baru ini, fitur ini mengurangi sekitar 30.000 komentar yang tidak pantas setiap hari.

Untuk informasi langsung yang tidak tepat, Chatter akan memperkenalkan fitur seperti “peringatan risiko” dan “penyaringan konten negatif”.

Ketika sistem mengidentifikasi risiko dalam pesan langsung orang asing yang diterima oleh pengguna, itu mendorong jendela sembulan yang menanyakan kepada penerima apakah mereka mengenal pengguna lain. Jika pengguna memilih “Saya tidak tahu”, sistem akan memungkinkan mereka untuk melakukan” memblokir, melaporkan, dan menghapus dari daftar pengikut “untuk memastikan keamanannya sendiri. Saat ini, fitur ini telah mengirim peringatan risiko ke 250.000 pesan setiap hari, memandu pengguna untuk mengelola pengikut mereka sendiri.

Lihat juga:Platform musik terbuka peningkatan obrolan

Menggunakan fitur “penyaringan konten negatif”, ketika model menentukan bahwa pesan pribadi yang diterima pengguna adalah” pelecehan atau pelecehan”, pesan tersebut akan langsung diklasifikasikan sebagai “pesan orang asing-spam.” Fitur ini melayani 70.000 pengguna setiap hari, sangat mengurangi berita negatif yang mereka terima.

Selain itu, Chatter telah meluncurkan asisten “Hangat Emosional” untuk meredakan emosi negatif pengguna dengan percakapan pesan interaktif.