Moderasi Konten Medsos oleh ”Machine Learning” Selama Pandemi Covid-19 Ternyata Bisa Salah

Moderasi konten oleh pengelola media sosial seperti Facebook, Youtube, dan Twitter selama masa pandemi Covid-19 yang dilakukan ”machine learning” ternyata bisa salah. Konten kerap di-”take down” karena salah penilaian.

KOMPAS/SATRIO PANGARSO WISANGGENI

Sejumlah platform media sosial (medsos), seperti Facebook, Youtube, dan Twitter, mengumumkan bahwa kebijakan kerja dari rumah bagi karyawannya akan berdampak pada meningkatnya peluang kesalahan moderasi konten.

Pada Rabu (18/3/2020) pagi, Kompas melihat tim Facebook News Partnerships mendapat komplain dari Stephanie Ip, wartawan dari surat kabar The Vancouver Sun, Kanada.

Ip mengungkapkan, semua postingan berita dari redaksinya, yang dibagikan melalui akun pribadi wartawan dan juga laman resmi medianya, dihilangkan oleh Facebook.

”Bahkan, berita tidak bisa di-posting ke laman utama redaksi. Apa masalahnya?” tulis Ip melalui grup News, Meda & Publishing on Facebook, sebuah grup yang dibuat oleh Facebook untuk berdiskusi dengan pelaku industri media seluruh dunia.

Kompas

Tangkapan layar dari grup News, Meda & Publishing on Facebook pada Kamis (19/3/2020).

Ternyata peristiwa tersebut bukan hanya kejadian tunggal. Majalah teknologi terkemuka Wired mencatat, hal serupa terjadi pada sejumlah postingan yang memuat berita dari berbagai sumber kredibel, seperti Politico, USA Today, dan The Atlantic.

Berbagai link atau tautan yang mengarahkan ke artikel dari media tersebut seakan dianggap sebagai spam.

Akibat ”machine learning”

Direktur Stanford Internet Observatory Alex Stamos, yang juga mantan Chief Security Officer Facebook, menilai, berbagai kesalahan dalam moderasi konten dalam platform tersebut disebabkan oleh banyaknya karyawan moderator konten yang dirumahkan.

”Tampaknya, sistem anti-spam Facebook sedang kacau setelah moderator konten dirumahkan. Padahal, moderasi konten umumnya tidak bisa dilakukan dari rumah karena alasan privasi,” kata Stamos.

Facebook memutuskan, karyawannya bekerja dari rumah sejak Senin (16/3/2020).

Sesuai apa yang dikatakan Stamos, Facebook mengatakan, proses moderasi konten memang tidak bisa dilakukan dari rumah karena alasan hukum, privasi, dan keamanan.

Dengan demikian, tidak bisa dihindari, jumlah karyawan yang bertugas me-review konten pada platform tersebut tidak bisa maksimal.

Untuk diketahui, Facebook mempekerjakan lebih dari 30.000 orang di bagian keamanan, sekitar separuh dari jumlah itu bertugas sebagai moderator konten.

Hanya bug

Facebook meyakini bahwa kemampuan sistem machine learning yang dimilikinya dapat menutupi kekurangan ini. Namun, perusahaan itu juga mengakui bahwa akan ada keterbatasan dari sistem ini.

”Akan tetapi, mungkin ada keterbatasan sistem yang dapat berujung pada waktu respons yang lebih lambat dan jumlah kesalahan moderasi yang lebih banyak,” tulis Facebook dalam keterangan tertulisnya.

Meski demikian, Vice President Integrity Facebook Guy Rosen membantah bahwa hal ini terkait dengan kebijakan kerja dari rumah yang diterapkan kepada moderator konten. Menurut dia, ini hanya sebuah bug ada algoritma anti-spam.

”Ditemukan ada bug dalam sistem anti-spam (Facebook). Ini tidak berkaitan dengan perubahan sistem bekerja kami. Kami sedang mendalami dan memperbaiki permasalahan ini,” ungkap Rosen.

Kompas

Platform berbagai video Youtube.

Youtube dan Twitter mengakui

Sebetulnya, sejumlah raksasa media sosial lainnya, seperti Youtube dan Twitter, telah mengakui, kebijakan work from home dan penerapan machine learning yang lebih intensif akan menyebabkan kesalahan moderasi yang lebih sering terjadi.

Youtube pada Senin (16/3/2020) mengakui, jumlah penghapusan video (take down) yang dilakukan oleh mereka akan meningkat selama pandemi Covid-19, bahkan terhadap video yang mungkin tidak melanggar aturan.

Hal ini disebabkan kebijakan Youtube utuk mengutamakan penggunakan sistem machine learning pasca-implementasi kebijakan kerja dari rumah untuk melindugi karyawannya.

Akibat kemungkinan terjadinya take down terhadap video yang sejatinya tidak melanggar, Youtube bahkan merelaksasi aturan strike-nya. Kreator tidak akan mendapat strike apabila ada videonya yang di-take down selama pandemi Covid-19.

Relaksasi aturan

Biasanya, setiap pelanggaran yang dilakukan seorang kreator Youtube akan mendapatkan 1 strike. Apabila sudah mendapat 3 kali strike, akun Youtube beserta semua channel di dalamnya akan ditutup. Seluruh video juga akan dihapus dari platform itu.

Kebijakan peningkatan penggunaan machine learning yang serupa juga diambil oleh Twitter akibat keputusan mewajibkan kerja dari rumah yang berlaku mulai 2 Maret 2020.

”Sistem (machine learning) kami sering kali tidak bisa mendapatkan konteks dalam memahami cuitan; tidak seperti tim karyawan kami, sehingga ini bisa berujung pada kesalahan,” tulis Vijaya Gadde, pemimpin bagian Legal, Policy, Trust, and Safety dari Twitter, pada Rabu.

Meski demikian, Gadde memastikan, setiap penutupan akun paksa (account suspension) tidak akan dilakukan hanya dengan berdasar machine learning. Unsur manusia akan dilibatkan di keputusan-keputusan penting.