Masih Banyak Pebisnis yang Tak Menyadari Potensi Bahaya ”Deepfake”

Penyalahgunaan ”deepfake” bisa membawa kerugian finansial, merusak reputasi perusahaan, dan tambahan biaya operasional.

KOMPAS

Pencurian data di dunia maya masih marak. Sasarannya amat beragam, mulai dari warga hingga pejabat. Kini, ulah peretas Bjorka menjadi sorotan. Lewat cuitan di Twitter dan percakapan grup, Bjorka menyebut dan membocorkan data milik pejabat, Badan Intelijen Negara, sampai Presiden Joko Widodo.

Dalam survei singkat oleh Vida, penyelenggara sertifikasi elektronik asal Indonesia, kepada 100 pelaku bisnis dari industri finansial, e-dagang, dan asuransi di Indonesia, sekitar 30 persen tidak mengetahui bentuk tipuan deepfake. Mengutip laman cloudcomputing.id, deepfake adalah teknologi manipulasi video dan audio yang menggunakan kecerdasan buatan untuk menciptakan konten yang membuat orang terlihat atau terdengar melakukan hal-hal yang sebenarnya tidak dilakukan.

Ketika ditanya tentang kesadaran akan kecerdasan buatan dan dampaknya terhadap bisnis, hampir 52 persen responden tidak dapat mengingat deepfake sebagai ancaman utama kecerdasan buatan saat ini.

Lalu, mayoritas responden pelaku bisnis yang disurvei itu belum mengetahui cara ampuh untuk melindungi perusahaan mereka jika mengalami risiko negatif teknologi deepfake. Bagi responden yang mengaku mengetahui, kejahatan deepfake yang dipahami responden ialah pencurian uang dan identitas.

Hasil survei tersebut dimuat dalam white paper bertajuk ”What The Fake: Are Indonesian Business Ready to Combat AI-Generated Deepfakes Fraud” yang diumumkan Vida, Rabu (24/4/2024), di Jakarta. Survei dilakukan pada Februari - Maret 2024.

Pendiri dan Group CEO Vida Niki Luhur mengatakan, jika dilihat dari sisi pelaku bisnis, penyalahgunaan teknologi deepfake sebenarnya membawa kerugian finansial, merusak reputasi perusahaan, dan tambahan biaya operasional. Kesadaran seperti ini perlu ditumbuhkan terus-menerus.

Baca juga: ”Deepfake” yang Mencemaskan

Teknologi deepfake mampu menciptakan gambaran orang beserta suara mereka yang realistis, tetapi palsu. Dengan model teknologi kecerdasan buatan generatif dan chatbot konsumen, seperti ChatGPT, teknologi deepfake menjadi lebih meyakinkan dan lebih mudah tersedia dalam skala besar.

”Masih banyak orang menganggap perangkat lunak deepfake sekadar untuk hiburan. Mereka mungkin tidak menyadari ancaman bahaya siber di balik teknologi itu. Data pribadi yang dicuri, lalu diolah dengan teknologi deepfake, dapat dipakai untuk aktivitas kejahatan,” katanya.

Sejak teknologi deepfake pertama kali ramai muncul di masyarakat pada Desember 2017, risiko negatif teknologi deepfake telah menjadi perhatian dunia. Selain risiko keuangan dan bisnis, Forum Ekonomi Dunia (WEF) menyebutkan lewat blog resmi tahun 2023 bahwa deepfake juga berpotensi merusak hasil pemilu, stabilitas sosial, dan keamanan nasional, khususnya dalam konteks kampanye disinformasi.

Lalu, ada pula dampak buruk deepfake yang memuat konten pornografi yang sejumlah korbannya ialah remaja perempuan. Di Amerika Serikat, siswa laki-laki di sekolah -sekolah di beberapa negara bagian ramai dikabarkan membuat dan mengedarkan deepfake berupa gambar telanjang siswi sekelas mereka. Tahun lalu, kasus itu terjadi di sekolah menengah Beverly Hills dengan korban berusia 12 dan 13 tahun.

Pihak berwenang di banyak negara di dunia tidak bisa berbuat banyak mengenai dampak buruk teknologi deepfake, bahkan ketika teknologi ini semakin canggih, terbuka untuk umum, dan mudah diakses.

Pekan ini, mengutip Wired, politisi di Inggris mengumumkan rencana pembuatan undang-undang yang mengkriminalisasi pembuatan deepfake nonkonsensual. Berdasarkan rancangan regulasi itu, seseorang dapat dikenaI denda yang tidak terbatas jika mereka membuat deepfake untuk menimbulkan kekhawatiran, kehinaan, ataupun kesusahan. Sebelumnya, Pemerintah Inggris juga telah membuat ketentuan yang melarang orang-orang di Inggris berbagi deepfake yang bersifat seksual.

Baca juga: Potensi Risiko Kejahatan Siber 2024 Makin Kompleks

The New York Times menuliskan, pihak berwenang di banyak negara di dunia tidak bisa berbuat banyak mengenai dampak buruk teknologi deepfake, bahkan ketika teknologi ini semakin canggih, terbuka untuk umum, dan mudah diakses. Pemerintah China yang pada Januari 2023 menerapkan regulasi khusus juga kesulitan karena pelaku penyalahgunaan teknologi ini beroperasi tanpa batas dan membagikan kreasinya secara bebas di platform daring.

Padahal, kala itu, Pemerintah China mengadopsi peraturan yang mengharuskan materi yang dimanipulasi memiliki izin dari subyeknya dan memiliki tanda tangan digital atau tanda air. Sementara di sisi lain, banyak warga yang khawatir regulasi teknologi deepfake dapat dipakai pemerintah untuk membatasi kebebasan berpendapat.

Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja, saat dihubungi terpisah, mengatakan, teknologi deepfake merupakan bagian dari teknologi rekayasa kognitif manusia yang sebenarnya bukan hal baru karena merupakan generasi lanjutan dari social engineering (rekayasa sosial). Di Indonesia, deepfake banyak beredar di media sosial yang memiliki pengguna besar, tetapi tidak semuanya memiliki sikap kritis.

”Rekayasa kognitif seperti yang dilakukan lewat deepfake dan berlangsung terus-menerus dalam jangka waktu lama akan berbahaya,” tuturnya.

KOMPAS/ZULKARNAINI

Sebuah mobil dipasangi gambar calon presiden-calon wakil presiden Prabowo Subianto-Gibran Rakabuming Raka menggunakan bantuan kecerdasan buatan (AI) saat peluncuran aktivasi platform kecerdasan buatan bernama prabowogibran.ai, Rabu (20/12/2023) di Jakarta.

Menurut Ardi, menyikapi risiko negatif teknologi deepfake harus dimulai dengan mengedepankan edukasi mengenai etika pemanfaatan teknologi. Pemerintah Indonesia dapat mengawalinya lewat surat edaran. Di kalangan masyarakat pun perlu dibangun gerakan pembangunan budaya kolektif.

”Apabila teknologi deepfake langsung diregulasi, hal itu akan sulit dipahami masyarakat. Apalagi, pembuat kebijakan juga sering kali tidak mampu melihat persoalan dari sudut pandang makro,” ucapnya.

Niki menambahkan, Indonesia memiliki Undang - Undang (UU) Nomor 1 Tahun 2024 tentang Perubahan Kedua atas UU No 11/2008 tentang Informasi dan Transaksi Elektronik dan UU No 27/2022 tentang Pelindungan Data Pribadi yang akan berlaku akhir tahun 2024. Kedua undang-undang ini semestinya mampu mengatasi risiko negatif teknologi deepfake walaupun tetap butuh koordinasi lintas kementerian/lembaga untuk penerapan yang optimal.

Risiko negatif teknologi deepfake harus dimulai dengan mengedepankan edukasi mengenai etika pemanfaatan teknologi.

Direktur Jenderal Aplikasi Informatika Kementerian Komunikasi dan Informatika (Kominfo) Semuel Abrijani Pangerapan mengatakan, kejahatan siber yang ditimbulkan oleh teknologi deepfake harus diantisipasi. Penguatan literasi digital penting dilakukan sebagai salah satu langkah antisipasi.

”Perlu juga disertai best practice keamanan siber. Mengingat penyalahgunaan teknologi deepfake relatif merupakan kejahatan siber baru, sistem teknologi keamanan siber (setiap pelaku bisnis) harus terus diperbarui,” ucapnya.

Baca juga: Mengantisipasi Bahaya Video ”Deepfake”