Regulator China baru-baru ini memanggil 11 perusahaan teknologi domestik termasuk Alibaba Group, Tencent, dan ByteDance untuk membicarakan penggunaan teknologi ‘deepfake’ pada platform konten mereka. Tujuannya, guna meningkatkan pengawasan sektor tersebut.
Dilansir Reuters, administrator dunia maya China mengatakan pada Kamis (18/3), pihaknya dan kementerian keamanan publik bertemu dengan perusahaan untuk membicarakan “penilaian keamanan” dan potensi masalah deepfake di aplikasi sosial audio. Kuaishou Technology dan Xiaomi Corp juga menghadiri pertemuan tersebut, katanya.
Sayangnya, saat berita ini ditulis, semua perusahaan tidak segera menanggapi permintaan komentar.
Deepfake menggunakan kecerdasan buatan untuk membuat video atau audio hiper-realistis tetapi palsu di mana seseorang tampak mengatakan atau melakukan sesuatu yang tidak mereka katakan.
China sendiri telah meningkatkan pengawasan terhadap raksasa internetnya dalam beberapa bulan terakhir, mengutip kekhawatiran atas perilaku monopoli dan potensi pelanggaran hak konsumen.
Regulator juga mengatakan kepada perusahaan untuk “melakukan penilaian keamanan sendiri” dan menyerahkan laporan kepada pemerintah ketika mereka berencana untuk menambah fungsi baru atau layanan informasi baru yang “memiliki kemampuan untuk memobilisasi masyarakat”, kata pernyataan itu.
Sebagai informasi, hingga kini memang ada lonjakan di China dalam peniru aplikasi audio Clubhouse sejak layanan obrolan yang berbasis di AS diblokir di negara itu pada awal Februari. Clubhouse dapat diakses sebentar di China, menarik banyak pengguna yang berpartisipasi dalam diskusi tentang topik sensitif seperti kamp penahanan Xinjiang dan kemerdekaan Hong Kong, sebelum ditutup oleh pihak berwenang.
Pemilik TikTok, ByteDance, adalah salah satu dari banyak perusahaan yang mengerjakan aplikasi mirip Clubhouse untuk pasar China, Reuters melaporkan awal bulan ini.
Adapun penawaran baru lainnya termasuk aplikasi Feichuan berbasis undangan Kuaishou dan pengerjaan ulang aplikasi Mi Talk oleh Xiaomi menjadi layanan audio khusus undangan yang ditargetkan untuk para profesional.
Peringatan FBI
Terkait ini, FBI memperingatkan pada Rabu, aktor jahat “hampir pasti” akan menggunakan deepfake untuk meningkatkan pengaruh atau operasi dunia maya mereka dalam beberapa minggu mendatang. Peringatan tersebut mencatat, aktor asing sudah menggunakan deepfake atau media sintetis - konten digital yang dimanipulasi seperti video, audio, gambar, dan teks - dalam kampanye pengaruh mereka.
“Aktor asing saat ini menggunakan konten sintetis dalam kampanye pengaruhnya, dan FBI mengantisipasi bahwa konten tersebut akan semakin banyak digunakan oleh aktor asing dan kriminal dunia maya untuk spearphishing dan rekayasa sosial dalam evolusi perdagangan operasional dunia maya,” demikian bunyi peringatan yang diperoleh CyberScoop.
Peringatan itu muncul di tengah kekhawatiran, media yang dimanipulasi dibiarkan berkembang biak tanpa henti. Anggota parlemen Amerika sendiri baru-baru ini memberlakukan serangkaian undang-undang yang membahas teknologi deepfake, yang sering digunakan untuk melecehkan perempuan. Undang-Undang Otorisasi Pertahanan Nasional Tahun 2021, misalnya, mengharuskan Departemen Keamanan Dalam Negeri untuk membuat penilaian teknologi di balik deepfake dan kerugiannya.
Dalam peringatannya, biro tersebut menunjuk pada penelitian sektor swasta yang telah mengungkap penggunaan media yang dimanipulasi dalam bahasa Mandarin dan Rusia dalam operasi disinformasi. Dalam satu kasus, operasi pengaruh pemerintah pro-China yang dilacak oleh perusahaan analisis media sosial Graphika sebagai “Naga Spam” di mana ada penggunaan gambar profil yang dihasilkan dengan kecerdasan buatan (AI) untuk memberikan keaslian kampanye.
Penerjemah dan editor: Purnama Ayu Rizky
Keterangan foto utama: China memanggil Alibaba hingga TikTok terkait ramainya penggunaan teknologi deepfake. (Foto: Reuters/Stringer)
