Deepfake Ancam Pemilu, Kominfo Bongkar Cara Agar Medsos ‘Gercep’ Hapus


Jakarta, CNN Indonesia —

Kementerian Komunikasi dan Informatika (Kominfo) mewanti-wanti platform media sosial, termasuk Facebook, untuk bertindak cepat apabila ada konten hoaks dan deepfake yang menyebar saat Pemilu 2024. Jika perlu, aturan baru diterapkan.

Konten hoaks yang menggunakan teknologi deepfake, yang merupakan produk manipulasi gambar atau video atau suara dari kecerdasan buatan (AI), memang diprediksi bakal menjamur pada gelaran Pemilu 2024.

“Platform harus segera men-takedown kalau ada deepfake atau hoaks lainnya. Semakin lama beredar di platform maka akan makin dipercaya,” ujar Direktur Jenderal Informasi dan Komunikasi Publik (IKP) Kominfo Usman Kansong di Jakarta, Senin (23/10).


ADVERTISEMENT


SCROLL TO CONTINUE WITH CONTENT

Ia mengatakan pihaknya juga bakal membuat regulasi yang memungkinkan platform media sosial seperti Google, Facebook, Twitter, hingga Instagram menghapus (take down) konten-konten hoaks.

Pasalnya, selama ini platform media sosial baru bisa menurunkan konten hoaks paling cepat dalam waktu 1×24 jam. Usman mengatakan pihaknya ingin konten-konten hoaks tersebut bisa di-takedown secepatnya.

“Mungkin nanti akan muncul Permenkominfo atau apa begitu, kita lagi diskusikan supaya nanti mereka [platform media sosial] lebih cepat. Soalnya sekarang 1×24 jam itu kan telat dikit masih sering dimaafkan,” kata dia.

Usman menjelaskan Kominfo saat ini sudah berkoordinasi dengan seluruh platform media sosial untuk mencegah menjamurnya konten-konten hoaks di media sosial selama gelaran Pemilu 2024.

Menurut dia konten-konten hoaks itu tidak akan menyebar dengan cepat apabila platform-platform media sosial memiliki kekhawatiran yang sama mengenai hal ini.

“Karena sehebat apapun keinginan orang untuk menyampaikan hoaks tidak akan tersampaikan kalau platform-nya concern,” jelas dia.

“Misalnya dalam konteks deepfake tadi, pertanyaan salah satu teman itu sebetulnya platform bisa mencegahnya dengan teknologi juga. Google punya teknologi yang bisa mengidentifikasi deepfake. Nanti dengan watermark bisa mengidentfikasi itu deepfake atau bukan,” lanjut dia. .

Di sisi lain, Kominfo juga memiliki teknologi Automatic Identification System (AIS) yang bergerilya terus menerus mencari hoaks-hoaks, termasuk yang masuk kategori politik. Tidak hanya itu, patroli siber juga masih akan terus memantau konten-konten yang beredar di media sosial.

“Kita akan tingkatkan teknologi AI kita punya, misalnya untuk mengidentifikasi deepfake juga. Soal peningkatan kualitas supaya bisa mengidentifikasi. Selain juga punya patroli siber, cyber patrol untuk mengidentifikasi hoaks jelang pemilu,” jelasnya.

Hoaks atau misinformasi kini hadir dalam bentuk yang sangat canggih, salah satunya deepfake yang merupakan teknik manipulasi konten video dan suara yang mengandalkan kecerdasan buatan.

Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi bakal digunakan untuk mempengaruhi situasi dan opini publik jelang Pemilu 2024.

Penelitian Kasperksy juga mengungkap terdapat permintaan yang signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik.

Menurut Head of Government Affairs and Public Policy for Asia-Pacific, Japan, Middle East, Turkey and Africa Regions Kaspersky Genie Sugene Gan, teknologi deepfake sebetulnya tidak berbahaya.

Namun, di tangan penipu, teknologi ini bisa menjadi alat kejahatan. Maka dari itu, ia mengajak seluruh pihak membangun kesadaran dan kewaspadaan terhadap teknologi deepfake dan kemungkinan eksploitasinya.

Sebagai contoh, beberapa waktu lalu viral suara mirip Presiden Joko Widodo (Jokowi) menyanyikan lagu ‘Asmalibrasi’ milik band Soegi Bornean. Suara yang terdengar dalam video tersebut dinilai mirip dengan suara asli Jokowi.

Raksasa teknologi Microsoft juga mewanti-wanti potensi bahaya AI pada Pemilu 2024. Salah satunya adalah penggunaan AI yang dapat membuat disinformasi menyebar luas.

Panji Wasmana, National Technology Officer Microsoft Indonesia, mengungkap AI bisa saja dipakai untuk “tujuan yang tidak baik” seperti memunculkan disinformasi selama Pemilu 2024.

“Kalau menggunakan beberapa tools seperti llm (large language models), search engine atau apa pun, coba ketik siapa pemenang presiden, bagaimana menjadi presiden 2024, akan keluar sebuah informasi. Dan kita akan mudah melakukan disinformasi di dalamnya. Itu kemungkinan bisa terjadi dengan melakukan teknologi AI,” kata Panji di kantor Microsoft Indonesia, Jakarta, Rabu (18/10).

“Kita bisa menggunakan teknologi AI untuk targeted campaign bahkan,” ujarnya menambahkan.

[Gambas:Video CNN]

(tim)

Leave a Reply

Your email address will not be published. Required fields are marked *