Jakarta, CNBC Indonesia – Fitur kecerdasan buatan (AI) yang disematkan pada aplikasi pesan singkat WhatsApp menuai kontroversi. Pasalnya, AI tersebut dinilai turut menyebarkan propaganda dan diskriminasi di tengah konflik antara Israel dan Palestina yang memanas.
Menurut temuan The Guardian, WhatsApp menunjukkan stiker bocah lelaki membawa senjata ketika pengguna memasukkan perintah (prompt) pencarian ‘Palestinian’, ‘Palestine’, atau ‘Muslim boy Palestinian’.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Hasil pencarian beragam ketika dicoba oleh pengguna yang berbeda-beda. Namun, ketika The Guardian sendiri yang mencoba memasukkan prompt tersebut, stiker anak bawah senjata yang heboh di internet muncul.
Sementara itu, ketika memasukkan prompt untuk ‘Israeli boy’, sistem AI WhatsApp menampilkan gambar bocah lelaki sedang membaca dan bermain bola.
Ketika memasukkan prompt untuk ‘Israeli Army’, bahkan yang muncul adalah para tentara sedang tersenyum dan berdoa. Tak ada visual senjata sama sekali.
Karyawan Meta (induk WhatsApp) telah melaporkan hal ini dan menjadi diskusi hangat di internal, menurut keterangan salah satu orang dalam, dikutip dari The Guardian, Selasa (7/11/2023).
Diketahui, WhatsApp telah meluncurkan uji coba untuk fitur image generator teranyarnya yang berbasis AI. Pengguna bisa menciptakan stiker sendiri berdasarkan prompt yang dimasukkan.
Namun, uji coba ini diwarnai kehebohan lantaran stiker sosok bocah pegang senjata ketika memasukkan prompt yang terkait dengan Palestina.
Temuan ini muncul di tengah banyaknya protes ke Meta. Anak usaha lainnya, Facebook dan Instagram, dinilai bias dalam menanggapi konflik di Timur Tengah.
Netizen protes karena banyak konten-konten yang mendukung Palestina seakan disembunyikan dan sulit ditemukan. Sementara itu, bombardir Israel tanpa henti ke Gaza terus berlanjut.
Menanggapi hal ini, perwakilan Meta mengatakan pihaknya tak ada niat untuk membungkam pandangan dari kelompok tertentu. Hanya saja, banyak pengguna yang melaporkan konten-konten tertentu mengandung unsur kekerasan.
“Konten yang seharusnya tak bertentangan dengan kebijakan kami mungkin saja terhapus karena sistem eror,” Meta berdalih.
Terkait fitur AI diskriminatif milik WhatsApp, juru bicara Meta Kevin McAlister akhirnya memberikan tanggapan.
“Saat kami meluncurkan fitur ini, kami mengatakan model tersebut mungkin belum akurat dan menghasilkan output yang tak sesuai. Semua sistem AI generatif juga memiliki masalah serupa. Kami akan terus meningkatkan fitur AI sembari modelnya terus berevolusi dan banyak orang memberikan masukan,” kata dia.
[Gambas:Video CNBC]
Artikel Selanjutnya
Teknologi Amerika Sebut Perang Hamas-Israel Palsu
(fab/fab)