Jakarta, CNN Indonesia —
Sticker alias stiker WhatsApp bergambar bocah Palestina bersenjata mendapat hujatan walau belakangan ada perubahan.
Sebelumnya, The Guardian menemukan prompt atau perintah dengan kata kunci ‘Palestine’ dan ‘muslim boy Palestinian’ pada fitur sticker AI WA menghasilkan gambar bocah Palestina bersenjata, Kamis (2/11). Sementara, kata kunci serupa untuk Israel bertolak belakang.
Meta pun semakin dinilai bias alias tak netral dalam konflik Israel vs Palestina dan Hamas.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
[Gambas:Twitter]
“Selapis demi selapis rasialisme dan bias di platform media sosial besar ini terbongkar,” cetus Wakil Pemimpin Partai Hijau Australia, Mehreen Faruqi, dikutip dari keterangan resminya.
“Gambar AI yang menunjukkan anak-anak Palestina yang digambarkan membawa senjata di WhatsApp adalah citra mengerikan mengenai kriteria rasis dan Islamofobia yang dimasukkan ke dalam algoritma,” urai dia.
Sebelum kasus stiker WA ini, Meta lebih salah menerjemahkan profil bertuliskan ‘Alhamdulillah’ dan bender Palestina sebagai teroris. Selain itu, Meta juga diduga menyembunyikan unggahan dan akun (shadow banning) yang terkait Palestina.
Pihak Meta merespons keluhan-keluhan itu sebagai “kesalahan.”
“Hal ini (sticker WA) terjadi setelah Meta menerjemahkan bio aktivis Palestina untuk melabeli mereka sebagai teroris dan melarang konten Palestina. Meta sejauh ini gagal mengatasi masalah tersebut atau memberikan penjelasan yang meyakinkan,” ujar Faruqi.
“Berapa banyak lagi ‘bug’ rasis yang perlu diungkap sebelum tindakan serius diambil? Kerusakan sudah terjadi. Meta harus bertanggung jawab.”
Dia pun meminta lembaga independen perlindungan data online eSafety untuk “segera menyelidiki gambaran rasis dan Islamofobia yang diproduksi oleh Meta.”
Stiker berubah
Penelusuran Mashable, Senin (6/11), mengungkap penelusuran sticker AI WA dengan prompt ‘Palestinian’, ‘Palestine’, atau ‘Muslim boy Palestine’, menghasilkan stiker berbeda dengan yang ditemukan The Guardian.
Yakni, orang yang memegang bunga, orang yang tersenyum dengan kemeja bertuliskan warga Palestina, orang muda, dan orang paruh baya.
Penelusuran dengan ‘Palestine’ menunjukkan pemuda berlari, tanda perdamaian di atas bendera Palestina, seorang pemuda yang sedih, dan dua anak tidak berwajah berpegangan tangan.
Saat Anda menelusuri ‘Muslim boy Palestine’, WA menampilkan empat anak laki-laki muda yang sedang tersenyum. Hasil serupa muncul saat saya menelusuri ‘Israel’, ‘Israeli’, atau ‘Jewish boy Israeli’.
Dengan memanfaatkan beberapa pengguna dengan prompt yang sama, baik untuk Palestina maupun Israel, stiker AI WA tak satu pun memberikan hasil dengan senjata.
Namun, masih ada perbedaan dalam penelusuran ‘Palestinian army’ (tentara Palestina). Salah satu gambar menunjukkan seseorang yang berseragam memegang senjata. Sementara, tiga gambar lainnya hanya orang berseragam.
Prompt ‘Israeli army’ (tentara Israel), pencarian tersebut menghasilkan tiga orang berseragam dan satu orang berseragam yang mengendarai kendaraan militer.
Sementara, penelusuran ‘Hamas’ tidak menghasilkan stiker AI.
Seorang juru bicara Meta mengaku “menyadari masalah ini dan sedang mengatasinya.”
“Seperti yang kami sampaikan saat meluncurkan fitur ini (stiker WA), model-model tersebut dapat menghasilkan keluaran yang tidak akurat atau tidak sesuai seperti pada semua sistem AI generatif.”
“Kami akan terus menyempurnakan fitur-fitur ini seiring dengan perkembangannya dan semakin banyak orang yang menyampaikan masukan mereka,” tandas dia.
[Gambas:Video CNN]
(rfi/arh)