Menangkal Ujaran Kebencian Dengan Kecerdasan Buatan

Bandung – Dalam bersosial media tidak selamanya memberikan dampak yang positif, dampak negatif pun sangat sering kita jumpai, karena kemudahan beraspirasi hanya dengan menggerakkan jari, membuat semuanya terasa mudah, tak terkecuali penyebaran ujaran kebencian yang kini semakin marak dalam sosial media. Namun Facebook telah menemukan senjata ampuh untuk melawan ujaran kebencian. Senjata ini dibuat dengan memanfaatkan sistem kecerdasan buatan (artificial intelligence) yang dinamai “Rosetta”.

Rosetta mampu membaca dan memahami konten yang terkandung dalam miliaran gambar atau video di Facebook setiap harinya. Kebanyakan ujaran kebencian tak lagi berbentuk teks, melainkan konten visual semacam meme sindiran atau video provokatif. Teknologi pendeteksi gambar berbasis kecerdasan buatan bukanlah hal baru. Namun Rosetta disinyalir mampu menjaring konten-konten tersebut dalam skala besar, mengingat Facebook memiliki 2,2 miliar pengguna aktif yang setiap harinya saling berbagi konten.

Rosetta mampu mengekstraksi teks dalam berbagai bahasa dari miliaran gambar dan video secara real-time. Sistem ini juga sudah mulai diimplementasikan di Instagram. Pemberantasan konten negatif di Facebook memang krusial. Karena sudah beberapa kali memicu terjadinya keributan massal gara-gara pertukaran konten antar-pengguna. Antara lain, Facebook dituduh bersalah atas kekerasan yang terjadi di Myanmar, Sri Lanka, dan India. Masyarakat terprovokasi ujaran kebencian yang menyebar via Facebook, belum lagi berita-berita palsu yang melengkapinya.

Facebook kini lebih ketat menyaring konten negatif. Sebelumnya, hanya konten yang secara frontal menyuarakan kekerasan yang dibasmi. Namun  untuk saat ini semua meme, video, dan konten dalam bentuk apapun yang dianggap berisiko atau rentan memicu pertikaian pun dikaji mendalam oleh Facebook. Dalam berbagai kesempatan, Mark Zuckerberg selalu mengatakan pihaknya bakal memanfaatkan kecerdasan buatan untuk membasmi konten negatif. [wid]