Facebook akan Pelajari Bias Rasial di Algoritma

Facebook membentuk tim internal baru dikhususkan untuk mempelajari jejaring sosial utamanya dan Instagram terkait dengan bias rasial, secara partikular terkait algoritma yang dilatihnya menggunakan teknologi kecerdasan buatan (AI).

Mengutip The Verge, tim internal ini akan mempelajari dampak buruk yang mungkin diberikan oleh algoritma dengan dukungan AI ini kepada kelompok kulit hitam, hispanik, dan lainnya yang kurang terwakili.

Perwakilan facebook turut menyebut bahwa tim ini juga bertugas untuk memastikan keadilan dan pengembangan produk yang adil berlaku pada berbagai hal yang dilakukan oleh perusahaannya.

Selain itu, perwakilan Facebook juga menyebut pihaknya akan mempererat kolaborasi dengan tim Facebook Responsible AI untuk memastikan menemukan bisa potensial di seluruh platform karyanya.

Tim keadilan baru ini, disebut berada di bawah naungan Instagram, menandai upaya facebook yang sebelumnya dilaporkan kerap menolak upaya dalam perusahaan untuk mempelajari efek bias rasial. Informasi terkait tim peneliti baru Facebook ini pertama kali dilaporkan oleh The Wall Street Journal.

Keputusan Facebook tersebut disampaikan setelah aksi protes terhadap rasisme dan brutalitas kebijakan berlanjut di kota-kota di Amerika Serikat, sebagai kelanjutan dari aksi protes akibat tewasnya George Floyd pada akhir bulan Mei lalu.

Facebook juga memasuki tahap akhir dari aksi boikot periklanan berdurasi satu bulan, di bawah naungan gerakan #StopHateForProfit yang diorganisasi oleh Anti-Defamation League, Color of Change, NAACP, dan kelompok hak asasi lainnya.

Aksi boikot ini juga didukung oleh perusahaan besar lain seperti Coca-Cola, Disney, McDonald’s, Starbucks dan Walmart. Namun, CEO Facebook Mark Zuckerberg dinilai sejumlah pihak mengecewakan dan dituduh menawarkan alasan dangkal saat bertemu dengan penyelenggara boikot pada awal bulan ini.

Pada bulan Juni lalu, CEO Instagram Adam Mosseri berjanji untuk merombak cara perusahaan dalam menyelesaikan masalah yang dihadapi kelompok kulit hitam dan kelompok kurang terwakili lainnya di platform karyanya.

Mosseri secara spesifik menyebutkan pelecehan, bias verifikasi akun, distribusi, dan bias algoritma merupakan area dari Instagram yang dinilainya butuh perbaikan untuk melayani kelompok kulit hitam secara lebih baik.