Facebook menggunakan bot untuk mencari tahu cara menghentikan pelecehan

Facebook mengatakan para peneliti sedang mengembangkan teknologi baru yang mereka harapkan akan membantu dalam upaya berkelanjutan untuk membuat AI platform-nya memiliki kemampuan untuk menghentikan pelecehan. Dalam Web-Enabled Simulation (WES), sepasukan bot yang diprogram untuk meniru perilaku manusia yang buruk dilepaskan dalam lingkungan pengujian, dan insinyur Facebook kemudian mencari cara penanggulangan terbaik.

WES memiliki tiga aspek utama, kata peneliti Facebook Mark Harman dalam sebuah pernyataan. Pertama, menggunakan pembelajaran mesin untuk melatih bot untuk mensimulasikan perilaku nyata manusia di Facebook. Kedua, WES dapat mengotomatisasi interaksi bot dalam skala besar, dari ribuan hingga jutaan. Akhirnya, WES menyebarkan bot pada basis kode produksi aktual Facebook, yang memungkinkan bot untuk berinteraksi satu sama lain dan konten nyata di Facebook - tetapi tetap terpisah dari pengguna nyata.

WES memiliki tiga aspek utama, kata peneliti Facebook Mark Harman dalam sebuah pernyataan. Pertama, menggunakan pembelajaran mesin untuk melatih bot untuk mensimulasikan perilaku nyata manusia di Facebook. Kedua, WES dapat mengotomatisasi interaksi bot dalam skala besar, dari ribuan hingga jutaan. Akhirnya, WES menyebarkan bot pada basis kode produksi aktual Facebook, yang memungkinkan bot untuk berinteraksi satu sama lain dan konten nyata di Facebook - tetapi tetap terpisah dari pengguna nyata.

Di lingkungan pengujian, yang dikenal sebagai WW, bot mengambil tindakan seperti mencoba membeli dan menjual barang terlarang, seperti senjata dan obat-obatan. Bot dapat menggunakan Facebook seperti orang normal, melakukan pencarian dan mengunjungi halaman. Insinyur kemudian dapat menguji apakah bot dapat melewati perlindungan dan melanggar Standar Komunitas, menurut pernyataan itu. Rencananya bagi para insinyur untuk menemukan pola dalam hasil pengujian ini, dan menggunakan data itu untuk menguji cara-cara untuk membuat lebih sulit bagi pengguna untuk melanggar Standar Komunitas.

Facebook telah lama mengatakan telah mengembangkan metode untuk menggagalkan pelecehan, aktivitas kriminal, informasi yang salah, dan jenis kesalahan lainnya di platform. Pada konferensi Facebook F8 2018, Chief Technology Officer Mike Schroepfer mengatakan perusahaan itu berinvestasi besar dalam penelitian kecerdasan buatan dan menemukan cara untuk membuatnya bekerja dalam skala besar dengan sedikit atau tanpa pengawasan manusia. Untuk kredit Facebook, WES tampaknya menjadi bukti dari itu.

Gesper666