Twitter meluncurkan kontes untuk menemukan bias dalam algoritme

Pada hari Jumat, Twitter Inc. mengatakan akan meluncurkan kompetisi bagi peneliti komputer dan peretas untuk mengidentifikasi bias dalam algoritme pemangkasan gambarnya, setelah sekelompok peneliti sebelumnya menemukan bahwa algoritme cenderung mengecualikan orang kulit hitam dan laki-laki.

Kompetisi ini merupakan bagian dari upaya yang lebih luas di seluruh industri teknologi untuk memastikan teknologi AI beroperasi secara etis.

Perusahaan jejaring sosial mengatakan dalam sebuah posting blog bahwa kontes bounty bertujuan untuk mengidentifikasi “potensi bahaya dari algoritma ini di luar apa yang telah kami identifikasi sendiri.”

Setelah kritik tahun lalu tentang pratinjau gambar dalam posting yang tidak termasuk wajah hitam, perusahaan mengatakan pada bulan Mei bahwa sebuah studi oleh tiga peneliti pembelajaran mesin menemukan perbedaan 8% dari paritas demografis yang mendukung wanita, dan 4% mendukung individu kulit putih.

Twitter secara terbuka merilis kode komputer yang memutuskan cara memotong gambar di umpan Twitter, dan pada hari Jumat mengatakan para peserta diminta untuk melihat bagaimana algoritme dapat menyebabkan kerusakan, seperti membuat profil atau merendahkan sekelompok orang.

Pemenang akan menerima hadiah uang tunai mulai dari $500 hingga $3,500 dan akan diundang untuk mempresentasikan karya mereka di lokakarya yang diselenggarakan oleh Twitter di DEF CON pada bulan Agustus, salah satu konferensi peretas terbesar yang diadakan setiap tahun di Las Vegas.