Tidak oke, komputer: masalah keragaman streaming musik

Seksisme bisa menjadi masalah kecil. Dalam industri musik, misalnya, kami tidak hanya memiliki skandal #MeToo, yang mengungkap pelanggaran terhadap penyanyi, musisi, dan produser pria, tetapi juga melihat cara yang kurang jelas di mana wanita tampaknya dirugikan.

Perhatikan pola mendengarkan orang-orang pada layanan streaming. Jika Anda melihat 10 artis paling banyak streaming di Spotify tahun 2020, misalnya, hanya dua yang wanita – dan Billie Eilish adalah yang tertinggi di tempat ketujuh. Ini mungkin bukan kasus diskriminasi, tetapi cara kami sampai di sini menimbulkan beberapa pertanyaan penting.

Sekarang tim ilmuwan komputer Eropa telah mengeksplorasi kecenderungan ini dengan melihat algoritme layanan streaming. Lebih khusus lagi, Christine Bauer dari Universitas Utrecht di Belanda dan Xavier Serra dan Andres Ferraro dari Universitat Pompeu Fabra di Spanyol menganalisis rekaman mendengarkan yang tersedia untuk umum dari 330.000 pengguna satu layanan. Ini menunjukkan bahwa artis wanita hanya mewakili 25 persen dari musik yang didengarkan oleh pengguna. Para penulis menulis di platform The Conversation bahwa “secara rata-rata, trek pertama yang direkomendasikan adalah oleh seorang pria, bersama dengan enam lagu berikutnya. Pengguna harus menunggu sampai lagu tujuh atau delapan untuk mendengarkan satu per satu wanita. “

Orang-orang mengetahui selera musik mereka dengan berbagai cara, tetapi cara kebanyakan dari kita mendengarkan musik sekarang menawarkan masalah khusus dari prasangka yang tertanam. Saat layanan streaming menawarkan rekomendasi musik, ia melakukannya dengan mempelajari musik apa yang telah didengarkan sebelumnya. Itu menciptakan lingkaran umpan balik yang kejam, jika sudah menawarkan lebih banyak musik oleh laki-laki, yang memiliki konsekuensi yang mengejutkan – yang sebagian besar dari kita tidak menyadarinya.

Apakah ada solusi Para peneliti menawarkan satu: mereka melakukan simulasi algoritme dan mengubahnya beberapa kali untuk menaikkan peringkat artis wanita (yaitu, mereka mendapatkan lebih banyak keterpaparan dengan direkomendasikan lebih awal) dan menurunkan artis pria. Ketika mereka membiarkan sistem ini berjalan, umpan balik baru muncul: AI memang merekomendasikan artis wanita lebih awal, membuat pendengar lebih sadar akan opsi itu; dan ketika platform AI mengetahui bahwa musik sedang dipilih, itu direkomendasikan lebih sering.

Bauer memberi tahu saya bahwa ini adalah “kejutan positif” untuk mengubah begitu banyak bias layanan streaming dengan beberapa penyesuaian pada algoritme. “Tentu saja, selalu lebih mudah untuk memperbaiki sesuatu dalam teori daripada dalam praktek,” katanya, “tapi jika efek ini serupa di dunia nyata, itu akan bagus.” Dia menambahkan bahwa kelompok tersebut sekarang sedang menjajaki bagaimana menggunakan pendekatan yang sama untuk mengatasi diskriminasi etnis dan bentuk lain di platform media.

Tim menekankan bahwa pekerjaan ini masih dalam tahap awal, tetapi penelitian ini menggugah pikiran karena dua alasan. Pertama, dan yang paling jelas, ini menunjukkan mengapa ada gunanya memiliki debat yang lebih luas tentang bagaimana program AI yang sekarang tersebar luas dan, di atas segalanya, apakah kita ingin mereka mengekstrapolasi dari masa lalu kolektif kita ke masa depan kita. “Kami berada pada titik kritis, yang mengharuskan kami untuk mengajukan pertanyaan sulit tentang cara AI diproduksi dan diadopsi,” tulis Kate Crawford, yang ikut mendirikan pusat AI di Universitas New York, dalam sebuah buku baru yang kuat, Atlas AI.

Kedua, streaming musik juga harus membuat kita merenungkan isu pelik dari diskriminasi positif. Secara pribadi, saya sering merasa was-was dengan konsep ini, karena saya telah membangun karir saya mencoba menghindari pendefinisian diri saya berdasarkan gender. Tapi hari ini, setelah bertahun-tahun bekerja di media, saya juga menyadari kekuatan “efek demonstrasi”: jika masyarakat hanya melihat orang kulit putih di posisi kekuasaan (atau di halaman surat kabar), itu menciptakan lingkaran umpan balik budaya, tidak berbeda dengan layanan streaming tersebut.

Ini mempengaruhi banyak sudut bisnis. Pertimbangkan modal ventura: penelitian dari banyak kelompok menunjukkan bahwa tim yang berbeda mengungguli tim yang homogen. Namun menurut Deloitte, 77 persen pemodal ventura adalah laki-laki dan 72 persen berkulit putih, sementara investor kulit hitam dan Latin hanya menerima 2,4 persen dana antara 2015 dan 2020, menurut Crunchbase.

Pola ini tidak muncul terutama karena orang-orang yang berkuasa secara terang-terangan seksis atau rasis; Masalah yang lebih halus adalah bahwa pemodal lebih suka bekerja dengan kolega yang memiliki “kecocokan budaya” yang baik (yaitu seperti mereka) dan mendukung wirausahawan dengan rekam jejak yang terbukti – kecuali sebagian besar wirausahawan tersebut kebetulan terlihat seperti mereka.

“Investor arus utama umumnya menganggap dana yang dipimpin oleh orang kulit berwarna dan wanita sebagai risiko yang lebih tinggi, meskipun ada bukti yang tersedia secara luas bahwa keragaman benar-benar mengurangi risiko,” kata pemodal Tracy Grey dan Emilie Cortes dalam Stanford Social Innovation Review. Anda dapat mengatasinya dengan menggunakan sesuatu yang mirip dengan algoritma musik yang rejig: yayasan dapat dengan sengaja meningkatkan karyawan yang beragam dan berinvestasi berlebihan dalam dana yang dijalankan oleh berbagai kelompok untuk mengubah putaran umpan balik.

Apakah ini akan berhasil? Belum ada yang tahu karena belum pernah dilakukan dalam skala besar, atau setidaknya belum di bidang keuangan. Kenyataannya adalah mungkin lebih sulit untuk mengubah bias manusia daripada mengubah algoritma.

Tetapi jika Anda ingin alasan untuk merasa penuh harapan, pertimbangkan ini: sementara program komputer mungkin menimbulkan bias yang ada, tingkat transparansi yang luar biasa yang dapat diberikan oleh Big Data dapat menjelaskan masalah dengan jelas. Itu, pada gilirannya, dapat mendorong tindakan, jika kita memilihnya – dalam musik dan di tempat lain.

Ikuti Gillian di Twitter @jamur_kejang dan email dia di [email protected]

Mengikuti @Tokopedia di Twitter untuk mengetahui tentang cerita terbaru kami terlebih dahulu

Source