Jika Anda hidup di dunia modern (Di mana lagi Anda akan tinggal jika Anda membaca artikel ini? Saya kira Anda mungkin seorang arkeolog internet dari masa depan? Atau mungkin Anda alien?), jawaban dari judul ini blog adalah, “ya”, karena algoritme mengontrol banyak aspek kehidupan kita. Cukup mengejutkan begitu Anda menyadari betapa dalam mereka mengakar dalam hidup kita dan, akibatnya, seberapa dalam mereka mengendalikan kita. Heck, mereka bahkan bisa mengendalikan pikiran kita sampai taraf tertentu.
Apa itu algoritma?
Sebelum kita mengeksplorasi bagaimana mereka memanipulasi kita, kita perlu memahami apa itu algoritma. Algoritma adalah seperangkat aturan / instruksi yang digunakan komputer untuk melakukan tugas. Tugas ini bisa apa saja mulai dari menambahkan dua angka bersama-sama hingga mencari tahu video youtube mana yang akan menjadi viral.
Begitu mereka digerakkan, mereka beroperasi secara independen dari campur tangan manusia untuk sebagian besar. Seringkali, mereka membuat keputusan untuk kita yang bahkan tidak kita ketahui lagi. Misalnya, portal pekerjaan akan memiliki algoritme yang memfilter CV orang. Itu berarti bahwa algoritma akan menghapus kandidat atau memindahkan mereka ke tahap berikutnya tanpa orang yang sebenarnya pernah membaca CV.
Apakah algoritma buruk?
Algoritma tidak buruk atau baik – mereka netral. Cara orang memprogramnya dan alasan penciptaannya kadang-kadang bisa buruk tetapi, pada saat yang sama, juga bisa baik. Mereka dapat mempercepat proses dan prosedur, membebaskan waktu kita untuk hal-hal lain. Misalnya, dalam kasus algoritma CV portal pekerjaan, mereka membebaskan waktu majikan. Pada sisi negatifnya, algoritme dapat secara tidak sengaja menyaring kandidat yang baik.
Dan ketidakkonsistenan ini juga berlaku untuk jenis algoritme lain, misalnya, aplikasi kencan (mereka dapat menemukan kecocokan yang cocok untuk Anda, tetapi juga menyaring kecocokan yang baik secara tidak sengaja), mesin pencari internet (mereka dapat menampilkan konten yang Anda cari, atau mereka dapat memaksa Anda untuk mengarungi pegunungan hasil yang tidak relevan), bank (mereka dapat menunjukkan kepada Anda pinjaman mana yang memenuhi syarat untuk Anda, tetapi juga dapat menyaring pinjaman yang mereka salah mengecualikan Anda)…
Siapa yang menulis algoritme dan mengapa?
Satu pertanyaan untuk ditanyakan ketika memutuskan apakah algoritma itu buruk adalah dengan bertanya, “Siapa yang menulis algoritma, dan mengapa mereka menulisnya?”.
Sudah menjadi sifat manusia untuk memiliki bias dan titik buta dalam pemikiran kita. Oleh karena itu, sebagian besar teknologi yang kami buat memiliki bias dan titik buta bawaan, dan ini sangat jelas terlihat dengan algoritme.
Orang-orang memiliki gagasan bahwa algoritme bebas dari bias karena mereka adalah mesin: mereka tidak membuat penilaian dengan cara yang sama seperti kita, dan mereka tidak memiliki emosi, jadi bagaimana mungkin mereka bias? Tetapi ide ini gagal untuk melihat bagaimana algoritma memiliki bias bawaan.
Bias yang tidak disengaja/diabaikan dalam algoritme
Misalnya, bayangkan saya seorang dokter dan saya ingin mengetahui berapa banyak orang di daerah saya yang sakit pilek dalam 2 bulan terakhir. Salah satu cara yang mungkin saya pilih untuk melakukan ini adalah dengan membuat algoritme yang mencari catatan pasien untuk menemukan orang yang pernah sakit pilek pada periode itu. Ini kedengarannya mudah dan lugas, tetapi mengabaikan masalah besar: laki-laki lebih kecil kemungkinannya dibandingkan wanita untuk mencari bantuan untuk masalah medis. Itu berarti, bahkan sebelum dimulai, algoritmenya bias. Setiap temuan yang kemudian menginformasikan penelitian selanjutnya dibangun di atas data yang tidak akurat. Ini tidak benar-benar menangkap cerminan sebenarnya dari siapa yang sakit pilek karena datanya cacat.
Alternatifnya, algoritme penerimaan perguruan tinggi yang mencari calon mahasiswa baru dapat diprogram untuk mencari orang yang tinggal di daerah tertentu di kota (misalnya, yang memiliki keluarga berpenghasilan tinggi). Ini berarti bahwa program ini tidak akan menargetkan orang-orang dari kelompok berpenghasilan rendah sehingga lebih sedikit dari mereka yang akan mendaftar ke perguruan tinggi dan, pada akhirnya, lebih sedikit siswa berpenghasilan rendah yang akan menjadi bagian dari badan kemahasiswaan. Kelompok yang membuat algoritme menempatkan bias mereka sendiri (sengaja atau tidak sengaja) ke dalamnya dan ini memiliki efek dunia nyata pada ketidaksetaraan.
Atau algoritme aplikasi pinjaman mungkin menolak siapa pun di bawah golongan pendapatan tertentu untuk pinjaman £10k+ tetapi gagal memperhitungkan orang-orang yang berada di luar norma tertentu. Misalnya, aplikasi mungkin menolak siapa pun yang menghasilkan £18k per tahun. Tapi ini bisa kehilangan orang yang mampu membayar pinjaman. Bagaimana jika orang tersebut memiliki biaya hidup yang sangat sedikit? Mereka mungkin memiliki pendapatan yang dapat dibelanjakan sebanyak orang dengan £50k per tahun dan dapat dengan mudah membayar pembayaran pinjaman £10k, namun mereka ditolak. Kekeliruan ini berarti bahwa baik bank maupun nasabah merugi.
Aktor jahat mengeksploitasi orang melalui algoritme
Tapi itu lebih buruk dari itu. Dua contoh di atas tidak selalu disengaja, tetapi ada beberapa aktor jahat di luar sana. Mereka menulis algoritma untuk berbagai alasan. Misalnya, cukup terkenal bahwa selama pemilihan politik, orang menulis algoritme yang menargetkan penjaga pagar. Mereka menulis algoritme untuk media sosial yang bertujuan menemukan orang yang belum memutuskan suara mereka. Kemudian mereka menargetkan mereka dengan propaganda yang dimaksudkan untuk mengayunkan mereka ke satu sisi atau sisi lainnya. Orang-orang ini melakukannya dengan sengaja, dan itu sangat efektif dalam beberapa tahun terakhir.
Kami baru-baru ini menulis artikel tentang perusahaan perjudian yang menargetkan penjudi bermasalah dengan iklan yang menggoda. Itu dimungkinkan melalui algoritme yang mereka gunakan, yang menemukan pecandu judi dan menawarkan promosi yang sulit mereka tolak.
Konsekuensi yang tidak diinginkan bagi pembuat algoritme
Selain algoritme yang berpotensi buruk bagi orang yang mereka targetkan, algoritme juga dapat berdampak buruk bagi perusahaan yang menggunakannya. Misalnya, algoritme lamaran kerja dimaksudkan untuk memudahkan pemberi kerja menemukan kandidat yang cocok. Namun, yang sering terjadi adalah mereka menyingkirkan orang-orang yang tahu tentang algoritme dan cara mengalahkan mereka dari orang-orang yang tidak tahu. Kandidat terbaik mungkin tidak lolos sama sekali, hanya orang-orang yang tahu cara memecahkan sistem. Anda bahkan dapat membayar orang untuk menulis aplikasi Anda untuk Anda! Hanya google, “Cara mengalahkan algoritma lamaran kerja” dan Anda mendapatkan ini:
Hal yang sama terjadi dengan algoritma SEO Google. Mereka seharusnya menunjukkan kepada kami konten terbaik untuk kata kunci/istilah pencarian yang kami gunakan, tetapi sebaliknya, mereka akhirnya dapat menunjukkan kepada kami konten siapa pun yang berhasil memecahkan algoritma SEO.
Ringkasan: Apakah algoritma mengendalikan hidup kita?
Algoritma memang mengendalikan hidup kita dan pegangannya semakin mengakar seiring waktu. Mereka ada di mana-mana, dari pengontrol lalu lintas udara hingga sekolah, dari memberi tahu Anda buku mana yang harus dibaca di samping manipulasi pandangan politik Anda. Mereka melakukan banyak hal baik dan membantu kita mengatur dunia yang selalu kompleks. Mereka dapat memberikan kami konten online terbaik, dapat mencocokkan kami dengan mitra yang sempurna, dapat membantu kami mengatasi pandemi, dll.
Tetapi mereka juga datang dengan sejumlah masalah yang diuraikan di atas. Mungkin yang kita butuhkan adalah semacam pengawasan? Kedokteran memiliki BAGUS, perusahaan utilitas kami memiliki Ofgem, Ofcom, dan Ofwat. Faktanya, ada pengawasan untuk semua jenis industri dan teknologi, jadi mengapa tidak untuk algoritme?
