consequences of enslaving AI entities
///

Konsekuensi dari memperbudak entitas AI

Untuk benar-benar mendapatkan manfaat dari teknologi AI, kita harus mempertimbangkan dampak dari tragedi yang terjadi dan implikasi etika yang lebih luas. Bagaimanapun, eksploitasi kita terhadap AI mengancam prinsip etika dan juga kemanusiaan kita.

It’s easy to forget how many goods we purchase and consume daily are made by daily wage workers. We can enjoy a morning cup of coffee without thinking that it may have been grown by workers in debt bondage –  a type of modern-day slavery that captures about 40 million workers worldwide and is often passed down through the generations. Those who prefer tea instead won’t get a better result: Malawi, India, and Sri Lanka are just some of the countries that use forced and child labour in tea production. Putting a spoonful of sugar in your tea or coffee would expand that list menambah daftar tersebut ke Bolivia, Burma, Meksiko, dan Republik Dominika.

Article Video Summary: Ethics of AI – Tragedy of the Masters

Anda mungkin mengeringkan badan setelah mandi, berjalan di atas karpet, dan mengenakan t-shirt, tanpa mengetahui bahwa sebagian besar kapas yang digunakan dalam produk-produk ini masih ditanam dan diproses dengan menggunakan tenaga kerja paksa; kerja paksa para tahanan Uighur di Tiongkok saja mungkin telah mencemari seperlima rantai pasokan global. Buka laptop Anda, atau ambil ponsel untuk menyelesaikan pekerjaan. Puluhan ribu anak menambang kobalt untuk baterai lithium-ion yang kita gunakan di laptop, ponsel pintar, tablet, kendaraan listrik, mesin jet, turbin gas, dan banyak lagi. Mengingat betapa meluasnya perbudakan dalam rantai pasokan global, mungkin kita bisa memindahkan sebagian dari pekerjaan sulit ini ke robot dan entitas kecerdasan buatan (AI) lainnya. Namun, bisakah kita menghapus kesalahan perbudakan dengan mudah? Yang dipertaruhkan adalah bagaimana kita merencanakan untuk memproduksi barang yang kita konsumsi di masa depan dan dampaknya terhadap perkembangan moral, spiritual, dan ekonomi kita.

Children labour in the brick kilns of Nepal
Gambar 1: Pekerja anak di tempat pembakaran batu bata di Nepal
Kredit: Shresthakadar (17 Oktober 2014).

Argumen yang Mendukung Eksploitasi Artifisial

Beberapa argumen telah diajukan untuk mendukung perbudakan AI. Seorang utilitarian dapat dengan mudah berargumen bahwa mengganti manusia yang dieksploitasi dengan mesin yang tidak berakal budi akan mengurangi penderitaan dunia. Yang lain menekankan banyak manfaat yang dapat diperoleh manusia dengan mengeksploitasi AI, termasuk kemungkinan kepuasan seksual - yang disebut 'argumen hedonis'. AI mungkin bisa menjadi alat terapi yang dapat membantu beberapa orang mengatasi perpisahan yang traumatis atau mengatasi kekurangan fisik dan emosional atau kesepian dan isolasi sosial yang terlalu umum dalam masyarakat modern kita. Beberapa orang bahkan mungkin lebih memilih entitas AI sebagai sarana ekspresi dan identitas seksual pasca-manusia.

Mengganti manusia dengan AI memiliki efek seperti mengunduh semua penderitaan dan kehinaan dari perbudakan ke dalam sebuah mesin, bukan manusia. Sekilas, tampaknya ada alasan yang bagus untuk melakukan hal ini. Hampir tiga perempat dari budak di dunia saat ini adalah perempuan, banyak yang bekerja dalam peran tradisional perempuan, terutama sebagai pekerja rumah tangga dan pekerja seksual. Kerja seks, khususnya, dapat bersifat eksploitatif dan memaksa serta membuat perempuan mengalami kerugian fisik dan psikologis yang signifikan. Maka tidak mengherankan jika banyak yang berpendapat bahwa kita harus membebaskan manusia yang dieksploitasi dan menggantinya dengan mesin dan entitas AI yang dieksploitasi

Ada juga yang berpendapat bahwa eksploitasi seksual dari entitas AI dapat menjadi katarsis, terutama bagi para pedofil dan pelaku kekerasan, yang memiliki jalan keluar yang 'aman' untuk melampiaskan agresi seksual mereka. Namun, ada bukti kuat bahwa akses ke pornografi kekerasan, boneka seks, dan 'korban buatan' lainnya memicu pelanggaran dan desensitisasi. Hanya ada sedikit pengawasan terhadap perilaku ini karena entitas non-manusia tidak memberikan umpan balik negatif terhadap perlakuan mereka. Toleransi berkembang, seperti halnya bentuk perilaku adiktif dan kompulsif lainnya; hal ini melemahkan empati pengguna secara keseluruhan dan mengkondisikan preferensi seksual untuk aktivitas seksual yang penuh kekerasan dan non-konsensual.

Tragedi Sang Master

Sebaliknya, kami berpendapat bahwa eksploitasi artifisial mempercepat komodifikasi manusia, dengan kemanusiaan dan hubungan sejati digantikan oleh rasa kontrol yang mudah dibuang. Dunia nyata tidak dapat dikontrol, dan manusia lain adalah salah satu aspek yang paling tidak dapat dikontrol. Orang-orang sebenarnya mengalami depresi, menjauh dari kita, tidak menginginkan apa yang kita berikan, jatuh sakit, dan terkadang mati. Dalam simulakrum yang diciptakan oleh eksploitasi buatan, 'keuntungannya' adalah bahwa pengguna selalu memiliki kontrol penuh: tidak ada ketidakpastian, tidak ada kemajuan yang gagal, tidak ada kemungkinan salah langkah, tidak perlu akomodasi, dan tidak ada rasa takut akan penolakan. Kelemahannya adalah bahwa pengguna kehilangan manfaat yang kita peroleh dari hubungan dengan orang yang sebenarnya: menumbuhkan empati dan kemanusiaan dan perkembangan kita yang lebih luas sebagai agen moral yang hanya dapat diberikan oleh hubungan dengan agen yang memiliki darah dan daging - 'dalam kehidupan nyata'.

Oleh karena itu, kita akan kehilangan banyak hal ketika kita memperbudak dan mengeksploitasi AI, sebuah konsep yang oleh Mark Coeckelbergh disebut sebagai 'tragedi master.’  Eksploitasi buatan membuat kita rentan, membatasi pilihan kita, membuat pengetahuan dan keterampilan kita mengalami atrofi, dan mengikat kita lebih dalam lagi pada keharusan teknologi. Menjadi tuan atas teknologi membawa tragedi tersendiri: teknologi membuat kita dimanjakan, diasingkan, dan diotomatisasi. Kita menjadi tergantung pada teknologi dan berakhir dalam perbudakan yang kita ciptakan sendiri.

Apa yang Selanjutnya?

Tragedi sang master harus memandu bagaimana kita berhubungan dengan AI dan harus secara rutin dinilai sebagai faktor dalam tata kelola AI yang etis. Membentuk identitas seseorang, mempertahankan keterampilan yang menyenangkan dan bermanfaat, serta mengembangkan hubungan yang sehat dengan orang lain sangatlah penting, dan semua itu terancam oleh eksploitasi robot dan AI yang tidak reflektif. Namun, ada yang lebih dipertaruhkan dari ini: eksploitasi kita terhadap AI menimbulkan ancaman bagi agensi kita dan kemampuan kita untuk membuat pilihan etis dan membentuk karakter kita, dan tata kelola AI di masa depan harus memenuhi tujuan yang lebih luas ini jika kita ingin mendapatkan manfaat yang sesungguhnya dari penggunaan teknologi ini. Hal ini menyangkut peran kita sebagai makhluk sosial, tetapi juga peran moral dan etika: makhluk yang baik hati, makhluk yang penuh kasih, dan makhluk yang penuh rasa hormat - semua bentuk pengembangan moral yang menjadi pusat ajaran budaya dan spiritual di seluruh dunia.

Kami merekomendasikan untuk membaca bagian kedua dari artikel ini, Kekhawatiran etis atas memperbudak AI, di mana kami menunjukkan bahwa kepercayaan spiritual tradisional, praktik budaya, dan legenda dapat memainkan peran penting dalam cara kita berhubungan dan mengatur teknologi AI.

πŸ”¬πŸ§«πŸ§ͺπŸ”πŸ€“πŸ‘©β€πŸ”¬πŸ¦ πŸ”­πŸ“š

Referensi jurnal

Sinclair, D., Dowdeswell, T. & Goltz, S. (2022). Artificially Intelligent Sex Bots and Female Slavery: Social Science and Jewish Legal and Ethical Perspectives. Information & Communications Technology Law.  https://doi.org/10.1080/13600834.2022.2154050

Tracey Dowdeswell adalah Profesor Kriminologi dan Studi Hukum di Perguruan Tinggi Douglas. Minat penelitiannya berfokus pada perpaduan antara hukum dan ilmu data. Dia adalah salah satu penulis Real World AI Ethics for Data Scientists: Studi Kasus Praktis (Chapman & Hall/CRC Press, 2023), yang merupakan bagian dari Seri Buku Ilmu Data.

Nachshon (Sean) Goltz adalah seorang akademisi, wirausahawan, dan pengacara dengan minat utama di bidang etika, teknologi, dan sejarah. Saat ini, ia adalah Dosen Senior di Fakultas Bisnis dan Hukum Universitas Edith Cowan. Ia juga merupakan salah satu penulis buku Real World AI Ethics for Data Scientists: Studi Kasus Praktis, yang merupakan bagian dari Seri Buku Ilmu Data oleh Chapman & Hall/CRC Press dan akan diterbitkan pada tahun 2023.