AI ethics in tech, driven by Big Tech, may not genuinely address ethics but rather serves capital accumulation. To create a more ethical AI, researchers should reject industry funding, challenging the profit-driven tech landscape.
//

Etika AI bukan tentang AI atau etika

Haruskah para peneliti menolak pendanaan industri karena kekhawatiran bahwa AI, yang didorong oleh perusahaan teknologi besar, mungkin memprioritaskan keuntungan di atas pertimbangan etika?

Setelah serentetan skandal yang dipublikasikan secara luas pada tahun 2016-2017, perusahaan-perusahaan teknologi besar (Big Tech) AS yang memimpin penelitian kecerdasan buatan (AI) tiba-tiba mengembangkan minat yang besar terhadap etika AI. Pada tahun 2019, hampir semua perusahaan teknologi besar, dan banyak perusahaan yang lebih kecil, telah merilis serangkaian prinsip-prinsip etika AI. Pada awal tahun 2020, terdapat 167 dokumen pedoman etika AI di seluruh dunia.

Meskipun istilah yang digunakan berbeda-beda-mungkin AI yang bertanggung jawab, dapat dipercaya, atau berpusat pada manusia-sentimennya secara umum sama: AI dapat dibuat etis dengan mengikuti serangkaian praktik tertentu dalam produksi dan penerapannya. Microsoft menyatakan bahwa mereka "berkomitmen terhadap kemajuan AI yang didorong oleh prinsip-prinsip etika yang mengutamakan manusia", sementara IBM menggambarkan dirinya sebagai "membangun sistem AI dengan cara yang etis untuk memberi manfaat bagi masyarakat secara keseluruhan". Google bahkan mengklaim bahwa "AI berbasis nilai baik untuk bisnis Anda".

Namun, mengingat bahwa ini adalah organisasi kapitalis dan oleh karena itu memiliki tujuan utama untuk menghasilkan keuntungan dan akumulasi modal, mudah untuk menghargai pandangan para kritikus seperti filsuf Thomas Metzinger, yang berpendapat bahwa etika AI tidak lebih dari sekadar hubungan masyarakat yang sinis. Jika dibandingkan dengan upaya penghijauan lingkungan, Metzinger menyebut etika AI sebagai ethics washing. Hal ini memang benar. Namun, ini bukanlah keseluruhan cerita.

Etika AI juga melayani kebutuhan ekonomi dari modal intensif data secara lebih langsung dengan berfungsi, seperti yang disebut oleh ekonom Cecilia Rikap sebagai jaringan inovasi yang tersubordinasi. Ini adalah jaringan yang tersebar dari individu-individu penghasil penelitian yang mana perusahaan teknologi besar memegang kendali tidak langsung dan menggunakan hasilnya, mengarahkannya ke tujuan yang akan memajukan produksi komoditas, sirkulasi, dan proses bisnis lainnya. Singkatnya, etika AI bukanlah tentang AI atau etika, melainkan akumulasi modal.

Should researchers reject industry funding due to concerns that AI driven by Big Tech, may prioritize profit over ethical considerations?
Kredit. Midjourney

Kontradiksi

Etika adalah bidang yang sangat luas dan beragam dengan sejarah yang panjang. Oleh karena itu, wajar jika kita bertanya: sistem etika apa yang dimaksud dengan AI etis? Pertanyaan ini tidak pernah terjawab. Namun, ruang lingkup jawaban yang mungkin diberikan dibatasi oleh konteks kapitalis industri AI. Kapitalisme adalah sistem yang amoral; kapitalisme didefinisikan sebagai produksi komoditas untuk dijual di pasar oleh pemilik pribadi dari alat-alat produksi. Seperti yang dikatakan oleh Karl Marx, satu-satunya " kewajiban moral" yang dimiliki oleh kapital adalah "untuk menghasilkan nilai tambah sebanyak mungkin". Mungkin tidak disangka, seseorang tidak perlu merujuk pada seorang komunis untuk mendapatkan kritik seperti itu.

Di sisi lain dari spektrum politik, tokoh neoliberalisme Milton Friedman, mencerca gagasan tanggung jawab perusahaan, dengan menyatakan bahwa jika istilah tersebut "bukan retorika murni, maka itu pasti berarti bahwa [pengusaha] harus bertindak dengan cara tertentu yang tidak sesuai dengan kepentingan perusahaannya". Satu-satunya tanggung jawab sosial yang dapat dimiliki oleh sebuah bisnis, menurutnya, adalah untuk "meningkatkan keuntungan". Berlawanan dengan evaluasi Marx dan Friedman, etika AI yang dipimpin oleh industri mengklaim bahwa mereka bertujuan untuk mencari penyelesaian yang mustahil dari istilah yang kontradiktif antara kapital dan etika.

Mungkin inilah alasan mengapa sebuah survei terhadap 211 perusahaan menemukan bahwa "pedoman etika AI tidak memiliki dampak yang signifikan terhadap praktiknya". Saya berpendapat bahwa etika AI tidak hanya tidak dapat membuat industri AI menjadi lebih etis, tetapi juga tidak dimaksudkan untuk itu. Etika ini memiliki fungsi lain untuk teknologi besar. Untuk memahaminya, kita perlu menganggap etika AI sebagai sebuah pekerjaan. Apa pun etika AI, bagi sebagian besar orang yang terlibat di dalamnya, hal ini merupakan bagian dari pekerjaan.

Subordinasi

Sejak tahun 1970-an, produksi komoditas telah terfragmentasi secara radikal di seluruh dunia ke dalam rantai nilai global, dengan setiap titik produksi berlokasi di tempat yang paling murah untuk mendapatkan komoditas yang dibutuhkan, termasuk tenaga kerja. Meskipun sebagian besar tenaga kerja dilakukan di wilayah yang lebih miskin, bagian terbesar dari nilai yang dihasilkan justru berasal dari wilayah terkaya.

Menurut ekonom Rikap, perusahaan teknologi besar juga melakukan outsourcing inovasi dengan menciptakan jaringan inovasi yang terdiri dari perusahaan-perusahaan kecil, laboratorium penelitian, dan universitas yang melakukan penelitian dan pengembangan. Organisasi-organisasi tersebut dijuluki sebagai mitra, tetapi mereka tidak memiliki kekuatan untuk mempengaruhi agenda perusahaan teknologi besar. Dengan demikian, Rikap berpendapat, mereka ada dalam hubungan "subordinasi" karena, meskipun mereka berkontribusi pada proses inovasi, hasil dari proses tersebut "sebagian besar diubah menjadi aset tidak berwujud oleh monopoli intelektual".

Saya berpendapat bahwa seluruh fenomena etika AI paling baik dipahami sebagai jaringan inovasi yang tersubordinasi. Ini adalah jaringan yang tersebar, terdiri dari individu-individu yang bekerja di perusahaan teknologi besar dan banyak juga yang bekerja di perusahaan startup, universitas, laboratorium penelitian, LSM, dan bahkan pemerintah. Mereka berada dalam posisi tersubordinasi karena mereka tidak memiliki kekuatan untuk mempengaruhi perusahaan teknologi besar, yang dengan demikian dapat menentukan agenda penelitian AI.

Kontradiksi yang tak terpecahkan antara kapital dan etika menjadi agenda utama. Etika dapat muncul dalam berbagai bentuk, tetapi perusahaan kapitalis tidak dapat berhenti menjadi kapitalis tanpa harus berhenti eksis. Dalam konteks dominasi perusahaan teknologi besar terhadap AI, etika AI harus mengabaikan konteks kapitalisnya atau menerima begitu saja. Semua kompromi harus dilakukan demi kepentingan modal dan berkurangnya etika.

Perampasan

Jaringan inovasi yang tersubordinasi dari etika AI dengan demikian menghasilkan penelitian yang hanya membantu perusahaan-perusahaan teknologi besar untuk menerapkan model bisnis mereka yang invasif ke dalam berbagai bidang kehidupan, mendorong apa yang disebut Shoshana Zuboff sebagai siklus perampasan kapitalisme pengawasan. Ini adalah strategi bisnis di mana data yang berguna untuk melatih AI dikumpulkan melalui praktik-praktik yang tidak baik dan ditutupi dengan adaptasi dangkal yang membuat proses bisnis inti tetap utuh - dan sektor-sektor baru dalam kehidupan tunduk pada pengawasan yang tak henti-hentinya. Etika AI mendorong terciptanya inovasi yang "berguna" seperti itu-sambil menghindari pertanyaan serius mengenai fondasi pencarian keuntungan yang menjadi dasar dibangunnya AI.

Fakta sederhananya adalah bahwa kapitalisme hanya dapat menerima kerangka kerja etis yang tidak bertentangan dengan keharusannya untuk mengakumulasi. Etika AI menggunakan (paling banter) rasa etika yang sepele yang buta terhadap patologi produksi kapitalis yang tidak logis. Upaya serius untuk membuat AI bermanfaat bagi dunia harus dimulai dengan mengakui bahwa produksi kapitalis mungkin saja mengganggu cara-cara optimal dalam mengembangkan dan menggunakan AI.

Bagaimana cara memulai upaya tersebut? Langkah pertama adalah para peneliti di luar industri menolak pendanaan dari industri. Meskipun mekanisme subordinasi juga bekerja dengan cara lain, cara yang paling nyata ini dapat dengan mudah dihindari. Namun, hal ini berarti bekerja dengan sumber daya, prestise, dan prospek kemajuan yang lebih sedikit. Beroperasi dengan sarana yang terbatas tentu lebih sulit daripada memberi tahu para insinyur pembelajaran mesin tentang bagaimana menjadi lebih etis. Namun, setidaknya hal ini sesuai dengan situasi kita saat ini, di mana kemungkinan masa depan teknologi kita terbatas hanya pada masa depan yang dapat menghasilkan keuntungan bagi segelintir perusahaan. 

πŸ”¬πŸ§«πŸ§ͺπŸ”πŸ€“πŸ‘©β€πŸ”¬πŸ¦ πŸ”­πŸ“š

Referensi jurnal

Steinhoff, J. (2023). AI ethics as subordinated innovation network. AI & SOCIETY, 1-13. https://doi.org/10.1080/07294360.2023.2174083

James Steinhoff adalah seorang Asisten Profesor di Sekolah Studi Informasi dan Komunikasi di Perguruan Tinggi Universitas Dublin. Dia adalah penulis " Otomasi dan Otonomi: Tenaga Kerja, Modal, dan Mesin dalam Industri Kecerdasan Buatan" (2021, Palgrave).