The Future of Life Institute recently called for a six-month precautionary pause on artificial-intelligence (AI) development
///

Tanggung jawab digital perusahaan di era kecerdasan buatan

Seberapa efektifkah perusahaan teknologi mengakui Tanggung jawab digital perusahaan/Corporate digital responsibility (CDR) mereka? Prinsip CDR mencakup beberapa aspek, namun hal-hal seperti tata kelola, tanggung jawab lingkungan, dan ketidakseimbangan kekuasaan masih terus diabaikan.

Institut Future of Life baru-baru ini menyerukan jeda selama enam bulan untuk pencegahan dalam pengembangan kecerdasan buatan (AI), mencatat bahwa para penandatangannya, termasuk Elon Musk dan para pemimpin bisnis senior lainnya, khawatir bahwa laboratorium-laboratorium AI sedang 'terjebak dalam perlombaan yang tidak terkendali' untuk mengembangkan dan menggunakan sistem yang semakin canggih yang tidak dapat dipahami, diprediksi, atau dikontrol oleh siapa pun, termasuk oleh penciptanya. Masalah ini kembali disorot bulan ini ketika CEO OpenAI (pengembang produk AI ChatGPT) menyerukan regulasi yang lebih besar untuk melindungi dari risiko AI. Apa implikasinya bagi perusahaan yang menggunakan AI dan teknologi digital lainnya? Dan bagaimana sikap perusahaan-perusahaan teknologi besar yang mengembangkan, memasarkan, dan menjual produk-produk ini?

Apa yang dimaksud dengan tanggung jawab digital perusahaan?

Tanggung Jawab Digital Perusahaan (Corporate Digital Responsibility/CDR) dapat didefinisikan sebagai "serangkaian praktik dan perilaku yang membantu organisasi menggunakan data dan teknologi digital dengan cara-cara yang dianggap bertanggung jawab secara sosial, ekonomi, dan lingkungan." CDR semakin dipandang sebagai bagian dari Tanggung Jawab Sosial Perusahaan (Corporate Social Responsibility - CSR). Seiring dengan semakin meluasnya penggunaan teknologi digital oleh perusahaan-perusahaan dalam beberapa tahun terakhir, serangkaian tanggung jawab baru pun muncul. Tanggung jawab ini dirangkum dalam konsep dan operasi CDR, seperti yang ditunjukkan pada Gambar 1. Tanggung jawab ini sangat relevan dengan penerapan kecerdasan buatan (AI), yang dianggap sebagai "inovasi teknologi yang paling disruptif di masa kini”.

Gambar 1. Dimensi utama Tanggung Jawab Digital Perusahaan (Wynn dan Jones, 2023).

Contoh-contoh dari industri

Penelitian terbaru telah meneliti bagaimana organisasi teknologi besar melakukan pendekatan terhadap CDR. Deutsch Telekom, misalnya, menyatakan bahwa pendekatannya terhadap tanggung jawab digital difokuskan pada "teknologi yang berpusat pada manusia" dan dibangun di atas serangkaian fondasi, yaitu hukum dan peraturan, hak asasi manusia, serta budaya dan nilai, dan dua prinsip: 1) privasi dan keamanan data, dan 2) transparansi dan dialog. Terkait AI, Google mengakui bahwa perkembangan

AI di masa depan bersifat dinamis dan terus berkembang, dan kami akan melakukan pendekatan terhadap pekerjaan kami dengan kerendahan hati, komitmen terhadap keterlibatan internal dan eksternal, serta kesediaan untuk menyesuaikan pendekatan kami seiring berjalannya waktu.

Google

Perusahaan tersebut menambahkan bahwa mereka mengakui bahwa teknologi AI

Memunculkan tantangan yang penting yang perlu kita tangani dengan jelas, bijaksana, dan tegas.

Google

Microsoft memberikan rincian tentang "Standar AI yang Bertanggung Jawab" - pedoman internal perusahaan untuk AI yang bertanggung jawab - yang "membentuk cara kami menciptakan sistem AI, dengan memandu cara kami merancang, membangun, dan mengujinya", dan "Templat Penilaian Dampak AI yang Bertanggung Jawab".

AI bergerak dengan sangat cepat dan, seperti halnya teknologi canggih lainnya, organisasi perlu membangun kepercayaan dengan publik dan bertanggung jawab kepada pelanggan dan karyawan mereka.

Accenture

Secara lebih umum, mengenai penyebaran teknologi digital, IBM berpendapat bahwa

pelanggan, karyawan, dan bahkan pemegang saham semakin sering menuntut agar organisasi tidak hanya mengambil sikap yang berprinsip pada masalah-masalah yang ada, tetapi juga menindaklanjutinya dengan tindakan-tindakan yang berarti yang mengarah pada hasil yang jelas.

IBM

Semua perusahaan yang kami teliti mengaku secara terbuka menyampaikan tanggung jawab mereka terhadap teknologi digital. Perusahaan-perusahaan tersebut menekankan komitmen mereka terhadap sejumlah prinsip yang mereka klaim memandu pendekatan mereka, terutama terhadap AI. Prinsip-prinsip tersebut meliputi privasi dan keamanan data; keadilan dan inklusi; interpretabilitas; akuntabilitas; keamanan; menghindari bias yang tidak adil; penjelasan; keandalan; kepercayaan; serta standar keunggulan dan kontrol ilmiah yang tinggi. Namun, meskipun perusahaan mengadopsi pendekatan positif terhadap penerapan teknologi digital, dengan fokus pada manfaatnya di tingkat perusahaan dan individu, mereka dapat dipandang meremehkan potensi dampak negatifnya. Hal ini dapat dilihat sebagai bagian dari kegiatan pemasaran/humas perusahaan atau bahkan sebagai "pencucian etika", yaitu berpura-pura melakukan pertimbangan etis, yang dirancang untuk meningkatkan persepsi pemangku kepentingan terhadap perusahaan.

Dampak sosial dan lingkungan hidup

Fokus utama dari pendekatan perusahaan-perusahaan ini terhadap tanggung jawab digital terutama adalah masalah sosial dan teknis. Dalam menguraikan tanggung jawab sosial mereka - keadilan, misalnya - hanya sedikit perhatian yang diberikan pada masalah lingkungan, khususnya perubahan iklim. Perserikatan Bangsa-Bangsa (PBB), telah menggambarkan perubahan iklim sebagai "masalah yang menentukan di zaman kita", dan hal ini mungkin memiliki dampak sosial yang mendasar, termasuk penghancuran besar-besaran terhadap rumah dan komunitas, hilangnya mata pencaharian, migrasi penduduk dan penggusuran paksa, dan hilangnya identitas budaya. Secara paradoks, teknologi digital dapat dilihat sebagai peluang besar untuk memitigasi perubahan iklim sekaligus menjadi penyebab perubahan tersebut.

The Lingkungan Perserikatan Bangsa-Bangsa, misalnya, menyatakan bahwa "lebih banyak data iklim yang tersedia dibandingkan sebelumnya", bahwa "bagaimana data tersebut diakses, ditafsirkan, dan ditindaklanjuti sangat penting dalam mengelola krisis ini", dan bahwa "salah satu teknologi yang berperan penting dalam hal tersebut adalah AI". AI dipandang memiliki peran penting dalam membantu mengukur dan mengurangi emisi gas rumah kaca serta meningkatkan prakiraan bahaya baik untuk peristiwa jangka panjang, seperti kenaikan permukaan air laut, maupun peristiwa ekstrim jangka pendek, seperti badai. Namun, Program Lingkungan Perserikatan Bangsa-Bangsa juga memperingatkan bahwa

ada biaya lingkungan untuk memproses data ini, [tidak terkecuali] sektor TIK menghasilkan sekitar 3-4% emisi, dan pusat data menggunakan air dalam jumlah besar untuk pendinginan.

Perserikatan Bangsa-Bangsa (PBB)

Aspek lain di sini adalah apa yang disebut oleh Dewan Eropa sebagai "asimetri kekuasaan antara mereka yang mengembangkan dan menggunakan teknologi AI, dan mereka yang berinteraksi dengan dan tunduk pada teknologi tersebut". Sebagai contoh, penyedia layanan digital dapat memperoleh data yang sangat rinci tentang pengguna mereka, yang dapat mereka gunakan untuk menghasilkan prediksi yang akurat tentang sifat, selera, dan preferensi pengguna. Namun, pengguna biasanya tidak memahami kompleksitas teknologi digital mereka. Asimetri ini meningkatkan kemungkinan potensi eksploitasi dan juga dapat menimbulkan tantangan baru bagi masyarakat, sebagaimana dibuktikan oleh Profesor Raja Chatila - anggota kelompok kerja komite percontohan etika digital nasional Prancis yang mengamati

segala sesuatu yang saat ini terjadi dalam AI berlangsung tanpa kontrol etika atau hukum yang nyata. Perusahaan-perusahaan mengerahkan berbagai alat di web yang memiliki efek berbahaya.

Raja Chatila

Tanggung jawab yang muncul untuk perusahaan teknologi

Meskipun teknologi digital membawa berbagai manfaat dan peluang bisnis baru, perusahaan yang mengembangkan, menjual, dan menggunakan teknologi ini sekarang menghadapi, dan harus mengatasi, beberapa tanggung jawab baru. Tanggung jawab ini semakin banyak ditangkap dalam konsep CDR. Beberapa perusahaan teknologi terkemuka sekarang mengakui tanggung jawab sosial dan teknologi mereka yang terkait dengan CDR, tetapi tanggung jawab lingkungan dan asimetri kekuasaan antara pengembang dan pengguna kurang mendapat perhatian. Peran negara dalam prosedur tata kelola belum dikaji secara menyeluruh, meskipun peran tersebut menjadi semakin relevan, terutama ketika Pemerintah Inggris mempresentasikan buku putihnya "untuk memandu penggunaan kecerdasan buatan di Inggris" dan "menjaga kepercayaan publik terhadap teknologi revolusioner ini". Karena teknologi digital terus mempengaruhi operasi bisnis perusahaan dan pengelolaan ekonomi dan masyarakat yang lebih luas, permintaan akan regulasi semacam itu kemungkinan besar akan meningkat.

πŸ”¬πŸ§«πŸ§ͺπŸ”πŸ€“πŸ‘©β€πŸ”¬πŸ¦ πŸ”­πŸ“š

Referensi jurnal

Jones, P., & Wynn, M. G. (2023). Artificial Intelligence and Corporate Digital Responsibility. Journal of Artificial Intelligence, Machine Learning and Data Science1(2), 50-58. https://eprints.glos.ac.uk/12650/

Martin Wynn adalah Lektor Kepala di bidang Teknologi Informasi di Fakultas Bisnis, Komputasi dan Ilmu Sosial di Universitas Gloucestershire dan meraih gelar doktoral dari Universitas Nottingham Trent. Beliau diangkat sebagai Rekan Peneliti di Universitas London Timur, dan menghabiskan 20 tahun di industri di perusahaan farmasi Glaxo dan perusahaan minuman HP Bulmer. Minat penelitiannya meliputi digitalisasi, sistem informasi, keberlanjutan, manajemen proyek, dan perencanaan kota. Buku terbarunya, Handbook of Research on Digital Transformation, Industry Use Cases, and the Impact of Disruptive Technologies, yang diterbitkan pada tahun 2022.

Peter Jones adalah seorang Profesor Emeritus di Sekolah Bisnis di Universitas Gloucestershire. Beliau sebelumnya menjabat sebagai Dekan Sekolah Bisnis di Universitas Plymouth, dan sebagai Kepala Departemen Ritel dan Pemasaran di Universitas Metropolitan Manchester. Beliau telah bekerja sebagai konsultan ritel dan akademis di berbagai negara dan memiliki minat penelitian aktif dalam perbudakan modern di sektor jasa, pembangunan berkelanjutan di bidang ritel, dan tanggung jawab sosial perusahaan. Dia telah menerbitkan karya penelitiannya dalam berbagai bab buku, jurnal akademis, dan publikasi profesional.