Bagaimana kita dapat mulai merancang kecerdasan buatan (AI) yang selaras dengan nilai-nilai kita? Jawabannya terletak pada proses yang diikuti oleh para ilmuwan.
//

Kecerdasan buatan dengan nilai-nilai kemanusiaan

Bagaimana kita dapat mulai merancang kecerdasan buatan (AI) yang selaras dengan nilai-nilai kita? Jawabannya terletak pada proses yang diikuti oleh para ilmuwan.

Ekspansi AI di berbagai industri secara global telah meningkatkan perhatian terhadap perilaku berbagai sistem AI dan konsekuensinya. Pengawasan ini sering kali kembali pada desain dan konstruksi sistem ini, yang prosesnya terutama diatur oleh para pencipta AI. Sejumlah penelitian menggali teknologi pembuatan dengan cara yang lebih selaras dengan nilai-nilai kemanusiaan, seperti privasi dan keamanan.

Dengan menggabungkan kedua bidang ini, penelitian ini menganalisis bagaimana proses desain yang berbeda untuk sistem AI dapat memfasilitasi atau menghambat para pencipta AI dalam menciptakan teknologi yang lebih efektif sesuai dengan nilai-nilai individu dan masyarakat.

Apa yang penting dalam proses desain AI?

Terdapat tujuh pendekatan desain AI yang menjalani analisis berdasarkan berbagai kriteria, yang semuanya terkait dengan dukungan mereka terhadap para kreator AI dalam mengembangkan teknologi yang mencerminkan nilai-nilai kemanusiaan.

Kriteria pertama, kelengkapan, mengevaluasi apakah sebuah proses mencakup semua langkah penting dalam membangun sistem AI, termasuk perencanaan, konstruksi, pengujian, dan rilis.

Kriteria kedua menilai tingkat panduan yang diberikan oleh proses, dengan mempertimbangkan kejelasan, kemudahan penerapan, serta penyediaan alat bantu dan penjelasan yang mendukung.

Kriteria terakhir, dukungan kepekaan nilai, berfokus pada panduan bagi para pencipta AI dalam mengembangkan teknologi yang selaras dengan nilai-nilai pengguna. Hal ini memerlukan pemahaman tentang nilai-nilai pengguna, menyelaraskan AI dengan nilai-nilai tersebut, dan memastikan kehadirannya di seluruh tahap pengembangan sistem.

Proses desain AI mana yang sedang ditinjau?

Tujuh metode desain AI menjalani pemeriksaan, seperti yang dijelaskan secara rinci dalam Tabel 1 di bawah ini. IEEE 7000, yang dirancang oleh Lembaga Insinyur Elektro dan Elektronik (IEEE), memodifikasi prosedur teknik yang sudah ada untuk memprioritaskan nilai, sebuah kerangka kerja yang diperluas ke AI. Z-Inspection, VSAD, RSMLC, dan VSD2AI, yang dikembangkan oleh para ahli, mengintegrasikan sensitivitas nilai ke dalam pendekatan konstruksi AI yang sudah ada. Selain itu, proses HAX dari Microsoft dan proses Responsible AI (AI yang bertanggung jawab) dari PwC, yang berasal dari perusahaan, bertujuan untuk membantu para ahli industri dalam menciptakan sistem AI yang lebih bertanggung jawab dan beretika.

Gambar 1. Proses desain yang ditinjau selama penelitian ini termasuk nama, sumber, dan ringkasan deskripsinya
Kredit. AI dan Etika

Bagaimana proses desain AI membantu membangun AI yang peka terhadap nilai?

Pada Tabel 2 di bawah ini, disajikan hasil analisis. Beberapa proses, terutama yang berasal dari para peneliti, menunjukkan kinerja yang kuat di berbagai faktor yang telah diuraikan sebelumnya. Pengamatan ini sesuai dengan gagasan bahwa proses-proses tertentu pada awalnya tidak dirancang dengan fokus khusus pada nilai-nilai kemanusiaan dan sensitivitas nilai. Selain itu, meskipun beberapa proses berkontribusi sebagian terhadap berbagai faktor, cakupannya mungkin tidak lengkap, tidak disengaja, tidak langsung, atau tidak memadai.

Gambar 2. Hasil dari studi tinjauan yang menunjukkan bagaimana proses desain yang berbeda menangani berbagai faktor yang diperiksa.
Kredit. AI dan Etika

Secara umum, proses tertentu memprioritaskan pengembangan tahap awal, melayani para kreator pada awal pembangunan sistem AI (seperti IEEE 7000 dan Z-Inspection). Sedangkan yang lainnya mengadopsi pendekatan yang berpusat pada bisnis, yang menargetkan para profesional di bidangnya (seperti proses HAX Microsoft dan proses Responsible AI PwC). Sebaliknya, beberapa proses memberikan penekanan yang kuat pada nilai dan sensitivitas nilai (misalnya, VSAD, RSMLC, VSD2AI).

Meskipun beberapa proses bergantung pada daftar nilai yang sudah ada sebelumnya (misalnya, proses HAX Microsoft, proses Responsible AI PwC), proses lainnya menggabungkan langkah-langkah untuk membantu pencipta AI mengumpulkan nilai-nilai yang relevan dari pengguna dan pemangku kepentingan (misalnya, VSAD, RSMLC). Beberapa proses menggabungkan kedua pendekatan tersebut (misalnya, VSD2AI, IEEE 7000, Z-Inspection).

Selain itu, hanya dua proses yang menawarkan materi tambahan untuk memandu para pembuat AI dan meningkatkan kepraktisan (IEEE 7000, proses HAX Microsoft), sementara hanya dua proses yang membantu para pembuat AI dalam menanamkan nilai-nilai secara langsung ke dalam AI yang sedang dikembangkan (VSAD, VSD2AI).

Rekomendasi ini merupakan bagian dari gerakan yang masih terus berkembang untuk meningkatkan kepekaan nilai dalam sistem berbasis AI. Tujuannya adalah untuk bertindak sebagai sumber inspirasi untuk memulai perjalanan panjang, bukan sebagai jalan pintas menuju tujuan akhir.

Malak Sadek

Tiga langkah untuk membantu para kreator AI membangun AI yang lebih peka terhadap nilai

Dengan meningkatnya prevalensi penggunaan AI, menjadi semakin penting bagi sistem AI untuk mengenali dan menghormati nilai-nilai kemanusiaan, sehingga menjadi lebih peka terhadap nilai. Untuk memastikan tujuan ini, para ahli yang menyusun proses desain untuk sistem AI harus mempertimbangkan hal-hal berikut:

  1. Cakupan yang Komprehensif: Memastikan bahwa proses desain mencakup setiap langkah yang diperlukan dalam membangun AI, sehingga mencegah ambiguitas bagi pencipta AI dan mengintegrasikan pemahaman dan penghormatan terhadap nilai-nilai ke dalam setiap tahap.
  2. Dukungan Praktis: Menyediakan sumber daya tambahan seperti lembar tambahan, alat bantu, penjelasan, atau materi lain untuk meningkatkan kepraktisan dan memfasilitasi kemudahan penerapan bagi pencipta AI yang mengikuti proses tersebut.
  3. Integrasi Nilai: Membantu pencipta AI dalam membangun AI yang lebih peka terhadap nilai dengan memasukkan langkah-langkah untuk memeriksa daftar dan sumber nilai yang ada, mengumpulkan nilai-nilai yang relevan dari pengguna dan pemangku kepentingan, dan menanamkan nilai-nilai ini ke dalam AI yang sedang dikembangkan.

🔬🧫🧪🔍🤓👩‍🔬🦠🔭📚

Referensi jurnal

Sadek, M., Calvo, R. A., & Mougenot, C. (2023). Designing value-sensitive AI: a critical review and recommendations for socio-technical design processes. AI dan Etika, 1-19. https://doi.org/10.1007/s43681-023-00373-7

Malak Sadek adalah kandidat doktor di Fakultas Teknik Desain Dyson di Perguruan tinggi Imperial London dan Mahasiswa Pengayaan di Institut Alan Turing. Dia juga memegang beasiswa di The Leverhulme Centre for the Future of Technology dan Centre for Human-Inspired Artificial Intelligence di Universitas Cambridge. Malak meraih gelar Sarjana Teknik Komputer dari Universitas Amerika di Kairo, Mesir, dan gelar Master dalam bidang Interaksi Manusia dan Komputer dari Universitas St Andrews, Skotlandia. Pekerjaannya saat ini berkisar pada memfasilitasi penyelarasan antara kecerdasan buatan percakapan dan nilai-nilai kemanusiaan melalui praktik desain kolaboratif.

Dr. Céline Mougenot adalah Dosen Senior (Associate Professor) di bidang Desain Kolaboratif di Fakultas Teknik Desain Dyson. Beliau adalah Direktur Lab Inovasi Kolektif, yang berfokus pada pengembangan metodologi dan alat yang dapat mendukung produksi kolektif solusi yang berpusat pada manusia terhadap tantangan yang kompleks oleh berbagai kelompok pemangku kepentingan. Visi dari kelompok ini adalah bahwa penelitian dalam metode ide dan desain kolaboratif menjadi landasan untuk membangun masa depan di mana inovasi dapat diakses, adil, dan benar-benar bermanfaat bagi semua orang.

Rafael A. Calvo adalah Profesor di Perguruan tinggi Imperial London, dengan fokus pada desain sistem yang mendukung kesejahteraan di bidang kesehatan mental, kedokteran, dan pendidikan, serta tantangan etika yang ditimbulkan oleh teknologi baru. Saat ini beliau menjabat sebagai Direktur Penelitian di Fakultas Teknik Desain Dyson, Ketua Bersama di Leverhulme Centre for the Future of Intelligence, Ketua Peneliti di Pusat Penelitian Australia tentang Kehidupan yang Ditingkatkan secara Digital, Peneliti Madya di Pusat Keunggulan Australia dalam Pengambilan Keputusan Otonom, Peneliti Madya NHMRC Pusat Keunggulan Penelitian NHMRC untuk Mengoptimalkan Tidur pada Penuaan Otak, Rekan Editor Transaksi IEEE tentang Teknologi dan Masyarakat, serta menjadi anggota Dewan Penasihat Etika di Digital Catapult.