Ekspansi AI di berbagai industri secara global telah meningkatkan perhatian terhadap perilaku berbagai sistem AI dan konsekuensinya. Pengawasan ini sering kali kembali pada desain dan konstruksi sistem ini, yang prosesnya terutama diatur oleh para pencipta AI. Sejumlah penelitian menggali teknologi pembuatan dengan cara yang lebih selaras dengan nilai-nilai kemanusiaan, seperti privasi dan keamanan.
Dengan menggabungkan kedua bidang ini, penelitian ini menganalisis bagaimana proses desain yang berbeda untuk sistem AI dapat memfasilitasi atau menghambat para pencipta AI dalam menciptakan teknologi yang lebih efektif sesuai dengan nilai-nilai individu dan masyarakat.
Apa yang penting dalam proses desain AI?
Terdapat tujuh pendekatan desain AI yang menjalani analisis berdasarkan berbagai kriteria, yang semuanya terkait dengan dukungan mereka terhadap para kreator AI dalam mengembangkan teknologi yang mencerminkan nilai-nilai kemanusiaan.
Kriteria pertama, kelengkapan, mengevaluasi apakah sebuah proses mencakup semua langkah penting dalam membangun sistem AI, termasuk perencanaan, konstruksi, pengujian, dan rilis.
Kriteria kedua menilai tingkat panduan yang diberikan oleh proses, dengan mempertimbangkan kejelasan, kemudahan penerapan, serta penyediaan alat bantu dan penjelasan yang mendukung.
Kriteria terakhir, dukungan kepekaan nilai, berfokus pada panduan bagi para pencipta AI dalam mengembangkan teknologi yang selaras dengan nilai-nilai pengguna. Hal ini memerlukan pemahaman tentang nilai-nilai pengguna, menyelaraskan AI dengan nilai-nilai tersebut, dan memastikan kehadirannya di seluruh tahap pengembangan sistem.
Proses desain AI mana yang sedang ditinjau?
Tujuh metode desain AI menjalani pemeriksaan, seperti yang dijelaskan secara rinci dalam Tabel 1 di bawah ini. IEEE 7000, yang dirancang oleh Lembaga Insinyur Elektro dan Elektronik (IEEE), memodifikasi prosedur teknik yang sudah ada untuk memprioritaskan nilai, sebuah kerangka kerja yang diperluas ke AI. Z-Inspection, VSAD, RSMLC, dan VSD2AI, yang dikembangkan oleh para ahli, mengintegrasikan sensitivitas nilai ke dalam pendekatan konstruksi AI yang sudah ada. Selain itu, proses HAX dari Microsoft dan proses Responsible AI (AI yang bertanggung jawab) dari PwC, yang berasal dari perusahaan, bertujuan untuk membantu para ahli industri dalam menciptakan sistem AI yang lebih bertanggung jawab dan beretika.

Kredit. AI dan Etika
Bagaimana proses desain AI membantu membangun AI yang peka terhadap nilai?
Pada Tabel 2 di bawah ini, disajikan hasil analisis. Beberapa proses, terutama yang berasal dari para peneliti, menunjukkan kinerja yang kuat di berbagai faktor yang telah diuraikan sebelumnya. Pengamatan ini sesuai dengan gagasan bahwa proses-proses tertentu pada awalnya tidak dirancang dengan fokus khusus pada nilai-nilai kemanusiaan dan sensitivitas nilai. Selain itu, meskipun beberapa proses berkontribusi sebagian terhadap berbagai faktor, cakupannya mungkin tidak lengkap, tidak disengaja, tidak langsung, atau tidak memadai.

Kredit. AI dan Etika
Secara umum, proses tertentu memprioritaskan pengembangan tahap awal, melayani para kreator pada awal pembangunan sistem AI (seperti IEEE 7000 dan Z-Inspection). Sedangkan yang lainnya mengadopsi pendekatan yang berpusat pada bisnis, yang menargetkan para profesional di bidangnya (seperti proses HAX Microsoft dan proses Responsible AI PwC). Sebaliknya, beberapa proses memberikan penekanan yang kuat pada nilai dan sensitivitas nilai (misalnya, VSAD, RSMLC, VSD2AI).
Meskipun beberapa proses bergantung pada daftar nilai yang sudah ada sebelumnya (misalnya, proses HAX Microsoft, proses Responsible AI PwC), proses lainnya menggabungkan langkah-langkah untuk membantu pencipta AI mengumpulkan nilai-nilai yang relevan dari pengguna dan pemangku kepentingan (misalnya, VSAD, RSMLC). Beberapa proses menggabungkan kedua pendekatan tersebut (misalnya, VSD2AI, IEEE 7000, Z-Inspection).
Selain itu, hanya dua proses yang menawarkan materi tambahan untuk memandu para pembuat AI dan meningkatkan kepraktisan (IEEE 7000, proses HAX Microsoft), sementara hanya dua proses yang membantu para pembuat AI dalam menanamkan nilai-nilai secara langsung ke dalam AI yang sedang dikembangkan (VSAD, VSD2AI).
Rekomendasi ini merupakan bagian dari gerakan yang masih terus berkembang untuk meningkatkan kepekaan nilai dalam sistem berbasis AI. Tujuannya adalah untuk bertindak sebagai sumber inspirasi untuk memulai perjalanan panjang, bukan sebagai jalan pintas menuju tujuan akhir.
Malak Sadek
Tiga langkah untuk membantu para kreator AI membangun AI yang lebih peka terhadap nilai
Dengan meningkatnya prevalensi penggunaan AI, menjadi semakin penting bagi sistem AI untuk mengenali dan menghormati nilai-nilai kemanusiaan, sehingga menjadi lebih peka terhadap nilai. Untuk memastikan tujuan ini, para ahli yang menyusun proses desain untuk sistem AI harus mempertimbangkan hal-hal berikut:
- Cakupan yang Komprehensif: Memastikan bahwa proses desain mencakup setiap langkah yang diperlukan dalam membangun AI, sehingga mencegah ambiguitas bagi pencipta AI dan mengintegrasikan pemahaman dan penghormatan terhadap nilai-nilai ke dalam setiap tahap.
- Dukungan Praktis: Menyediakan sumber daya tambahan seperti lembar tambahan, alat bantu, penjelasan, atau materi lain untuk meningkatkan kepraktisan dan memfasilitasi kemudahan penerapan bagi pencipta AI yang mengikuti proses tersebut.
- Integrasi Nilai: Membantu pencipta AI dalam membangun AI yang lebih peka terhadap nilai dengan memasukkan langkah-langkah untuk memeriksa daftar dan sumber nilai yang ada, mengumpulkan nilai-nilai yang relevan dari pengguna dan pemangku kepentingan, dan menanamkan nilai-nilai ini ke dalam AI yang sedang dikembangkan.
π¬π§«π§ͺππ€π©βπ¬π¦ ππ
Referensi jurnal
Sadek, M., Calvo, R. A., & Mougenot, C. (2023). Designing value-sensitive AI: a critical review and recommendations for socio-technical design processes. AI dan Etika, 1-19. https://doi.org/10.1007/s43681-023-00373-7

