Apa saja tantangan utama dalam mengatur AI militer? Percepatan pengembangan AI membutuhkan inisiatif konkret untuk mengatur AI militer secara hukum, tetapi ada kekurangan tindakan yang mengejutkan meskipun telah diakui adanya kebutuhan akan regulasi.
/

Bagaimana Uni Eropa dapat mengatur kecerdasan buatan di bidang militer?

Apa saja tantangan utama dalam mengatur AI militer? Percepatan pengembangan AI membutuhkan inisiatif konkret untuk mengatur AI militer secara hukum, tetapi ada kekurangan tindakan yang mengejutkan meskipun telah diakui adanya kebutuhan akan regulasi.

Kecerdasan Buatan (Artificial Intelligence/AI) terus menjadi berita utama global melalui aplikasinya, yang secara mendalam mengubah bahasa dan produksi gambar. Kemampuan AI generatif yang terus meningkat menimbulkan pertanyaan mendasar tentang tata kelola. Sementara teknologi deepfake dan chatbot telah mendorong masalah regulasi dan kepercayaan menjadi sorotan publik, AI juga memainkan peran yang semakin signifikan, dan bagi banyak orang, peran yang mengkhawatirkan di bidang militer. Namun, kesadaran publik tentang aplikasi AI di bidang militer masih sangat kurang.

Meskipun negara-negara telah membahas sistem senjata otonom (AWS) - senjata yang mampu memilih dan menyerang target tanpa campur tangan manusia - di Perserikatan Bangsa-Bangsa di Jenewa sejak tahun 2014, kemajuannya masih lambat karena banyak isu yang masih diperdebatkan. Ada konsensus di antara banyak negara bahwa manusia perlu mempertahankan kendali atas sistem senjata; namun, ada ketidaksepakatan tentang tingkat atau cara yang "tepat" untuk mengendalikannya. Selain itu, negara-negara tidak memiliki sudut pandang yang sama tentang apakah dan bagaimana integrasi teknologi AI ke dalam sistem persenjataan harus diatur atau dilarang.

Sikap ambivalen Uni Eropa terhadap AI militer

Aturan internasional yang mengikat secara hukum tentang AWS dan AI dalam sistem persenjataan masih menjadi tujuan yang jauh. Namun, perlu dicatat bahwa undang-undang nasional dan regional hampir tidak membahas aplikasi militer AI. Hanya beberapa negara, termasuk Amerika Serikat dan Inggris, yang telah mengadopsi pedoman yang tidak mengikat. Rancangan Undang-Undang AI Uni Eropa (UE), yang mengusulkan kerangka kerja peraturan-perundang-undangan yang ambisius dan komprehensif untuk aplikasi AI, secara eksplisit mengecualikan domain militer. Pengecualian ini cukup mengejutkan, mengingat Uni Eropa semakin banyak berinvestasi dalam pengembangan teknologi AI untuk tujuan militer atau penggunaan ganda, misalnya, dengan mengalokasikan dana melalui Dana Pertahanan Eropa (EDF). EDF telah mengalokasikan 8 miliar euro untuk proyek pengembangan dan penelitian dari 2021 hingga 2027. Dengan demikian, Uni Eropa secara bersamaan berupaya untuk mengatur dan mempromosikan teknologi AI yang dapat digunakan untuk tujuan militer.

Sikap ambivalen Uni Eropa sebagai regulator yang ragu-ragu terhadap AI militer menghasilkan dua konsekuensi yang signifikan, yang keduanya mendukung jenis keahlian teknis dan korporat tertentu. Pertama, upaya sederhana Uni Eropa dalam menetapkan aturan tentang AI militer menarik para ahli teknis dan korporat untuk menyumbangkan keahlian mereka sebagai bagian dari dewan penasihat. Kedua, UE mendapati dirinya menjadi pembuat aturan, karena negara-negara anggotanya menggunakan aplikasi militer AI yang mewujudkan pilihan desain yang dibuat oleh para ahli teknis dan korporat ini.

Pengaruh dan kepakaran di panel teknologi global Uni Eropa

Sebagai pembuat aturan, Uni Eropa memprakarsai komite 'ahli' khusus - Panel Teknologi Global (Global Tech Panel/GTP) - pada tahun 2018 untuk memberikan saran tentang masalah terkait AI untuk tujuan keamanan dan pertahanan. Seperti yang dikatakan oleh Federica Mogherini, Perwakilan Tinggi Uni Eropa untuk Urusan Luar Negeri dan Kebijakan Keamanan saat itu:

Saya telah membentuk Panel Teknologi Global, sekelompok ahli dari perusahaan teknologi, baik besar maupun kecil, dan dari lembaga pemikir. Mereka adalah orang-orang yang memiliki keahlian untuk memahami (...) tantangan yang terkait dengan penggunaan kecerdasan buatan di sektor pertahanan.

FEDERICA MOGHERIN, MANTAN PERWAKILAN TINGGI UNI EROPA UNTUK URUSAN LUAR NEGERI DAN KEBIJAKAN KEAMANAN

Alih-alih membuat laporan tertulis, GTP beroperasi secara informal melalui pertemuan dan sesi kerja yang melibatkan para pembuat kebijakan Uni Eropa. Selama tahun 2018 dan 2019, GTP mengadakan serangkaian pertemuan semacam itu, termasuk dengan menteri Pertahanan UE, dan dikumpulkan kembali oleh Perwakilan Tinggi Borrell pada Februari 2021. Pada kesempatan ini, Borrell menekankan perlunya

jenis kemitraan dan aliansi baru untuk mengatasi ancaman di abad ke-21. [...] Kita harus menggunakan potensi bisnis dan keterlibatan masyarakat secara maksimal.

JOSEP BORRELL, PERWAKILAN TINGGI UNI EROPA UNTUK URUSAN LUAR NEGERI DAN KEBIJAKAN KEAMANAN

Namun, keahlian seperti apa yang dimiliki GTP, dan siapa yang dianggap sebagai pakar AI militer untuk UE? Sebagian besar dari 14 anggota GTP adalah mantan atau perwakilan perusahaan teknologi atau keuangan. Ini termasuk anggota yang mewakili atau pernah berafiliasi dengan perusahaan "Teknologi Besar" seperti Google dan Microsoft. Sebaliknya, aktor masyarakat sipil dari lembaga penelitian dan lembaga swadaya masyarakat kurang terwakili.

Dengan menunjuk anggota GTP, Uni Eropa mendukung narasi global yang kuat yang membatasi keahlian AI dalam jangkauan sempit perusahaan teknologi. Melalui perwakilan (yang berlebihan) mereka di badan penasihat, perwakilan industri yang terkait dengan segelintir perusahaan teknologi dengan demikian memiliki pengaruh langsung yang besar terhadap proses regulasi politik.

Norma-norma yang muncul dan pengaruh informal tanpa adanya regulasi formal

Kedua, kita harus mempertimbangkan apa yang terjadi jika tidak ada peraturan formal yang mengikat atau kerangka kerja tata kelola pada AWS dan aplikasi militer AI lainnya. Dalam hal ini, aturan dan norma yang mendefinisikan penggunaan teknologi AI yang "tepat" muncul melalui praktik. Praktik desain aplikasi militer AI sangat penting karena pilihan pada tahap ini menentukan kemampuan sistem AI dan bagaimana sistem tersebut menghasilkan output. Hal ini membuat pilihan desain yang dibuat oleh para ahli teknis dan perusahaan, yang mengembangkan teknologi AI yang pada akhirnya digunakan oleh negara-negara anggota UE di bidang militer, menjadi sangat penting. Proses ini dapat memposisikan Uni Eropa sebagai pembuat aturan yang tertanam dalam teknologi AI. Meskipun hal ini mungkin terdengar agak abstrak, namun sudah terbukti bahwa aplikasi AI bukanlah alat yang netral. Banyak berita yang melaporkan bias AI, yang juga diakui oleh Uni Eropa, misalnya, dalam pengenalan wajah dan model bahasa yang besar, menggambarkan bahwa teknologi AI membawa implikasi normatif yang melekat.

Dalam bidang militer dan penggunaan ganda AI, pengembang utama teknologi tersebut terutama berbasis di AS. Akibatnya, sebagian besar teknologi yang diproduksi di AS digunakan oleh negara-negara anggota Uni Eropa untuk tujuan militer dan keamanan. Hal ini penting karena sikap peraturan tentang tingkat kontrol manusia yang diperlukan untuk sistem senjata yang mengintegrasikan teknologi AI, seperti yang diungkapkan oleh berbagai negara anggota UE, belum tentu selaras dengan AS. Namun, sikap yang berbeda ini mungkin secara tidak sengaja diadopsi melalui penyandian mereka dalam teknologi AI yang digunakan oleh negara-negara anggota UE.

Singkatnya, kurangnya regulasi formal tentang AI militer membuat pengaruh informal dan munculnya norma-norma melalui proses informal lebih mungkin terjadi, karena praktik-praktik ini berfungsi sebagai satu-satunya sumber konten normatif yang spesifik. Khususnya, kebutuhan akan regulasi dan pelarangan tampaknya diakui secara luas oleh aktor-aktor politik seperti Uni Eropa. Namun, ada kekurangan tindakan yang mengejutkan terhadap inisiatif konkret untuk mengatur AI militer secara hukum, bahkan ketika perkembangannya semakin cepat.

Penelitian ini dilakukan sebagai bagian dari proyek AutoNorms, yang telah menerima dana dari program penelitian dan inovasi Horizon 2020 Uni Eropa di bawah perjanjian hibah No. 852123

🔬🧫🧪🔍🤓👩‍🔬🦠🔭📚

Referensi jurnal

Bode, I., & Huelss, H. (2023). Constructing expertise: the front-and back-door regulation of AI’s military applications in the European Union. Journal of European Public Policy30(7), 1230-1254. https://doi.org/10.1080/13501763.2023.2174169

Ingvild Bode adalah seorang Lektor Kepala di Pusat Studi Perang, Universitas Denmark Selatan. Penelitiannya berfokus pada proses perubahan normatif dan kebijakan, khususnya mengenai penggunaan kekuatan. Karyanya telah dipublikasikan di jurnal-jurnal terkemuka seperti European Journal of International Relations, Journal of European Public Policy, Review of International Studies, International Studies Review, dan lain-lain. Dia menjabat sebagai Peneliti Utama proyek yang didanai ERC, AutoNorms (2020-2025), yang mengeksplorasi dampak sistem persenjataan otonom terhadap norma-norma.

Hendrik Huelss adalah Asisten Ahli di Pusat Studi Perang, Universitas Denmark Selatan, dan Peneliti Senior di proyek AutoNorms (2020-2025) dari European Research Council (ERC). Penelitian Dr. Huelss menggabungkan minat pada norma-norma dalam Hubungan Internasional dengan perspektif tentang AI dalam politik. Dia secara khusus berfokus pada eksplorasi implikasi transformasi digital untuk domain keamanan dan militer. Karyanya telah dipublikasikan di jurnal-jurnal bergengsi seperti Journal of European Public Policy, International Political Sociology, International Theory, dan Review of International Studies. Selain itu, dia adalah salah satu penulis, bersama Ingvild Bode, dari buku Autonomous Weapons Systems and International Norms (McGill-Queen's University Press).