How Actor Network Theory explains ChatGPT's role in AI's power dynamics - from societal impacts to understanding resistance.
/

Bagaimana Teori Jaringan Aktor menjelaskan ChatGPT dan hubungan kekuatan baru di era AI

Apakah kemunculan AI, yang dilambangkan oleh ChatGPT, menandakan pergeseran dalam dinamika sosial, dan bagaimana Teori Jaringan Aktor berkontribusi terhadap pemahaman kita?

Kecerdasan buatan sudah hampir ada di mana-mana. Pesatnya pertumbuhan teknologi ini dan ketertarikan publik yang terjadi dipicu oleh peluncuran ChatGPT, sebuah sistem teks "generatif" oleh OpenAI, kepada publik. Platform ini telah menghasilkan interaksi sosial baru dengan teknologi, sebuah perubahan yang dapat dipahami dengan menggunakan Teori Jaringan Aktor. Pesatnya pertumbuhan teknologi ini dan ketertarikan publik yang dipicu oleh peluncuran ChatGPT oleh OpenAI telah memicu serangkaian dinamika sosial yang baru, mengubah cara orang berinteraksi dengan teknologi - sebuah evolusi yang dapat dijelaskan melalui kerangka kerja yang disediakan oleh Teori Jaringan Aktor.

Mengingat dampak AI dalam kehidupan kita saat ini, salah satu solusi yang mungkin dilakukan adalah dengan menyinggung regulasi atau pedoman industri. Dalam teori jaringan-aktor, hal ini akan seperti memasukkan aktor/pelaku ke dalam jaringan hubungan yang membantu menciptakan perlawanan atau membuat anti-anti program untuk mengurangi dampak dan efek teknologi ini terhadap lapangan kerja, hak asasi manusia, dan bahkan jejak karbon. Undang-Undang AI Eropa dan rencana Masyarakat Jepang 5.0 adalah beberapa contoh penting. Namun demikian, agar hal ini dapat berhasil, peraturan dan pedoman tidak boleh terlalu ketat karena dapat menghambat inovasi dan tidak terlalu longgar karena dapat membiarkan praktik, kebijakan, dan dampak buruk industri AI terus berlanjut.

Apa itu ChatGPT?

Mengingat hal ini, penting untuk memperjelas cara kerja ChatGPT. Pertama, ChatGPT adalah sebuah platform yang menggunakan berbagai alat dan sistem Kecerdasan Buatan untuk mencapai tujuan atau menghasilkan output. Dalam konteks ini, kecerdasan buatan secara luas mengacu pada kemampuan sistem untuk melakukan tugas tanpa pemrograman langsung-mirip dengan bagaimana Netflix mempelajari preferensi film dan acara TV seseorang. Dalam bidang teknologi ini, banyak alat yang dianggap sebagai kecerdasan buatan, termasuk yang dapat diterapkan pada robotika.

Oleh karena itu, sangat penting untuk menjelaskan sifat dan fungsi ChatGPT. Pertama dan terutama, ChatGPT beroperasi sebagai platform yang menggunakan serangkaian alat dan sistem Kecerdasan Buatan untuk mencapai tujuan atau memberikan output.

AI dan ChatGPT

ChatGPT, yang dikembangkan oleh OpenAI dengan investasi dari berbagai perusahaan termasuk Microsoft, merupakan sebuah model bahasa besar (LLM). Ia beroperasi melalui transformator generatif, GPT, yang memungkinkan platform untuk membuat teks yang hampir tidak dapat dibedakan dari komposisi manusia. Untuk menghasilkan teks, ChatGPT menggunakan dua teknik: pertama, menggunakan pra-pelatihan generatif tanpa pengawasan, yang diambil dari data yang tidak berlabel; kedua, menggunakan penyempurnaan yang diawasi secara diskriminatif untuk meningkatkan kinerjanya dalam skenario tertentu.

Teknik awalnya mirip dengan menavigasi kota yang ramai seperti Tokyo saat Anda berusaha memahami sistem transportasi umum; teknik kedua dapat dibandingkan seperti menerima panduan dari teman yang tinggal di sana setelah penjelajahan awal Anda. Intinya, ChatGPT belajar dari kumpulan data yang luas dan terus bertambah, sehingga memungkinkannya untuk menghasilkan masukan yang mungkin tidak selalu selaras dengan keinginan awal para perancang atau insinyurnya. Selain itu, masukan dari manusia juga berperan dalam menyajikan hasil yang dihasilkan oleh sistem.

ChatGPT telah muncul sebagai sebuah alat, yang menarik perhatian publik dan media secara signifikan terhadap AI. Fleksibilitas platform ini patut diperhatikan: Peneliti Meksiko-Amerika, Saiph Savage, menggunakannya untuk mempublikasikan konten dalam bahasa Inggris; para pendidik memanfaatkannya untuk merumuskan pertanyaan terbuka yang selaras dengan tujuan pembelajaran; individu yang mengalami kesulitan berkomunikasi mendapat manfaat dari bantuannya dalam mengartikulasikan pemikiran mereka.

Kredit. Midjourney

Kemampuan meniru vs kemampuan penalaran asli

Namun, beberapa peneliti berpendapat bahwa ChatGPT dan LLM serupa mereplikasi pola yang dipelajari dari data pelatihan mereka tanpa kemampuan penalaran yang sebenarnya. Mereka diibaratkan seperti burung beo yang menirukan suara tanpa pemahaman yang sebenarnya, hanya membuat ulang teks berdasarkan data yang mereka lihat. Namun, beberapa peneliti berpendapat bahwa ChatGPT dan LLM serupa mereplikasi pola yang dipelajari dari data pelatihan mereka, tidak memiliki kemampuan penalaran yang sebenarnya seperti burung beo yang menirukan suara yang tidak benar-benar bernalar dan hanya membuat ulang teks berdasarkan jumlah data yang mereka latih.

Di satu sisi, sistem ini menyerupai koleksi yang luas yang menyuarakan kalimat-kalimat yang bermakna - sebuah cerminan dari banyak interaksi yang mereka temui. Selain itu, LLM sering kali mereproduksi bias dalam data pelatihan mereka, sehingga menghasilkan koleksi ekstensif yang menyuarakan kalimat-kalimat yang bermakna - sebuah cerminan dari banyak interaksi yang telah mereka lakukan sebelumnya. Selain itu, LLM sering kali mereplikasi bias yang melekat pada data pelatihan mereka, menimbulkan masalah seperti menghasilkan konten palsu atau halusinasi, dan kurangnya transparansi mengenai operasi mereka dan data yang digunakan untuk pelatihan.

Untuk mengatasi tantangan ini, banyak platform yang menjalani penyempurnaan yang dipandu oleh manusia dan mengintegrasikan perlindungan untuk mencegah pembuatan konten yang berbahaya. Pada dasarnya, program dirancang untuk memberikan respons yang cepat berdasarkan masukan dari manusia, sehingga menciptakan siklus aksi dan reaksi. Oleh karena itu, ChatGPT berfungsi sebagai penghubung antara aktor manusia dan non-manusia, sehingga membentuk sebuah jaringan. Namun, jaringan ini menghadapi hambatan, karena selalu ada kekuatan yang berlawanan dengan hasil yang diinginkan. Teori Jaringan Aktor menawarkan wawasan yang berharga untuk memahami dinamika ini.

Hubungan kekuasaan dan perlawanan

Sekilas, Teori Jaringan Aktor mungkin tampak menakutkan. Namun, meskipun Bruno Latour (salah satu penulisnya yang paling terkemuka) telah merumuskan banyak konsep yang tersebar dan terus berkembang, teori ini dapat disederhanakan menjadi prinsip-prinsip intinya mengenai hubungan antara perlawanan dan AI. Teori Jaringan Aktor mencakup beberapa konsep, namun elemen intinya tidak lagi hanya menjelaskan masyarakat berdasarkan faktor sosial.

Sebaliknya, teori ini menyoroti hubungan antara manusia dengan objek, objek dengan objek lain, dan objek dengan manusia dalam sebuah jaringan hubungan. Teori Jaringan Aktor mencakup beberapa konsep, tetapi elemen intinya bergerak menjauh dari faktor sosial semata. Sebaliknya, teori ini menekankan pada hubungan yang rumit antara manusia dan objek, antara objek dengan objek lain, dan antara objek dengan manusia dalam suatu jaringan hubungan.

Dua konsep penting dalam Teori Jaringan Aktor adalah "aktor/pelaku" dan "objek semu". Istilah "aktor/pelaku" menunjukkan bahwa dunia ini penuh dengan aktor manusia dan non-manusia, yang semuanya tidak terpisahkan dari sebuah jaringan. Hal ini mendefinisikan ulang gagasan tentang masyarakat, menggambarkannya bukan sebagai konstruksi sosial tetapi sebagai asosiasi yang kompleks. Istilah kedua, "objek semu," mengacu pada sesuatu yang memicu tindakan pada pelaku lain - mirip dengan kode yang menginterpretasikan perintah di ChatGPT, sehingga memfasilitasi pembuatan konten. Terakhir, ada gagasan tentang program atau tujuan yang diinginkan dari jaringan-seperti menghasilkan teks yang koheren dan mirip manusia tanpa menyinggung perasaan, bias, dan informasi yang salah. Semua koneksi dan interaksi ini digambarkan secara visual dalam bagan yang mewakili jaringan.

Kredit: Penulis

ChatGPT sebagai sebuah jaringan: Memahami interaksi dan dampak potensial

Dengan mengingat hal ini, ChatGPT beroperasi sebagai sebuah jaringan di dalam jaringan yang lebih besar. Dalam konteks ini, banyak interaksi yang terjadi antara pelaku manusia dan pelaku non-manusia. Hal ini mencakup para perancang yang bertanggung jawab untuk menciptakan platform, aktor manusia yang terlibat dalam mengkurasi dataset pelatihan, data yang memelihara transformator, memfasilitasi pemahaman data dan pembuatan input, dan individu yang terlibat dalam menyempurnakan model.

Selain itu, bagian integral dari jaringan ini mencakup individu-individu yang membuat permintaan dan mendorong ChatGPT untuk menghasilkan output, di antara kontributor lainnya. Selain itu, jaringan ini terdiri dari berbagai kelompok koneksi yang saling berhubungan, sehingga menciptakan subset jaringan dalam sistem ChatGPT, seperti yang dicontohkan oleh infrastruktur internet sebagai salah satu subset.

Mempertimbangkan perspektif ini, ChatGPT dan AI mungkin terlihat sangat mengesankan. Namun, teori jaringan aktor menggarisbawahi perlawanan terhadap output yang dihasilkan, dan metode untuk memanipulasi atau mengubah sistem selalu memungkinkan. Tindakan semacam itu dapat menguntungkan ketika individu memodifikasi sistem untuk mencegah eksploitasi atau bias atau merugikan ketika para aktor memanipulasi sistem untuk menghindari upaya perlindungan, yang mengarah pada pembuatan konten bermasalah-seperti berita palsu yang bias-yang dapat menargetkan populasi yang rentan.

Hal ini dikarenakan, tidak peduli seberapa stabilnya koneksi di ChatGPT, koneksi tersebut masih dapat diubah oleh manusia atau dengan menambahkan elemen baru, yang dapat memberikan hasil positif dan negatif. Hal ini karena, tidak peduli seberapa stabilnya koneksi di ChatGPT, mereka masih dapat diubah oleh aktor manusia atau dengan memperkenalkan aktor atau objek baru, sehingga menghasilkan hasil yang positif atau negatif.

🔬🧫🧪🔍🤓👩‍🔬🦠🔭📚

Referensi Jurnal

Gutiérrez, J. L. M. (2023). On actor-network theory and algorithms: ChatGPT and the new power relationships in the age of AI. AI dan Etika, 1-14. https://doi.org/10.1109/tse.2018.2810892

Jorge Luis Morton memperoleh gelar Sarjana Sosiologi dari Universitas Otonom Metropolitan pada tahun 2016 dan gelar Magister Ilmu Sosial dan Humaniora dari institusi yang sama, dengan tesis yang berfokus pada "Uber, Gig Economy, and Mexico City." Saat ini, ia merupakan kandidat doktor di Universitas Otonom Metropolitan (2020-2024), di mana Ia sedang melakukan penelitian untuk tesis berjudul "Kecerdasan Buatan: Kasus Uber, Google, dan Sistem Keamanan di Meksiko dan Jepang." Morton memiliki rekam jejak dalam menerbitkan makalah akademis dalam bahasa Inggris dan Spanyol, yang mencakup topik-topik seperti Teori Jaringan Aktor, implikasi sosial dari kecerdasan buatan, dan narasi baru dalam video game.