Kamis (29/11) lalu, Insitute of International Studies, Universitas Gadjah Mada (IIS UGM) menyelenggarakan diskusi Humanitarian Talk sebagai rangkaian dari seri Campaign to Stop Killer Robots dengan tema “Coffee Talk on Killer Robots”. Kegiatan yang bertempat di Digital Library Café, Fakultas Ilmu Sosial dan Ilmu Politik, Universitas Gadjah Mada ini  mencoba mengusung konsep bincang santaiyang berfokus untuk memberikan penjelasan kepada sivitas akademika UGM dan masyarakat umum tentang definisi dari killer robots, dengan membahas kemajuan teknologi informasi, persenjataan, serta artificial intelligence (AI) yang tidak dapat dilepaskan dari perkembangan killer robots itu sendiri. IIS UGM menyelenggarakan serangkaian kegiatan ini sebagai bentuk partisipasi atas kampanye global Campaign to Stop Killer Robots untuk meningkatkan kesadaran dan pemahaman masyarakat tentang konsekuensi kemanusiaan yang disebabkan oleh Lethal Autonomous Weapon System (LAWS). Melalui kampanye ini, diharapkan muncul solidaritas bersama untuk mendorong pemerintah di level nasional agar tidak menggunakan senjata-senjata otonom yang dapat menimbulkan kerusakan dan korban jiwa di kalangan masyarakat sipil. Sesi Coffee Talk sendiri merupakan sebuah forum diskusi internal

Pada kesempatan ini, IIS UGM mengundang Dr. Muhammad Rifqi Muna, MDefstud, peneliti Lembaga Ilmu Pengetahuan Indonesia (LIPI) serta Dr. Sugeng Riyanto, dosen Ilmu Hubungan Internasional Universitas Muhammadiyah Yogyakarta (UMY), dua pembicara yang memiliki ketertarikan khusus terhadap perkembangan killer robots. Sesi diskusi ini dimoderatori oleh Yunizar Adiputera, M.A selaku penanggung jawab sekaligus ketua tim Campaign to Stop Killer Robots IIS UGM.

Sesi dibuka dengan pengantar oleh Yunizar yang memaparkan pengantar diskusi dengan menjelaskan secara singkat tentang definisi dari LAWS. Senjata otonom merupakan suatu perangkat yang berbeda dengan drone, di mana, selain memiliki tingkat pengendalian, pemilihan sasaran dan akurasi serangan yang berbeda secara fundamental, drone juga belum tentu digunakan sebagai sarana militer. Senjata otonom, di sisi lain, merupakan sistem senjata mandiri yang didesain secara khusus untuk keperluan militer. Senjata otonom diproyeksikan untuk dapat melahirkan revolusi peperangan, meminimalisir korban dari pihak milite, serta dapat menyerang sasaran tanpa tenaga manusia sehingga dapat disebut sebagai revolusi senjata ketiga setelah penemuan bubuk mesiu dan bom atom. Namun, senjata ini mendapatkan banyak penolakan dari dunia internasional karena rawan akan kesalahan sistem operasi, minimnya kapabilitas untuk memilih target, serta tingkat kerusakan yang dapat ditimbulkan.

Sugeng membuka pemaparannya dengan menekankan bahwa sistem senjata otonom merupakan sebuah keniscayaan, di mana peperangan selalu mendorong perkembangan dan evolusi persenjataan sebagai alat pertahanan. Sistem senjata otonom merupakan evolusi peperangan modern, di mana dengan menggunakan senjata berbasis AI yang minim intervensi manusia, militer berusaha untuk menghilangkan batasan fisik dan psikis manusia yang rawan faktor human error sehingga melahirkan  peperangan yang lebih efisien. Namun, Sugeng juga memaparkan bahwa seiring dengan terobosan dan kemajuan yang dibawanya, sistem senjata otonom membawa beberapa aspek negatif, seperti sulitnya menentukan subjek hukum ketika ada korban di kalangan sipil, hilangnya sifat kesatriaan sebagai salah satu elemen humaniter, serta lenyapnya norma karena penghilangan nyawa oleh senjata yang tidak dikontrol langsung oleh manusia. Oleh karena itu, Sugeng menyimpulkan bahwa kelebihan yang dimiliki sistem senjata otonom membuat penggunaan senjata ini oleh militer sulit untuk dihindari sehingga diperlukan sebuah aturan yang legally binding dan dapat mengatur penggunaan senjata tersebut.

Senada dengan Sugeng, Rifqi menyatakan bahwa teknologi militer memang mendorong perkembangan teknologi sipil, di mana perkembangan teknologi pada 15 hingga 20 tahun terakhir jauh melampaui apa yang dicapai dalam lingkup 300 tahun sebelumnya.  Perkembangan teknologi yang pesat ini tentunya merupakan sebuah kemajuan yang positif, namun juga memiliki dampak-dampak negatif yang menyertainya. Dampak negatif ini dapat dilihat dari beberapa kasus, contohnya Stanislav Petrov–yang berhasil mencegah Perang Nuklir pada tahun 26 September 1983 karena malfungsi sistem peringatan nuklir Uni Soviet), pada kasus ini, penilaian manusialah yang dapat menentukan dan mencegah korban di kalangan sipil, sementara AI tidak memiliki aspek tersebut. Penggunaan AI pada sistem senjata otonom memaksa manusia terjebak dalam skema out of the loop, di mana manusia tidak dapat campur tangan dalam pengambilan keputusan oleh AI. Hal ini menjadi problematik karena seharusnya skema yang digunakan adalah human in the loop (manusia sebagai pengambil keputusan) atau human on the loop (manusia bisa melakukan intervensi pada proses pengambilan keputusan yang otonom). Hal ini membuat martabat manusia dipertaruhkan ketika proses pengambilan keputusan yang berkaitan dengan nyawa manusia diputuskan oleh AI.

Sementara, perihal peran pemerintah Indonesia di tengah dilema killer robots, Rifqi menekankan bahwa Kementerian Luar Negeri harus berperan dalam mendorong edukasi untuk menghentikan penggunaan dan pelarangan sistem senjata otonom. Diperlukan strategi dan gerakan yang menyeluruh untuk dapat mempengaruhi penilaian dunia internasional akan senjata-senjata cerdas, dan Indonesia seharusnya dapat memanfaatkan posisi sebagai anggota tidak tetap Dewan Keamanan PBB untuk mendorong pembahasan mengenai isu killer robots.  Menambahkan, Yunizar menyatakan bahwa, pada kenyataannya, Kementerian Luar Negeri justru lambat dalam menetapkan posisi. Bahkan, Indonesia minim terlibat dalam traktat-traktat penggunaan senjata, meskipun Indonesia memiliki suara yang dapat berpengaruh dalam negosiasi traktat-traktat pelarangan senjata tersebut. Hal inilah yang harus disadari oleh pemerintah Indonesia dalam berdiplomasi dan menyuarakan pelarangan terhadap killer robots, dan mungkin akan menjadi tantangan bagi pemerintah Indonesia kedepannya.

Penulis : Raditya Bomantara

Penyunting : Thifani Tiara Ranti