Mesin diberi kuasa membunuh, siapa pula mahu memikul tanggungjawab?

Perbahasan PBB di Geneva menyorot risiko senjata autonomi berasaskan AI serta keperluan peraturan mengikat antarabangsa bagi memastikan manusia kekal bertanggungjawab.

Feature Image (3)

DUNIA sedang memasuki satu tahap peperangan yang jauh lebih membimbangkan. Teknologi kecerdasan buatan bukan lagi sekadar membantu manusia menganalisis maklumat atau mengendalikan sistem pertahanan. Ia semakin diterapkan dalam senjata yang mampu mengenal pasti sasaran dan melancarkan serangan tanpa campur tangan manusia secara langsung.

Persoalannya bukan lagi sama ada teknologi ini boleh digunakan dalam peperangan tetapi sejauh mana manusia sanggup menyerahkan keputusan hidup dan mati kepada mesin.

Pada 16 November 2026, satu mesyuarat anjuran Pertubuhan Bangsa-Bangsa Bersatu bermula di Geneva bagi membincangkan usaha memulakan rundingan tentang peraturan senjata autonomi yang mengikat dari sudut undang-undang.

Namun, Amerika Syarikat, Rusia dan Israel menentang usaha ke arah perjanjian mengikat itu. Mereka berpendapat undang-undang kemanusiaan antarabangsa sedia ada sudah memadai. Di sebaliknya, kebanyakan daripada 128 negara pihak menyokong usaha mewujudkan peraturan baharu.

Apabila Mesin Mula Menentukan Siapa Yang Mati

Bayangkan sebuah sistem senjata yang mengesan sesuatu objek sebagai sasaran, membuat keputusan berdasarkan data dan kemudian melancarkan serangan. Tiada pegawai yang perlu menarik picu pada saat terakhir. Tiada manusia yang sempat menilai semula keadaan mangsa. Keputusan yang membawa maut boleh berlaku melalui proses automatik.

Inilah persoalan besar yang sedang dihadapi dunia. Dalam peperangan biasa pun, kesilapan maklumat, salah pengenalan sasaran dan keputusan terburu-buru boleh mengorbankan orang awam. Apabila keputusan membunuh diserahkan kepada sistem autonomi, risiko itu membawa dimensi yang lebih rumit.

Reuters melaporkan bahawa sistem senjata separa autonomi yang dibantu AI sudah digunakan dalam konflik di Ukraine, Sudan dan Timur Tengah. Ini bermakna perbahasan tersebut bukan lagi cerita fiksyen sains atau ramalan tentang peperangan masa depan. Teknologi itu sudah memasuki medan konflik sebenar.

Kuasa Besar Mahu Kebebasan, Dunia Menanggung Risikonya

Perkara yang paling wajar dipersoalkan ialah sikap kuasa-kuasa besar yang menolak peraturan mengikat ketika teknologi ketenteraan semakin berbahaya. Amerika Syarikat memilih pendekatan garis panduan dan mencadangkan mandat lima tahun untuk membincangkan perjanjian yang tidak mengikat. Pengerusi mesyuarat pula mencadangkan mandat dua tahun bagi merundingkan protokol yang mempunyai kekuatan undang-undang.

Perbezaan ini bukan soal teknikal semata-mata. Ia menyentuh persoalan sama ada negara-negara yang memiliki keupayaan ketenteraan paling maju bersedia menerima batasan terhadap teknologi yang mereka bangunkan.

Memang setiap negara mempunyai kepentingan keselamatan masing-masing. Tiada negara mahu ketinggalan dalam persaingan teknologi pertahanan. Namun, keselamatan sesebuah negara tidak boleh dijadikan alasan untuk mengabaikan risiko yang bakal ditanggung manusia sejagat.

Jika setiap kuasa besar hanya mahu mengekalkan kebebasan membangunkan senjata, siapa pula yang akan memastikan penggunaannya tidak melampaui batas? Dunia tidak boleh bergantung semata-mata kepada janji bahawa setiap negara akan menggunakan teknologi tersebut secara bertanggungjawab.

Undang-Undang Lama Tidak Semestinya Menjawab Bahaya Baharu

Hujah bahawa undang-undang kemanusiaan sedia ada sudah mencukupi perlu dinilai secara serius. Undang-undang tersebut memang mempunyai prinsip penting tentang perlindungan orang awam dan batas penggunaan kekerasan. Namun, persoalannya ialah bagaimana prinsip itu diterapkan apabila sistem senjata boleh memilih dan menyerang sasaran tanpa keputusan manusia pada saat penggunaan.

Jawatankuasa Antarabangsa Palang Merah berpendapat undang-undang kemanusiaan sedia ada belum menangani secukupnya risiko khusus yang dibawa oleh senjata autonomi. Pemimpin PBB dan Palang Merah turut memberi amaran tentang bahayanya, sementara kumpulan hak asasi mendesak supaya tindakan lebih tegas diambil.

Kita tidak boleh menganggap undang-undang lama secara automatik mampu menyelesaikan setiap masalah baharu. Teknologi berubah dengan pantas, sedangkan proses perundangan antarabangsa memerlukan persetujuan banyak negara. Jika dunia hanya mahu bertindak selepas bencana berlaku, peraturan yang diwujudkan mungkin datang terlalu lewat.

Jangan Jadikan Kecekapan Mesin Sebagai Alasan Melepaskan Tanggungjawab

Penyokong pembangunan senjata autonomi mungkin melihat teknologi ini sebagai cara meningkatkan ketepatan, mempercepat tindak balas dan mengurangkan risiko kepada anggota tentera sendiri. Namun, kecekapan operasi tidak boleh dijadikan satu-satunya ukuran kemajuan.

Sesuatu sistem mungkin mampu mengesan sasaran dengan pantas, tetapi siapa yang bertanggungjawab apabila sistem itu tersalah mengenal pasti orang awam? Siapa yang perlu menjawab apabila algoritma membuat keputusan yang membawa kematian? Adakah tanggungjawab terletak pada pengatur cara, pengeluar senjata, pegawai tentera atau pemerintah yang membenarkan penggunaannya?

Inilah persoalan yang tidak boleh diselesaikan dengan sekadar mengatakan bahawa teknologi itu beroperasi mengikut arahan. Mesin tidak boleh dijadikan tempat manusia menyembunyikan tanggungjawab. Keputusan membangunkan, mengaktifkan dan menggunakan senjata tetap melibatkan manusia dan institusi yang mempunyai kuasa membuat pilihan.

Dunia Tidak Boleh Menunggu Sehingga Senjata Itu Tidak Lagi Dapat Dikawal

Persaingan ketenteraan antara negara besar mungkin sukar dihentikan. Namun, sekurang-kurangnya dunia masih mempunyai ruang untuk menetapkan batas yang jelas. Perbincangan di Geneva sepatutnya menjadi permulaan kepada usaha serius, bukannya satu lagi pertemuan diplomatik yang berakhir dengan kenyataan umum tanpa hasil yang mengikat.

Negara-negara yang mempunyai teknologi paling maju sepatutnya menunjukkan kepimpinan melalui kesediaan menerima tanggungjawab yang lebih besar, bukannya sekadar mempertahankan kebebasan strategik masing-masing. Kemajuan teknologi tidak semestinya membawa kemajuan kemanusiaan jika manusia semakin mudah menyerahkan keputusan moral kepada mesin.

Kesimpulannya, dunia tidak boleh menyerahkan masa depan nyawa manusia kepada perlumbaan senjata kuasa besar. Teknologi yang mampu mengenal pasti sasaran dan melancarkan serangan mesti dikawal dengan peraturan yang tegas, bukannya diberi kebebasan atas nama kemajuan ketenteraan.

Kepentingan strategik sesebuah negara tidak boleh dijadikan lesen untuk mempertaruhkan keselamatan manusia sejagat. Jika kuasa besar hanya memikirkan kelebihan ketenteraan masing-masing, siapa pula yang akan mempertahankan mereka yang menjadi mangsa apabila teknologi itu tersilap membuat keputusan?

Persoalan sebenarnya bukan sejauh mana mesin mampu membunuh dengan pantas dan tepat, tetapi sejauh mana manusia sanggup bertanggungjawab terhadap keputusan yang diserahkan kepada mesin. Jangan sampai manusia mencipta senjata yang mampu membunuh tanpa arahan langsung, kemudian berlindung di sebalik kecanggihan teknologi apabila nyawa orang awam melayang.

Mesin mungkin mengenal pasti sasaran dan menarik picu, tetapi manusia yang mencipta, membangunkan, mengaktifkan dan membenarkan senjata itu digunakan. Tidak ada algoritma yang boleh dijadikan tempat bersembunyi daripada tanggungjawab. Jika manusia sudah cukup bijak mencipta mesin pembunuh, manusia juga mesti cukup berani menetapkan batas penggunaannya dan memikul akibat setiap keputusan yang dibuat.