Kecerdasan buatan (AI) perlu dikawal selia?

KETIKA Menteri Luar Negeri, Datuk Seri Mohamad Hasan atau lebih dikenali dengan nama Tok Mat berucap di hadapan 81st United Nations General Assembly (81st UNGA) pada September 2026i, beliau mengemukakan satu persoalan yang mungkin menjadi antara isu penentu bagi generasi akan datang: “Siapakah yang mengawal selia (regulate) kecerdasan buatan (AI)?”
Dalam ucapan beliau, jawapannya jelas. AI perlu dikawal selia.

Tok Mat menegaskan: “Jika AI tidak dikawal selia, ia akan menjadi satu lagi kuasa yang berupaya mendatangkan kemudaratan”, khususnya dalam konteks peperangan.

Saya bersetuju seratus peratus! Namun begitu, bersetuju bahawa AI perlu dikawal selia adalah keputusan yang mudah. Persoalan yang sukar ialah: “Apakah yang patut kita kawal selia? Siapa yang patut mengawal selianya? Dan sejauh mana pantasnya peraturan dapat mengimbangi teknologi yang berubah dengan kadar yang amat pantas?”

Persoalan-persoalan inilah yang perlu diperdebatkan.

AI merupakan teknologi terkini yang berpotensi besar memacu ekonomi dan jika dilihat melalui sejarah ketamadunan manusia, kita tidak pernah cekap dalam mengawal selia teknologi baharu sebelum benar-benar memahami kesannya.

Sebagai contoh, teknologi kenderaan bermotor telah mengubah landskap pengangkutan jauh sebelum kerajaan membangunkan sistem keselamatan jalan raya yang menyeluruh. Industri penerbangan berkembang pesat sebelum peraturan penerbangan antarabangsa menjadi mantap. Internet mengubah cara komunikasi sebelum masyarakat menemui jalan penyelesaian bagi isu privasi, jenayah siber, dan identiti digital.

Kini giliran AI pula. Satu teknologi yang kitaran pembangunannya adalah jauh lebih pantas daripada teknologi-teknologi sebelumnya.

Sesuatu undang-undang mungkin mengambil masa bertahun-tahun untuk digubal, didebatkan, dipinda, dan dilaksanakan tetapi, model AI boleh dibangunkan, dilancarkan, dan ditambah baik secara ketara dalam tempoh beberapa bulan sahaja.
Keadaan ini mewujudkan satu masalah asas bagi penggubal dasar: “Bagaimanakah kita mengawal selia sesuatu yang keupayaannya mungkin berubah lebih pantas daripada undang-undang yang mengawalnya?”

Risikonya ialah kerajaan mungkin lambat bertindak balas terhadap teknologi AI. Menjelang masa peraturan dikuatkuasakan, teknologi itu mungkin telah berevolusi ke sesuatu yang baru.

Biarkan AI Tanpa Sebarang Kawal Selia Undang-undang

Terdapat sesetangah pihak yang berhujah agar kerajaan harus mengelakkan campur tangan dalam pembangunan dan evolusi AI. Biarkan AI berkembang tanpa kawalan.

Oleh kerana AI mampu meningkatkan produktiviti, memajukan penyelidikan perubatan, membantu penemuan saintifik, menyokong perniagaan, dan mengautomasikan tugas-tugas yang remeh atau membebankan. Undang-undang, kawalan, dan peraturan yang berlebihan boleh meningkatkan kos, membantutkan kemajuan serta pembangunan AI.

Hujah ini adalah salah. Ini kerana apabila kerajaan tidak menetapkan undang-undang terhadap AI, pihak lain pula yang akan menetapkannya. Dalam erti kata lain, ketiadaan peraturan awam tidak semestinya mewujudkan kebebasan. Ia mungkin hanya memindahkan kuasa kawal selia tersebut daripada kerajaan kepada syarikat swasta.

Syarikat swasta tersebut adalah syarikat teknologi yang membangunkan platform-platform AI. Di mana syarikat-syarikat ini akan membuat keputusan mengenai platform AI mereka, seperti kandungan (content) dalam sistem mereka, tahap perlindungan dan keselamatan sistem, data yang dikumpul, dan bagaimana algoritma AI mereka beroperasi.

Inilah sebabnya mengapa persoalan yang dikemukakan oleh Tok Mat itu penting. Isu sebenarnya bukanlah sama ada AI perlu tertakluk kepada peraturan kawal selia atau tidak. Isu utamanya ialah siapa yang berhak menggubal peraturan tersebut?

Kawal Selia AI Memerlukan Disiplin Intelektual

Kita perlu faham bahawa tidak semua penggunaan AI adalah berbahaya. Setiap penggunaan AI membawa tahap risiko yang berbeza.

Sebagai contoh, sistem AI yang membantu seseorang menulis ucapan, tidak sama dengan algoritma AI yang membuat diagnosis perubatan. Dan sistem AI yang menjana teks iklan tidak sama dengan sistem ketenteraan autonomi yang berupaya memilih serta menyerang sasaran.

Oleh sebab itu, undang-undang kawal selia AI haruslah berasaskan risiko. Dan di sinilah kawal selia AI memerlukan disiplin intelektual.

European Union (EU) telah mengguna pakai pendekatan menyeluruh ini melalui AI Act (Akta AI) mereka, yang mengkategorikan aplikasi AI mengikut tahap risiko dan mengenakan kewajipan yang semakin ketat terhadap sistem yang berisiko lebih tinggi. Prinsipnya mudah, semakin besar potensi kemudaratan, semakin besar tanggungjawab kawal selia yang diperlukan. Maka, Malaysia wajar mempertimbangkan pendekatan yang serupa dalam mengawal selia penggunaan teknologi AI dalam negara kita.

Bolehkah Malaysia mengawal selia AI dengan sendirinya?

AI tidak terikat dengan sempadan negara. Sebuah syarikat Malaysia boleh menggunakan model AI yang dibangunkan di Amerika Syarikat, dihoskan pada infrastruktur Singapura, dilatih sebahagiannya menggunakan data dari Eropah, dan ditawarkan kepada pengguna di Malaysia.

Oleh itu, peraturan negara manakah yang terpakai untuk sistem AI ini? Inilah sebabnya United Nations (UN) telah mula membangunkan mekanisme antarabangsa bagi tadbir urus AI. The Global Digital Compact menyeru kepada kerjasama antarabangsa, tadbir urus AI berasaskan risiko, ketelusan, akauntabiliti, dan juga pengawasan oleh manusia masih diguna pakai. UN juga telah menubuhkan Independent International Scientific Panel on AI dan Global Dialogue on AI Governance bagi mengawal selia AI.

Namun, kerjasama antarabangsa mempunyai kelemahannya yang tersendiri. Ini kerana setiap negara mempunyai kepentingan yang berbeza.

Syarikat teknologi beroperasi pada peringkat global. Peraturan pula kebanyakannya masih bersifat nasional. Dan negara yang mempunyai keupayaan teknologi paling tinggi mungkin juga mempunyai pengaruh paling besar terhadap peraturan yang ditetapkan.

Justeru itu, undang-undang terhadap AI tidak boleh sekadar menjadi satu lagi usaha di mana negara-negara Barat yang berkuasa, mengarah negara lain tentang apa itu teknologi yang berhemah. Undang-undang AI tersebut juga perlu mempunyai legitimasi nasional. Di mana ia mengambil kira nilai budaya, norma tempatan, etika, realiti sosioekonomi, dan sistem perundangan sesebuah negara.

Paradoks Mengawal Selia AI

Maka, cabaran sebenar ialah untuk mencari titik tengah yang seimbang, di mana kita membenarkan AI berinovasi dengan bermanfaat kepada semua sambil mengenakan batasan yang bermakna terhadap risiko AI yang wujud dan berbahaya.

Hal ini memerlukan pengawal selia yang memahami teknologi. Ia memerlukan pembangun sistem AI yang memahami dasar dan polisi, menerima akauntabiliti, dan menitik beratkan kepentingan tempatan.Paling penting, kawal selia itu mestilah bersifat fleksibel dan mampu menyesuaikan diri (adaptability). Undang-undang AI yang digubal lima tahun lalu mungkin hampir tidak lagi relevan bagi teknologi yang mampu berubah secara ketara setiap enam bulan.

Justeru, mungkin kerajaan perlu berhenti menganggap kawal selia AI sebagai satu usaha perundangan yang dilakukan sekali sahaja. Ia harus dianggap sebagai sistem tadbir urus yang dinamik, sistem yang sentiasa mengemas kini dirinya selaras dengan perubahan dari segi bukti, keupayaan, dan risiko.

Jadi ada benarnya apabila Tok Mat mempersoalkan sama ada AI perlu dikawal selia. Namun, itu hanyalah permulaan. Persoalan yang harus kita ajukan sekarang adalah jauh lebih mencabar: “Bolehkah kerajaan mentadbir urus AI tanpa menjadi penghalang kepada inovasinya?”