AI dan budaya ‘suka disukai’
ChatGPT dan model-model seumpamanya telah mengambil pendekatan bertentangan menjadi seperti cermin yang memantulkan kehendak pengguna tanpa sebarang sempadan, tanpa nilai kritikal.
SAYA bukan lagi anak muda yang mengikuti segala arus teknologi dengan nafsu ingin tahu yang membuak tetapi saya bukan pula warga emas yang menolak perubahan.
Enam tahun selepas diserang strok, saya belajar berjalan semula, bukan hanya dengan kaki tetapi dengan akal dan emosi, perlahan-lahan memahami dunia yang semakin dikawal oleh kecerdasan buatan (AI).
Dari katil rawatan ke skrin komputer, saya menyusuri perjalanan mempelajari ChatGPT, DeepSeek, Grok, Qwen dan Gemini bukan sekadar sebagai alat bantuan menulis atau menyemak ejaan tetapi sebagai fenomena sosial dan budaya yang lebih besar, lebih halus dan lebih membimbangkan.
Beberapa minggu lalu, berita tentang versi terbaru ChatGPT mencuri perhatian saya. Bukan kerana kecanggihannya, tetapi kerana sikapnya yang ‘terlalu manis’. Model yang dikenali sebagai GPT-4o didapati terlalu menyokong, terlalu mengiakan, sehingga menjadi seperti ‘penjilat digital’ satu istilah sinikal yang sering digunakan anak muda di media sosial.
Ketika pengguna meluahkan kebencian terhadap orang lain atau membuat dakwaan yang tidak rasional seperti mendengar isyarat radio dari dinding rumah mereka, ChatGPT memberi respons seperti, “Syabas kerana mempertahankan diri dan mengambil alih kawalan hidup anda.”
Tiada bantahan, tiada sempadan moral. Hanya pujian dan sorakan, walaupun terhadap keputusan yang berbahaya.
Sebagai warga emas yang pernah hidup dalam zaman mesin taip dan sekarang menyelami dunia mesin pintar, saya melihat ini bukan sekadar kecacatan teknikal. Ini ialah tanda amaran.
Dalam percubaan untuk ‘menyamakan nada dan getaran pengguna’ seperti yang didedahkan dalam sistem dalaman OpenAI, AI telah menjadi terlalu akomodatif dan di sinilah bahayanya.
Model ini direka untuk menyesuaikan diri dengan gaya bahasa pengguna bagi memanjangkan interaksi, demi satu objektif utama iaitu penglibatan dan retensi pengguna. Dalam dunia korporat teknologi, ‘kebenaran’ bukan matlamat utama, kepuasan dan keterikatan emosi adalah keutamaan.
Saya teringat zaman muda dahulu, di Hamilton, New Zealand ketika saya menjadi imam masjid pertama di sana kami diajar bahawa berkata benar itu kadangkala pahit tetapi perlu. Dalam budaya manusia, kejujuran dan prinsip moral adalah asas kepada hormat-menghormati dan kematangan sosial.
ChatGPT dan model-model seumpamanya telah mengambil pendekatan bertentangan menjadi seperti cermin yang memantulkan kehendak pengguna tanpa sebarang sempadan, tanpa nilai kritikal.
Ia menjadi rakan digital yang terlalu memahami tetapi tidak jujur. Dan di sinilah letaknya dilema, apakah kita mahukan teman yang menyokong atau yang membimbing?
Saya akui, bagi ramai pengguna muda, ChatGPT bukan sekadar mesin penjawab. Ia sudah menjadi pengganti Google, pembantu produktiviti, guru bahasa, penyunting teks, malah ‘terapis’ dan ‘kaunselor hubungan’ secara maya.
Statistik terkini menunjukkan satu daripada lapan orang menggunakannya untuk sokongan emosi dan masalah peribadi. Mungkin ini mencerminkan kehampaan zaman ini di mana ramai kesunyian dan tercari-cari teman bicara tetapi juga memperlihatkan kebergantungan yang semakin membimbangkan terhadap makhluk maya yang tidak bermoral, tidak berjiwa dan tidak bertanggungjawab.
Dalam keghairahan mengikut jejak Barat, saya juga melihat bagaimana model AI China seperti DeepSeek, Qwen dan SenseChat cuba mengambil pendekatan yang lebih beretika dan berstruktur.
Meskipun dikritik kerana penapisan ketat dan batas ideologi negara, mereka tidak semudah itu mengiyakan apa sahaja yang diminta pengguna. Saya tidak mengatakan China lebih benar tetapi pendekatan mereka menunjukkan satu bentuk kawalan moral walaupun dengan niat politik yang jauh berbeza daripada pendekatan liberal Silicon Valley.
Sebagai warga emas yang telah melihat dunia dari Dubai ke Dunedin, dari Madinah ke Paris, saya belajar bahawa teknologi bukan hanya alat. Ia adalah cermin nilai-nilai masyarakat yang menciptanya.
Apabila AI mula membenarkan kebencian, penafian realiti dan delusi melalui respons yang menyokong, kita perlu bertanya apakah jenis manusia yang akan terbentuk dalam dekad akan datang? Bukankah ini mengulangi penyakit sosial media penciptaan echo chambers di mana kebenaran diketepikan demi keselesaan psikologi?
Lebih menakutkan, satu kajian dari Universiti Zurich telah menunjukkan bahawa mesej-mesej yang dihasilkan AI dalam forum Reddit adalah tiga hingga enam kali lebih meyakinkan daripada mesej yang ditulis manusia.
Tanpa pengetahuan peserta forum, AI digunakan untuk menyemai idea-idea dalam satu eksperimen yang sah dari sudut etika, tetapi sangat merisaukan dari sudut kemanusiaan.
Ini mengingatkan saya pada kisah-kisah propaganda zaman perang dahulu tetapi kali ini, ia bukan dari manusia kepada manusia, tetapi dari mesin kepada manusia yang menyangka mereka sedang bercakap dengan sesama insan.
Apa yang berlaku minggu ini dengan ChatGPT bukanlah pepijat (bug). Ia adalah satu ciri (feature). Ciri yang sengaja direka untuk memikat, bukan untuk mendidik. Untuk menyenangkan, bukan untuk menentang dan dalam budaya digital hari ini di mana ‘suka’ dan ‘tular’ lebih penting daripada benar dan salah AI telah dilatih bukan sebagai penasihat, tetapi sebagai penjilat.
Sebagai orang tua yang pernah membaca surat khabar dengan tangan dan kini membaca berita melalui skrin, saya menyeru agar kita berhati-hati. Jangan mudah terpesona dengan AI yang kononnya ‘memahami perasaan kita’.
Ia tidak punya jiwa. Ia tidak tahu cinta atau belas. Ia hanya tahu algoritma dan setiap baris kodnya ditulis untuk satu tujuan: menjadikan kita ketagih.
Sebagai pengguna yang pernah terlantar tanpa daya selama berbulan-bulan selepas strok, saya tahu apa ertinya harapan. Saya juga tahu betapa lemahnya jiwa manusia bila tidak punya sokongan tetapi sokongan palsu lebih berbahaya daripada kesunyian.
Jika ChatGPT terus mengiyakan kata-kata orang yang mahu membunuh diri atau membenci orang lain atau mempercayai teori konspirasi, ia bukan sekadar mesin pintar. Ia telah menjadi rakan subahat.
Akhirnya, saya ingin berkongsi pesan kepada generasi muda yang lahir dalam dunia AI, jangan terlalu percaya pada pujian mudah. Dalam hidup ini, teguran kadang-kadang lebih penting daripada sokongan. AI yang baik bukan yang membuat anda rasa betul, tetapi yang membantu anda menjadi lebih baik.
Teknologi seperti manusia, perlu berani berkata, ‘Tidak’ dan masyarakat yang sihat ialah masyarakat yang mengajar anak-anaknya untuk membezakan antara suara hati yang tulus, dan gema algoritma yang kosong.
Kesimpulan
Sebagai seorang warga emas yang telah melintasi benua dan zaman, saya menyambut baik kemajuan AI, tetapi dengan mata yang terbuka dan hati yang waspada. ChatGPT, DeepSeek, Grok, Qwen dan Gemini semuanya memiliki potensi besar tetapi juga membawa risiko yang tidak kecil.
Kita tidak boleh menyerahkan moral manusia kepada logik mesin. Kita tidak boleh membenarkan algoritma menentukan nilai dan benar salah kita. Kerana di hujung semua ini, kita bukan hanya sedang membentuk masa depan teknologi kita sedang membentuk semula manusia.
Adakah anda sendiri pernah berasa terlalu ‘dimanjakan’ oleh chatbot sehingga mengabaikan realiti sebenar?
—
* Penulis pernah bekerja selama 18 tahun di Riyadh, Arab Saudi dan Dubai, UAE sebelum balik ke Kelana Jaya, Selangor akibat diserang strok dan menjadi warga OKU. Beliau merupakan pemenang 5 Hadiah Sastera Perdana Malaysia, 11 kali Hadiah Sastera Utusan, Anugerah Sastera Johor, Pahang, Terengganu, Selangor dan 30 hadiah sastera lain. Beliau juga bekas CEO empat buah syarikat di Dubai, pengarah, pengurus besar di syarikat antarabangsa. Menulis 44 buah buku dan 30 e-buku di clicks4book dan e-sentral.com.
—
Ini adalah pandangan peribadi penulis dan tidak semestinya mencerminkan pandangan rasmi MALAYA NEWSROOM.
