Malaysia Blok X’s Grok AI atas Kebimbangan Kandungan Berbahaya

Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) telah menetapkan sekatan sementara terhadap chatbot AI Grok milik X selepas pihak berkuasa menandakan alat ini berpotensi menghasilkan kandungan berbahaya atau menyesatkan. Keputusan ini diumumkan pada 11 Januari, seiring dengan beberapa aduan yang menyatakan AI ini boleh mencipta bahan bersifat ekstremis, desinformasi atau fitnah. MCMC menegaskan sekatan ini "pencegahan dan seimbang", memberi X masa untuk memperbaiki kekurangan sebelum perkhidmatan dapat dikembalikan kepada orang ramai. Pihak berkuasa juga menegaskan bahawa output AI yang tidak dikawal boleh merosakkan kepercayaan awam dan menimbulkan risiko kepada kumpulan rentan, memaksa pembangun melaksanakan langkah keselamatan lebih ketat.

Grok, dilancarkan oleh X pada awal 2024, dipasarkan sebagai pembantu perbualan yang dapat menjawab pertanyaan, merangka teks dan menghasilkan kod. Pelancaran cepatnya menarik perhatian global, namun juga mencetus perbincangan mengenai kekurangan mekanisme moderasi yang telus. Di Malaysia, kejadian sebelumnya berkaitan maklumat salah AI telah mendorong pihak berkuasa memperketat kawalan terhadap teknologi sedemikian.

Penangguhan ini menyampaikan isyarat jelas bahawa pihak berkuasa akan bertindak pantas bila alat AI mengancam keselamatan awam atau menyebarkan kebohongan. Ia mungkin mendorong X dan pembangun lain melaburkan penapis kandungan lebih mantap, mempengaruhi cara perkhidmatan AI dilaksana di seluruh Asia Tenggara. Walaupun pengguna terpaksa menunggu, langkah ini bertujuan melindungi masyarakat daripada kesan tidak sengaja.