Oleh: Aliyaa Azmi
PENYALAHGUNAAN teknologi kecerdasan buatan (AI), khususnya aplikasi penyuntingan imej seperti Grok, semakin membimbangkan apabila beberapa gambar artis tempatan didakwa dimanipulasi sehingga menghasilkan visual tidak bermoral.
Menerusi satu perkongsian di platform Thread oleh pengguna @ambrosebae_, gambar asal pelakon Meerqeen dan Hun Haqeem yang hanya berupa swafoto biasa telah diedit oleh individu tidak bertanggungjawab sehingga kelihatan seolah-olah mereka sedang bercumbu.
Perkongsian itu turut memaparkan betapa hasil suntingan AI kini kelihatan semakin realistik, sekali gus meningkatkan risiko fitnah, penyebaran kandungan palsu serta pencemaran imej individu.
“Korang nak selamat, kurangkanlah muat naik gambar di mana-mana aplikasi. Editan Grok ini bahaya kerana hasilnya nampak sangat real,” tulisnya.
Selain itu, terdapat juga dakwaan gambar pelakon Syafiq Kyle disunting sehingga kelihatan tidak berpakaian dan melakukan aksi tidak senonoh, walaupun imej asal tidak sedemikian.
Isu ini dikaitkan dengan salah guna teknologi AI oleh segelintir pihak yang terlalu taksub terhadap kandungan tidak bermoral atau obsesi terhadap selebriti, sekali gus membuka ruang kepada penyebaran fitnah dan gangguan privasi.
Perkongsian tersebut turut menasihatkan orang ramai, khususnya golongan wanita dan remaja, agar lebih berhati-hati memuat naik gambar di media sosial kerana tidak semua pihak mempunyai niat yang baik.
Dalam masa sama, penulis perkongsian itu menggesa pihak berkuasa termasuk Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) supaya menilai serta mengambil tindakan terhadap teknologi atau platform yang berpotensi disalahgunakan di Malaysia.
Isu ini sekali lagi menimbulkan keperluan kawalan lebih ketat terhadap penggunaan teknologi AI serta peningkatan kesedaran masyarakat bagi melindungi maruah dan keselamatan individu.
Baca juga:
