Danisya
Sejak kebelakangan ni, makin ramai orang yang teruja mengikuti trend menyunting gambar dengan menggunakan aplikasi AI. Dulu mungkin trendnya bermula dengan mengubah wajah menjadi gambar lukisan kartun, tapi kini sampai ke tahap ‘bergambar’ dengan seseorang. Ada yang hasilkan gambar bersama artis yang diminati, idola K-pop, malah ada juga yang kelihatan seperti sedang berpelukan sampai nampak betul-betul real.
Mungkin kita rasa benda ni untuk suka-suka je dan tak bahaya pun, tapi setiap kali kita hasilkan gambar AI dengan wajah sendiri, secara tak langsung kita sedang menormalisasi budaya menggunakan wajah orang lain tanpa izin. Hari ni mungkin dengan selebriti, esok mungkin dengan sesiapa sahaja, termasuklah orang biasa yang langsung tidak mengenali si pembuat gambar.
Dari luar, mungkin nampak ‘seronok’ dan gurauan di media sosial. Tapi bayangkan apabila gambar kita tiba-tiba digabungkan dengan individu lain tanpa kebenaran, seolah-olah menggambarkan sesuatu yang tidak pernah berlaku.
Lama-kelamaan, trend yang kononnya ‘seronok’ ini boleh jadi titik permulaan kepada fitnah dan salah faham terutamanya bila orang lain percaya pada apa yang mereka nampak. Kepercayaan masyarakat terhadap gambar atau video yang dilihat di internet juga semakin goyah.
Dari sinilah bermulanya sisi gelap AI apabila kreativiti yang sepatutnya menghiburkan berubah menjadi satu alat manipulasi yang mampu mencipta realiti palsu.
Wajah kita adalah data biometrik
Ramai yang tak sedar bahawa wajah manusia merupakan satu bentuk data biometrik yang sangat berharga, sama seperti cap jari atau suara sebab ciri-ciri tersebut hanya dimiliki oleh individu tersebut. Lain individu akan mempunyai lain ciri-ciri data biometriknya.
Jadi apabila wajah kita dimuat naik ke aplikasi AI, kita sebenarnya sedang menyerahkan data peribadi kepada sistem yang tidak kita kenali. Sekiranya data ini jatuh ke tangan pihak lain, pelbagai bentuk penyalahgunaan boleh berlaku.
Antara kes yang sering disebut adalah voice phishing atau pemalsuan suara, di mana penjenayah menggunakan rakaman suara mangsa untuk menipu ahli keluarga untuk memindahkan wang, seolah-seolah panggilan tersebut datang daripada orang sebenar.
Jadi, cuba bayangkan kalau ada penggunaan wajah dan suara kita tersebar meluas tanpa pengetahuan kita, ini bermakna reputasi, kepercayaan dan keselamatan kita boleh hancur dalam sekelip mata.
Artikel Berkaitan: TikTok Shop dan KPDN Perkenalkan Tip #ShopSafe untuk Mencegah Scam Dalam Talian – Lobak Merah
Teknologi deepfake
Bagi yang belum tahu, teknologi deepfake ni membolehkan wajah dan suara seseorang ditiru dan dihasilkan semula dengan tahap ketepatan yang mengejutkan iaitu hanya daripada beberapa gambar atau rakaman audio, sistem AI mampu menghasilkan video yang kelihatan dan kedengaran seperti asli.
Hasil daripada teknologi tersebut boleh memalsukan ucapan, mencipta adegan yang tidak pernah berlaku, bahkan menempatkan seseorang di lokasi atau situasi yang palsu.
Apabila kandungan sebegini tersebar, ia bukan saja mengaburi persepsi awam tetapi juga merumitkan proses pemeriksaan fakta.
Mendatangkan fitnah atau kontroversi
Gambar dan video yang dihasilkan secara tidak telus ini secara tidak langsungnya mudah menjadi alat fitnah. Apa yang dimulakan sebagai kandungan ‘kelakar’ atau kononnya ‘seni’ boleh berubah menjadi bukti visual yang menuduh, memalukan atau mencemar nama seseorang.
Persepsi orang ramai mudah terbentuk hanya dengan imej yang nampak meyakinkan dan mangsa fitnah mungkin mendapati diri mereka dipersoal integriti, maruah atau kelakuan, meskipun perkara itu tak pernah berlaku.
Menurut media, pelakon Nadhir Nasar adalah salah seorang yang menjadi mangsa kepada trend ini sehinggakan beliau tampil memberikan penjelasan bahawa dia kurang selesa dengan penghasilan gambar AI beliau yang palsu.
“Trend ni lawak dan menakutkan pada masa yang sama,” tulisnya melalui perkongsian media sosial Instagram.
Meskipun beliau merupakan seorang selebriti yang dikenali ramai, ini tidak bermakna dirinya boleh dijadikan bahan visual ciptaan palsu AI sewenang-wenangnya. Apatah lagi bagi individu biasa yang tidak terbiasa dengan perhatian umum, trend seperti ini sebenarnya jauh lebih menganggu.
Ramai sudah menjadi mangsa tanpa mereka sedari bahawa gambar mereka telah digabungkan dengan wajah orang lain semata-mata untuk ‘suka-suka’ mengikuti trend. Mungkin nampak ‘lawak’ apabila melibatkan selebriti, tetapi ianya tidak lagi ‘lawak’ apabila ia dilakukan terhadap orang awam.
Lama-kelamaan, ia bukan lagi menjadi sekadar trend di media sosial, tetapi boleh berubah menjadi bentuk fitnah yang merosakkan reputasi dan kepercayaan terhadap realiti digital itu sendiri. Kesannya juga boleh menjejaskan hubungan sosial dan peluang hidup. Proses untuk membersihkan nama juga memerlukan masa, sumber dan kepakaran undang-undang.
Malangnya, tidak semua orang mampu menanggung kos untuk mengambil tindakan undang-undang seperti menyaman pihak terlibat.
Pencurian identiti
Apa yang lebih membimbangkan lagi adalah sekiranya gambar wajah yang sering digunakan untuk melatih model AI oleh pihak ketiga, ia membuka ruang kepada pencurian identiti.
Penjenayah boleh menggabungkan imej wajah yang dicuri dengan maklumat peribadi lain untuk mencipta dokumen palsu, memohon pinjaman atau menipu sistem pengesahan yang bergantung pada pengenalan wajah.
Kadang kala kita pun boleh tak tahu kalau seseorang sedang menyamar menjadi seseorang yang kita kenal hanya disebabkan telah menggabungkan imej wajah kenalan kita. Jadi dalam sesetengah kes, bukan pemilik gambar je yang terjejas. Malah, orang lain pun boleh menerima tempiasnya.
Data biometrik kita kalau bocor, tiada ‘password’ yang boleh ditukar sebab ia adalah identiti kekal seseorang. Sekali disalahgunakan, kesan jangka panjang kepada keselamatan kewangan dan privasi peribadi boleh berlarutan seumur hidup.
Impak terhadap dunia perniagaan
Kandungan tiruan bukan saja menjejaskan individu, ia juga boleh melumpuhkan organisasi. Bayangkan kalau ada satu video deepfake yang memaparkan pengumuman palsu daripada pihak pengurusan yang menunjukkan kecemasan di premis perniagaan tersebut. Dalam beberapa minit saja, ia boleh mencetuskan panik, menggugat keyakinan pelabur dan boleh mengakibatkan kerugian berjuta-juta ringgit.
Kesannya juga tidak terhad pada satu syarikat je, panik yang tercetus boleh merebak dan menjejaskan sektor lain serta memberi kesan kepada ribuan orang awam.
Selain hilangan nilai pasaran, reputasi korporat yang tercalar juga akan memerlukan strategi pemulihan yang sulit iaitu melibatkan komunikasi krisis hinggalah tindakan undang-undang yang kosnya bukan sahaja melibatkan dari segi wang, tetapi juga proses mendapatkan semula kepercayaan pelanggan serta rakan kongsi.
Dalam dunia digital yang semakin canggih ini, batas antara realiti dan rekaan makin sukar untuk dibezakan. Memang tidak dinafikan bahawa ia dianggap sekadar hiburan pada awalnya, namun ia juga berpotensi untuk menjadi ancaman sebenar kepada privasi, keselamatan dan kepercayaan manusia terhadap maklutmat dalam talian.
Kecanggihan teknologi AI sememangnya membuka ruang kepada kreativiti, tetapi tanpa kawalan dan kesedaran, ia juga membuka pintu kepada penyalahgunaan yang boleh merosakkan kehidupan seseorang sama ada dari segi reputasi, kewangan mahupun emosi.
Sumber: Bernard Marr, Sirap Limau, Beautiful Nara