KUALA LUMPUR, 12 Julai — Pepatah “melihat adalah percaya” mungkin tidak lagi relevan dalam era kecerdasan buatan (AI) dan alatannya.
Teknologi itu kini membolehkan sesiapa sahaja menjana imej ultra-realistik atau gigitan bunyi dalam kandungan palsu dalam yang boleh dipercayai yang mula menghakis kepercayaan dalam talian.
Dan bahagian yang menakutkan ialah sesiapa sahaja boleh melakukannya dengan alat AI automatik.
Tidak seperti era Photoshop di mana tahap kepakaran teknikal tertentu diperlukan untuk menghasilkan imej palsu, AI kini telah memudahkan sesiapa sahaja untuk menyalahgunakan teknologi dalam usaha jahat mereka menghasilkan kandungan palsu.
Contohnya, chatbots boleh digunakan untuk mengeluarkan kepalsuan, manakala apl menukar muka boleh meletakkan wajah individu pada video lucah.
Alat pengklonan suara juga telah digunakan berulang kali untuk menipu berjuta-juta individu atau syarikat melalui pelbagai strategi penipuan.
Tetapi marilah kita memahami apa itu deepfakes dalam era digitalisasi hari ini.
Ringkasnya, deepfakes cuba mensimulasikan kandungan menggunakan keserupaan individu sebagai sumber pembelajaran AI.
Frasa di sini ialah “pembelajaran”.
Alat ini direka bentuk untuk belajar dan menambah baik dari semasa ke semasa, dan oleh itu, kami hanya boleh menjangkakan kandungan palsu tersebut menjadi lebih realistik dari semasa ke semasa.
Deepfakes dicipta melalui sumber media yang kukuh yang dikumpulkan daripada internet, media sosial dan pertukaran data pihak ketiga.
Sebagai contoh, alat AI boleh menggunakan gigitan bunyi daripada suara anda atau rakaman anda untuk menjana kandungan yang menyerupai anda.
Walaupun penggunaan alat sedemikian semakin berleluasa dalam kalangan penjenayah siber yang sering mengendalikan sindiket penipuan, ramai pakar telah memberi amaran tentang akibat serius AI terhadap isu lain seperti pilihan raya.
Di AS, banyak perdebatan sedang berlangsung tentang kesan AI pada pilihan raya presiden 2024 yang akan datang.
Ketika Malaysia bersiap sedia untuk mengadakan enam pilihan raya negeri pada 12 Ogos, Malay Mail menghubungi AI dan pakar undang-undang untuk lebih memahami kemungkinan bahaya teknologi jika ia dibiarkan tanpa dikawal.
Teknologi yang hebat tetapi sangat berbahaya
Menurut pakar keselamatan siber dan peguam Derek Fernandez, AI dan alatannya menguatkan keupayaan manusia ke tahap yang lebih tinggi yang boleh menjadi berbahaya.
“Ia adalah alat yang berkuasa untuk menguatkan keupayaan untuk menulis skrip dan menganalisis kelemahan dalam aplikasi.”
Fernandez berkata walaupun alat sedemikian boleh melakukan banyak kebaikan, ia boleh menjadi ancaman jika mereka jatuh ke tangan yang salah.
“Ia seperti pisau; ia boleh digunakan untuk menikam orang atau melakukan pembedahan dan menyelamatkan nyawa.
“Teknologi ini berkembang dengan pantas sehingga undang-undang dan tindakan balas tidak dapat mengejarnya.”
Melihat sejauh mana keupayaan AI, Fernandez berkata alat itu berpotensi digunakan untuk memanipulasi hasil pilihan raya melalui kandungan palsu.
“Jika kandungan sebegitu diedarkan dalam talian, ia mungkin direka bentuk untuk mengatur naratif untuk mengubah landskap politik pilihan raya yang bebas dan adil.
“Ya, ia mungkin belum berlaku hari ini kerana teknologi ini agak baharu, tetapi yakinlah ia akan tiba.”
Oleh itu, Fernandez berkata terdapat keperluan mendesak untuk peraturan berkaitan diwujudkan bagi menangani cabaran sedemikian.
Menurutnya, pendigitalan telah memberanikan diri penjenayah.
“Penjenayah hari ini mempunyai sumber yang luas untuk meneruskan kesalahan mereka.”
Walaupun begitu, Fernandez berkata terdapat kekurangan sumber keselamatan siber yang diperlukan untuk memastikan jenayah seperti itu tidak berlaku.
Beliau berkata apa sahaja yang boleh didigitalkan boleh direplikasi dan diubah suai, oleh itu, terdapat keperluan untuk peraturan dan alat yang kukuh untuk dapat mengesan sebarang aktiviti jenayah dan dapat menjejaki pesalah.
“Jika saya boleh mengubah apa-apa menjadi sedikit data, saya boleh menghasilkan semula dan menirunya.”
Bagaimanakah ia boleh menjejaskan pilihan raya?
Rakan penyelidik kanan di Institut Penyelidikan Khazanah Jun-E Tan berkata penggunaan AI untuk berkempen boleh menjadi rumit kerana ia mungkin digunakan untuk menjana palsu mendalam menyentuh topik sensitif.
“Dari sudut penjanaan kandungan, kos menjalankan kempen penipuan dan fitnah dikurangkan dengan ketara. [by using AI].
“Kedua, algoritma pengesyor platform media sosial cenderung untuk menyusun dan menguatkan kandungan sensasi yang menjana penglibatan pengguna yang paling banyak, yang boleh dibuat strategi oleh juru kempen.”
Tan berkata pengguna juga boleh menyasarkan mikro kumpulan pengundi yang berbeza dengan jenis pemesejan tertentu yang mereka dapati paling mudah terdedah kepada kandungan tersebut.
Beliau berkata walaupun Malaysia adalah masyarakat berbilang budaya dengan sensitiviti sedia ada, ucapan kebencian kekal menjadi kebimbangan utama apabila ia melibatkan pilihan raya.
Memetik laporan baru-baru ini dari Pusat Kewartawanan Bebas mengenai pilihan raya umum ke-15, beliau berkata penemuan menunjukkan bahawa perbincangan mengenai kaum dan agama dicampur dengan maklumat yang salah dan digunakan untuk menyebarkan ketakutan dan ketidakpercayaan antara masyarakat.
“Dengan penambahan teknologi deepfake ke dalam gambar, mungkin terdapat bahaya ketegangan yang meningkat apabila kesedaran dan pemahaman tentang keupayaan teknologi tersebut kekal rendah dalam populasi yang lebih luas.”
Penganalisis kanan Institut Strategik dan Kajian Antarabangsa Malaysia Farlina Said memberitahu Malay Mail bahawa kandungan palsu mungkin mempunyai implikasi masyarakat, terutamanya dalam persekitaran yang mempunyai perpecahan politik.
“Kepercayaan adalah faktor paling sukar dalam persekitaran pengklonan suara dan pengubahsuaian visual.
“Seseorang di bahagian penerima kandungan akan atau harus mempersoalkan sama ada kandungan itu benar atau tidak.”
Farlina berkata tindak balas pengguna kandungan deepfake bergantung kepada cara mereka berinteraksi dengan kandungan.
“Oleh itu, membongkar potensi impak kandungan diubah suai itu memerlukan pemeriksaan faktor daya tahan digital Malaysia seperti celik digital, perpaduan sosial dalam talian dan luar talian serta sebarang faktor psiko-sosial.”
Awal tahun ini, gambar tangkapan palsu bekas presiden AS, Donal Trump mengejutkan media sosial sebelum dia berdepan dakwaan berhubung pembayaran wang sunyi kepada seorang wanita yang didakwa mempunyai hubungan sulit dengannya.
Perbincangan menarik dalam kelas Literasi Berita saya pada hari Selasa mengenai imej palsu yang digunakan untuk menipu orang. Masa kemungkinan dakwaan jenayah terhadap bekas Presiden Donald Trump termasuk imej yang dijana AI di bawah yang tersebar di media sosial yang menggambarkan penahanan Trump. pic.twitter.com/cz8SOJxXan
— Barney McCoy (@BarneyMcCoy) 22 Mac 2023
Usaha peraturan perlu dimulakan dengan pantas
Menurut Fernandez, teknologi boleh menjadi hamba yang berharga tetapi tuan yang buruk.
“Jika kita memperkasakannya untuk menjadi tuan, ia mungkin berbahaya tetapi jika kita memperkasakannya untuk menjadi hamba, kebaikan besar boleh datang daripadanya apabila digunakan dengan betul.
“Persoalannya ialah bagaimana kita mengawal selia penggunaan yang baik dengan berkesan kerana ia kekal sebagai cabaran terbesar dan paling sukar bagi kerajaan.”
Beliau berkata pendigitalan aktif telah dibenarkan dan diteruskan selama ini tanpa mengambil kira keselamatan secukupnya.
Oleh itu, beliau berkata adalah penting untuk mengawal selia AI di negara ini untuk menghalang penjenayah daripada menggunakan alat itu untuk kelebihan mereka.
“Kami memerlukan undang-undang untuk mengawal penggunaan AI dari sudut undang-undang dan etika untuk melindungi masyarakat.
“Kesatuan Eropah kini dalam proses merangka undang-undang untuk menangani penggunaan AI dan ia mungkin titik permulaan yang baik untuk kami kerana mereka telah melakukan kerja yang agak baik.”
Fernandez berkata undang-undang mesti menentukan siapa yang patut dibenarkan akses kepada AI.
“Jika kita mahu membukanya kepada setiap rakyat untuk menggunakan AI, maka kita perlu mempunyai cara untuk mengetahui siapa pengguna itu.”
Menurutnya, sistem itu perlu diubah suai bagi membolehkan pendaftaran pengguna bagi membolehkan pihak berkuasa mengesan pengguna sekiranya terdapat sebarang jenayah.
“Sama seperti Gmail, pengguna harus mendaftar dan boleh dikesan jika seseorang melakukan jenayah siber.”
Kedua, Fernandez berkata mesti ada syarat untuk mewajibkan semua kandungan AI membawa tera air yang dijana secara automatik untuk membezakannya daripada kandungan asal.
Peraturan itu perlu cukup ketat untuk menawarkan tindak balas proaktif dalam menangani jenayah siber.
“Bayangkan video TikTok palsu yang dijana oleh AI yang berniat jahat tentang seorang ahli politik telah menjadi tular semasa kempen pilihan raya, pada masa ia terbukti kandungan itu palsu, kerosakan telah pun dilakukan.”
Fernandez berkata Malaysia sudah mempunyai beberapa undang-undang sedia ada untuk menangani beberapa isu yang mungkin timbul daripada pemalsuan yang mendalam tetapi perundangan sedemikian perlu dinaik taraf.
“Kita perlu bergerak pantas untuk mempunyai dasar yang sesuai untuk teknologi baharu.
“Kita juga perlu melihat cara untuk mengesan deepfakes.
Fernandez juga berkata kerajaan mungkin menggunakan teknologi penilaian ancaman untuk menggunakan data dan mengesan kemungkinan ancaman sebagai langkah sementara untuk memerangi jenayah siber yang dilakukan oleh alatan AI.
Selain itu, beliau berkata untuk memastikan pematuhan, peraturan baharu itu harus mempertanggungjawabkan syarikat teknologi yang secara cuai atau sengaja membenarkan kandungan palsu yang dijana oleh AI melanggar undang-undang.
Rakyat Malaysia dari Selangor, Pulau Pinang, Negeri Sembilan, Kedah, Kelantan dan Terengganu akan menuju ke tempat mengundi pada 12 Ogos.
Suruhanjaya Pilihan Raya menetapkan hari penamaan calon pada 29 Julai, memberikan calon berkempen secara rasmi.