Deepfake: Teknologi AI yang Bisa Manipulasi Konten

FAKTA.COM, Jakarta – Kita sering mendengar istilah deepfake di tengah perkembangan teknologi AI. Lalu, deepfake itu apa?

Deepfake merupakan teknologi yang digunakan untuk manipulasi gambar atau video seseorang agar terlihat seolah-olah melakukan sesuatu, padahal nyatanya tidak.

Melansir TechTarget, Senin (25/9/2023), teknologi ini menggunakan sistem machine learning yang bernama Generative Adversarial Network (GAN).

GAN punya dua algoritma yang bertentangan, yaitu generator dan discriminator. Generator ini bertugas untuk membuat gambar yang terlihat nyata, sedangkan discriminator akan mendeteksi apakah itu nyata atau tidak. Dua algoritma ini akan bekerja sama untuk membuat manipulasi yang terlihat nyata.

Istilah “deepfake” melambung setelah seorang pengguna Reddit mengunggah sejumlah video deepfake selebriti pada 2017. Konten video ini pun menjadi viral di internet dan media sosial.  Popularitas teknologi itu mendorong raksasa-raksasa teknologi, seperti Facebook, Google, dan Microsoft, untuk mengembangkan tools yang bisa mendeteksinya.    

Seberapa Bahaya Deepfake?

Deepfake dinilai berbahaya karena bisa menyebarkan informasi palsu, bahkan dari sumber yang tepercaya. Misalnya, pada 2022, ada video deepfake yang memperlihatkan Presiden Ukraina, Volodymyr Zelensky, yang meminta pasukannya menyerah.

Selain membuat informasi palsu, teknologi ini juga punya bahaya lainnya. Deepfake juga rentan dipakai oleh pelaku kejahatan siber untuk mencuri identitas korban. Bahkan, pelaku bisa menggunakannya untuk bisa menggasak rekening bank seseorang.

Pemanfaatan teknologi AI ini menarik perhatian pemerintah. Saat ini, Kementerian Komunikasi dan Informatika (Kominfo) menyusun pedoman etika penggunaan AI untuk menangani bahaya deepfake. 

“Melalui deepfake, penggunanya dapat memanipulasi gambar atau video menyerupai orang tertentu untuk melakukan pembohongan publik atau penipuan,” kata Menteri Kementerian Komunikasi dan Informatika (Kominfo), Budi Arie Setiadi, dalam “The 2nd MASTEL’S 5G Summit – Acceleration of 5G Network and AI Towards Indonesia as Digital Economy Country” di Jakarta, dikutip dari laman Kominfo, Senin (25/9/2023).