Deepfake merupakan kecerdasan buatan atau Artificial Intelligence (AI) yang bisa membuat video atau audio palsu menggunakan referensi material yang sudah ada. Teknik ini bisa menempatkan dan menggabungkan gambar dan video yang ada ke sumber gambar atau video menggunakan deep learning yang sangat canggih dan sulit dideteksi.
Kini para ahli mengingatkan deepfakes akan berpotensi memunculkan kekacauan besar, bahkan perang antarnegara. Melawan materi seperti itu juga disebut tidak akan mudah salah satunya karena teknologi untuk mendeteksi pemalsuan tampaknya tertinggal di belakang dari pembuat aplikasi tersebut.
Analis kebijakan teknologi UE di Pusat Inovasi Data Eline Chivot memperingatkan investasi dan penelitian lebih diarahkan pada pengembangan alat penghasil deepfake daripada deteksi deepfake itu sendiri. Hasilnya, menurut dia adalah ketidaksesuaian dan kurangnya alat yang diperlukan untuk mengatasi masalah secara efisien, dengan teknologi yang berkembang cepat dan menjadi lebih tersedia untuk berbagai aktor yang lebih luas.
Dia menunjukkan bahwa tinjauan manusia bukanlah solusi yang memadai untuk menghentikan penyebaran deepfake.
“Pembongkaran disinformasi semakin sulit, dan deepfake belum dapat dideteksi oleh algoritma lain dengan mudah. Ketika mereka menjadi lebih baik, menjadi lebih sulit untuk mengetahui apakah sesuatu itu nyata atau tidak. Anda dapat melakukan beberapa analisis statistik, tetapi butuh waktu, misalnya, mungkin perlu 24 jam sebelum orang menyadari bahwa video itu palsu, dan sementara itu, video itu sudah jadi viral,” katanya.
Dia mencatat bahwa semua negara harus mempersiapkan undang-undang untuk mengatur penggunaan deepfake dan itu membutuhkan pemahaman yang lebih besar oleh pembuat kebijakan. Dia menegaskan bahwa kebijakan yang bertujuan untuk menarik lebih banyak investasi harus diprioritaskan, karena ini dapat membantu mengembangkan teknologi baru.
“Kemitraan harus dikembangkan dengan industri termasuk perusahaan media sosial, misalnya. Dengan peneliti universitas, inovator, ilmuwan, pemula, dll. Untuk membangun deteksi manipulasi yang lebih baik dan memastikan sistem ini terintegrasi ke dalam platform online,” katanya.
Sikapnya dikuatkan oleh pengusaha teknologi Fernando Bruccoleri, yang menyarankan bahwa meskipun orang pada akhirnya akan bertanggung jawab untuk menentukan apa yang nyata dan apa yang tidak, platform teknologi harus membuatnya mudah bagi mereka. Dia menunjuk konsep deepfake dengan mengatakan bahwa “kita akan memiliki masalah dalam membedakan kebenaran, karena baik video asli maupun palsu tidak akan memenuhi syarat untuk dijadikan sebagai bukti. Dia juga setuju bahwa kita perlu waktu untuk menerima perubahan hukum yang diperlukan untuk menanggapi tantangan deepfake.”
“Saya pikir itu tidak akan sesederhana yang kita bayangkan untuk membuat undang-undang dalam jangka pendek. Tentunya platform apa pun akan merancang alat untuk mendeteksi apakah video itu palsu atau tidak, ”katanya.
Pada saat yang sama, CEO perusahaan verifikasi video Amber, Shamir Allibhai, yang perusahaannya mengkhususkan diri dalam mendeteksi palsu, menegaskan bahwa mengatur penciptaan deepfake adalah tugas yang mustahil. Dia mengatakan bahwa akan lebih mudah untuk menangani distribusi materi semacam itu dengan cara yang sama seperti alat melawan apa yang disebut pornografi.
“Saya pikir jika Anda mau, Anda bisa mengatasinya di mana Anda bisa mengatakan secara legislatif bahwa jejaring media sosial tidak boleh membiarkan deepfake pada platform mereka. Secara potensial, saya pikir ada sejumlah undang-undang yang sudah berbicara tentang konten dan kemampuan jejaring sosial untuk memiliki pengawasan atas mereka, itu mungkin salah satu cara untuk melakukan ini ”, katanya.
Meskipun dia menunjukkan bahwa deepfake dapat digunakan untuk tujuan yang baik, seperti membuat film dengan bintang film yang sudah meninggal, dia mengakui bahwa teknologi tersebut dapat dimanfaatkan untuk memicu kekacauan politik. Dia mencatat bahwa video palsu, serta berita palsu, dapat digunakan untuk benar-benar menarik masyarakat dan faktanya sekarang ini banyak konten semacam itu yang dimanfaatkan.
“Saya pikir itu adalah keberhasilan nyata dari konten palsu ini, dan saya pikir kita akan melihat lebih banyak dari itu. Maksud saya, tantangannya adalah di mana kebebasan berbicara berakhir dan di mana mengatur ini konten dimulai; Saya pikir ini garis yang sangat sensitif dan sulit, , dia memperingatkan.
Kekacauan Internasional
CEO dari perusahaan keamanan cyber LGMS Fong Choong Fook melangkah lebih jauh, memperingatkan bahwa banyak politisi, yang gambarnya dapat dengan mudah dipalsukan karena ada banyak rekaman di internet, dapat menyebabkan kekacauan internasional.
“Bayangkan ada video palsu yang tersebar luas di Internet, di mana seorang menteri pertahanan mendeklarasikan perang dengan negara lain. Ini dapat menyebabkan kekacauan internasional “, katanya.
Pada saat yang sama, ia memperingatkan bahwa untuk mendeteksi video deepfake kita masih harus mengandalkan mata kita, alat alami ini tidak dapat mengidentifikasi kekurangan yang terlihat dalam video deepfake.
“Karena itu, sangat sulit bagi manusia yang bertarung dengan mesin dalam situasi ini. Bagaimana jika hanya mesin yang bisa mengalahkan mesin? ”pengusaha teknologi itu menyimpulkan.
Dia memprediksi bahwa pemrograman mesin untuk mendeteksi video semacam itu sulit, karena teknologi deepfake menggunakan algoritma deep learning yang lebih canggih daripada machine learning.
“Dalam deep learning, pengguna hanya perlu memberikan data input dan tidak perlu memberikan panduan ke mesin. Mesin akan memiliki kemampuan untuk belajar, memprediksi dan menilai keakuratan hasil. Oleh karena itu, jumlah data input yang diperlukan dalam deep learning bisa sepuluh atau bahkan seratus kali lebih besar daripada machine learning,” jelasnya sebagaimana dikutip Sputnik Ahad 13 Oktober 2019.
