REPUBLIKA.CO.ID, JAKARTA -- Baru-baru ini Google telah melarang algoritma deepfake dari Google Colaboratory. Raksasa teknologi tersebut bukanlah satu-satunya yang mengatur tentang deepfake.
Beberapa negara bagian Amerika Serikat (AS) memiliki regulasi yang mengaturnya. Apa itu deepfake?
Pakar Kaspersky menjelaskan apa itu deepfake, dan mengapa ada begitu banyak kontroversi di sekitarnya. ‘Deepfake’ biasanya mengacu pada berbagai jenis media buatan komputer yang melibatkan orang-orang dan dibuat dengan neural network.
Ini mungkin video, foto, atau rekaman suara. Alih-alih menggunakan teknik pengeditan gambar tradisional, penggunaan deep learning telah menggeser kebutuhan akan keterampilan dan upaya untuk membuat gambar palsu yang meyakinkan.
“Deepfake adalah contoh utama dari teknologi yang berkembang lebih cepat daripada yang kita pahami dan cara mengelola komplikasinya. Inilah sebabnya itu dianggap memiliki dua sudut pandang, di satu sisi sebagai instrumen tambahan bagi para seniman dan di sisi lainnya memberikan celah untuk disinformasi yang dapat menjadi tantangan bagi kita masyarakat mengenai apa yang kita percayai,” kata Vladislav Tuskanov, ilmuwan data utama di Kaspersky, melalui siaran pers yang diterima oleh Republika.
Awalnya, istilah tersebut merujuk pada perangkat lunak tertentu yang telah mendapatkan popularitas di Reddit. Perangkat lunak tersebut dapat menanamkan wajah seseorang ke dalam video yang menampilkan orang lain, dan hampir seluruhnya digunakan untuk membuat pornografi non-konsensual dengan selebriti.
Menurut beberapa perkiraan, hingga 96 persen dari semua deepfake adalah pornografi, ini sekaligus menyoroti kekhawatiran seputar deepfake yang digunakan untuk pelecehan, pemerasan, dan mempermalukan publik.
Teknologi ini juga dapat membantu para pelaku kejahatan siber. Setidaknya dalam dua kasus, di Inggris dan Hong Kong, deepfake suara telah digunakan untuk mengelabui perusahaan agar mentransfer dana ke penipu online, dengan menyamar sebagai pejabat dari masing-masing perusahaan.
Penelitian terbaru menunjukkan bahwa algoritma deteksi liveness komersial, yang digunakan oleh lembaga keuangan dapat tertipu oleh deepfake yang dibuat dari foto ID. Ini menciptakan vektor serangan baru sehingga membuat kebocoran identitas menjadi masalah yang lebih serius.
Masalah lainnya adalah bahwa deepfake merusak rasa kepercayaan terhadap konten audio dan video karena dapat digunakan untuk tujuan berbahaya. Misalnya, dalam kasus baru-baru ini, wawancara palsu dengan Elon Musk digunakan untuk mempromosikan penipuan cryptocurrency.
Ikuti Whatsapp Channel Republika
