Main Article Content
Abstract
This study focuses on deepfake as a result of synthetic media that can change a person’s image, speech, or actions by utilizing artificial intelligence, which results in heavily realistic outcomes that make someone seem to be doing something when in fact they are not. Thus, it is detrimental to the victim whose face has been manipulated using the deepfake. This study will analyze the characteristics of deepfake, what crimes are born out of deepfake, and how the regulations for victim protection are related to the use of deepfake. The purpose of this study is to determine the characteristics of deepfake, the crimes that come out of it, and the regulations for victim protection relating to the use of deepfake. The method used is normative legal research with a conceptual approach, a statutory approach, and a case study approach. The results of this study indicate that the first characteristic of deepfake is a synthesis technique created using AI, deepfake is made using a person’s face as if the person is doing something, the person’s face is manipulated without consent, and the results of the manipulation are highly realistic. Then the crimes that arise from deepfakes are pornography, defamation, spreading fake news, fraud, and using other people’s personal data without consent. Meanwhile, the protection of deepfake victims is regulated in the Protection of Witnesses and Victims Law, Human Rights Law, Criminal Procedure Code, Government Regulation No. 7 of 2008 in conjunction with Government Regulation No. 35 of 2020 and Regulation of the Minister of Communication and Information Number 5 of 2020 on the Implementation of Private Electronic Systems (Permenkominfo-PSELP). Where victims have the right to make reports/complaints, submit restitution requests, and request a takedown of the deepfake content.
Keywords: Artificial Intelligence, Deepfake, Victim
Abstrak
Penelitian ini berfokus pada deepfake sebagai hasil media sintesis yang dapat mengubah citra, ucapan, atau tindakan seseorang dengan memanfaatkan artificial intelligence yang hasilnya sangat realistis yang membuat seseorang seolah-olah sedang melakukan sesuatu padahal aslinya tidak. Sehingga merugikan korban yang wajahnya telah dimanipulasi menggunakan deepfake tersebut. Penelitian ini akan menganalisis tentang bagaimana karakteristik deepfake, tindak pidana apa saja yang lahir dari deepfake dan bagaimana regulasi perlindungan korban dalam kaitannya dengan penggunaan deepfake. Tujuan penelitian ini adalah untuk mengetahui bagaimana karakteristik deepfake, tindak pidana apa saja yang lahir dari deepfake dan bagaimana regulasi perlindungan korban dalam kaitannya dengan penggunaan deepfake. Metode yang digunakan adalah penelitian hukum normatif dengan pendekatan konseptual, pendekatan perundang-undangan, dan pendekatan kasus. Hasil penelitian ini menunjukkan bahwa karakteristik deepfake yang pertama yaitu teknik sintesis yang dibuat menggunakan AI, deepfake dibuat menggunakan wajah seseorang seolah-olah orang tersebut sedang melakukan sesuatu, wajah orang tersebut dimanipulasi tanpa izin serta hasil manipulasinya sangat realistis. Kemudian tindak pidana yang lahir dari deepfake adalah tindak pidana pornografi, pencemaran nama baik, penyebaran berita bohong, penipuan dan penggunaan data pribadi orang lain tanpa izin. Sedangkan regulasi perlindungan korban deepfake diatur dalam UU PSK, UU HAM, KUHAP, PP 7/208 jo PP 35/2020 dan Permenkominfo-PSELP. Dimana korban berhak untuk membuat laporan/pengaduan, mengajukan permohonan restitusi dan meminta untuk dilakukan takedown terhadap konten deepfake tersebut.
Kata kunci: Deepfake, Kecerdasan Buatan, Korban
Keywords
Article Details
Copyright (c) 2024 Doni Noviantama, Alif Alfani Rahman
This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.
Authors who publish with this journal agree to the following terms:
a. Authors retain copyright and grant the journal right of first publication with the work simultaneously licensed under a Creative Commons Attribution License that allows others to share the work with an acknowledgement of the work's authorship and initial publication in this journal.
b. Authors are able to enter into separate, additional contractual arrangements for the non-exclusive distribution of the journal's published version of the work (e.g., post it to an institutional repository or publish it in a book), with an acknowledgement of its initial publication in this journal.
c. Authors are permitted and encouraged to post their work online (e.g., in institutional repositories or on their website) prior to and during the submission process, as it can lead to productive exchanges, as well as earlier and greater citation of published work (See The Effect of Open Access).
References
Ainuddin. Hukum Acara Pidana Dari Teori Ke Praktek. Edited by Syahida, Siti Nuraini. 1st Ed. Yogyakarta: Genta Publishing, 2020.
Ali, Mahrus. “Pencemaran Nama Baik Melalui Sarana Informasi Dan Transaksi Elektronik (Kajian Putusan MK No. 2/PUU-VII/2009).” Jurnal Konstitusi 7, no. 6 (December 2010): 126–27.
Amanda, Sarah, Uly Sijabat, and Diana Lukitasari. “Konten Gambar Dan Video Pornografi Deepfake Sebagai Suatu Bentuk Tindak Pidana Pencemaran Nama Baik” 13, no. 2 (2024): 180. https://doi.org/10.20956recidive.v7i2.xxxx.
Aryanda, Basrief. “Tindak Pidana Penyiaran Berita Bohong Dalam Putusan Pengadilan Negeri Jakarta Selatan Nomor 203/Pid.Sus/2019/Pn.Jkt.Sel.” Locus Journal of Academic Literature Review 3, no. 4 (April 2024): 337. https://doi.org/https://doi.org/10.56128/ljoalr.v3i4.313.
Chairani, Aulia, Meirza, Yitawati Krista, and Pradhana Pramodya Angga. “Urgensi Pengaturan Hukum Bagi Penyalahgunaan Aplikasi Deepfake.” Jurnal Rechtens 13, no. 1 (June 2024): 88.
CNBC Indonesia. “Penipuan Deepfake Kuras Duit Rp 392 M, Kominfo Kasih Peringatan Ini.” https://www.cnbcindonesia.com/tech/20240424161935-37-533098/penipuan-deepfake-kuras-duit-rp-392-m-kominfo-kasih-peringatan-ini, April 2024.
CNN Indonesia. “Anies Buka Suara Soal Hoaks Rekaman Dimarahi Surya Paloh.” https://www.cnnindonesia.com/nasional/20240124064555-617-1053546/anies-buka-suara-soal-hoaks-rekaman-dimarahi-surya-paloh, January 3, 2024.
Gieseke, Pechenik, Anne. “The New Weapon of Choice: Law’s Current Inability to Properly Address Deepfake Pornography.” Vanderbilt Law Review 73, no. 1479 (October 2020): 2.
Grathwohl, Bridget. “Preserving Truth on the Prairie: Navigating Deepfake Challenges to Self-Authenticating Evidence in North Dakota Courts.” North Dakota Law Review 99, no. 657 (2024): 2.
Husna, Triari, Hanifah. “Sampai Mei 2023, Kominfo Identifikasi 11.642 Konten Hoaks.” www.kominfo.go.id, June 2023.
Kasita, Dewi, Ivana. “Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19.” Jurnal Wanita Dan Keluarga 3, no. 1 (July 2022): 18.
Kenedi, John. Perlindungan Saksi Dan Korban (Studi Perlindungan Hukum Korban Kejahatan Dalam Sistem Peradilan Di Indonesia). Edited by Hariyanto. Pertama. Yogyakarta: Pustaka Pelajar, 2020.
Khusna, Hidayatul, Itsna, and Sri Pangestuti. “Deepfake, Tantangan Baru Untuk Netizen Deepfake, a New Challenge for Netizen.” Jurnal Promedia 5, no. 2 (2019): 1–24. https://doi.org/https://doi.org/10.52447/promedia.v5i2.2300.
Koscis, Eric. “Deepfakes, Shallowfakes, and the Need for a Private Right of Action.” Dickinson Law Review 126, no. 621 (2022): 3.
Krisnalita, Yesami, Louisa, and Siti Rahayu. “Analisis Yuridis Mengenai Tindak Pidana Pornografi Secara Berlanjut.” Justice Voice 1, no. 2 (December 2024): 72–73.
Leunupun, Jesaldi, Frits, Sherly Adam, and Iqbal Taufik. “Perlindungan Hukum Terhadap Pelaku Tindak Pidana Yang Menjadi Korban Penganiayaan Massa.” TATOHI Jurnal Ilmu Hukum 2, no. 11 (2023): 1142.
Manurung, Yusuf, M. “Polisi Sebut Identitas Wanita Penyebar Video Porno Mirip Syahrini.” https://metro.tempo.co/read/1346858/polisi-sebut-identitas-wanita-penyebar-video-porno-mirip-syahrini, May 3, 2020.
Maulana, Gibran. “Beredar Vidio Jokowi Fasih Mandarin, Kominfo: Editan AI Menyesatkan!” https://news.detik.com/berita/d-7003320/beredar-video-jokowi-fasih-mandarin-kominfo-editan-ai-menyesatkan, October 2023.
Noerman, The firstly, Chiquita, and Lukman, Aji Ibrahim. “Kriminalisasi Deepfake Di Indonesia Sebagai Bentuk Pelindungan Negara.” USM Law Review 7, no. 2 (2024): 604–7. https://doi.org/http://dx.doi.org/10.26623/julr.v7i2.8995.
Peraturan Menteri Komunikasi dan Informatika Republik Indonesia Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, Pub. L. No. 5 (2020).
Peraturan Pemerintah Nomor 7 Tahun 2018 tentang Pemberian Kompensasi, Restitusi dan Bantuan kepada Saksi dan Korban sebagaimana telah diubah dengan Peraturan Pemerintah Nomor 35 Tahun 2020, Pub. L. No. 35 (2020).
Ramli, M, Ahmad. “‘Deepfake, AI-Crime’, UU PDP, Dan KUHP Baru.” https://www.kompas.com/tren/read/2023/10/14/154802465/deepfake-al-crime-uu-pdp-dan-kuhp-baru?page=all#page2, October 2023.
Sasse, WIlliam. “Deepfakes and the Courtroom.” Maryland Bar Journal 2, no. 2 (2020): 1.
Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik, Pub. L. No. 1 (2024).
Undang-Undang Nomor 8 Tahun 1981 tentang Hukum Acara Pidana, Pub. L. No. 8 (1981).
Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi, Pub. L. No. 27 (2022).
Undang-Undang Nomor 31 Tahun 2014 tentang Perubahan atas Undang-Undang Nomor 13 Tahun 2006 tentang Perlindungan Saksi dan Korban, Pub. L. No. 31 (2014).
Undang-Undang Nomor 39 Tahun 1999 tentang Hak Asasi Manusia, Pub. L. No. 39 (1999).
Undang-Undang Nomor 44 Tahun 2008 tentang Pornografi, Pub. L. No. 44 (2008).
Waldstreicher, Bradley. “Deeply Fake, Deeply Disturbing, Deeply Constitutional: Why the First Amendment Likely Protects the Creation of Pornographic Deepfakes.” Cardozo Law Review 42, no. 729 (2021): 2.
Widodo, Sugeng, and Supatman. “Prototype Desain Keamanan Login Menggunakan Biometrik Wajah Dengan Metode Eigenface.” Jurnal Multimedia & Artificial Intelligence 4, no. 1 (February 2020): 35.
References
Ainuddin. Hukum Acara Pidana Dari Teori Ke Praktek. Edited by Syahida, Siti Nuraini. 1st Ed. Yogyakarta: Genta Publishing, 2020.
Ali, Mahrus. “Pencemaran Nama Baik Melalui Sarana Informasi Dan Transaksi Elektronik (Kajian Putusan MK No. 2/PUU-VII/2009).” Jurnal Konstitusi 7, no. 6 (December 2010): 126–27.
Amanda, Sarah, Uly Sijabat, and Diana Lukitasari. “Konten Gambar Dan Video Pornografi Deepfake Sebagai Suatu Bentuk Tindak Pidana Pencemaran Nama Baik” 13, no. 2 (2024): 180. https://doi.org/10.20956recidive.v7i2.xxxx.
Aryanda, Basrief. “Tindak Pidana Penyiaran Berita Bohong Dalam Putusan Pengadilan Negeri Jakarta Selatan Nomor 203/Pid.Sus/2019/Pn.Jkt.Sel.” Locus Journal of Academic Literature Review 3, no. 4 (April 2024): 337. https://doi.org/https://doi.org/10.56128/ljoalr.v3i4.313.
Chairani, Aulia, Meirza, Yitawati Krista, and Pradhana Pramodya Angga. “Urgensi Pengaturan Hukum Bagi Penyalahgunaan Aplikasi Deepfake.” Jurnal Rechtens 13, no. 1 (June 2024): 88.
CNBC Indonesia. “Penipuan Deepfake Kuras Duit Rp 392 M, Kominfo Kasih Peringatan Ini.” https://www.cnbcindonesia.com/tech/20240424161935-37-533098/penipuan-deepfake-kuras-duit-rp-392-m-kominfo-kasih-peringatan-ini, April 2024.
CNN Indonesia. “Anies Buka Suara Soal Hoaks Rekaman Dimarahi Surya Paloh.” https://www.cnnindonesia.com/nasional/20240124064555-617-1053546/anies-buka-suara-soal-hoaks-rekaman-dimarahi-surya-paloh, January 3, 2024.
Gieseke, Pechenik, Anne. “The New Weapon of Choice: Law’s Current Inability to Properly Address Deepfake Pornography.” Vanderbilt Law Review 73, no. 1479 (October 2020): 2.
Grathwohl, Bridget. “Preserving Truth on the Prairie: Navigating Deepfake Challenges to Self-Authenticating Evidence in North Dakota Courts.” North Dakota Law Review 99, no. 657 (2024): 2.
Husna, Triari, Hanifah. “Sampai Mei 2023, Kominfo Identifikasi 11.642 Konten Hoaks.” www.kominfo.go.id, June 2023.
Kasita, Dewi, Ivana. “Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19.” Jurnal Wanita Dan Keluarga 3, no. 1 (July 2022): 18.
Kenedi, John. Perlindungan Saksi Dan Korban (Studi Perlindungan Hukum Korban Kejahatan Dalam Sistem Peradilan Di Indonesia). Edited by Hariyanto. Pertama. Yogyakarta: Pustaka Pelajar, 2020.
Khusna, Hidayatul, Itsna, and Sri Pangestuti. “Deepfake, Tantangan Baru Untuk Netizen Deepfake, a New Challenge for Netizen.” Jurnal Promedia 5, no. 2 (2019): 1–24. https://doi.org/https://doi.org/10.52447/promedia.v5i2.2300.
Koscis, Eric. “Deepfakes, Shallowfakes, and the Need for a Private Right of Action.” Dickinson Law Review 126, no. 621 (2022): 3.
Krisnalita, Yesami, Louisa, and Siti Rahayu. “Analisis Yuridis Mengenai Tindak Pidana Pornografi Secara Berlanjut.” Justice Voice 1, no. 2 (December 2024): 72–73.
Leunupun, Jesaldi, Frits, Sherly Adam, and Iqbal Taufik. “Perlindungan Hukum Terhadap Pelaku Tindak Pidana Yang Menjadi Korban Penganiayaan Massa.” TATOHI Jurnal Ilmu Hukum 2, no. 11 (2023): 1142.
Manurung, Yusuf, M. “Polisi Sebut Identitas Wanita Penyebar Video Porno Mirip Syahrini.” https://metro.tempo.co/read/1346858/polisi-sebut-identitas-wanita-penyebar-video-porno-mirip-syahrini, May 3, 2020.
Maulana, Gibran. “Beredar Vidio Jokowi Fasih Mandarin, Kominfo: Editan AI Menyesatkan!” https://news.detik.com/berita/d-7003320/beredar-video-jokowi-fasih-mandarin-kominfo-editan-ai-menyesatkan, October 2023.
Noerman, The firstly, Chiquita, and Lukman, Aji Ibrahim. “Kriminalisasi Deepfake Di Indonesia Sebagai Bentuk Pelindungan Negara.” USM Law Review 7, no. 2 (2024): 604–7. https://doi.org/http://dx.doi.org/10.26623/julr.v7i2.8995.
Peraturan Menteri Komunikasi dan Informatika Republik Indonesia Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, Pub. L. No. 5 (2020).
Peraturan Pemerintah Nomor 7 Tahun 2018 tentang Pemberian Kompensasi, Restitusi dan Bantuan kepada Saksi dan Korban sebagaimana telah diubah dengan Peraturan Pemerintah Nomor 35 Tahun 2020, Pub. L. No. 35 (2020).
Ramli, M, Ahmad. “‘Deepfake, AI-Crime’, UU PDP, Dan KUHP Baru.” https://www.kompas.com/tren/read/2023/10/14/154802465/deepfake-al-crime-uu-pdp-dan-kuhp-baru?page=all#page2, October 2023.
Sasse, WIlliam. “Deepfakes and the Courtroom.” Maryland Bar Journal 2, no. 2 (2020): 1.
Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik, Pub. L. No. 1 (2024).
Undang-Undang Nomor 8 Tahun 1981 tentang Hukum Acara Pidana, Pub. L. No. 8 (1981).
Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi, Pub. L. No. 27 (2022).
Undang-Undang Nomor 31 Tahun 2014 tentang Perubahan atas Undang-Undang Nomor 13 Tahun 2006 tentang Perlindungan Saksi dan Korban, Pub. L. No. 31 (2014).
Undang-Undang Nomor 39 Tahun 1999 tentang Hak Asasi Manusia, Pub. L. No. 39 (1999).
Undang-Undang Nomor 44 Tahun 2008 tentang Pornografi, Pub. L. No. 44 (2008).
Waldstreicher, Bradley. “Deeply Fake, Deeply Disturbing, Deeply Constitutional: Why the First Amendment Likely Protects the Creation of Pornographic Deepfakes.” Cardozo Law Review 42, no. 729 (2021): 2.
Widodo, Sugeng, and Supatman. “Prototype Desain Keamanan Login Menggunakan Biometrik Wajah Dengan Metode Eigenface.” Jurnal Multimedia & Artificial Intelligence 4, no. 1 (February 2020): 35.