12 Juni 2023
SHANGHAI – Teknologi pertukaran wajah AI memungkinkan pengguna memperoleh fitur wajah, ekspresi, gerakan tubuh, dan karakteristik suara dari gambar target melalui teknologi identifikasi, dan kemudian menggunakan informasi tersebut untuk membuat video palsu yang dapat menipu pemirsa. Pada tahun 2019, seorang pengguna “deepfake” di sebuah forum di Amerika Serikat menggunakan teknologi ini untuk menggantikan beberapa bintang Hollywood dan bahkan aktor video porno, dan kemudian merilis kode teknologi tersebut secara publik, yang mengarah pada penyebaran teknologi ini.
Kemajuan teknologi kecerdasan buatan membawa manfaat sekaligus merugikan bagi manusia. Di satu sisi, kemajuan teknologi mendukung pertumbuhan industri hiburan dan mengatasi hambatan dalam produksi karya bahkan setelah meninggalnya aktor-aktor terkemuka. Misalnya, teknologi pertukaran wajah AI memungkinkan Paul Walker muncul secara anumerta di film Fast and Furious 7 setelah kematiannya yang mendadak saat pembuatan film.
Di sisi lain, teknologi tersebut berisiko disalahgunakan dan dapat melanggar hak-hak yang berkaitan dengan martabat pribadi, seperti hak reputasi dan citra. Hal ini termasuk perdagangan video ilegal menggunakan pertukaran wajah, mencuri informasi pengguna untuk tujuan penipuan.
Berbagai risiko yang ditimbulkan oleh teknologi pertukaran wajah AI
Teknologi pertukaran wajah AI masih dalam tahap awal, dan terdapat kebutuhan untuk meningkatkan pengelolaan risiko-risiko berikut melalui institusi sosial dan kerangka hukum.
Orang-orang dengan niat jahat dapat memanfaatkan teknologi pertukaran wajah AI untuk menghasilkan video palsu yang meyakinkan untuk tujuan penipuan. Kegiatan penipuan ini melibatkan berbagai praktik ilegal, termasuk namun tidak terbatas pada pencurian identitas, serangan rekayasa sosial, penipuan phishing, manipulasi politik, penipuan keuangan, penipuan konsumen, dan banyak lagi.
Pelaku dapat mencuri identitas dan menyamar sebagai individu nyata secara online, melakukan kejahatan, mengatur serangan rekayasa sosial, membuat video yang menampilkan anggota keluarga atau teman korban, dan meminta uang serta informasi pribadi yang sensitif. Mereka juga dapat menggunakan teknologi ini untuk penipuan phishing, mendistribusikan video dan gambar realistis secara online untuk mengelabui korban agar membagikan informasi sensitif atau mengunduh perangkat lunak berbahaya. Teknologi tersebut juga dapat digunakan untuk melakukan penipuan keuangan dengan membujuk investor atau pelanggan untuk memberikan dukungan atau janji.
Selain itu, livestreamer e-commerce diketahui mengelabui konsumen agar melakukan pembelian menggunakan wajah-wajah yang dikenal melalui teknologi pertukaran wajah AI.
Penyalahgunaan teknologi tersebut diwujudkan dalam tiga bentuk utama: kejahatan terkait pornografi, pencemaran nama baik dan rumor, serta penipuan telekomunikasi dan keuangan. Penggunaan teknologi pertukaran wajah AI yang pertama dan paling luas terjadi di industri pornografi, di mana penggunaan tokoh-tokoh terkenal menghasilkan lalu lintas yang signifikan dan memiliki dampak negatif yang lebih nyata, sehingga sulit untuk mencegah kejahatan.
Fitnah dan rumor menyebabkan penyebaran berita dan video palsu, menyebabkan orang menyebarkan rumor dan informasi yang salah. Sebuah video palsu tentang mantan Presiden AS Donald Trump, yang mengkritik urusan dalam negeri Belgia, menyebabkan ketidakpuasan publik yang besar di Belgia pada tahun 2019. Dan penyebaran rumor dapat dengan mudah menyebabkan keresahan sosial dan merusak kepercayaan masyarakat.
Selain itu, penipu yang terlibat dalam penipuan telekomunikasi dan keuangan dapat menggunakan pertukaran wajah AI, pertukaran suara, dan video palsu untuk menyamar sebagai keluarga dan teman orang yang menjadi sasaran, sehingga mendorong orang tersebut untuk menurunkan kewaspadaan mereka. Karena teknologi pertukaran wajah AI dapat menciptakan kepalsuan yang realistis, manusia berada dalam ancaman serius.
Resiko jika tidak mengatasi resiko tersebut
Selain itu, tantangan yang ditimbulkan oleh teknologi AI belum diintegrasikan ke dalam sistem peradilan pidana, sehingga menyulitkan pihak berwenang untuk menyelidiki kejahatan terkait. Misalnya, pengumpulan dan penggunaan informasi pengguna yang tidak masuk akal oleh aplikasi ZAO, yang diluncurkan oleh pengembang aplikasi media sosial Momo, menyebabkan reaksi keras dari media arus utama, termasuk kritik dari media Tiongkok seperti People’s Daily dan Guangming Daily, dan dipertanyakan oleh publik. .
Namun, terlepas dari posisi pasarnya, ZAO mungkin menghindari tanggung jawab hukum karena perjanjian pengguna yang tidak masuk akal dan keunggulan pasar. Dan Kementerian Perindustrian dan Teknologi Informasi hanya bisa melakukan pendekatan terhadap masalah ini berdasarkan klausul baku UU Kontrak. Penggunaan data wajah belum diklasifikasikan sebagai informasi pribadi dalam KUHP, sehingga memerlukan klarifikasi hukum lebih lanjut dan interpretasi yudisial.
Platform juga mengeksploitasi kebebasan kontrak untuk melemahkan dasar hukum pertanggungjawaban pidana, sehingga menyulitkan pihak berwenang untuk menuntut kerja sama platform.
Pada intinya, risiko yang ditimbulkan oleh teknologi pertukaran wajah AI berakar pada tiga faktor teknis: informasi pribadi mudah disalahgunakan tanpa persetujuan; video dan gambar asli mendorong orang-orang untuk menurunkan kewaspadaan mereka; dan pihak berwenang terkendala oleh celah hukum, sehingga sulit untuk melacak dan menghukum pelanggar melalui platform. Berdasarkan faktor-faktor ini, pihak berwenang dapat mengambil tindakan yang ditargetkan untuk mengatasi risiko-risiko ini.
Ada kebutuhan untuk memasukkan informasi pribadi yang diwajibkan oleh teknologi pertukaran wajah AI dalam definisi hukum informasi pribadi berdasarkan hukum. Data wajah adalah informasi pribadi terpenting yang dibutuhkan. Misalnya, pihak berwenang dapat mengklarifikasi interpretasi informasi pribadi berdasarkan hukum atau mengeluarkan interpretasi yudisial untuk menentukan bahwa data wajah adalah bagian dari informasi pribadi yang dilindungi. Hal ini karena data wajah mudah dikompromikan dalam konteks penggunaan teknologi AI face swapping, sehingga dapat menimbulkan dampak negatif yang lebih signifikan.
Selain itu, beberapa platform mengeksploitasi kebebasan kontrak untuk mengecualikan tanggung jawab pidana dan terus mengumpulkan dan menggunakan informasi pribadi secara ilegal. Pihak berwenang dapat mengklasifikasikan kasus-kasus seperti itu sebagai “pengumpulan informasi pribadi warga negara secara ilegal dengan cara lain” dan memasukkannya ke dalam “kejahatan pelanggaran informasi pribadi warga negara”.
Hal ini akan membantu memecahkan masalah pihak berwenang yang tidak dapat mencari bukti dan menghukum pelanggar, memberikan insentif kepada platform untuk bekerja sama dalam penyelidikan dan mencegah pengguna menyalahgunakan teknologi. Dengan cara ini, pemerintah dapat memperkuat pemberantasan kejahatan seperti tindakan cabul, pencemaran nama baik, rumor, penipuan, dan pelanggaran informasi pribadi, serta mengatasi masalah penyalahgunaan teknologi pertukaran wajah AI dalam tata kelola sosial.
Pihak berwenang juga harus memperkuat peraturan mengenai pengelolaan layanan informasi Internet. Pemerintah pusat mengeluarkan peraturan yang secara tegas mewajibkan penyedia layanan untuk menambahkan pengidentifikasi yang tidak memengaruhi penggunaan pengguna, menyimpan informasi log, dan membantu pihak berwenang mencari bukti dan menyelidiki kejahatan terkait. Peraturan tersebut juga mewajibkan penyedia layanan untuk memberitahukan pengguna dan mendapatkan persetujuan sebelum mengubah informasi pribadi pengguna, guna mengurangi kemungkinan penyalahgunaan informasi pribadi tanpa sepengetahuan pengguna.
Namun, pihak berwenang harus lebih memperkuat peraturan dan mengambil tindakan untuk meminta pertanggungjawaban pengelola platform atas penyalahgunaan informasi pribadi. Tindakan khusus dapat mencakup penyerahan daftar manajer kepatuhan tingkat tinggi dan informasi kontak ketika suatu bisnis didaftarkan.
Setelah pelanggaran terkonfirmasi, pihak berwenang dapat menghukum platform sesuai dengan keseriusan kasusnya, termasuk namun tidak terbatas pada peringatan pribadi kepada orang atau perusahaan yang bertanggung jawab, mengenakan denda pada pelanggar, melarang orang atau perusahaan berlisensi beroperasi selama jangka waktu tertentu. waktu beroperasi, pencabutan izin praktek perusahaan, dan mencantumkannya sebagai perusahaan yang kegiatan usahanya tidak normal atau sebagai perusahaan yang melanggar peraturan perundang-undangan secara serius.
Selain itu, pihak berwenang harus bekerja sama dengan lembaga penelitian dan perusahaan untuk mengembangkan tindakan pencegahan terhadap teknologi pertukaran wajah AI, meningkatkan kesadaran masyarakat terhadap penyalahgunaan informasi pribadi sehingga masyarakat dapat waspada terhadap hal tersebut, dan memberikan perlindungan terhadap penyalahgunaan tersebut. Alasan mendasar mengapa teknologi pertukaran wajah AI menimbulkan risiko sosial adalah karena informasi yang disajikan tampak autentik. Selama teknologi tersebut tidak berubah, penjahat dapat menggunakan teknologi tersebut untuk melakukan kejahatan.
Memperkuat Penelitian dan Pengembangan untuk mencegah penyalahgunaan informasi
Oleh karena itu, netizen harus belajar melawan teknologi dan mengidentifikasi teknologi pertukaran wajah AI yang curang untuk mencegah kejahatan. Karena manusia dapat melatih AI untuk mengenali suara manusia, fitur wajah, dan postur tubuh untuk membuat video pertukaran wajah, mereka dapat menggunakan prinsip yang sama untuk melatih AI untuk mengidentifikasi yang palsu.
Dan pemerintah, lembaga penelitian, dan perusahaan harus bekerja sama secara erat untuk memperkuat dan meningkatkan penelitian dan pengembangan tindakan penanggulangan, mempublikasikan informasi yang relevan tentang risiko sosial, dan meningkatkan kesadaran masyarakat, literasi digital, dan literasi media untuk mencegah penyalahgunaan informasi pribadi.
Terakhir, pemerintah juga harus memasukkan informasi wajah ke dalam definisi hukum informasi pribadi berdasarkan undang-undang; menyempurnakan lebih lanjut peraturan pengelolaan layanan informasi Internet untuk menjaga akuntabilitas pengelola platform; dan bekerja sama dengan lembaga penelitian dan perusahaan untuk mengembangkan tindakan pencegahan terhadap teknologi pertukaran wajah AI, dan meningkatkan kesadaran masyarakat untuk mencegah penyalahgunaan informasi pribadi.