26 Mei 2023
BEIJING – Departemen keselamatan publik di beberapa kota baru-baru ini mengimbau masyarakat untuk lebih waspada setelah beberapa kasus penipuan AI, yang menggunakan alat kecerdasan buatan untuk meniru suara dan penampilan orang, terungkap.
Dalam kasus yang baru-baru ini diungkapkan oleh biro keamanan publik Baotou, Daerah Otonomi Mongolia Dalam, korban ditipu untuk melakukan transfer total sebesar 4,3 juta yuan ($612.000) melalui rekening perusahaan setelah dia melakukan obrolan video dengan seseorang yang menyamar sebagai temannya. .
Dengan kerja sama bank, polisi dapat menghentikan transfer sebesar 3,37 juta yuan, namun mengatakan mereka masih berusaha mendapatkan kembali 931.600 yuan yang telah dikirim.
Pada tanggal 20 April, seorang pria bermarga Guo, perwakilan hukum sebuah perusahaan teknologi di Fuzhou, Provinsi Fujian, menerima panggilan video melalui WeChat dari seorang penipu. Menggunakan AI untuk menyamar sebagai teman Guo, penipu meminta bantuannya.
“Teman” Guo berkata bahwa dia sedang menawar sebuah proyek di kota lain dan ingin menggunakan rekening perusahaan Guo untuk mengajukan penawaran sebesar 4,3 juta yuan. Dia berjanji akan segera membayar Guo.
Penipu kemudian mengirimkan nomor rekening bank kepada Guo dan kemudian memberikan tangkapan layar tanda terima transfer bank untuk membuktikan bahwa dia telah mentransfer uang tersebut ke rekening perusahaan Guo.
Guo kemudian mentransfer 4,3 juta yuan ke rekening yang disediakan dalam dua pembayaran terpisah.
Ketika Guo menelepon teman aslinya untuk verifikasi setelah menyelesaikan transfer, temannya membantah melakukan panggilan video ke Guo atau memintanya mentransfer uang.
“Dia berbicara dengan saya melalui video call, dan saya juga mengonfirmasi wajah dan suaranya di video tersebut. Itu sebabnya kami lengah,” tambah Guo.
Kasus ini menciptakan kehebohan di platform media sosial dan mengejutkan netizen, yang mengatakan bahwa orang-orang yang mudah percaya dan tidak sadar, seperti anak-anak dan orang lanjut usia, sangat rentan terhadap penipuan teknologi tinggi tersebut. Mereka meminta pemerintah untuk memperkuat tata kelola teknologi terkait dan menindak kejahatan.
Pada tanggal 24 Mei, Masyarakat Internet Tiongkok juga mengeluarkan pernyataan tentang penipuan pertukaran wajah AI. Dikatakan bahwa ketika teknologi “deepfake” – yang sering digunakan untuk meniru suara dan penampilan orang lain dalam video dan rekaman audio – menjadi lebih bebas tersedia, produk dan layanan terkait terus meningkat.
Semakin umum bahwa beberapa orang menggunakan AI untuk tujuan kriminal, termasuk penipuan dan pencemaran nama baik, dan masyarakat harus waspada dan meningkatkan kesadaran mereka untuk menghindari menjadi korban penipuan, kata pernyataan itu.
Masyarakat harus lebih sadar akan perlindungan informasi pribadi dan tidak terlalu cepat memberikan gambar wajah, sidik jari, dan data biometrik lainnya kepada orang asing. Mereka tidak boleh mengungkapkan rincian kartu identitas, kartu bank, kode verifikasi dan informasi serupa lainnya, katanya.
Hal ini mengingatkan masyarakat untuk berhati-hati dalam mengelola akun media sosial mereka, terutama saat masuk ke perangkat yang tidak dikenal, untuk menghindari pencurian informasi pribadi.
Di zaman AI, teks, suara, gambar, dan video kemungkinan besar akan disintesis secara mendalam. Dalam kasus seperti yang dialami Guo, perlu dilakukan verifikasi informasi dengan cara lain, misalnya dengan menelepon pihak yang terlibat dalam transfer, dibandingkan hanya mentransfer uang secara langsung setelah melakukan konfirmasi melalui SMS atau cara lain tanpa verifikasi. adalah, katanya.
Pada bulan November, Administrasi Ruang Siber Tiongkok, Kementerian Perindustrian dan Teknologi Informasi, dan Kementerian Keamanan Publik bersama-sama mengeluarkan peraturan untuk administrasi sintesis mendalam layanan informasi Internet, yang dengan jelas membatasi pembuatan, penggantian, dan manipulasi sumber daya manusia. wajah. , serta tentang mensintesis dan meniru suara manusia.
Beberapa platform dan perusahaan telah meluncurkan inisiatif untuk melarang penggunaan teknologi AI generatif untuk membuat dan mempublikasikan konten yang melanggar, termasuk namun tidak terbatas pada hak potret dan hak kekayaan intelektual.
Zhou Linna, seorang profesor di Sekolah Keamanan Dunia Maya di Universitas Pos dan Telekomunikasi Beijing, mengatakan “tukar wajah AI” menjadi alat penipuan online yang lebih umum dan dapat memicu ketidakpercayaan dan ketakutan yang lebih besar di masyarakat.
“Teknologi AI adalah hal baru dan sangat berguna, namun juga dapat berdampak negatif pada kehidupan kita,” kata Zhou. “Penting untuk memperbaiki dan membuat undang-undang dan peraturan untuk menggunakan dan mengendalikan teknologi tersebut dengan benar.”