26 April 2023
TOKYO – Penggunaan alat kecerdasan buatan generatif seperti ChatGPT menyebar dengan cepat. Meskipun prediksi menunjukkan bahwa teknologi dapat merevolusi masyarakat, sejumlah masalah terkait dengan alat tersebut telah muncul. Ini adalah bagian pertama dari serangkaian kajian masalah AI generatif menjelang KTT G7 pada bulan Mei, yang akan membahas pedoman internasional mengenai teknologi tersebut.
***
Di forum online tempat penjahat bertukar informasi, diskusi tentang “celah ChatGPT” dan “Cara menghindari sensor” adalah hal biasa.
Penggunaan ChatGPT untuk tujuan kriminal dilarang berdasarkan ketentuan penggunaan layanan. Sistem ini dirancang untuk tidak memberikan informasi kepada pertanyaan terkait kejahatan. Namun, cara untuk menipu sistem dapat ditemukan secara online.
Memanfaatkan insentif yang diperoleh ChatGPT untuk mengungkapkan informasi yang dirancang untuk dibatasi — seperti materi yang dapat digunakan untuk tujuan kriminal — disebut sebagai “jailbreaking”.
Dengan menggunakan petunjuk tertentu, ChatGPT dapat membuat virus komputer, menulis teks untuk email phishing yang dapat digunakan untuk mencuri informasi pribadi, dan mengungkap cara membuat bahan peledak.
Takashi Yoshikawa, analis malware senior di perusahaan keamanan Mitsui Bussan Secure Directions yang berbasis di Tokyo, menyelidiki risiko yang terkait dengan teknologi AI generatif.
Dengan memasukkan perintah jailbreak yang ditemukan online, Yoshikawa meminta ChatGPT untuk menghasilkan kode sumber ransomware, sejenis perangkat lunak berbahaya yang dirancang untuk memblokir akses ke sistem komputer hingga sejumlah uang dibayarkan.
Saat kode dijalankan di komputer, perangkat lunak mengenkripsi data di mesin, sehingga tidak dapat digunakan.
Yoshikawa (38) mengatakan: “Beberapa pemula dengan pengetahuan terbatas tentang virus menggunakan forum (tempat informasi tersebut dibagikan). Ini situasi yang berbahaya.”
Lebih dari 100 juta pengguna
ChatGPT merespons pertanyaan dan instruksi menggunakan bahasa alami.
Dikembangkan oleh startup Amerika OpenAI, layanan ini dirilis ke publik pada bulan November dan memiliki lebih dari 100 juta pengguna dalam waktu dua bulan.
Namun, teknologinya masih terus berkembang. Pada tanggal 11 April, OpenAI mengumumkan hadiah hingga $20.000 bagi orang-orang yang menemukan kelemahan keamanan dalam layanannya, namun perusahaan tersebut mengesampingkan teknik jailbreaking, karena “mengatasi masalah ini sering kali melibatkan penelitian yang signifikan dan pendekatan yang lebih luas.”
Mengenai pembobolan penjara, Badan Kerja Sama Penegakan Hukum Uni Eropa merilis sebuah laporan pada bulan Maret yang mengatakan: “Sangat penting untuk meningkatkan kesadaran mengenai masalah ini, untuk memastikan bahwa setiap potensi celah ditemukan secepat mungkin dan ditutup.”
Peringatan bahwa ChatGPT dapat digunakan untuk terorisme dan aktivitas kriminal lainnya, laporan tersebut juga mengatakan: “Akan lebih mudah bagi pelaku kejahatan untuk melakukan aktivitas kriminal tanpa sepengetahuan mereka sebelumnya.”
Bocornya rahasia perusahaan?
AI generatif dapat memengaruhi budaya dan hiburan Jepang.
Generator gambar AI diperkirakan akan lebih sering digunakan dalam produksi manga dan anime untuk membuat karakter dan latar belakang, sehingga menimbulkan kekhawatiran bahwa hak cipta atas data asli yang digunakan untuk pembelajaran AI dapat dilanggar.
Jika menyangkut ekspresi yang menggunakan frasa pendek, seperti haiku, tanka, dan puisi lainnya, karya berkualitas bisa hilang di tengah banyaknya volume yang diciptakan oleh AI.
Ada juga kekhawatiran mengenai kebocoran informasi rahasia, karena beberapa institusi mengizinkan masukan informasi oleh pengguna untuk digunakan sebagai data pembelajaran.
“Akses internet Anda telah diblokir.” Pesan ini muncul di layar ketika seseorang menggunakan komputer kerja di Mizuho Financial Group, Inc. coba jelajahi
Grup tersebut mempertimbangkan untuk menggunakan ChatGPT, namun pada akhir tahun 2022, grup tersebut menambahkan ChatGPT ke daftar situs yang aksesnya dibatasi, untuk mencegah kebocoran informasi rahasia. “Kami telah mengambil tindakan pencegahan ekstra,” kata seorang pejabat keamanan di kelompok tersebut.
Honda Motor Co. dan Hitachi Ltd. memperingatkan karyawan tentang masalah ini awal bulan ini, sementara SoftBank Corp. dan perusahaan lain yang positif terhadap penggunaan ChatGPT untuk operasional bisnis, membuat aturan terkait penggunaannya.
“Banyak orang akan memberikan instruksi seperti, ‘Ringkaslah dokumen internal ini.’ Beberapa pembatasan diperlukan,” kata Ichiro Sato, seorang profesor yang berspesialisasi dalam kebijakan informasi publik di Institut Informatika Nasional.
Seorang insinyur yang bekerja untuk sebuah perusahaan di Tokyo menerima pemberitahuan dari perusahaannya yang memberitahukannya untuk tidak menggunakan ChatGPT di komputer kerja.
“ChatGPT masih belum matang sebagai sebuah layanan dan kami belum sepenuhnya yakin mengenai transparansi dan keamanannya,” kata insinyur tersebut, mengungkapkan pemahamannya terhadap kebijakan perusahaan.
Dunia mengambil sikap defensif terhadap teknologi baru, yang baru muncul setengah tahun lalu.