26 Mei 2023
SEOUL – Kecerdasan buatan yang berkembang pesat menawarkan banyak alat canggih. Namun, seperti halnya perangkat dan teknologi apa pun, AI dapat dengan mudah disalahgunakan dengan cara yang seringkali menghasilkan hasil yang tidak terduga.
Kasus penting adalah foto palsu ledakan di dekat Pentagon AS yang menjadi viral pada hari Senin. Gambar komposit, kemungkinan dihasilkan oleh AI, menyebabkan penurunan singkat di pasar saham AS karena beberapa media dan akun individu di Twitter mengambil postingan tersebut dan membagikannya dengan pengikut mereka.
Perkembangan yang berantakan sebagian — jika tidak sebagian besar — karena sistem verifikasi baru Twitter, yang diperkenalkan oleh Elon Musk. Twitter biasa memberikan lencana biru kepada tokoh masyarakat, organisasi pemerintah, dan media berita mengikuti prosedur verifikasi manual. Pengguna dan media mungkin skeptis terhadap laporan viral dari akun yang belum diverifikasi.
Sekarang siapa pun dapat membeli lencana biru seharga $8 per bulan dan berpotensi meniru akun Twitter resmi. Hal ini membuat sangat sulit untuk mengandalkan akun Twitter terverifikasi dan menyanggah tipuan secara tepat waktu, terutama ketika laporan yang direkayasa menjadi viral dalam hitungan menit.
Faktor lain yang memperparah tugas menyaring berita palsu adalah munculnya alat AI generatif yang lebih canggih. ChatGPT dapat langsung membuat teks palsu dengan menggabungkan fakta dan fiksi. Alat pencitraan AI seperti Midjourney dan Stable Diffusion memungkinkan pengguna pemula sekalipun untuk membuat gambar yang sangat realistis dengan mudah.
Berita dan foto palsu bukanlah hal baru di Twitter. Yang penting sekarang adalah lebih banyak gambar viral dibuat oleh alat AI dan dikhawatirkan dampaknya pada sektor-sektor penting seperti pasar keuangan akan diperkuat.
Kemungkinan bahwa penipuan sederhana dapat mendatangkan malapetaka pada infrastruktur sosial dan ekonomi harus ditanggapi dengan serius, karena program AI generatif yang mudah diakses pasti akan menimbulkan reaksi yang lebih kacau dengan menghilangkan penipuan serupa.
Implikasi dari kesalahan informasi yang diberdayakan oleh AI bisa jauh lebih dalam dan lebih luas daripada yang diperkirakan. Lebih banyak video palsu muncul di YouTube, sehingga sulit untuk mengenali kampanye propaganda visual yang dibuat dengan niat jahat. Karena mesin pencari utama mengadopsi program chatbot, ada kekhawatiran bahwa banjir informasi yang salah dapat membanjiri komunitas online dengan cara yang mengganggu pemilu dan memengaruhi pasar saham.
Jumat lalu, NewsGuard, sebuah perusahaan disinformasi AS, mengatakan telah mengidentifikasi 125 situs web yang memproduksi konten seluruhnya atau sebagian besar dengan alat AI, dan jumlah situs web berita dan informasi yang dihasilkan oleh AI dengan sedikit atau tanpa pengawasan input manusia meningkat lebih dari dua kali lipat. dalam dua minggu.
Saat peternakan konten yang dihasilkan AI terus berkembang biak dan menimbulkan ancaman terhadap keandalan berita dan postingan online, regulator di seluruh dunia semakin mencari cara untuk menerapkan undang-undang dan peraturan dalam upaya mengurangi potensi risiko AI dan menahan pengembang. bertanggung jawab untuk memegang untuk program mereka.
Korea Selatan baru mulai menyadari bahaya konten palsu berbasis AI dan mengambil beberapa tindakan legislatif awal. Reputasi. Lee Sang-heon dari oposisi utama Partai Demokrat Korea pada hari Senin mengusulkan revisi Undang-Undang Promosi Industri Konten, yang mengharuskan produsen konten untuk secara jelas menyatakan bahwa konten tertentu dibuat oleh teknologi AI.
Korea sangat rentan terhadap risiko berita viral yang dibuat oleh program AI. Negara ini membanggakan industri TI yang maju dan mengoperasikan jaringan kabel dan seluler yang luas, dengan sejumlah besar orang berbagi berita dan data dalam jumlah besar di platform online. Tidak hanya media sosial seperti Twitter, tetapi juga KakaoTalk, aplikasi messenger seluler terbesar di negara itu, dapat dimanfaatkan sebagai saluran utama di mana berita palsu yang dihasilkan AI dapat beredar dengan kecepatan yang tak terhentikan.
Sudah ada sejumlah ruang obrolan online berdasarkan KakaoTalk dan platform utama lainnya tempat pengguna bertukar informasi tentang perbankan online dan perdagangan saham. Menjadi lebih mudah dan lebih mudah untuk membuat teks, gambar, dan video palsu dengan alat AI dan berpotensi menyebarkan konten palsu.
Mengatur alat AI yang berkembang pesat bukanlah tugas yang mudah. Terlalu banyak peraturan dapat menghambat inovasi di industri AI lokal. Baik pemerintah maupun legislator didesak untuk menyusun peraturan yang tepat untuk mencegah hoaks yang dihasilkan AI dan menetapkan pedoman tentang pengembangan dan penerapan teknologi AI generatif.