MADRID – Pemerintah dapat dan memang menggunakan kecerdasan buatan untuk memandu warga negaranya dan kebijakannya. Tapi apakah kita siap menghadapi sejauh mana hal ini bisa terjadi?
Pemerintah mempunyai akses terhadap sejumlah besar data yang dapat – dan sering mereka gunakan – untuk menganalisis dan memprediksi perilaku warganya menggunakan strategi kecerdasan buatan (AI).
Namun sementara AI dapat membantu pembuat kebijakan dengan memberikan perkiraan yang sangat akurat, mengidentifikasi tren dan pola, memprediksi hubungan yang kompleks dan meningkatkan profitabilitas, hal ini juga dapat memitigasi risiko terhadap privasi dan keamanan warga negara dan mengancam kebebasan pengambilan keputusan di masyarakat.
Peneliti dari tiga universitas di Spanyol menyelidiki risiko ini dalam sebuah penelitian yang mensurvei pejabat pemerintah tentang penggunaan kecerdasan buatan di lembaga mereka. Salah satu anggota dewan mengatakan AI membantu kotanya memprediksi hasil untuk membantu mengambil keputusan yang lebih baik selama pandemi COVID-19 baru-baru ini.
“Penggunaan kecerdasan buatan untuk memprediksi kemungkinan infeksi dan kematian digunakan dengan model statistik. Model-model ini telah membantu kami meningkatkan layanan kesehatan serta pergerakan orang di kota-kota ketika pembatasan sosial diperlukan,” kata anggota dewan tersebut. Namun, pejabat yang sama juga mencatat: “Penggunaan aplikasi untuk melacak lokasi perangkat pengguna, meskipun selalu anonim, telah menyoroti kebutuhan untuk mengatur penggunaan teknologi kecerdasan buatan dan teknologi serupa lainnya.”
Politisi Spanyol lainnya yang diwawancarai mengatakan: “Kami menggunakan kecerdasan buatan untuk memprediksi kemungkinan tindakan kriminal di kota tersebut. Ketika kecerdasan buatan dan analisis kami memberi tahu kami bahwa ada lingkungan di mana kejahatan serius, seperti pembunuhan, dapat dilakukan, kami meningkatkan jumlah patroli polisi di lingkungan tersebut.”
Yang terbaru pertumbuhan eksponensial dalam penggunaan AI melihat munculnya bidang baru ilmu data perilaku, yang menggabungkan teknik dari ilmu perilaku, psikologi, sosiologi, ekonomi dan bisnis, dan menggunakan proses ilmu komputer, teknik data-sentris, model statistik, ilmu informasi dan atau matematika untuk memahami dan memprediksi perilaku manusia menggunakan pembuatan AI.
Meskipun kekuatan prediktif ini dapat dimanfaatkan untuk merancang dan menerapkan kebijakan dengan lebih baik, seperti yang dikatakan oleh anggota dewan pertama, masalah privasi semakin meningkat. Dengan semakin banyaknya data yang diperoleh dari masyarakat, prediksi akan segera mencapai tingkat efisiensi yang serupa dengan observasi kekhawatiran tentang pengawasan pemerintah. Pemerintah dengan kecerdasan seperti ini mungkin berisiko melanggar privasi dan menghalangi pengambilan keputusan bebas di masyarakat.
Penggunaan teknologi semacam itu secara ilegal bisa jadi diterapkan untuk mengubah perilaku warga negara, termasuk mempengaruhi hasil pemilu. Misalnya, data perilaku pengguna Facebook di AS dianalisis menggunakan algoritma prediksi perilaku yang dikembangkan oleh Cambridge AnalyticaDan digunakan untuk mengubah hasil pemilu dalam kampanye presiden AS tahun 2016 antara Donald Trump dan Hilary Clinton.
Masih banyak pertanyaan mengenai risiko terhadap privasi warga negara yang ditimbulkan oleh penggunaan AI dan ilmu data perilaku oleh pemerintah. Hal ini mencakup: etika pengumpulan dan analisis data yang dihasilkan secara tidak sengaja oleh warga negara; bagaimana keluaran yang diperoleh pemerintah dari analisis data tersebut harus dijelaskan kepada masyarakat; dan apakah (dan dengan cara apa) analisis tersebut dapat melanggar privasi orang lain.
Pemerintah dapat memenuhi Tujuan Pembangunan Berkelanjutan PBB dengan lebih baik lembaga yang efektif, akuntabel, dan responsif jika mereka menggunakan AI untuk meningkatkan layanan kepada warga negara dan masyarakat, dan mengadopsi prinsip dan nilai etika untuk menjamin privasi warga negara.
Solusinya mungkin termasuk pengembangan peraturan terkait AI dan ilmu data perilaku untuk membatasi dan menghindari potensi praktik tidak etis penggunaan teknologi ini secara tidak sah atau melanggar hukum. Praktik dan kebijakan pemerintah yang efektif akan membantu masyarakat lebih percaya diri dalam penggunaan AI, ilmu data perilaku, dan analisis massal mengenai perilaku kolektif dan kecerdasan.
Dalam budaya global saat ini dimana Internet adalah alat komunikasi, data, dan keputusan terpenting berdasarkan analisis perilaku menjadi penting bagi aktor publikNamun karena peraturan perundang-undangan seringkali tertinggal dari teknologi, banyak masyarakat yang saat ini kurang siap menghadapi masa depan yang tak terelakkan ini.
Jose Ramon Saura adalah Associate Professor Pemasaran Digital, Universitas Rey Juan Carlos di Spanyol. Penelitiannya mengeksplorasi wawasan teoretis dan praktis dalam pemasaran digital dan konten buatan pengguna (UGC), dengan fokus pada penambangan data, penemuan pengetahuan, dan ilmu informasi. Dia telah bekerja dengan berbagai perusahaan, termasuk Google, Deloitte, L’Oréal, Telefónica atau MRM/McCann. Dia menyatakan tidak ada konflik kepentingan.