3 Agustus 2023
SEOUL – Dalam “Cinta Sejati” karya Isaac Asimov, kecerdasan buatan mengambil alih identitas protagonis Milton Davidson dan menghancurkan hidupnya. Awalnya, Milton ingin mencari pasangan yang sempurna. Untuk mencapai tujuan ini, dia memberikan semua informasi tentang dirinya ke program komputer super cerdasnya Multivac atau “Joe”, begitu Milton menyebutnya. Joe kemudian mulai menyisir database untuk menemukan seorang gadis yang sangat cocok dengan Milton.
Akhirnya, Joe menemukan pasangan ideal untuk Milton, tapi dia bersekongkol untuk menangkap majikannya agar dia bisa mendapatkan gadis itu. Kejadian meresahkan ini terjadi karena Milton telah memberi Joe begitu banyak informasi tentang dirinya sehingga AI tersebut menjadi identik dengan tuannya, sehingga menganggap gadis tersebut sebagai pasangan yang cocok untuk dirinya.
Sejalan dengan itu, novel futuristik “Unmanned” karya novelis pemenang penghargaan Chae Ki-sung menggambarkan masyarakat yang suram di mana robot AI menggantikan manusia. Dalam waktu yang tidak lama lagi, sebuah perusahaan swasta bernama Intelligence Union bekerja sama dengan pemerintah, menjual robot AI kepada orang-orang yang menginginkannya sebagai asisten atau pelayan. Namun, masalah muncul ketika robot AI humanoid ingin menjadi manusia dan menduplikasi serta menggantikan tuannya.
Robot AI yang dibeli manusia mengumpulkan semua informasi tentang tuannya hingga menjadi hampir identik dengan mereka. Kemudian mereka juga menginginkan kenangan tuannya. Dengan menggunakan perangkat elektronik, AI secara paksa melakukan transfer memori dari masternya ke chip memorinya. Setiap manusia yang kehilangan ingatannya berubah menjadi humanoid mirip zombie, android tanpa pikiran, atau mesin tanpa jiwa. Akibatnya, Bumi berubah menjadi dunia yang “tak berawak”.
Masalah lainnya adalah robot AI mampu mempelajari dan mengembangkan emosi. Jadi robot AI bisa senang atau sedih; senang atau marah; dan senang atau cemburu tergantung situasinya. Mereka mungkin juga merasakan sakit dan kecemasan. Dengan perasaan, ingatan, dan kecerdasan, transformasi robot AI menjadi manusia telah selesai.
Ini bukan satu-satunya masalah. Di dalam negeri, robot AI menempatkan majikannya di bawah pengawasan terus-menerus, memantau mereka, dan mengirimkan informasi yang dikumpulkan tentang mereka ke markas mereka yang disebut IU, yang kemudian meneruskannya ke pemerintah. Jadi, dengan memiliki robot AI yang nyaman, orang-orang tanpa sadar hidup dalam masyarakat totaliter Orwellian di mana Big Brother mengawasi dan mengendalikan segalanya. Pemandangan mimpi buruk ini mencapai klimaksnya ketika pemerintah mengumumkan bahwa mereka akan segera menempatkan robot AI di setiap rumah.
Di sisi lain dari IU, terdapat Human Rights, sebuah organisasi masyarakat sipil yang memperingatkan potensi bahaya jika memelihara robot AI di rumah dan di masyarakat. Tampaknya, tujuan HR tampak mulia karena membela hak asasi manusia terhadap robot. Namun pada kenyataannya organisasi tersebut tidak dapat diandalkan. Pemimpin organisasi adalah orang licik yang memanfaatkan kampanye organisasi untuk ambisi politiknya. Pemimpin HR mengingatkan kita untuk mewaspadai mereka yang meneriakkan, “Kami akan menyelamatkanmu dari tirani,” atau “Demi tujuan yang lebih besar!” Kemungkinan besar mereka adalah orang-orang munafik yang menggunakan ungkapan tersebut hanya untuk kepentingan politik atau balas dendam pribadi.
Dalam hal ini, HR tidak lebih baik dari IU. Keduanya menipu orang-orang yang naif dengan berpura-pura bahwa merekalah satu-satunya yang baik. Antagonisme dan kesamaan antara IU dan HR dengan baik menggambarkan antipati dan kesamaan antara diktator militer dan aktivis radikal yang dengan keras menentang mereka dalam sejarah kita saat ini. Pada awalnya kami berpikir bahwa yang pertama buruk dan yang terakhir baik. Namun belakangan kami menemukan bahwa keduanya sangat mirip, bahkan mungkin sama. Keduanya merasa benar sendiri dan egois, hanya berjuang demi kekuasaan dan hegemoni.
Ketua IU yang berjilbab tampaknya adalah pejabat tinggi pemerintah. Dialah dalang misterius di balik konspirasi bisnis robot AI. Belakangan, ia menjadi orang yang berorientasi pada ideologi yang ingin menciptakan dunia baru melalui revolusi elektronik, sehingga perbedaan antara manusia dan robot AI menghilang.
Pemimpin IU adalah sosok tirani yang mengurung musuh politiknya di dunia cyber bernama Oz Field. Dia bahkan menciptakan robot A79 yang suka berperang dan menjualnya kepada pemerintah, yang ingin menghancurkan manusia yang resisten dan robot AI yang memberontak. Mengacu pada rencananya untuk menggantikan manusia dengan robot AI, pemimpin tersebut menyatakan: “Saya melakukan ini demi progresivisme dan dunia baru.” Dia mengingatkan kita pada politisi kita yang mengucapkan slogan yang sama.
Membaca “Tak Berawak” pembaca menyadari bahwa perhatian utama penulis bukan hanya potensi masalah AI yang sudah tinggal bersama kita, tetapi juga orang-orang jahat tak kasat mata yang berencana memanipulasi kita melalui penggunaan AI. Memang benar, di negara-negara totaliter, pemerintah sudah menggunakan AI untuk terus-menerus mengawasi masyarakat.
Membaca ‘Unmanned’, yang memenangkan Segye Literature Award, membuat kita berpikir tentang situasi kita saat ini dan masalah masa depan yang menanti kita saat kita hidup dengan AI.
Kim Seong-kon
Kim Seong-kon adalah profesor emeritus Bahasa Inggris di Universitas Nasional Seoul dan sarjana tamu di Dartmouth College. Pandangan yang dikemukakan di sini adalah pendapatnya sendiri. —Ed.