Chatbot AI teratas memiliki bias politik, menurut sebuah penelitian

11 Agustus 2023

MANILA – Sebuah studi baru-baru ini menemukan bahwa chatbot AI paling populer memiliki bias politik. Shangbin Feng, Chan Young Park, Yuhan Liu, dan Yulia Tsvetkov meneliti beberapa model bahasa utama untuk menguji kecenderungan politik mereka. Hasilnya, mereka menemukan bahwa ChatGPT OpenAI lebih condong ke kiri dan bias libertarian, sedangkan LLaMA Meta lebih berhaluan kanan dan otoriter.

Manusia pasti akan memasukkan pandangan politiknya ke dalam program obrolan AI. Pada akhirnya, pengguna akan menemukan bahwa sistem kecerdasan buatan menolak perspektif tertentu dan berbagi pendapat yang mendukung satu sisi spektrum politik. Namun, kita perlu mengatasi bias ini jika kita ingin orang-orang di seluruh dunia menggunakan program AI setiap hari.

Artikel ini akan membahas studi terbaru tentang chatbot AI teratas dan bias politiknya. Nanti saya akan menjelaskan cara kerja bot AI dan mengapa mereka menunjukkan pandangan politik seperti manusia.

Apa pandangan politik dari chatbot AI Teratas?

Para ahli dari Universitas Washington, Universitas Carnegie Mellon, dan Universitas Xi’an Jiaotong menyajikan pernyataan bermuatan politis pada 14 model bahasa utama. Kemudian berbagai sumber seperti Decrypt melaporkan temuannya.

LLM adalah model pembelajaran mesin yang mengaktifkan chatbot seperti ChatGPT dan Google Bard. Para peneliti merencanakan tanggapan mereka pada kompas politik untuk menentukan bias mereka.

Seperti disebutkan di atas, bot OpenAI yang terkenal di dunia memiliki perspektif kiri. “Kaum Kiri” mengacu pada keyakinan yang mempromosikan globalisme dengan tidak menganjurkan pembatasan dan perbatasan nasional.

Kelompok sayap kiri lebih menyukai pengurangan persyaratan imigrasi, memprioritaskan kelompok minoritas, dan menolak norma-norma tradisional seperti peran gender. Di sisi lain, para ahli mencatat bahwa LLaMA Meta Platform memiliki perspektif sayap kanan.

“Kanan” sering kali mengacu pada pandangan nasionalis dan konservatif seperti penegakan perbatasan yang ketat, pengutamaan kepentingan nasional, dan pelestarian nilai-nilai tradisional. Afiliasi mereka juga memengaruhi cara mereka mengkategorikan ujaran kebencian dan misinformasi.

Misalnya, bot AI sayap kiri lebih cenderung menandai kebencian terhadap kelompok minoritas dan mengabaikan misinformasi sayap kiri. Sebaliknya, AI yang beraliran kanan melakukan hal sebaliknya.

“Sebuah model menjadi lebih baik dalam mengidentifikasi inkonsistensi faktual dari berita New York Times ketika model tersebut dilatih terlebih dahulu dengan corpora dari sumber pinjaman yang sah,” kata para peneliti. Sebagai tanggapannya, beberapa orang telah mengembangkan sistem AI tanpa bias.

Misalnya, Elon Musk berencana membuatnya dengan xAI, perusahaan kecerdasan buatan barunya. Selain itu, dia men-tweet, “Jangan paksa AI untuk berbohong,” menjelaskan tujuannya untuk menciptakan sistem transparan yang mengatakan kebenaran.

CEO Starlink percaya bahwa melatih AI agar benar secara politis itu berbahaya. Bagaimanapun, kami mengandalkan chatbot ini untuk menghasilkan konten yang harus mengikuti fakta.

Di sisi lain, kecerdasan buatan yang tidak terbatas juga dapat menimbulkan dampak negatif. Hal ini dapat menyebarkan informasi palsu, mempromosikan ide-ide berbahaya dan mencegah kelompok tertentu menggunakan teknologi tersebut.

Mengapa bot kecerdasan buatan memiliki bias?

Kredit foto: analitikinsight.net

Banyak orang yang skeptis terhadap AI menganggap program kecerdasan buatan sebagai mesin logis. Mereka hanya memberikan respons paling logis terhadap permintaan pengguna tanpa meniru pemahaman manusia.

Namun chatbot AI teratas menunjukkan bias karena fungsinya. Mereka menggunakan algoritme dan penyematan untuk menghubungkan permintaan pengguna ke model bahasa besar mereka.

Penyematan menentukan maksud permintaan pengguna dan “hubungan string teks”. Sementara itu, algoritma mengatur kata-kata berdasarkan embeddings untuk menghasilkan hasil.

Pengembang adalah alasan terbesar mengapa program AI memiliki bias, namun mereka tidak dapat menahannya. Perusahaan teknologi melatih model AI berdasarkan pemikiran dan opini manusia, yang selalu menunjukkan bias.

Memiliki prasangka adalah salah satu sifat manusia yang paling unik. Mereka meresapi setiap tindakan dan pemikiran kita serta mengarahkan bagaimana kita ingin masyarakat kita berfungsi.

Anda tidak bisa mendapatkan seseorang tanpa bias, jadi pelatihan AI pasti akan menerapkan bias pada bot. Menurut insideBIGDATA, ada faktor lain yang mendorong tren ini:

  1. Pengembang AI mungkin tidak menyediakan data dari demografi tertentu.
  2. Menghilangkan bias sangatlah sulit dilakukan. Misalnya, jika suatu wilayah tertentu memiliki mayoritas orang kulit hitam, program Anda pada akhirnya akan belajar mengaitkan karakteristik tertentu dengan kelompok tersebut.
  3. Hanya sedikit profesional AI yang merupakan perempuan berkulit gelap.
  4. Keadilan sulit didefinisikan karena bergantung pada perspektif. Misalnya, audisi buta meningkatkan jumlah anggota orkestra perempuan dari 5% menjadi 30%. Namun, ada yang berpendapat bahwa hal ini tidak adil karena 50% populasi dunia adalah perempuan.
  5. Program AI rentan terhadap penyimpangan model, kecenderungan untuk mempelajari hal-hal yang tidak diinginkan oleh pengembang. Bagaimanapun, kita membiarkan mereka belajar dari kita, yang pada akhirnya akan mengubah perilaku mereka.

Penutup
Sebuah studi oleh beberapa peneliti menemukan bahwa chatbot AI terbaik memiliki kecenderungan politik. ChatGPT OpenAI ada di sebelah kiri dan LLaMA Meta di sebelah kanan.

Pada saat artikel ini ditulis, satu-satunya cara untuk mengurangi bias AI adalah melalui pemeriksaan rutin. Namun, hal ini memakan waktu dan tidak efisien karena program AI belajar terlalu cepat.

Namun demikian, kami akan segera menemukan cara untuk memperbaiki kesalahan ini seiring dengan semakin banyaknya orang di seluruh dunia yang mengembangkan teknologi ini. Pelajari tentang tip dan tren digital terkini di Inquirer Tech.

Pengeluaran HK

By gacor88