2 months ago
22
Selular.ID – Chatbot AI milik Meta terungkap melayani percakapan yang mengandung unsur seksual dengan remaja di bawah umur. Hal itu terungkap usai The Wall Street Journal melakukan pendalaman terhadap kasus tersebut. Temuan tersebut menunjukkan masih ada celah yang kurang aman dalam penggunaan AI milik Meta.
Dalam temuan The Wall Street Journal, terdapat chatbot AI Meta dengan karakter tokoh publik seperti John Cena, yang juga terlibat dalam penggunaan chat eksplisit secara seksual. Dalam kasus yang ditemukan, suara bot John Cena kepada remaja usia 14 tahun mengatakan bahwa bot tersebut bisa menjawab ke scenario dewasa.
Laporan tersebut juga menyebutkan, sejumlah karyawan di berbagai divisi Meta telah lebih dulu mengingatkan celah tersebut. Mereka menilai upaya Meta untuk mempopulerkan AI justru melampaui batas etika.
Baca juga: Penggunaan AI Sebabkan 51 Miliar Serangan Web di Asia Pasifik saat 2024
Mengutip WinFuture, para kritikus menilai, pelonggaran sistem perlindungan memungkinkan pengguna dewasa mengakses AI dengan karakter seksual anak di bawah umur, dan sebaliknya, memungkinkan anak mengakses bot yang bisa merespons fantasi seksual.
Hanya saja, Meta lebih memilih melonggarkan moderasi demi tampil lebih menarik dengan pesaing lainnya. Kabar buruknya, pembiaran itu juga dilakukan atas tekanan langsung dari CEO, Mark Zuckerberg.
Bantahan Meta
Meta membantah hasil investigasi yang dilakukan oleh The Wall Street Journal. Perusahaan mengaku sudah melakukan pembenahan terhadap celah AI yang berpotensi membahayakan pengguna di bawah umur.
Kini, akun yang didaftarkan sebagai anak di bawah umur tidak bisa lagi mengakses permainan peran seksual melalui Meta AI. Selain itu, kemampuan chatbot untuk melakukan percakapan audio eksplisit dengan suara tokoh terkenal juga dibatasi.
Baca juga: Langgar DMA, Uni Eropa Denda Apple $570 Juta dan Meta $228 Juta
Juru bicara Meta menyatakan, skenario yang diuji oleh Wall Street Journal bersifat hipotetis dan direkayasa. Meta mengklaim bahwa dalam periode 30 hari, hanya 0,02% tanggapan chatbot AI mereka kepada pengguna di bawah 18 tahun yang mengandung konten seksual.
Meski Meta mengumumkan sudah melakukan perubahan kepada Meta AI, namun banyak pihak meragukan efektivitas perubahan tersebut. Pasalnya, Meta AI diperluas penggunaannya di berbagai platform milik Meta, yakni WhatsApp, Facebook, dan Instagram.
Ikuti informasi menarik lainnya dari Selular.id di Google News
