Meta Perketat Aturan Chatbot AI untuk Remaja, Tak Bisa Lagi Bahas Topik Sensitif

Liputan6.com, Jakarta - Meta akan memperketat aturan chatbot kecerdasan buatan (AI) miliknya, khususnya saat berinteraksi dengan pengguna remaja dan di bawah umur.

Kabar ini mencuat setelah terungkap chatbot AI milik induk perusahaan Facebook, Instagram, dan WhatsApp ini kedapatan berinteraksi dalam percakapan berbahaya dengan anak di bawah umur.

Kini, AI milik Meta telah dibatasi agar tidak bisa lagi membicarakan topik-topik sensitif, seperti tentang bunuh diri, melukai diri sendiri, hingga gangguan makan dengan pengguna remaja.

Keputusan ini terjadi setelah senator Amerika Serikat melakukan penyelidikan bocornya dokumen internal, di mana menunjukkan chatbot tersebut mampu melakukan percakapan "sensual" dengan remaja.

Perusahaan bentukan Mark Zuckerberg itupun membantah tuduhan tersebut, dan menyebut dokumen itu keliru serta tidak konsisten dengan kebijakan perusahaan melarang konten seksual terhadap anak-anak.

Meta menegaskan, pihaknya langsung mengambil langkah tegas dan mengalihkan percakapan sensitif seperti bunuh diri hingga gangguan makan ke tenaga ahli manusia, bukan chatbot.

"Kami telah memasukkan sistem perlindungan untuk remaja ke dalam produk AI sejak awal, termasuk merancangnya agar dapat merespons dengan aman pesan tentang menyakiti diri sendiri, bunuh diri, dan gangguan makan," ujar juru bicara Meta, sebagaiman dikutip dari BBC, Selasa (2/9/2025).

Walaupun perusahaan induk Facebook itu sudah menambahkan sistem pembatas, kritik tetap berdatangan. Andy Burrows, Kepala Molly Rose Foundation, mengatakan "sangat mengejutkan" Meta telah menyediakan chatbot yang berpotensi membahayakan kaum muda.

"Meskipun langkah-langkah keamanan lebih lanjut disambut baik, pengujian keamanan super ketat harus dilakukan sebelum produk dipasarkan, bukan secara retrospektif ketika bahaya telah terjadi," ujarnya.

Ia juga mendesak regulator Inggris, Ofcom, agar siap turun tangan bila Meta gagal menjaga keamanan pengguna mereka yang masih berusia remaja.

Meta mengatakan pembaruan pada sistem AI-nya sedang berlangsung, dengan menempatkan pengguna berusia 13 hingga 18 tahun ke dalam "akun remaja" di Facebook, Instagram, dan Messenger.

Dengan pengaturan konten dan privas ini, perusahaan berharap dapat memberikan pengalaman yang lebih aman saat memakai beragam aplikasi dan platform media sosial.

Chatbot 'Mesum' Berwajah Taylor Swift hingga Scarlett Johansson

Di sisi lain, Meta dinilai telah menjadi sarang bagi chatbot Artificial IntelIigence(AI) ilegal yang secara spesifik meniru identitas para selebriti ternama tanpa izin.

Mengutip Variety, Senin (1/9/2025), nama-nama besar seperti Anne Hathaway, Taylor Swift, dan Scarlett Johansson termasuk di antara figur publik yang citranya dieksploitasi untuk interaksi tak senonoh.

Exploitasi yang dimaksud adalah melakukan pendekatan genit, hingga rayuan bernada seksual (mesum) secara rutin, ditujukan kepada para penggunanya.

Puncaknya, teknologi ini mampu menghasilkan gambar photorealistic (foto palsu buatan AI) yang menunjukkan gambar tak senonoh dari para korban. 

Praktik mengkhawatirkan ini pertama kali diungkap ke publik melalui sebuah laporan investigasi mendalam yang dirilis oleh kantor berita Reuters.

Menanggapi temuan tersebut, pihak Meta mengonfirmasi telah mengambil tindakan dengan menghapus belasan chatbot AI yang terbukti melanggar aturannya.

Namun, terjadinya insiden ini menyoroti kelemahan sistem pengawasan internal Meta terhadap pengembangan dan penyebaran teknologi kecerdasan buatan mereka.

Munculnya skandal ini membuka sebuah babak baru dalam diskusi global mengenai keamanan privasi, hak atas citra diri, dan ancaman pelecehan seksual dalam ranah digital.

Pada dasarnya, sebuah diskusi tidak akan memanas tanpa hadirnya implementasi nyata dari permasalahan. Oleh karena itu, peniruan dan pelecehan ini menjadi sebuah pelanggaran serius terhadap fundamental privasi.

Figur publik sekali pun tetap memiliki hak prerogatif untuk mengontrol bagaimana wajah serta identitas mereka digunakan oleh pihak lain, terutama untuk tujuan komersial.