0
0
dianrakyat.co.id, Jakarta – Meta akan mengambil tindakan dengan membuat aturan baru untuk konten AI di platform media sosialnya. Rencana tersebut terungkap setelah komite regulasi Meta menerima dua kasus yang melibatkan gambar cabul figur publik yang dibuat oleh AI.
Meski pelarangan konten seksual di platform media sosial Meta sudah tertulis dengan jelas, namun panitia regulasi ingin mempertimbangkan kembali kejelasan kebijakan Meta. Mereka juga ingin mengetahui efektivitas tindakan penegakan hukum terhadap gambaran jelas yang dihasilkan oleh kecerdasan buatan.
Mengutip postingan Engadget, Kamis (18/4/2024), foto-foto vulgar yang biasa terlihat di Meta media sosial seperti Facebook dan Instagram merupakan foto palsu para selebriti, selebriti, dan politisi.
Hal ini menyebabkan peningkatan perilaku pelecehan seksual di media sosial, dan banyak pengguna yang meminta Meta membuat aturan ketat terkait gambar-gambar tersebut.
Dengan dua kasus tersebut, dewan pengawas mendorong Meta, termasuk Facebook, untuk mengadopsi aturan baru untuk menangani pelecehan tersebut di platform mereka.
Salah satu kasus melibatkan postingan Instagram yang menunjukkan gambar seorang wanita India telanjang yang dibuat oleh AI dan diposting oleh akun anonim yang hanya memposting gambar seorang wanita India telanjang yang dibuat oleh AI.
Artikel tersebut dilaporkan ke Meta tetapi laporan ditutup setelah 48 jam karena kurangnya peninjauan. Pengguna yang sama mengajukan banding atas keputusan tersebut, namun pengajuan banding tersebut ditutup dan tidak pernah ditinjau.
Kasus kedua melibatkan postingan Facebook di grup khusus untuk mengunggah gambar yang dibuat oleh AI. Postingan tersebut menampilkan gambar wanita telanjang dengan seorang pria memeluk payudaranya yang dihasilkan AI.
Gambar seorang wanita yang dibuat oleh AI yang menyerupai gambar profil publik AS, bernama Mereka disertakan dalam unggahan tersebut.
Artikel ini otomatis terhapus karena sudah diberitakan sebelumnya dan sistem internal Meta mungkin cocok dengan artikel sebelumnya. Pengguna mengajukan banding atas keputusan untuk menghapusnya, namun banding tersebut secara otomatis ditutup oleh sistem.
Meta akhirnya menghapus artikel tersebut setelah pengguna mengajukan banding ke komite regulasi dan komite setuju untuk menuntut.
Komisi mengatakan mereka tidak menyebutkan nama kedua orang tersebut dalam upaya mencegah pelecehan lebih lanjut.
Dalam sebuah pernyataan, salah satu ketua komite inspeksi Helle Thorning-Schmidt mengatakan komite tersebut sedang menangani dua kasus untuk menilai potensi kesenjangan dalam penegakan kebijakan Meta.
“Kami tahu bahwa Meta lebih cepat dan efektif dalam memoderasi konten di berbagai pasar dan bahasa dibandingkan media sosial lainnya,” kata Thorning-Schmidt.
Ia menambahkan, “Dengan mengambil satu kasus dari AS dan satu kasus dari India, kami ingin melihat apakah Meta melindungi seluruh perempuan di seluruh dunia dengan cara yang benar.”
Dewan peninjau meminta komentar publik untuk dua minggu ke depan dan akan mempublikasikan keputusannya dalam beberapa minggu ke depan, bersama dengan rekomendasi kebijakan untuk Meta.
Pada saat yang sama, Meta telah memperbarui kebijakannya terhadap konten yang dibuat oleh Artificial Intelligence (AI) dengan memberikan label “Made by AI” yang berlaku pada media sosial Instagram, Facebook, dan Threads.
Menurut laporan The Verge, Meta akan memberikan label khusus untuk konten video, audio, dan gambar jika terindikasi dibuat oleh AI.
Label akan muncul pada konten yang dikenali sebagai hasil AI, dan konten terdeteksi dibuat menggunakan AI. Meski Meta tidak membeberkan detail sistem pendeteksiannya.
“Dalam empat tahun terakhir, khususnya setahun terakhir, masyarakat telah mengembangkan jenis konten AI nyata lainnya seperti audio dan gambar, teknologi ini berkembang pesat,” tulis Meta dalam postingan blognya yang dikutip Senin (8/4). /2024).
Pembaruan pada Kebijakan Manipulasi Media diberlakukan pada tahun 2020, yang melarang pembuatan atau pengeditan video menggunakan AI yang membuat seseorang mengatakan sesuatu yang sebenarnya tidak mereka katakan. Meta kini mengubah cara mereka mengedit konten yang dihasilkan AI.
Mulai Juni 2024, Meta akan berhenti menghapus konten buatan AI yang tidak melanggar Pedoman Komunitas. Kebijakan ini merupakan pedoman dari Dewan Konteks mengenai konten, bukan membatasinya.
Konten yang melanggar aturan lain, seperti kebijakan tentang pelecehan, campur tangan pemilu, dan pelecehan, akan tetap dihapus terlepas dari apakah konten tersebut dibuat menggunakan AI atau tidak.
