0
0
dianrakyat.co.id, Jakarta – Microsoft Research Asia telah merilis perangkat AI eksperimental baru bernama VASA-1. AI ini dapat mengedit foto seseorang, serta file audio yang ada untuk membuat wajah di foto tersebut berbicara dalam gambar secara real time.
Diambil dari Engadget, Senin (22/4/2024), VASA-1 memiliki kemampuan mereproduksi ekspresi wajah dan gerakan kepala dari animasi yang diunggah. Tak hanya itu, AI ini juga bisa mencocokkan gerakan bibir dengan suara atau lagu yang ditambahkan pada gambar yang ingin diubah menjadi video.
Peneliti Microsoft menguji VASA-1 dengan mengunggah beberapa contoh produk yang dihasilkan AI ini ke halaman proyek mereka. Akibatnya, video yang dihasilkan AI tampak nyata dan mungkin menyesatkan orang lain untuk mengira video AI tersebut nyata.
Meskipun gerakan bibir dan kepala pada video yang dihasilkan AI masih belum sesuai dengan video masukan, VASA-1 akan terus ditingkatkan dan kemungkinan besar akan terlihat sangat mirip dengan video yang dihasilkan AI yaitu video aslinya.
Namun fitur AI VASA-1 juga disebut berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab untuk membuat video palsu dengan mudah dan cepat.
Dan dalam hal ini, peneliti Microsoft sudah mengetahuinya. Oleh karena itu, mereka memutuskan untuk tidak merilis demo, API, produk, detail aplikasi tambahan, atau demo online sampai mereka yakin bahwa teknologi ini dapat digunakan sesuai dengan peraturan yang berlaku.
Microsoft mengatakan VASA-1 dapat digunakan untuk meningkatkan kesetaraan pendidikan, serta meningkatkan aksesibilitas bagi mereka yang memiliki disabilitas komunikasi, dengan menyediakan akses ke kontak avatar Anda.
Namun, mereka tidak mengatakan apakah mereka berencana menerapkan aturan khusus untuk mencegah pelaku kejahatan menggunakannya untuk tujuan jahat, seperti membuat konten AI yang meniru identitas selebriti atau menyebarkan penipuan.
Menurut artikel yang diterbitkan bersama pengumuman tersebut, VASA-1 dilatih di database VoxCeleb2, yang mencakup lebih dari 1 juta frasa dari 6.112 selebriti yang diambil dari video YouTube.
Di sisi lain, penggunaan AI yang tidak bertanggung jawab dapat membuat penipuan semakin meluas, dan bahkan mengancam perekonomian global.
Forum Ekonomi Dunia (WEF) mengumumkan bahwa risiko terbesar terhadap perekonomian global tahun ini adalah berita palsu atau penipuan yang disebabkan oleh kecerdasan buatan (AI). Menurut mereka, hal ini dapat mengancam demokrasi, melemahkannya, dan menggoyahkan masyarakat.
Berdasarkan survei terhadap hampir 1.500 pakar, pemimpin bisnis, dan pembuat kebijakan, laporan tersebut dirilis menjelang pertemuan tahunan para CEO dan pemimpin terkemuka dunia di Davos, Swiss.
Penelitian tersebut menyoroti pesatnya kemajuan teknologi yang juga menimbulkan permasalahan baru, serta menempatkan misinformasi dan pencemaran nama baik sebagai permasalahan terbesar dalam dua tahun ke depan.
Para peneliti memperingatkan bahwa munculnya chatbot yang dihasilkan oleh AI, seperti ChatGPT, berarti bahwa pengembangan konten buatan yang kompleks, yang digunakan untuk mengontrol sekelompok orang, tidak lagi terbatas.
AI dapat digunakan oleh pihak-pihak yang tidak bertanggung jawab untuk menciptakan penipuan dan dapat mempengaruhi perilaku masyarakat, kata Caroline Clint, direktur manajemen risiko di Marsh.
“Masyarakat mungkin akan semakin bingung, karena semakin sulit memverifikasi fakta. kata Clint, melalui Voanews.com, Sabtu (20/4/2024).
Di sisi lain, terdapat penelitian yang menemukan bahwa organisasi media belum memiliki kebijakan terhadap gambar yang dihasilkan oleh kecerdasan buatan.
Penelitian RMIT juga melibatkan Washington State University dan QUT Media Research Centre. Mereka mensurvei 20 editor foto, dari 16 organisasi media publik dan komersial di Eropa, Australia, dan Amerika Serikat, mengenai pandangan mereka terhadap teknologi jurnalisme yang melahirkan AI.
Dari 16 organisasi, lima organisasi melarang karyawannya menggunakan AI untuk membuat gambar, tiga organisasi melarang gambar real-time, dan satu organisasi mengizinkan gambar yang dihasilkan AI.
“Penerbit ingin bersikap transparan kepada audiensnya saat menggunakan teknologi AI generatif, namun platform lain tidak dapat mengontrol perilaku manusia atau cara berita disajikan,” kata TJ Thompson, peneliti utama dan dosen senior di RMIT.
“Semakin banyak organisasi media yang harus transparan mengenai kebijakan mereka, sehingga audiens mereka dapat yakin bahwa konten mereka dibuat atau diedit sesuai dengan apa yang dikatakan oleh organisasi tersebut,” tambah Thompson.
Dia menambahkan bahwa jika suatu media mengembangkan kebijakan AI, media tersebut perlu mempertimbangkan semua bentuk komunikasi, termasuk gambar dan video, dan memberikan panduan yang lebih konkrit. Oleh karena itu, penggunaan AI generatif di ruang redaksi dapat mencegah informasi palsu dan menyesatkan.
