NEW YORK – Aktor di balik video AI palsu Synthesias terungkap: Dalam beberapa tahun terakhir, avatar yang dihasilkan AI telah menjadi tren, yang dikatakan ditulis dengan cara yang dapat dipercaya.
Baca Juga – Menyebarkan Narasi Melawan Propaganda Ekstremis
Namun, video-video ini juga digunakan untuk propaganda dan promosi pemimpin junta militer dan kediktatoran. Kini beberapa artis sebenarnya di balik video tersebut angkat bicara. Inilah yang mereka katakan
Avatar manusia yang dihasilkan AI dapat membuat skrip Anda dengan kosa kata yang sempurna dan terlihat sangat alami.
Namun bagaimana jika video tersebut digunakan untuk mendukung rezim represif dan perusahaan kriminal? Inilah yang terjadi dengan avatar yang dibuat oleh aplikasi AI Syenthesia, dan orang-orang nyata yang digunakan untuk membuat model AI kini angkat bicara.
Menurut laporan The Guardian, teknologi startup yang berbasis di London, yang baru-baru ini mencapai status unicorn (nilai pasar USD 1 miliar), digunakan untuk mendukung Ibrahim Traore, yang memimpin kudeta militer di Burkina Faso pada tahun 2023.
Video-video tersebut, yang muncul di platform seperti Telegram, menggunakan jangkar AI yang dirancang dengan baik dan meminta masyarakat untuk mendukung pemimpin junta, yang kemudian menjadi presiden.
Synthesia terutama ditujukan untuk membuat video pemasaran. Namun, DeepFake digunakan untuk membuat video promosi di platform, yang melanggar persyaratan layanannya.
Para pemain yang bahasa tubuhnya digunakan untuk melatih model AI merasa dikhianati dan asosiasi negatif tersebut mempengaruhi kesehatan mental mereka.
Synthesia, yang mengklaim telah meningkatkan operasi kontennya, telah membantah bahwa The Guardian masih dapat memproduksi video dengan menyediakan skrip kontroversial kepada mereka.
Negara-negara termasuk Rusia dan Tiongkok menggunakan video Synthesia untuk menyebarkan disinformasi.
Dua video berita palsu pro-Venezuela yang menampilkan avatar Synthesia telah muncul di YouTube dan Facebook. Salah satu pemimpin palsu tersebut mengecam “klaim media Barat” tentang ketidakstabilan ekonomi dan kemiskinan di Venezuela.
Dalam salah satu video, avatar AI mengatakan dia adalah CEO platform cryptocurrency.
Marc Torres, aktor di balik video Burkina Faso, mengatakan kepada The Guardian bahwa dia merasa kesal dan rentan karena fotonya diambil.
“Saya terkejut, tidak ada kata-kata yang bisa saya ucapkan sekarang… Saya tidak pernah merasa begitu terluka dan rentan,” kata Torres, seperti dikutip The Guardian.
“Saya tidak ingin ada orang yang melihat saya seperti ini. Fakta bahwa foto saya beredar bisa mengatakan apa pun… Orang-orang akan mengira saya ikut serta dalam kudeta,” tambah Torres.
“Mengetahui bahwa perusahaan yang citranya saya percayai membuat saya sangat marah. Bisa saja nyawa saya melayang ketika saya melintasi perbatasan untuk berimigrasi.”
“Itu bukan saya, itu hanya wajah saya. Tapi mereka akan mengira saya menyetujuinya,” kata Dan DeWhirst, yang berperan dalam pembuatan pembawa berita asli yang digunakan dalam video Venezuela.
“Banyak orang telah menghubungi saya tentang hal itu… tetapi mungkin ada orang lain yang melihatnya dan tidak mengatakan apa pun atau diam-diam mengutuk saya.”
“Saya sangat marah. Ini benar-benar berdampak buruk pada kesehatan mental saya,” katanya, seraya menambahkan bahwa hal itu menyebabkan banyak kecemasan.
The Guardian juga mengutip mantan karyawan Synthesia yang tidak disebutkan namanya yang mengatakan bahwa AI tidak bisa melupakan apa yang dilatih untuk meniru bahasa tubuh orang sungguhan.
Hal ini memerlukan penghapusan total model AI, katanya.
Synthesia mengatakan kepada surat kabar tersebut bahwa mereka tidak mengizinkan avatar dasar untuk konten politik, termasuk “konten yang akurat secara faktual tetapi mungkin mempolarisasi.”
Didirikan pada tahun 2017 oleh tim Victor Ripperbelly dan Stefan Tjerild, Synthesia mencakup Microsoft, Zoom, Xerox, dan Ernst & Young.
+ There are no comments
Add yours