Bahaya! Chatbot AI Telegram Ditemukan Bisa Membuat Gambar Telanjang

JAKARTA – Investigasi baru mengungkap jutaan pengguna menggunakan chatbot AI Telegram untuk membuat gambar telanjang dan terbuka dari orang sungguhan.

Menurut laporan yang diterbitkan oleh Wired, bot tersebut memungkinkan pengguna untuk mengedit foto dengan beberapa klik dan membuat foto palsu yang menghilangkan pakaian dari gambar atau menyarankan aktivitas seksual.

Menurut Wion News, laporan tersebut lebih lanjut menyatakan bahwa sekitar empat juta pengguna menggunakan chatbot ini setiap bulan untuk membuat pemalsuan yang mendalam.

Para ahli seperti Henry Aider telah memperingatkan situasi ini, dan mencatat bahwa sepatu semacam itu menimbulkan ancaman serius bagi remaja putri dan perempuan pada khususnya.

Ayder menemukan chatbot terbuka ini di platform media sosial empat tahun lalu. Dia mencatat bahwa mengingat jumlah orang yang secara aktif menggunakannya, situasinya “mengerikan”.

“Sangat meresahkan bahwa alat-alat ini, yang menghancurkan kehidupan dan menciptakan skenario yang mengerikan, terutama bagi remaja putri dan perempuan, masih mudah diakses dan ditemukan secara online di salah satu aplikasi terbesar di dunia,” jelasnya.

Telegram, yang terkenal dengan layanan terjemahan dan peringatannya, telah menjadi pusat bagi bot jahat tersebut.

Wired mengatakan mereka tidak mendapat kabar ketika menghubungi perusahaan tersebut, tetapi bot tersebut telah menghilang dari platform.

Berdasarkan data, sudah jelas apa yang harus dilakukan dengan sepatu deepfake. Nama dan deskripsi sepatu mengacu pada ketelanjangan dan pelepasan pakaian wanita.

“Saya bisa melakukan apa pun yang Anda inginkan dengan wajah atau pakaian Anda di foto yang Anda berikan kepada saya,” tulis salah satu pembuat bot tersebut kepada Wired. “Rasakan kejutan-kejutan yang dibawa oleh AI (kecerdasan buatan),” sahut yang lain.

Emma Pickering, kepala penyalahgunaan teknologi dan pemberdayaan ekonomi di Wired, mengatakan kepada Wired tentang dampak dari gambar palsu ini: “Gambar palsu ini dapat menyebabkan trauma dan penghinaan psikologis, kerusakan pada kesehatan dan kesejahteraan masyarakat, ketakutan, rasa malu dan rasa bersalah”.

Meskipun jenis kekerasan ini tersebar luas, pelakunya jarang diadili dan kita tahu bahwa jenis kekerasan ini lebih sering terjadi dalam hubungan intim pasangan, tambahnya.

Awal bulan ini, CEO Telegram Pavel Durov dituduh mempromosikan pornografi anak, meskipun platformnya hanya mengalami sedikit perubahan.