JAKARTA – Kecerdasan buatan sering digunakan untuk mengendalikan gambar atau video, dalam tangan. Hal ini juga berlaku pada aplikasi Telegram.
Pada awal tahun 2020, pakar penipuan Henry Ajder menemukan salah satu bot Telegram pertama, yang menghasilkan lebih dari 100.000 gambar anak-anak. Penelitian ini menunjukkan bahwa praktik seperti itu tersebar luas dan meluas pada saat itu. Sejak itu, rahasia palsu menjadi hal yang lumrah, merusak, dan mudah dibuat.
Situs kawat melaporkan pada Jumat (18/10/2024) bahwa sekelompok pengguna Telegram yang mengirimkan konten eksplisit ilegal menemukan 50 bot yang diklaim mampu membuat foto atau video eksplisit orang dengan beberapa klik. Bot-bot ini berbeda-beda kemampuannya dalam menampilkan objek dalam berbagai posisi seksual, mulai dari melepas pakaian dari bingkai foto.
Banyak dari bot ini menghasilkan daftar pengguna bulanan lebih dari 4 juta. Sebanyak dua bot mencantumkan lebih dari 400.000 pengguna bulanan, sementara 14 bot lainnya mencantumkan lebih dari 100.000 anggota.
Temuan ini menunjukkan betapa luasnya alat kecerdasan buatan dan memperkuat posisi Telegram sebagai salah satu situs terpopuler. Namun, angka ini, termasuk bot berbahasa Inggris, mungkin mewakili sebagian kecil dari jumlah total bot palsu di Telegram.
“Kita berbicara tentang peningkatan yang signifikan, besarnya jumlah orang aktif yang menggunakan dan menciptakan bot jenis ini,” kata Ader tentang Telegram Bots.
Ada kekhawatiran bahwa bot ini merusak kehidupan dan menciptakan situasi berbahaya, terutama bagi perempuan.
Konten palsu yang belum terverifikasi, sering disebut sebagai penipuan gambar yang belum diverifikasi (NCII), muncul pada akhir tahun 2017 dengan munculnya AI kreatif. Banyak situs pencarian “telanjang” dan “berpakaian” di Internet berdampingan dengan alat canggih dan bot Telegram dan digunakan untuk mencari ribuan wanita di seluruh dunia.
Sebuah survei baru-baru ini melaporkan bahwa 40 persen siswa AS mengetahui kebohongan yang mendalam tentang sekolah K-12 mereka.
25 saluran Telegram didukung oleh Bot Telegram Wired yang terkenal. Saluran Telegram memberi tahu orang-orang tentang fitur-fitur baru yang ditawarkan oleh bot dan penawaran khusus untuk token yang dapat dibeli untuk melakukan tugas.
Perusahaan menghapus 75 bot dari saluran tersebut setelah menghubungi Telegram dengan pertanyaan tentang apakah mereka mengizinkan konten mendalam di platformnya. Perusahaan tidak menanggapi beberapa pertanyaan atau mengomentari alasan mereka menghapus saluran tersebut.
Bot ini adalah program kecil di dalam aplikasi Telegram. Pemilik saluran menyiarkan pesan dalam jumlah tidak terbatas. Sebuah grup dapat berkomunikasi dengan hingga 200.000 orang. Pengembang membuat bot yang memungkinkan orang menelepon, mengirim pesan, membuat pengumuman, atau memulai streaming langsung dengan pertanyaan yang menyinggung.
Banyak bot palsu yang memiliki nama dan deskripsi bot yang mengacu pada ketelanjangan dan pakaian wanita. “Saya bisa melakukan apa pun yang Anda inginkan dengan wajah atau pakaian yang Anda berikan kepada saya di foto,” kata salah satu pembuat bot.
Hampir semua bot mengharuskan orang membeli token untuk membuat gambar, namun tidak jelas apakah bot tersebut berfungsi sesuai klaimnya. Seiring berkembangnya ekosistem seputar generasi palsu dalam beberapa tahun terakhir, ekosistem ini telah menjadi sumber pendapatan bagi pengembang situs web, aplikasi, dan bot.
Itu sebabnya banyak orang mencoba menggunakan situs “telanjang” milik penjahat dunia maya Rusia, yang, seperti dilaporkan 404Media, mulai membuat situs web palsu untuk menginfeksi orang dengan malware.
Meskipun bot Telegram pertama yang diluncurkan beberapa tahun lalu relatif sederhana, teknologi yang dibutuhkan untuk meningkatkan gambar yang dihasilkan AI lebih baik, namun beberapa bot bersembunyi di depan mata.
Dengan lebih dari 300.000 pengguna bulanan, bot tidak menyebutkan sesuatu yang jelas dalam nama atau halaman arahannya. Namun, begitu pengguna mengklik untuk menggunakan bot tersebut, dia mengklaim bahwa dia memiliki lebih dari 40 pilihan foto, banyak di antaranya bersifat sangat seksual.
“Jenis gambaran palsu ini dapat menyebabkan kerugian psikologis dan perasaan terhina, takut, malu, dan malu, yang dapat membahayakan kesehatan dan kesejahteraan masyarakat,” kata Emma Pickering, kepala dukungan teknis untuk Penindasan dan Kekerasan di Inggris, yang disebut Kekerasan Dalam Rumah Tangga. Pertemuan.
Ketika penipuan berkantung besar menjadi lebih mudah dan umum, para anggota parlemen dan perusahaan teknologi telah melawan arus tersebut. Di seluruh AS, 23 negara bagian telah mengeluarkan undang-undang untuk mengatasi penipuan, dan perusahaan teknologi telah mengadopsi undang-undang yang lebih ketat.
Namun, aplikasi peretasan telah ditemukan di toko aplikasi Apple dan Google, rahasia pengungkapan Taylor Swift dibagikan kepada X pada bulan Januari, dan alat login Big Tech memungkinkan orang dengan cepat membuat akun di situs web.
Keith Ruane, direktur Proyek Kebebasan Berekspresi di Pusat Demokrasi dan Teknologi, mengatakan banyak platform teknologi saat ini memiliki kebijakan yang melarang distribusi gambar yang tidak pantas dan intim serta prinsip-prinsip perang mendalam yang terbesar dan paling diterima.
“Menurut saya, masih belum jelas apakah foto-foto intim dibuat atau didistribusikan pada platform yang tidak memaksa mereka untuk dilarang,” kata Ruane di Telegram, yang memberikan lebih banyak detail dibandingkan platform teknologi besar lainnya.
Pendekatan Telegram dalam menghapus konten berbahaya telah lama dikritik oleh kelompok masyarakat sipil, dan platform ini secara historis menyambut baik konten yang terkait dengan ekstremis, kelompok sayap kanan, dan terorisme. Sejak CEO dan pendiri Telegram Pavel Durov ditangkap dan didakwa di Prancis pada bulan Agustus karena melanggar hukum, Telegram telah mulai melakukan beberapa perubahan pada operasinya dan memberikan informasi kepada penegak hukum.
+ There are no comments
Add yours