dlbrw.com, JAKARTA – Ingatkah Anda saat ancaman terbesar di dunia internet adalah virus komputer? Itu adalah masa-masa yang mudah. Saat ini kita menghadapi ancaman digital terbesar: media sosial.
Sebuah studi yang dilakukan oleh para peneliti di Universitas Washington dan Universitas Xi’an Jiaotong mengungkapkan konsekuensi yang sangat besar dan mengerikan dari penggunaan platform pembelajaran bahasa (LLM) berskala besar seperti ChatGPT untuk mengidentifikasi dan memproses profil palsu ini.
Media sosial (akun pengguna yang dapat meniru perilaku seseorang) telah lama menjadi duri bagi para pengguna web dan pengguna. Akun palsu ini dapat menyebarkan informasi yang salah, mengganggu pemilu, dan menyebarkan pandangan ekstremis.
Sejauh ini, perang melawan bot selalu menjadi permainan kucing dan tikus, para peneliti sedang mengembangkan metode deteksi terbaru, hanya pembuat bot yang mencari cara baru untuk menyiasatinya.
Tim peneliti yang dipimpin oleh Shangbin Feng menarik harapan dan perhatian terhadap masa depan integritas.
“Selalu ada perang teknologi antara pemulia tanaman dan peneliti yang berusaha menghentikannya. Setiap kemajuan dalam deteksi tanaman sering kali berakhir dengan bertambahnya spesies, jadi kami melihat peluang dan risiko yang dikatakan oleh para ahli biologi besar. isu”, kata Peng seperti dilansir Study Finds, Sabtu (31/8/2024).
Di sisi fitur, para peneliti mengembangkan metode baru menggunakan LLM untuk menganalisis berbagai aspek akun pengguna, termasuk metadata (seperti jumlah pengikut dan usia akun), konten tekstual, dan koneksi jaringan antar pengguna. Dengan menggabungkan kumpulan data yang berbeda ini, sistem berbasis LLM mereka mampu mengungguli metode deteksi bot konvensional dengan selisih yang mengesankan – akurasi hingga 9,1 persen pada kumpulan data standar.
Namun temuannya tidak positif. Para peneliti juga melihat bagaimana LLM dapat digunakan oleh musuh – yaitu pembuat bot itu sendiri. Dengan menggunakan kemampuan berbicara bahasa AI jenis ini, mereka dapat membuat strategi untuk menggunakan akun bot agar tidak terdeteksi.
Strategi pencegahan LLM ini terbukti sangat efektif. Ketika ditempatkan pada akun bot yang dikenal, mereka mampu mengurangi tingkat deteksi algoritma bot pencarian yang ada sebesar 29,6%. Tindakan tersebut berkisar dari pesan teks yang ditulis oleh bot agar terlihat seperti manusia hingga perubahan nyata pada akun yang mengikuti atau berhenti mengikuti bot.
Mungkin kekhawatiran terbesarnya adalah kemampuan LLM untuk membuat bot yang tidak hanya akurat tetapi juga dapat diandalkan. Penelitian ini menunjukkan bahwa LLM dapat memberikan profil pengguna dan dokumen yang menunjukkan perilaku seseorang secara mendalam, sehingga sangat sulit untuk membedakan akun nyata.
Penggunaan ganda LLM di bidang ekuitas media sosial menghadirkan tantangan bagi pengguna media sosial, peneliti, dan pembuat kebijakan. Di satu sisi, alat AI yang canggih ini dapat meningkatkan kemampuan kami untuk mengidentifikasi dan menghapus akun bot jahat dalam skala besar. Di sisi lain, mereka bisa menjadi “senjata” teknologi yang mampu memanipulasi Internet.
“Menganalisis apakah pengguna adalah bot atau bukan lebih sulit dari yang kita kira,” kata Feng.
Untuk mencapai hal tersebut, peneliti menekankan perlunya inovasi dalam pendeteksian bot, terutama yang dapat menghilangkan metode penghindaran LLM yang efektif. Mereka juga menyerukan transparansi yang lebih besar di media sosial dan kolaborasi antara peneliti, perusahaan teknologi, dan pembuat kebijakan untuk mengatasi permasalahan yang muncul ini.
+ There are no comments
Add yours