LONDON – Laporan terbaru menunjukkan bahwa AI generatif digunakan untuk melancarkan serangan spear-phishing, malware, dan aktivitas berbahaya lainnya.
Salah satu serangan yang dilaporkan terjadi pada November 2024, menurut Cisco Talos. Serangan tersebut dilakukan oleh aktor teror Tiongkok terhadap pemerintah di Asia.
CNET melaporkan bahwa metode spear-phishing yang digunakan disebut ‘Sweetspecter’, yang melibatkan pengiriman email berisi file berbahaya.
Jika diunduh dan dibuka, file ini dapat membuat rantai infeksi pada sistem pengguna. OpenAI menemukan bahwa SweetSpecter dikembangkan oleh banyak akun menggunakan ChatGPT untuk membuat skrip dan menemukan kerentanan dengan alat LLM.
Serangan berbasis AI kedua dilakukan oleh kelompok Iran yang dikenal sebagai ‘CyberAv3ngers’. Mereka menggunakan ChatGPT untuk mengeksploitasi kerentanan dan mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, dipimpin oleh kelompok Iran yang dikenal sebagai Buran-0817, menggunakan ChatGPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mencuri daftar kontak, mengambil log panggilan dan riwayat penelusuran, mendapatkan lokasi persis perangkat, dan dapat mengakses file di perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang ada untuk mengembangkan malware, tidak ada indikasi bahwa ChatGPT menciptakan malware yang signifikan, kata laporan itu.
Namun, hal ini menunjukkan betapa mudahnya pelaku kejahatan menggunakan layanan AI generatif untuk membuat alat serangan berbahaya. Situasi ini menimbulkan perdebatan penting tentang keterbatasan implementasi AI secara umum.
OpenAI telah mengonfirmasi bahwa mereka akan meningkatkan keamanan AI untuk mencegah penggunaan teknik serupa di masa mendatang.
Selain itu, mereka berhubungan erat dengan tim keamanan internal dan terus berbagi temuan dengan rekan-rekan industri dan komunitas riset untuk mencegah insiden serupa terulang kembali.
+ There are no comments
Add yours