Fibingunp – LONDON – Laporan terbaru menunjukkan bahwa generative Artificial Intelligence i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, kemudian aktivitas jahat lainnya.
Salah satu serangan yang mana teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dijalankan oleh aktor ancaman jika China yang mana memiliki target pemerintah di dalam Asia.
Seperti dilansir dari CNET, metode spear-phishing yang mana digunakan dikenal dengan nama ‘SweetSpecter’, yang digunakan melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diakses lalu dibuka, file ini dapat menciptakan rantai infeksi di dalam sistem pengguna. Open Artificial Intelligence menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang dimaksud memanfaatkan Chatbot GPT untuk menulis skrip lalu menemukan kerentanan dengan alat LLM.
Serangan berbasis Artificial Intelligence kedua dijalankan oleh kelompok jika Iran yang dimaksud dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Asisten Percakapan GPT untuk mengeksploitasi kerentanan dan juga mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang mana dipimpin oleh kelompok lain selama Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan lalu riwayat penelusuran, mendapatkan lokasi tepat perangkat, juga mengakses file di dalam perangkat yang tersebut terinfeksi.
Meskipun semua serangan ini menggunakan metode yang telah ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa tiada ada indikasi bahwa Chatbot GPT menciptakan malware baru yang substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Kecerdasan Buatan untuk menyebabkan alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Artificial Intelligence generatif.
OpenAI mengonfirmasi bahwa dia akan terus meningkatkan keamanan Artificial Intelligence merekan untuk menjaga dari metode-metode sama digunakan di area masa depan.
Selain itu, mereka akan bekerja serupa dengan kelompok keamanan internal kemudian terus berbagi temuan dengan rekan sektor juga komunitas riset guna mengurangi situasi sama terulang.
