RIAU24.COM - Meta, perusahaan induk Facebook dan Instagram, mengumumkan pada hari Rabu bahwa mereka telah menemukan dan mengganggu kampanye disinformasi pada platformnya yang melibatkan konten kemungkinan yang dihasilkan AI.
Kampanye ini menampilkan pernyataan yang mendukung penanganan Israel terhadap konflik Gaza, yang tertanam dalam item berita dari organisasi global dan anggota kongres AS.
Meta menyatakan dalam laporan keamanan triwulanan terbarunya bahwa kampanye tersebut dilacak kembali ke STOIC, agen pemasaran politik yang berbasis di Tel Aviv.
Akun-akun tersebut menyamar sebagai mahasiswa Yahudi, Afrika-Amerika, dan warga negara lain yang peduli, dengan fokus pada audiens di Amerika Serikat dan Kanada.
Ini adalah pertama kalinya Meta mengungkapkan penggunaan teknologi AI generatif berbasis teks dalam operasi tersebut sejak diluncurkan pada akhir 2022.
Para peneliti khawatir tentang potensi AI generatif untuk meningkatkan kampanye disinformasi dan mempengaruhi pemilihan, karena dapat menghasilkan teks, gambar, dan audio seperti manusia dengan cepat dan murah.
Terlepas dari kekhawatiran ini, eksekutif keamanan Meta menyatakan bahwa teknologi AI baru tidak menghambat kapasitas mereka untuk membongkar jaringan pengaruh tersebut.
"Ada berbagai contoh bagaimana jaringan ini menggunakan teknologi AI generatif untuk membuat konten. Mungkin itu memungkinkan mereka untuk melakukannya lebih cepat atau dengan volume lebih banyak. Tapi itu tidak berdampak banyak pada kapasitas kami untuk mendeteksi mereka," kata Mike Dvilyanski, kepala investigasi ancaman Meta, selama panggilan pers.
Penelitian ini mengidentifikasi enam aktivitas pengaruh rahasia yang dihentikan Meta pada kuartal pertama.
Selain jaringan STOIC, Meta juga membongkar jaringan berbasis Iran yang didedikasikan untuk konflik Israel-Hamas, meskipun tidak ada AI generatif yang ditemukan dalam kampanye itu.
Meta dan perusahaan teknologi lainnya menghadapi kesulitan mencegah penyalahgunaan teknologi AI baru, terutama dalam konteks pemilu.
Ada laporan bahwa generator gambar dari perusahaan seperti OpenAI dan Microsoft telah menghasilkan foto yang berisi disinformasi terkait pemungutan suara, meskipun ada pembatasan yang melarang konten tersebut.
Perusahaan-perusahaan ini telah menganjurkan solusi penandaan digital untuk membantu mengidentifikasi materi yang dihasilkan AI saat dibuat.
Namun, teknologi ini tidak berlaku untuk teks, dan akademisi menantang kemanjurannya secara keseluruhan.
Dengan pemilihan yang akan datang di Uni Eropa pada bulan Juni dan di Amerika Serikat pada bulan November, kemampuan Meta untuk memerangi taktik disinformasi semacam itu akan diuji secara signifikan.
(***)
