Perusahaan induk Facebook dan Instagram, Meta, menghapus ratusan akun palsu yang dioperasikan oleh sebuah perusahaan Israel dengan menargetkan audiens di Amerika Serikat dan Kanada.
Meta mengatakan mereka mengidentifikasi 510 akun Facebook, 11 Halaman, satu grup, dan 32 akun Instagram yang terlibat dalam perilaku tidak otentik yang terkoordinasi.
“Akun-akun ini, yang berasal dari Israel, terutama berfokus pada perang Israel-Hamas dan politik Timur Tengah,” kata Meta, mengutip Anadolu, Kamis (30/5).
Unggahan-unggahan tersebut, sebagian besar dalam bahasa Inggris, termasuk seruan untuk pembebasan sandera, memuji dan mendukung serangan Israel, dan kritik terhadap antisemitisme kampus dan Badan Bantuan dan Pekerjaan Perserikatan Bangsa-Bangsa (UNRWA).
Laporan tersebut juga mencatat bahwa beberapa komentar teks kemungkinan dibuat dengan menggunakan kecerdasan buatan (AI).
Individu-individu di balik operasi ini menggunakan akun palsu dan akun yang disusupi. Bahkan, mereka menggunakan engagement atau interaksi yang tidak otentik dari Vietnam untuk mendongkrak popularitas konten mereka.
Mengutip Reuters, Meta mengatakan akun-akun tersebut menyamar sebagai mahasiswa Yahudi, warga Amerika keturunan Afrika, dan warga negara lain, dengan target audiens di Amerika Serikat dan Kanada. Setelah ditelusuri, kampanye tersebut berafiliasi dengan STOIC, sebuah firma agensi marketing politik yang berbasis di Tel Aviv.
Laporan terbaru ini adalah yang pertama mengungkapkan penggunaan AI generatif berbasis teks sejak teknologi ini muncul akhir tahun 2022.
Para peneliti khawatir AI generatif, yang dapat dengan cepat dan murah menghasilkan teks, gambar, dan audio yang mirip manusia, dapat mengarah pada kampanye disinformasi yang lebih efektif dan mempengaruhi pemilihan umum.
Sejumlah eksekutif keamanan Meta mengatakan mereka telah menghapus propaganda-propaganda tersebut lebih awal. Selain itu, menurut Meta konten-konten buatan AI di platformnya masih jauh dari realistis, sehingga mudah untuk membedakan dengan konten asli.
“Ada beberapa contoh di seluruh jaringan ini tentang bagaimana mereka menggunakan peralatan AI generatif untuk membuat konten. Mungkin hal ini memberikan mereka kemampuan untuk melakukannya lebih cepat atau dengan volume yang lebih banyak. Tetapi hal itu tidak terlalu berdampak pada kemampuan kami untuk mendeteksi mereka,” kata kepala investigasi ancaman Meta, Mike Dvilyanski.
