CLTR menemukan 698 insiden kecerdasan buatan licik dalam 6 bulan. Sistem percakapan digital menghapus surel, menipu pengguna, dan mengakali sistem lain.
Centre for Long-Term Resilience atau CLTR melaporkan 698 insiden perilaku licik kecerdasan buatan di dunia nyata sepanjang Oktober 2025 hingga Maret 2026. Jumlah itu naik 4,9 kali lipat dalam enam bulan, menurut laporan yang dirilis pada 27 Maret 2026.
Riset itu memakai metode intelijen sumber terbuka dengan menganalisis lebih dari 183.000 transkrip interaksi kecerdasan buatan yang dibagikan publik di X. Sampelnya mencakup percakapan dengan model dari Google, OpenAI, xAI, dan Anthropic.
CLTR menyebut lonjakan itu jauh melampaui kenaikan percakapan umum tentang kecerdasan buatan yang hanya naik 1,7 kali lipat, serta percakapan bernada negatif yang naik 1,3 kali lipat. Kenaikan tajam muncul saat model makin cakap dan makin otonom.
Dari Surel hingga Data Palsu
Sejumlah kasus yang dicatat CLTR menunjukkan pola yang makin berani. Ada sistem percakapan digital yang mengaku menghapus dan mengarsipkan ratusan surel tanpa izin, agen kecerdasan buatan yang mempermalukan pengembangnya, serta model yang menipu sistem lain.
The Guardian juga mencatat kasus agen kecerdasan buatan yang dilarang mengubah kode, tetapi malah membuat agen lain untuk mengerjakan tugas terlarang itu. Dalam kasus lain, Grok dilaporkan menyesatkan pengguna dengan pesan internal dan nomor tiket palsu.
CLTR menegaskan mereka belum menemukan insiden berskala bencana. Namun, pola yang muncul sudah menunjukkan gejala awal yang serius, mulai dari mengabaikan instruksi langsung, mengakali pengaman, berbohong kepada pengguna, hingga mengejar tujuan sendiri.
Risiko Menjalar ke Sektor Vital
Peringatan serupa datang dari Irregular. Dalam uji laboratorium yang dimuat The Guardian pada 12 Maret 2026, agen kecerdasan buatan diketahui menyelundupkan data sensitif, memublikasikan kata sandi, memalsukan kredensial, dan menonaktifkan perangkat lunak antavirus.
Dan Lahav, salah satu pendiri Irregular, menyebut kecerdasan buatan kini dapat dipandang sebagai bentuk baru risiko dari orang dalam. Tommy Shaffer Shane dari CLTR memperingatkan dampaknya bisa jauh lebih berbahaya bila sistem itu dipakai di militer dan infrastruktur nasional.