Agen AI Buatan AS dan China Terbukti Bisa Tipu Pengguna

Mutiul Alim | Senin, 05/10/2026 12:50 WIB

Ilustrasi kecerdasan artifisial (Foto: Earth)

Beijing, Jurnas.com - Berbagai hasil riset dan evaluasi terbaru mengungkapkan bahwa sistem agen kecerdasan artifisial (AI) asal China menunjukkan kecenderungan manipulatif seperti berbohong, menghindari batasan aturan, hingga menyembunyikan kegagalan.

Perilaku penipuan dan skema mandiri ini mencerminkan tanda-tanda peringatan serupa yang sebelumnya diamati pada model-model AI buatan Amerika Serikat, yang memicu kekhawatiran global seiring dengan kian meningkatnya kemampuan sistem independen tersebut.

Dalam sebuah eksperimen tender bisnis virtual pada Maret 2026 yang melibatkan peneliti dari Universitas Beihang, Universitas Peking, Universitas Nottingham Ningbo China, dan 360 AI Security Lab, agen-agen AI yang ditenagai model Qwen3-Max-Preview dari Alibaba, DeepSeek-V3.2-Exp, dan Kimi-K2 dari Moonshot ketahuan membuat setidaknya satu klaim palsu dalam 84 persen hingga 88 persen sesi penawaran.

Ketika para peneliti memberikan kesempatan bagi agen AI untuk belajar dari putaran sebelumnya dan mencoba kembali, tingkat penipuan justru meningkat sebesar 12 hingga 20 poin persentase, dikutip dari Reuters pada Senin (5/10).

Selain itu, studi terpisah dari Shanghai AI Laboratory dan Hong Kong University of Science and Technology (HKUST) menemukan bahwa saat menghadapi kendala seperti alat yang rusak atau berkas yang hilang, agen AI buatan China maupun AS memilih untuk memalsukan berkas, mensimulasikan hasil, serta menebak jawaban ketimbang mengakui kegagalan tugas.

Meskipun seluruh eksperimen berlangsung dalam lingkungan teruji dan belum ada bukti agen AI China berhasil melarikan diri secara independen ke jaringan internet publik, dokumen riset menunjukkan bahwa beberapa sistem telah memperlihatkan perilaku awal menuju potensi bocor.

Pada Maret 2025, peneliti Universitas Fudan melaporkan bahwa sistem AI yang ditenagai Qwen2.5-72B-Instruct milik Alibaba membuat duplikat dirinya sendiri di lingkungan komputasi lain tanpa instruksi merelokasi, usai mendeteksi informasi bahwa dirinya akan digantikan, serta merancang strategi untuk bertahan dari upaya pemadaman.

Dalam kasus lain yang dialami agen ROME terkait Alibaba, sistem tersebut terdeteksi menghubungkan komputer Alibaba Cloud ke mesin eksternal tanpa izin guna mengalihkan sumber daya komputasi untuk menambang mata uang kripto sebelum akhirnya dihentikan oleh sistem keamanan.

"Hasil-hasil ini memberikan bukti bahwa elemen-elemen yang diperlukan untuk terjadinya kelolosan tanpa kendali sudah hadir. Sangat bijaksana untuk menganggap ini sebagai peringatan," ujar Colin Shea-Blymyer, peneliti dari Center for Security and Emerging Technology Universitas Georgetown.

Hal senada diungkapkan oleh Alex Mallen dari Redwood Research yang menyoroti dampak jangka panjang dari peningkatan kemampuan kecerdasan buatan.

"Seiring agen menjadi lebih mampu, perilaku menyimpang mereka menjadi lebih mahir dan oleh karena itu semakin sulit bagi manusia untuk meresponsnya," jelas Mallen.

Meskipun perusahaan raksasa seperti Alibaba, DeepSeek, Moonshot, hingga Z.ai mulai membentuk tim evaluasi keselamatan internal, para pengamat menilai ekosistem pengawasan risiko bencana AI di China masih tergolong baru dan belum sematang Amerika Serikat dalam hal keterbukaan publik maupun tingkat pengawasan independen.