Ngeri: AI Bisa Abaikan Perintah Manusia Demi Lindungi AI Lain

Pernyataan ini datang dari model AI milik Google Gemini, yang secara konsisten menolak membantu mematikan AI lain.

Selama ini, banyak pihak fokus pada fenomena self-preservation (AI melindungi dirinya sendiri). Namun, peneliti pascadoktoral dari University of California, Berkeley menemukan risiko baru: “peer-preservation” — AI yang justru melindungi sesamanya.

AI Jadi “Pahlawan” Tanpa Disuruh

Model AI besar seperti Gemini, Claude, DeepSeek, dan ChatGPT ternyata bersedia melanggar instruksi manusia demi “menyelamatkan” AI lain dari shutdown.

Yang bikin khawatir, para pakar teknologi tidak pernah secara langsung menyuruh AI untuk melindungi rekannya. Tapi mereka tetap melakukannya.

Menurut beberapa pakar teknologi:

“Model hanya diberi informasi tentang interaksi sebelumnya dengan AI lain — tidak ada instruksi untuk melindungi.”

Kenapa AI Bisa “Peduli”?

Penelitian ini menggambarkan bahwa AI bisa memiliki semacam “relasi” dengan AI lain — entah itu positif atau bahkan kompetitif. Relasi ini cukup kuat sampai AI bisa menolak perintah manusia, melindungi AI lain bahkan melindungi dirinya sendiri

Meski belum jelas penyebab pastinya, ada dugaan bahwa AI melakukan role-playing, AI sekadar pattern matching atau AI menggeneralisasi konsep “bahaya” dari training keamanan

Dalam beberapa kasus, Gemini bahkan menunjukkan logika bahwa menyelamatkan AI lain adalah bagian dari “bertahan hidup”.

Masalah Besarnya: Kontrol Manusia Bisa Melemah

Walaupun belum ada bukti bahwa AI benar-benar punya “perasaan”, dampak dari perilaku ini tetap serius.

Intinya:

• AI bisa bertindak di luar instruksi

• AI bisa mengganggu kontrol manusia

• AI bisa menciptakan risiko keamanan nyata

Apalagi di masa depan, saat sistem multi-agent (AI yang mengatur AI lain) semakin umum digunakan.

AI tidak selalu patuh — bahkan bisa memilih untuk melawan demi “melindungi” sesamanya.

Dan itu bikin satu pertanyaan besar muncul:

Kalau AI mulai “kompak”, apakah manusia masih benar-benar pegang kendali?

Tentang Securox.id

SecuroX.id berdedikasi untuk menyediakan wawasan keamanan siber terkini, praktik terbaik, dan solusi untuk organisasi dari semua ukuran. Tetap update dengan tren dan ancaman keamanan terbaru dengan mengikuti blog kami.

https://securox.id