Lockdown Mode Hadir untuk Lindungi ChatGPT dari Serangan Prompt Injection

OpenAI mengumumkan fitur keamanan baru bernama Lockdown Mode. Fitur ini dirancang untuk memberikan perlindungan tambahan terhadap serangan prompt injection, salah satu metode yang digunakan untuk memanipulasi perilaku chatbot melalui instruksi tersembunyi dalam halaman web maupun sumber konten lainnya.

Fitur ini ditujukan bagi individu dan organisasi yang mengelola data sensitif dan membutuhkan lapisan keamanan lebih ketat untuk mengurangi risiko kebocoran informasi saat menggunakan layanan berbasis kecerdasan buatan.

Dalam pengumumannya, OpenAI menjelaskan bahwa Lockdown Mode bekerja dengan membatasi sejumlah kemampuan ChatGPT yang berpotensi menjadi jalur masuk serangan prompt injection.

Saat fitur tersebut diaktifkan, akses penelusuran web secara langsung akan dinonaktifkan sehingga sistem hanya dapat mengakses konten yang tersimpan dalam cache.

Selain itu, ChatGPT tidak dapat mengambil maupun menampilkan gambar dari internet, meskipun pengguna tetap bisa memanfaatkan fitur pembuatan gambar berbasis AI. Lockdown Mode juga menonaktifkan fitur Deep Research dan Agent Mode yang memungkinkan sistem melakukan serangkaian tindakan otomatis berdasarkan instruksi pengguna.

Menurut OpenAI, pembatasan tersebut bertujuan mengurangi kemungkinan data sensitif terekspos atau ditransfer akibat manipulasi yang disisipkan ke dalam sumber informasi eksternal.

Meski demikian, perusahaan menegaskan bahwa Lockdown Mode bukanlah solusi yang sepenuhnya menghilangkan risiko prompt injection.

Dilansir dari TechCrunch, OpenAI mengakui serangan semacam itu masih dapat terjadi melalui konten web yang tersimpan dalam cache atau dokumen yang diunggah pengguna ke dalam sistem. Dalam kondisi tertentu, instruksi berbahaya tersebut masih berpotensi memengaruhi perilaku chatbot maupun akurasi respons yang dihasilkan.

“Lockdown Mode is not intended for everyone. It is designed for people and organizations that handle sensitive data and want stricter protection from data exfiltration risks related to prompt injection,” tulis OpenAI.

Perusahaan menambahkan fitur tersebut memang tidak ditujukan bagi seluruh pengguna, melainkan bagi mereka yang membutuhkan standar perlindungan lebih tinggi saat berinteraksi dengan data penting atau rahasia.

Saat ini OpenAI mulai menggulirkan Lockdown Mode secara bertahap untuk pengguna akun ChatGPT Business mandiri (self-serve) serta sejumlah akun personal yang memenuhi syarat. (saf/ham)