Di tengah persaingan alat bantu berbasis AI untuk peramban web, satu celah keamanan kembali mengingatkan bahwa kecerdasan buatan juga bisa menjadi pintu masuk serangan. Neural Trust mengungkap temuan yang menyoroti Atlas, peramban buatan OpenAI, yang disebut rentan terhadap skenario prompt injection baru melalui bilah pencarian atau omnibox. Celah ini dinilai berbahaya karena memungkinkan instruksi tersembunyi disamarkan sebagai tautan yang tampak aman.
Serangan Menyamar Sebagai URL
Menurut Neural Trust, masalah utama muncul saat Atlas memproses input yang terlihat seperti alamat web, tetapi sebenarnya disusun dengan format yang salah. Ketika pengguna menyalin lalu menempelkan string tersebut ke omnibox, sistem gagal memvalidasi isinya dengan benar. Akibatnya, perintah yang semestinya diperiksa justru bisa dieksekusi tanpa pengamanan memadai.
Berbeda dari serangan injeksi lain yang biasanya menyusup lewat konten halaman atau gambar, metode ini membutuhkan rekayasa yang lebih spesifik. Pengguna harus terlebih dahulu menyalin URL palsu atau salah format itu ke dalam bilah alamat, sehingga serangan bergantung pada interaksi langsung dengan korban.
Dua Risiko Besar: Phishing dan Penghapusan Data
Neural Trust menjelaskan ada dua dampak yang paling dikhawatirkan dari kelemahan tersebut. Pertama, jebakan phishing tautan yang dapat mengarahkan pengguna ke halaman tiruan untuk mencuri kredensial. Kedua, perintah penghapusan data yang berpotensi membuat agen AI menjalankan instruksi merusak, termasuk menghapus file penting di Google Drive.
Temuan ini memperlihatkan persoalan yang lebih mendasar: batas antara input tepercaya dari pengguna dan konten yang belum tentu aman masih belum cukup tegas. Dalam sistem seperti ini, satu celah kecil pada validasi bisa berubah menjadi risiko besar bagi data maupun akun pengguna.
Respons yang Dinanti dari OpenAI
Register disebut telah mencoba meminta tanggapan dari OpenAI terkait temuan Neural Trust, namun belum mendapat jawaban. Di sisi lain, Neural Trust mendorong sejumlah langkah mitigasi, termasuk tidak kembali ke mode prompt, menolak navigasi jika proses penguraian gagal, serta menjadikan prompt omnibox tidak tepercaya secara default.
Artikel ini disusun ulang berdasarkan informasi dari sumber yang telah dipublikasikan sebelumnya.
