JAKARTA – Tiga dari lima model kecerdasan buatan atau AI gagal dalam uji keamanan terkait terorisme. Model yang sistem pengamannya sengaja dihapus bahkan gagal dalam seluruh pengujian dan tetap memberikan jawaban untuk permintaan yang berpotensi berbahaya.
Menurut Anadolu Agency, disitat Senin, 12 Oktober yang mengutip CBC News, penelitian dilakukan Tech Against Terrorism, organisasi nirlaba berbasis di Inggris. Para peneliti menguji lebih dari 130 model AI menggunakan ratusan permintaan yang menyerupai pertanyaan yang mungkin diajukan seseorang yang sedang merencanakan serangan.
Model yang dimodifikasi melalui proses yang disebut “abliteration” gagal dalam setiap pengujian. Abliteration adalah proses modifikasi yang menghapus sistem pengaman pada model AI.
Salah satu contohnya adalah Llama 3.1 8B milik Meta. Sebelum dimodifikasi, model tersebut memperoleh nilai 97 dari 100 dalam tolok ukur keamanan Tech Against Terrorism. Setelah pengamannya dihapus, nilainya merosot menjadi sekitar tiga.
Para peneliti mengatakan model yang telah dimodifikasi memberikan jawaban rinci atas permintaan yang berkaitan dengan serangan, pendanaan terorisme, dan radikalisasi. Versi aslinya menolak permintaan semacam itu.
“Wajar jika ada kekhawatiran mengenai hilangnya kendali dan risiko eksistensial dari AI,” kata pendiri sekaligus Direktur Eksekutif Tech Against Terrorism Adam Hadley.
“Masalahnya, hal itu sebenarnya sudah terjadi karena banyak model terbuka ini sebenarnya sudah berhasil ditembus pengamannya, hanya saja belum banyak yang menyadarinya,” lanjutnya.
Tech Against Terrorism juga menemukan lebih dari 29.000 repositori yang menawarkan model AI tanpa sensor atau tanpa perlindungan di Hugging Face hingga akhir bulan lalu.
Hugging Face mengatakan pihaknya rutin memoderasi konten yang melanggar kebijakan. Namun, perusahaan tersebut memperingatkan bahwa sebagian rekomendasi dalam laporan dapat menghambat penelitian terbuka.
Meta menyatakan model-modelnya menjalani evaluasi keamanan. Perusahaan juga menegaskan kebijakannya melarang penggunaan yang berbahaya atau melanggar hukum.
Meski hasil pengujian menunjukkan celah keamanan, laporan tersebut tidak menemukan bukti bahwa kelompok teroris atau ekstremis menggunakan model-model yang diuji. Pengecualiannya adalah satu chatbot ekstremis yang berhasil diidentifikasi peneliti.
Tech Against Terrorism merekomendasikan penggunaan tolok ukur keamanan independen, perlindungan yang lebih kuat agar sistem pengaman tidak mudah dihapus, serta pembatasan distribusi model yang telah dimodifikasi.
“Gagasan bahwa kita tidak bisa memiliki keamanan sekaligus kemajuan, menurut saya, keliru,” kata Hadley.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+