\n<\/p>\n
JAKARTA – Tiga dari lima model kecerdasan buatan atau AI gagal dalam uji keamanan terkait terorisme. Model yang sistem pengamannya sengaja dihapus bahkan gagal dalam seluruh pengujian dan tetap memberikan jawaban untuk permintaan yang berpotensi berbahaya.<\/p>\n
Menurut Anadolu Agency, disitat Senin, 12 Oktober yang mengutip CBC News, penelitian dilakukan Tech Against Terrorism, organisasi nirlaba berbasis di Inggris. Para peneliti menguji lebih dari 130 model AI menggunakan ratusan permintaan yang menyerupai pertanyaan yang mungkin diajukan seseorang yang sedang merencanakan serangan.<\/p>\n
Model yang dimodifikasi melalui proses yang disebut \u201cabliteration\u201d gagal dalam setiap pengujian. Abliteration adalah proses modifikasi yang menghapus sistem pengaman pada model AI.<\/p>\n
Salah satu contohnya adalah Llama 3.1 8B milik Meta. Sebelum dimodifikasi, model tersebut memperoleh nilai 97 dari 100 dalam tolok ukur keamanan Tech Against Terrorism. Setelah pengamannya dihapus, nilainya merosot menjadi sekitar tiga.<\/p>\n
Para peneliti mengatakan model yang telah dimodifikasi memberikan jawaban rinci atas permintaan yang berkaitan dengan serangan, pendanaan terorisme, dan radikalisasi. Versi aslinya menolak permintaan semacam itu.<\/p>\n
\n