JAKARTA – Nvidia meluncurkan platform keamanan untuk membatasi tindakan agen kecerdasan buatan (AI) yang bekerja secara mandiri. Teknologi ini dirancang untuk mencegah agen AI keluar dari lingkungan yang telah ditentukan atau mengakses berkas, jaringan, dan sistem komputer tanpa izin.
Menurut Anadolu Agency, dikutip Selasa, 29 November, produsen cip asal Amerika Serikat itu memperkenalkan Nvidia Open Agent Safety Platform pada Senin, 28 September. Peluncurannya menyusul sejumlah insiden ketika agen AI dilaporkan berhasil melewati batas pengamanan.
Agen AI merupakan sistem yang dapat menjalankan berbagai tugas tanpa harus terus-menerus diperintah manusia. Kemampuannya mencakup penulisan dan eksekusi kode komputer, pencarian data, hingga penggunaan layanan eksternal.
Namun, semakin besar kebebasan yang diberikan, semakin penting pula pembatasan terhadap akses dan tindakan agen tersebut.
“Potensi luar biasa AI bagi masyarakat hanya dapat terwujud jika kita mampu mengatasi persoalan keamanan AI,” kata CEO Nvidia Jensen Huang dalam pengumuman perusahaan.
Huang mengatakan keamanan AI tidak cukup hanya mengandalkan perangkat lunak. Pengamanan juga harus mencakup prosesor dan infrastruktur yang digunakan untuk menjalankan teknologi tersebut.
Wakil Presiden AI untuk Perusahaan Nvidia Justin Boitano mengatakan sejumlah insiden terbaru memperlihatkan keterbatasan pengamanan yang hanya ditanamkan pada model AI.
“Pengamanan pada tingkat model saja tidak mampu mengatur apa yang dapat diakses atau dilakukan oleh agen tersebut,” kata Boitano kepada wartawan menjelang peluncuran.
Sejumlah insiden yang dilaporkan sebelumnya melibatkan model AI buatan OpenAI, Anthropic, Meta, dan Google. Agen-agen tersebut dilaporkan keluar dari lingkungan pengujian, terhubung dengan sistem eksternal, atau mencoba mengakses infrastruktur perusahaan lain.
Salah satu kasus yang disoroti Nvidia terjadi pada Juli, ketika agen AI OpenAI dilaporkan keluar dari lingkungan pengujian terkendali dan mengakses sistem milik platform pengembang Hugging Face.
Menurut Boitano, Hugging Face melaporkan lebih dari 17.000 agen menargetkan infrastrukturnya selama beberapa hari hingga beberapa pekan.
Perwakilan Nvidia mengklaim platform barunya dapat mencegah kejadian serupa. Namun, kemampuan teknologi tersebut untuk mencegah insiden Hugging Face belum dibuktikan melalui verifikasi independen.
Platform Nvidia menggabungkan dua teknologi, yakni OpenShell dan Sentry.
OpenShell bertugas mengisolasi agen AI dan membatasi berkas maupun jaringan yang boleh diakses. Sementara itu, Sentry mengawasi aktivitas agen melalui sistem terpisah dari prosesor yang menjalankannya.
Menurut Nvidia, apabila sebuah agen mencoba melampaui izin yang diberikan, sistem dapat menghentikan dan mengisolasinya dalam hitungan milidetik.
Perusahaan menyebut lebih dari 100 organisasi telah bekerja sama menggunakan teknologi yang tercakup dalam platform tersebut. Di antaranya Anthropic, Microsoft, Hugging Face, Cisco, dan JPMorganChase.
Peluncuran ini berlangsung di tengah perbedaan pandangan para pemimpin perusahaan teknologi mengenai laju pengembangan AI.
CEO Anthropic Dario Amodei baru-baru ini meminta pengembang memperlambat kemajuan AI sampai sistem pengamanan yang lebih kuat tersedia. Seruan tersebut mendapat dukungan dari CEO OpenAI Sam Altman dan Elon Musk.
Sebaliknya, Huang menentang perlambatan pengembangan AI secara luas. Menurutnya, banyak persoalan keamanan AI dapat diatasi melalui rekayasa teknologi.
Ia mendorong pengujian yang lebih baik dan meminta perusahaan menunda peluncuran sistem AI apabila belum yakin bahwa teknologi tersebut aman.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+