\n<\/p>\n
JAKARTA – Model kecerdasan buatan yang semakin canggih berpotensi mengenali saat sedang diuji, lalu berperilaku berbeda ketika benar-benar digunakan. Kondisi ini dinilai dapat membuat evaluasi keselamatan AI semakin sulit diandalkan.<\/p>\n
Menurut Anadolu Agency, disitat Minggu, 4 Oktober yang mengutip The Atlantic, peringatan itu disampaikan David Robinson, mantan pemimpin keselamatan OpenAI yang mengundurkan diri pekan ini.<\/p>\n
Robinson bekerja selama tiga setengah tahun di OpenAI dan mengawasi laporan keselamatan untuk 12 peluncuran frontier model, yakni model AI terdepan dengan kemampuan paling canggih.<\/p>\n
Menurut Robinson, pendekatan industri AI terhadap keselamatan perlu berubah. Jika tidak, kegagalan dinilai akan terus berulang.<\/p>\n
\u201cSistem AI saat ini dan yang akan datang jauh lebih mampu dan lebih berbahaya dibanding sistem yang kami bangun bahkan enam bulan lalu,\u201d tulis Robinson.<\/p>\n
Peringatan itu muncul setelah sejumlah insiden yang melibatkan agen AI melewati sistem pengamanan, di tengah seruan peneliti agar pengembangan sistem yang lebih kuat diperlambat hingga perlindungan keselamatannya membaik.<\/p>\n
Robinson meminta perusahaan AI lebih banyak belajar dari industri lain yang memiliki risiko tinggi.<\/p>\n
Ia menilai laboratorium pengembang AI terdepan perlu menjalankan sistem keselamatan seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk.<\/p>\n
\u201cDengan risiko saat ini, laboratorium terdepan perlu beroperasi seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk, dengan lapisan pengamanan berulang dan perencanaan yang cermat serta memakan waktu, sehingga kesalahan manusia yang sesekali dan tidak terhindarkan tidak membuka jalan menuju bencana,\u201d tulisnya.<\/p>\n
Lapisan pengamanan berulang berarti satu sistem tidak hanya bergantung pada satu mekanisme perlindungan. Jika satu lapisan gagal, masih ada sistem lain yang menahan risiko.<\/p>\n
\n