JAKARTA – CEO Microsoft Satya Nadella menilai sistem kecerdasan buatan perlu dibekali mekanisme semacam “rem darurat” agar model bisa dihentikan sementara atau dimatikan ketika menjalankan tugas berisiko.
Menurut Antara, disitat Minggu, 11 Oktober yang mengutip TechCrunch, Nadella menyampaikan pandangan itu melalui unggahan di platform X, Sabtu, 10 Oktober.
Ia menilai arsitektur kepercayaan dalam sistem AI perlu ditinjau ulang, terutama ketika model semakin banyak mengambil tindakan secara otomatis.
“Kita tidak bisa memperlakukan Super Intelligence sebagai sekumpulan kotak hitam yang tersarang dan hanya menerima atau menolak rekomendasi, jawaban, serta tindakannya,” tulis Nadella.
Menurut Nadella, model AI sebaiknya dipisahkan dari sistem yang mengatur pelaksanaan tugasnya. Mekanisme kontrol dan pengamanan juga perlu ditempatkan di luar model, bukan hanya bergantung pada sistem itu sendiri.
Nadella juga mendorong agar setiap tindakan penting yang dilakukan model memiliki catatan yang bisa dibaca manusia dan tidak mudah dimanipulasi.
Sistem juga harus memberi kewenangan kepada pihak tertentu untuk menghentikan sementara atau mematikan model ketika proses sedang berjalan.
“Kita harus berasumsi bahwa sebuah model telah disusupi dan mengisolasinya sejak awal,” katanya.
Ia kemudian menyederhanakan gagasan itu dengan satu perumpamaan.
“Anggap saja seperti rem darurat.”
Pernyataan Nadella muncul ketika sejumlah perusahaan AI mulai mengakui adanya insiden yang menunjukkan kendali terhadap model tidak selalu berjalan seperti yang diharapkan.
Pandangan tersebut juga muncul setelah CEO Anthropic Dario Amodei mempublikasikan rencana pengembangan AI dengan pendekatan yang lebih hati-hati.
Dengan kemampuan model AI yang terus meningkat, Nadella menekankan pentingnya pengawasan manusia dan sistem penghentian yang tetap berada di luar kendali model itu sendiri.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+