\n<\/p>\n
JAKARTA – CEO Microsoft Satya Nadella menilai sistem kecerdasan buatan perlu dibekali mekanisme semacam \u201crem darurat\u201d agar model bisa dihentikan sementara atau dimatikan ketika menjalankan tugas berisiko.<\/p>\n
Menurut Antara, disitat Minggu, 11 Oktober yang mengutip TechCrunch, Nadella menyampaikan pandangan itu melalui unggahan di platform X, Sabtu, 10 Oktober.<\/p>\n
Ia menilai arsitektur kepercayaan dalam sistem AI perlu ditinjau ulang, terutama ketika model semakin banyak mengambil tindakan secara otomatis.<\/p>\n
\u201cKita tidak bisa memperlakukan Super Intelligence sebagai sekumpulan kotak hitam yang tersarang dan hanya menerima atau menolak rekomendasi, jawaban, serta tindakannya,\u201d tulis Nadella.<\/p>\n
Menurut Nadella, model AI sebaiknya dipisahkan dari sistem yang mengatur pelaksanaan tugasnya. Mekanisme kontrol dan pengamanan juga perlu ditempatkan di luar model, bukan hanya bergantung pada sistem itu sendiri.<\/p>\n
Nadella juga mendorong agar setiap tindakan penting yang dilakukan model memiliki catatan yang bisa dibaca manusia dan tidak mudah dimanipulasi.<\/p>\n
Sistem juga harus memberi kewenangan kepada pihak tertentu untuk menghentikan sementara atau mematikan model ketika proses sedang berjalan.<\/p>\n
\u201cKita harus berasumsi bahwa sebuah model telah disusupi dan mengisolasinya sejak awal,\u201d katanya.<\/p>\n
\n