JAKARTA – Presiden Amerika Serikat Donald Trump bersama sejumlah pimpinan perusahaan teknologi besar menandatangani kesepakatan sukarela mengenai keselamatan dan pengamanan pengembangan kecerdasan buatan (AI) tingkat lanjut atau yang disebut Trump sebagai “Super Intelligence”.
Kesepakatan tersebut ditandatangani dalam pertemuan Trump dengan para eksekutif teknologi di Gedung Putih pada Selasa (29/9) waktu setempat dan kemudian dibagikan Trump melalui platform Truth Social. Dokumen itu berjudul “White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities”.
Sejumlah pimpinan perusahaan teknologi yang menandatangani kesepakatan tersebut antara lain CEO Google Sundar Pichai, CEO Anthropic Dario Amodei, CEO Meta Mark Zuckerberg, Presiden OpenAI Greg Brockman, CEO xAI Elon Musk, serta CEO Nvidia Jensen Huang.
Kesepakatan itu memuat komitmen perusahaan teknologi untuk memperkuat pengamanan dalam pengembangan dan penerapan model AI mutakhir. Perusahaan yang mengembangkan dan menerapkan model tersebut didorong memiliki proses serta kontrol internal yang kuat untuk memastikan teknologi bekerja sesuai tujuan dan setiap persoalan dapat segera diidentifikasi serta ditangani.
Trump menyebut kesepakatan tersebut bersifat “morally binding”, sementara Ketua DPR AS Mike Johnson menjelaskannya sebagai pernyataan prinsip dan komitmen sukarela dari industri teknologi. Dengan demikian, dokumen tersebut belum menjadi kewajiban hukum yang memiliki mekanisme penegakan.
Empat Lapisan Pengamanan AI
Dalam kesepakatan tersebut, perusahaan yang berpartisipasi diminta menerapkan empat lapisan kontrol dan audit selama proses pengembangan hingga penerapan model AI.
Pertama, perusahaan harus memiliki kontrol internal yang kuat untuk memantau kemampuan dan keselarasan model selama pelatihan dan penerapan. Pengawasan mencakup potensi risiko seperti keamanan siber, keamanan hayati, serta ancaman kimia.
Kontrol tersebut juga diarahkan untuk memastikan model tidak melakukan peretasan atau mengakses sistem teknis dengan cara yang tidak diinginkan.
Kedua, perusahaan harus memiliki tim internal yang bertugas memastikan sistem kontrol, pemantauan, dan deteksi berjalan sebagaimana mestinya. Tim tersebut juga bertanggung jawab memastikan persoalan yang ditemukan segera diperbaiki.
Ketiga, perusahaan diminta bekerja sama dengan auditor atau evaluator eksternal yang independen. Mereka akan melakukan penilaian terhadap efektivitas kontrol, pemantauan, dan sistem deteksi yang diterapkan perusahaan.
Keempat, perusahaan harus menunjuk komite independen dari jajaran dewan direksi untuk mengawasi proses tersebut. Komite ini menerima laporan dari tim internal maupun auditor eksternal serta memastikan persoalan yang ditemukan telah ditangani.
Keempat lapisan tersebut diharapkan memberikan keyakinan kepada perusahaan, pelanggan, dan masyarakat bahwa teknologi AI tingkat lanjut beroperasi sebagaimana mestinya.
Perusahaan-perusahaan yang ikut dalam kesepakatan juga akan mengadakan pertemuan secara berkala untuk menyusun standar dan praktik terbaik dalam meningkatkan keamanan sistem AI seiring perkembangan kemampuan model.
Berpotensi Menjadi Regulasi
Meski kesepakatan saat ini bersifat sukarela, dokumen tersebut membuka kemungkinan agar prinsip-prinsip pengamanan itu nantinya dituangkan dalam undang-undang atau regulasi pemerintah.
“Over time, it may make sense to codify these steps into laws or regulations,” demikian isi kesepakatan tersebut.
Trump sendiri mendorong pendekatan pengaturan mandiri oleh industri teknologi. Kesepakatan tersebut menjadi bagian dari pembahasan yang lebih luas mengenai bagaimana pemerintah dan perusahaan teknologi mengantisipasi risiko dari pengembangan AI tingkat lanjut.
Pada saat yang sama, belum terdapat mekanisme sanksi atau penegakan hukum dalam kesepakatan tersebut. Detail mengenai pemilihan auditor eksternal dan standar yang akan digunakan untuk melakukan evaluasi juga belum ditentukan secara rinci dalam dokumen.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+