JAKARTA – Raja Charles III dari Inggris memperingatkan para pemimpin industri kecerdasan buatan atau AI mengenai bahaya eksistensial jika teknologi itu jatuh ke tangan yang salah. Istilah tersebut merujuk pada risiko yang dapat mengancam keselamatan dan keberlangsungan manusia.
Menurut Anadolu Agency, dikutip Jumat, 18 September, peringatan itu disampaikan saat Charles menjadi tuan rumah pertemuan para pemimpin industri AI di kantor pusat King’s Foundation di Skotlandia, Kamis. Salah satu yang hadir adalah CEO Nvidia Jensen Huang.
Charles mengatakan perdebatan mengenai AI semakin serius karena para pembuat teknologi itu kini juga memperingatkan bahwa AI berisiko mengembangkan kemampuan yang dapat membawa dampak lebih berbahaya.
“Dalam hal ini, jika saya boleh mengatakan, tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya eksistensial jika teknologi seperti ini jatuh ke tangan yang salah dan digunakan dengan cara yang berpotensi menimbulkan bencana,” kata Charles.
Ia menilai pengendalian perlu disiapkan sebelum perkembangan teknologi melaju terlalu jauh.
“Sudah pasti kita membutuhkan sarana pengendalian yang memadai sebelum semuanya terlambat,” ujarnya.
Charles juga menyoroti dua persoalan utama. Pertama, bagaimana memanfaatkan AI dengan keselamatan sebagai dasar pengembangannya. Kedua, bagaimana membangun kerja sama internasional agar tidak ada negara yang tertinggal dan kemajuan AI tidak justru mengorbankan manusia.
Menurut Charles, perkembangan AI dari sisi kemampuan maupun kecepatannya sama-sama menarik sekaligus mengkhawatirkan.
“Kemanusiaan kita harus tetap sakral,” kata Charles.
Ia juga mengatakan masyarakat membutuhkan kepastian bahwa manusia tidak akan kehilangan kendali atas masa depan maupun nilai-nilai kemanusiaannya.
Peringatan itu muncul ketika semakin banyak pihak menyerukan agar pengembangan AI dilakukan lebih hati-hati. Dalam beberapa bulan terakhir, sejumlah pelaku industri dan peneliti AI juga menyampaikan kekhawatiran mengenai risiko teknologi tersebut.
CEO Nvidia Jensen Huang mengatakan keselamatan harus menjadi prioritas utama. Menurut Huang, perusahaan sebaiknya menahan peluncuran produk dan terus memperbaikinya jika produk tersebut belum cukup aman.
BBC melaporkan Huang juga menekankan pentingnya model terbuka, yakni sistem yang memberi pengguna akses langsung ke perangkat lunak. Menurut Huang, pendekatan tersebut dapat membantu memastikan masyarakat dan negara tidak tertinggal.
“Mari memimpin dengan optimisme yang bertanggung jawab, membangun AI secara aman dan terlindungi, membukanya kepada lebih banyak orang, memperluas ambisi kita, dan menyelesaikan persoalan yang penting bagi dunia,” kata Huang, seperti dikutip BBC.
Sementara itu, Demis Hassabis, salah satu pendiri DeepMind yang kemudian diakuisisi Google, mengambil sikap lebih hati-hati terhadap laju perkembangan AI.
Ia memperkirakan sistem yang mampu menyamai atau melampaui manusia dalam berbagai tugas kemungkinan tinggal beberapa tahun lagi. Menurut Hassabis, dampaknya bisa mencapai “sepuluh kali lipat Revolusi Industri.”
Hassabis mengatakan kemungkinan terjadi sesuatu yang salah “jelas bukan nol”. Namun, ia mendorong pendekatan jalan tengah agar manusia tetap memiliki ruang dan waktu untuk mengurangi risiko secara bersama-sama.
“Masa depan belum ditentukan,” katanya.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+