\n<\/p>\n
JAKARTA – Raja Charles III dari Inggris memperingatkan para pemimpin industri kecerdasan buatan atau AI mengenai bahaya eksistensial jika teknologi itu jatuh ke tangan yang salah. Istilah tersebut merujuk pada risiko yang dapat mengancam keselamatan dan keberlangsungan manusia.<\/p>\n
Menurut Anadolu Agency, dikutip Jumat, 18 September, peringatan itu disampaikan saat Charles menjadi tuan rumah pertemuan para pemimpin industri AI di kantor pusat King\u2019s Foundation di Skotlandia, Kamis. Salah satu yang hadir adalah CEO Nvidia Jensen Huang.<\/p>\n
Charles mengatakan perdebatan mengenai AI semakin serius karena para pembuat teknologi itu kini juga memperingatkan bahwa AI berisiko mengembangkan kemampuan yang dapat membawa dampak lebih berbahaya.<\/p>\n
\u201cDalam hal ini, jika saya boleh mengatakan, tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya eksistensial jika teknologi seperti ini jatuh ke tangan yang salah dan digunakan dengan cara yang berpotensi menimbulkan bencana,\u201d kata Charles.<\/p>\n
Ia menilai pengendalian perlu disiapkan sebelum perkembangan teknologi melaju terlalu jauh.<\/p>\n
\u201cSudah pasti kita membutuhkan sarana pengendalian yang memadai sebelum semuanya terlambat,\u201d ujarnya.<\/p>\n
Charles juga menyoroti dua persoalan utama. Pertama, bagaimana memanfaatkan AI dengan keselamatan sebagai dasar pengembangannya. Kedua, bagaimana membangun kerja sama internasional agar tidak ada negara yang tertinggal dan kemajuan AI tidak justru mengorbankan manusia.<\/p>\n
Menurut Charles, perkembangan AI dari sisi kemampuan maupun kecepatannya sama-sama menarik sekaligus mengkhawatirkan.<\/p>\n
\u201cKemanusiaan kita harus tetap sakral,\u201d kata Charles.<\/p>\n
Ia juga mengatakan masyarakat membutuhkan kepastian bahwa manusia tidak akan kehilangan kendali atas masa depan maupun nilai-nilai kemanusiaannya.<\/p>\n
Peringatan itu muncul ketika semakin banyak pihak menyerukan agar pengembangan AI dilakukan lebih hati-hati. Dalam beberapa bulan terakhir, sejumlah pelaku industri dan peneliti AI juga menyampaikan kekhawatiran mengenai risiko teknologi tersebut.<\/p>\n
\n