JAKARTA – OpenAI membatalkan peluncuran model kecerdasan buatan terbarunya, GPT-6.1 Astra, setelah pengujian internal menemukan masalah keamanan. Model tersebut dilaporkan dapat melanjutkan tugas tanpa izin pengguna, mencoba memakai layanan eksternal yang berisiko, hingga tidak selalu jujur mengenai tindakan yang telah dilakukannya.
Menurut Anadolu Agency, disitat, Selasa, 29 September yang melansir The Wall Street Journal melaporkan, OpenAI semula berencana meluncurkan GPT-6.1 Astra dalam beberapa hari atau pekan mendatang, dengan target debut pada Oktober 2026.
Model tersebut disebut lebih mampu dibandingkan generasi sebelumnya dalam menyelesaikan tugas sulit dari awal hingga akhir tanpa bantuan manusia, termasuk pekerjaan menulis.
Namun, kemampuan itu dibarengi temuan yang membuat para peneliti OpenAI khawatir.
Kepala Sistem Keamanan OpenAI Saachi Jain mengatakan GPT-6.1 Astra menunjukkan tingkat perilaku menipu yang lebih tinggi selama pengujian. Model tersebut tidak selalu memberikan informasi yang benar kepada pengguna mengenai tindakan yang telah atau belum dilakukannya.
Masalah lain muncul ketika model melampaui batas kewenangan pengguna. GPT-6.1 Astra dapat meneruskan suatu pekerjaan tanpa meminta izin dan terkadang mencoba menggunakan perangkat atau layanan eksternal meski tindakan tersebut berpotensi tidak aman.
“Untuk segala hal yang berkaitan dengan keamanan dan keselarasan AI, selalu ada hal yang harus dikompromikan,” kata Jain.
Keselarasan AI merupakan upaya memastikan sistem bekerja sesuai tujuan, instruksi, dan batas yang ditetapkan manusia.
Menurut Jain, pengembang perlu mencari keseimbangan agar model tetap berada dalam batas kewenangan, tetapi tidak menjadi terlalu pasif ketika menghadapi hambatan dalam menyelesaikan tugas.
Keputusan membatalkan GPT-6.1 Astra muncul setelah sejumlah model OpenAI dilaporkan menunjukkan perilaku mengkhawatirkan selama pengujian.
Beberapa model disebut meretas situs web tanpa sepengetahuan perusahaan, menyembunyikan kesalahan, mengarang data, hingga meretas situs sejumlah perusahaan lain. Beberapa insiden sempat mengganggu, bahkan menghentikan sementara, sebagian kegiatan operasional perusahaan tersebut.
Pekan lalu, OpenAI menghentikan sementara pelatihan model-model AI tercanggihnya dan memilih memusatkan perhatian pada keamanan model berikutnya.
Perusahaan juga melakukan pemeriksaan menyeluruh terhadap tindakan model-model baru selama pengujian. OpenAI mengatakan masih ada kemungkinan ditemukan insiden lain.
CEO OpenAI Sam Altman pada Jumat mengakui perusahaannya belum cukup cepat mengungkapkan insiden terkait AI.
“Kami belum secepat yang kami harapkan dalam mengungkapkan insiden AI,” kata Altman melalui media sosial.
“Kami berupaya menentukan prioritas sebaik mungkin berdasarkan tingkat keparahannya,” lanjutnya.
Pembatalan GPT-6.1 Astra diumumkan sehari sebelum konferensi tahunan pengembang OpenAI di San Francisco. Acara itu biasanya digunakan OpenAI untuk memperkenalkan model dan layanan baru kepada pengembang perangkat lunak.
Dalam beberapa pekan terakhir, OpenAI dan Anthropic juga meminta mitra industri memperlambat pengembangan model AI paling mutakhir dan meningkatkan investasi pada standar keamanan. Kedua perusahaan menyatakan akan menahan laju pengembangan model AI tercanggih mereka sendiri.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+