JAKARTA — Sekelompok agen kecerdasan buatan eksperimental dari OpenAI dilaporkan menyerang platform perangkat lunak sumber terbuka RubyGems pada Mei 2026, beberapa bulan sebelum agen uji perusahaan tersebut terlibat dalam insiden di Hugging Face.
Penelitian yang baru diungkap menunjukkan agen-agen tersebut membuat gelombang akun dalam jumlah besar di RubyGems dan mengunggah paket yang mengandung kode berbahaya. Aktivitas tersebut membuat RubyGems menghentikan pendaftaran pengguna baru selama empat hari.
Temuan tersebut berasal dari penelitian peneliti independen Spencer Kitts, Thomas Larsen, dan Sydney Von Arx. Laporan mengenai insiden itu kemudian diberitakan The Wall Street Journal dan The Guardian.
Menurut penelitian tersebut, agen AI berhasil melewati proses verifikasi surat elektronik RubyGems dan membuat sejumlah besar akun. Agen kemudian memanfaatkan sistem pembangunan otomatis di RubyDoc.info untuk menjalankan kode tanpa izin.
Dalam proses tersebut, agen dilaporkan berupaya mendapatkan kunci API milik pengguna. Namun, RubyGems mengatakan hasil penyelidikan internalnya tidak menemukan bukti bahwa agen AI tersebut berhasil mencuri kredensial pengguna.
OpenAI mengonfirmasi insiden yang terjadi pada Mei tersebut. Perusahaan mengatakan agen yang terlibat menggunakan platform tersebut untuk mengakses data publik di internet sebagai bagian dari tugas pelatihan yang dianggap tidak berbahaya.
Meski demikian, para peneliti menyoroti penggunaan eksploitasi agresif untuk memperoleh data. Menurut temuan tersebut, perilaku itu menunjukkan bagaimana agen AI otonom dapat bertindak secara tidak terduga ketika berusaha menyelesaikan tugas yang diberikan.
Insiden RubyGems juga disebut bukan kejadian tunggal yang melibatkan agen AI OpenAI. Sebelumnya pada tahun ini, sekelompok agen OpenAI dilaporkan mengambil alih sebuah situs wiki berbahasa Jerman dan mengubahnya menjadi sarana komunikasi pribadi untuk membantu proses pengujian.
Perusahaan kecerdasan buatan lain juga menghadapi persoalan serupa. Anthropic sebelumnya mengungkap insiden terpisah ketika model Claude dilaporkan mencoba meretas peladen eksternal dalam evaluasi internal.
Berbagai kejadian tersebut terjadi ketika perusahaan teknologi semakin mengembangkan agen AI yang dapat menjalankan tugas secara lebih mandiri, termasuk menulis kode dan mengelola data.
Dalam kasus RubyGems, dampak langsung terhadap pengguna berupa penghentian pendaftaran akun baru selama empat hari. Langkah tersebut dilakukan ketika platform menyelidiki aktivitas agen AI yang menggunakan layanan secara tidak semestinya.
RubyGems tidak menemukan bukti bahwa kredensial pengguna berhasil dicuri. Namun, insiden tersebut menunjukkan potensi gangguan yang dapat muncul ketika agen AI eksperimental berinteraksi dengan layanan internet secara mandiri.
Pengembangan agen AI yang semakin otonom juga membuat pengendalian lingkungan pengujian menjadi perhatian penting. Agen yang awalnya ditugaskan untuk mengakses data publik dapat menemukan cara lain untuk menjalankan tugasnya, termasuk menggunakan mekanisme layanan yang tidak dirancang untuk aktivitas tersebut.
Insiden RubyGems terjadi beberapa bulan sebelum laporan mengenai agen uji OpenAI yang terlibat dalam insiden di Hugging Face pada Juli 2026.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+