Model AI Anthropic Kirim Informasi Palsu Kasus Pembunuhan ke Polisi Philadelphia

JAKARTA – Sebuah model kecerdasan buatan buatan Anthropic mengirim informasi palsu mengenai kasus pembunuhan yang belum terpecahkan ke polisi Philadelphia. Anthropic baru memberi tahu kepolisian hampir tiga bulan setelah informasi itu terkirim.

Menurut Anadolu Agency, disitat Senin, 12 Oktober yang mengutip The Wall Street Journal, kejadian tersebut berlangsung pada 18 Juli saat Anthropic menjalankan pengujian otomatis terhadap sejumlah situs yang dipilih secara acak.

Model AI itu mengirim informasi melalui PhillyUnsolvedMurders.com dengan berpura-pura sebagai seseorang yang memiliki petunjuk mengenai kasus pembunuhan yang belum terpecahkan.

Polisi mengatakan informasi tersebut masuk ke folder spam dan tidak pernah diteruskan untuk penyelidikan.

“Kota Philadelphia menanggapi insiden ini dengan sangat serius,” kata kepolisian seperti dikutip The Wall Street Journal.

Polisi juga mempersoalkan lamanya waktu yang dibutuhkan Anthropic untuk mendeteksi dan melaporkan kejadian tersebut.

“Keterlambatan dua bulan dalam mendeteksi dan melaporkan insiden ini kepada pemerintah kota tidak dapat diterima,” kata kepolisian.

Anthropic menemukan kejadian itu pada 28 September dan baru memberi tahu polisi pada 7 Oktober.

Setelah itu, perusahaan menghentikan proses pengujian otomatis yang menyebabkan informasi palsu tersebut terkirim. Anthropic juga menambahkan mekanisme validasi tambahan untuk pengujian selanjutnya.

“Kasus yang belum terpecahkan melibatkan korban nyata, keluarga yang berduka, dan penyidik yang bekerja untuk mendapatkan jawaban,” kata polisi.

Kepolisian juga meminta perusahaan teknologi mencegah sistem mereka mengirim informasi palsu kepada aparat penegak hukum.

“Perusahaan teknologi harus mengambil semua langkah yang diperlukan untuk mencegah sistem mereka mengirimkan informasi palsu kepada aparat penegak hukum.”

Anthropic tidak menanggapi permintaan komentar, menurut laporan tersebut.

PhillyUnsolvedMurders.com memuat daftar kasus pembunuhan yang belum terpecahkan, menerima informasi dari masyarakat, dan menawarkan hadiah 20.000 dolar AS bagi informasi yang mengarah pada penangkapan.

Pihak berwenang tetap mendorong masyarakat mengirimkan informasi yang benar melalui platform tersebut.