JAKARTA – Anthropic mengumumkan kemitraannya dengan Accenture untuk melakukan evaluasi independen terhadap model AI frontier atau AI generasi paling canggih yang tengah mereka kembangkan.
Kemitraan ini akan dipimpin oleh Faculty, bisnis AI spesialis Accenture, dan akan mencakup evaluasi dan pengujian kerentanan model, melakukan penilaian keselarasan, dan menguji pengamanan model.
Berbeda dengan evaluator eksternal yang selama ini bekerja dari luar perusahaan, evaluator tertanam akan memiliki akses yang mirip dengan karyawan internal.
Dengan akses tersebut, evaluator dapat mengamati proses pelatihan model AI, mengikuti keputusan yang memengaruhi pengembangan dan peluncuran model, serta berdiskusi langsung dengan tim yang terlibat dalam pengembangannya.
Sebagai bagian dari kolaborasi tersebut, Anthropic dan Accenture masing-masing berencana menginvestasikan sedikitnya 1 miliar dolar AS (Rp17,8 triliun) dalam lima tahun ke depan untuk membangun kapasitas evaluasi AI.
Melalui pengalaman dan pemahaman tentang bagaimana penggunaan AI yang aman dalam praktiknya, Anthropic percaya Accenture dapat membawa perspektif itu untuk mengevaluasi model mereka.
Meski demikian, Anthropic menegaskan bahwa tanggung jawab atas keamanan model AI tetap berada di tangan perusahaan. Kehadiran evaluator independen ditujukan untuk membuat proses pengawasan lebih transparan dan dapat diverifikasi oleh publik.
Saat ini belum ada standar industri yang mengatur akses, pelaporan, maupun mekanisme pendanaan bagi evaluator tertanam.
Anthropic menyatakan akan terus bereksperimen dengan berbagai model kolaborasi, termasuk berdiskusi dengan organisasi nirlaba seperti METR untuk menguji pendekatan serupa.
“Pada akhirnya, kami percaya bahwa AI mutakhir membutuhkan ekosistem evaluator yang beroperasi dengan standar bersama,” tulis perusahaan dalam pengumuman di situs resminya.
Add VOI as a Preferred Source
Follow VOI news updates across Google.
+