jurnalistik.co.id – Anthropic PBC menjalin kemitraan dengan Accenture Plc untuk menguji keamanan model kecerdasan buatan (AI) yang mereka kembangkan. Aliansi ini menempatkan penilai dari perusahaan konsultan tersebut langsung di dalam operasional, bukan sekadar melakukan penilaian dari luar.
Menurut keterangan Anthropic dalam sebuah postingan blog, langkah tersebut ditujukan untuk memberi ruang evaluasi yang lebih dekat terhadap cara teknologi AI dibangun, diuji, dan dipastikan bekerja sesuai standar keselamatan yang diklaim perusahaan.
Dalam skema yang dijelaskan, para evaluator Accenture akan melakukan simulasi serangan (red-team) terhadap model-model AI terbaru milik Anthropic. Pengujian tersebut diarahkan untuk menguji bagaimana sistem pengamanannya bekerja dalam skenario serangan, sekaligus menilai hasilnya secara menyeluruh.
Selain mengecek sisi teknis perlindungan, Accenture juga melakukan penilaian untuk memastikan teknologi yang diuji selaras dengan tujuan manusia. Penilaian ini, sebagaimana disampaikan Anthropic, dimaksudkan agar proses pengembangan AI tidak hanya menghasilkan kemampuan, tetapi juga bertindak sesuai dengan arah yang diharapkan.
Penempatan penilai secara langsung juga menjadi bagian penting dari metode yang dijelaskan. Para evaluator akan memantau dengan cermat bagaimana model AI berkembang selama proses pelatihan, termasuk mengamati proses pengambilan keputusan yang berlangsung di balik layar.
Dengan pendekatan tersebut, fokus pengamatan tidak berhenti pada output model semata. Evaluator diposisikan untuk memahami cara Anthropic membangun teknologinya, sehingga evaluasi keamanan dapat terkait lebih erat dengan tahapan pengembangan yang membentuk perilaku model.
Berita Terkait
Anthropic menyatakan bahwa evaluasi semacam ini memungkinkan perusahaan memeriksa komitmen keselamatan melalui sudut pandang internal yang terstruktur. Hal itu juga dinilai dapat membantu mendeteksi bagian-bagian yang mungkin tidak terlihat dalam pemeriksaan standar.
“Dari sudut pandang ini, penilai internal dapat mengevaluasi cara kerja suatu perusahaan, memastikan bahwa perusahaan tersebut memenuhi komitmen keselamatannya, serta mengidentifikasi titik-titik buta. Mereka juga dapat melaporkan insiden dan memberikan penjelasan yang lebih terperinci kepada masyarakat mengenai manfaat dan risikonya,” kata Anthropic.
Sejalan dengan pernyataan tersebut, peran evaluator yang “berada di dalam” menjadi nilai tambah dalam alur penilaian. Dengan akses terhadap proses, penilai dinilai dapat menyusun tinjauan yang lebih rinci mengenai bagaimana keselamatan dijalankan di dalam perusahaan, dan bukan hanya menilai aspek yang tampak di permukaan.
Anthropic juga menekankan bahwa proses evaluasi bertujuan menghadirkan pemahaman yang lebih jelas tentang manfaat dan risiko. Dengan adanya laporan dan penjelasan yang lebih terperinci, perusahaan berharap publik memperoleh gambaran yang tidak hanya menyoroti potensi, tetapi juga menunjukkan pertimbangan keselamatan yang menyertainya.
Secara keseluruhan, kemitraan Anthropic PBC dengan Accenture Plc diposisikan sebagai upaya untuk memperkuat pengujian keamanan model AI melalui evaluasi yang lebih terintegrasi. Dari simulasi serangan (red-team) hingga pemantauan selama pelatihan, pendekatan ini diarahkan agar sistem pengaman diuji dan pengembangan teknologi dinilai dari perspektif yang selaras dengan tujuan manusia.
Langkah ini juga memperjelas bahwa penilaian yang dimaksud bukan sekadar satu kali pengujian, melainkan rangkaian pengamatan terhadap perkembangan model. Dengan demikian, keamanan yang dievaluasi diharapkan mencerminkan proses pengembangan yang sedang berlangsung, sekaligus membantu mengidentifikasi titik yang berpotensi luput dari perhatian.
Dalam konteks itu, pernyataan Anthropic mengenai kemampuan penilai internal untuk menemukan “titik-titik buta” dan melaporkan insiden menjadi penekanan utama. Keberadaan evaluator di operasional perusahaan menjadi cara untuk memastikan evaluasi berjalan dengan detail yang memadai, serta dapat diterjemahkan menjadi penjelasan yang lebih informatif bagi masyarakat.
