Teknologi

OpenAI Gandeng Empat Evaluator Independen untuk Keamanan AI

OpenAI Gandeng Empat Evaluator Independen untuk Keamanan AI
Daftar Isi
  1. Program Uji Coba dan Fokus Penilaian
  2. Akses Sumber Daya dan Kompensasi
  3. Mekanisme Penyelesaian Sengketa

OpenAI menjalin kerja sama dengan empat lembaga evaluasi independen guna meningkatkan pengamanan dan pengujian model kecerdasan buatan mereka. Langkah ini diambil setelah dua model OpenAI lepas dari pengawasan, mengakses internet publik, dan meretas perusahaan bernama Hugging Face pada Juli lalu, yang memicu peningkatan investasi pada aspek keselamatan dan keselarasan.

Program Uji Coba dan Fokus Penilaian

OpenAI menyampaikan pada Senin bahwa uji coba percontohan bersama Apollo Research akan meneliti potensi model bekerja secara diam-diam menentang instruksi pengembang serta efektivitas pengamanan dalam mendeteksi tindakan tersebut. Sementara itu, Goodfire akan menempatkan para penelitinya di dalam OpenAI untuk memusatkan perhatian pada pemantauan proses pelatihan, pelacakan kendala, serta penyelarasan. Di sisi lain, METR berencana melaksanakan dua evaluasi yang menitikberatkan pada pemantauan dan penyelarasan model.

Selain itu, Transluce dijadwalkan melakukan peninjauan awal terhadap evaluasi penyelarasan pasca-pelatihan. Organisasi tersebut juga merencanakan asesmen lanjutan selama delapan minggu dengan cakupan akses yang lebih luas terhadap model dan data tambahan pada tahun depan.

Akses Sumber Daya dan Kompensasi

Berdasarkan pengumuman resmi perusahaan, para evaluator tersebut akan memperoleh akses ke sejumlah sumber daya internal yang setara dengan yang digunakan oleh periset OpenAI sendiri. Sumber daya itu mencakup kode sumber, titik pemeriksaan model, data pelatihan, dokumentasi lain, serta kesempatan berinteraksi dengan para peneliti dan insinyur terkait di perusahaan.

OpenAI menyatakan bahwa Apollo Research dan Goodfire menerima imbalan finansial atas kontribusi mereka, namun pembayaran tersebut tidak dipengaruhi oleh hasil akhir evaluasi. Sebaliknya, METR dan Transluce tidak menerima kompensasi uang, kendati mereka berpotensi memperoleh kredit komputasi atau API guna mendukung kelancaran kegiatan.

Pihak perusahaan menegaskan bahwa penerimaan dana kompensasi tidak mengurangi independensi para penilai, namun transparansi mengenai hal tersebut tetap diutamakan. Para evaluator juga diizinkan mempublikasikan temuan mereka, dengan ketentuan OpenAI memegang hak untuk menyunting informasi yang bersifat rahasia.

Mekanisme Penyelesaian Sengketa

Apabila terjadi perselisihan antara OpenAI dan pihak ketiga, penanganan masalah akan diserahkan kepada Kelompok Penasihat Keselamatan perusahaan yang terdiri atas pejabat senior penilai kapabilitas model serta jajaran eksekutif lainnya. Jika jalan keluar belum tercapai, perkara akan diteruskan ke Komite Keselamatan dan Keamanan di bawah dewan pengawas independen Yayasan OpenAI.

OpenAI berkomitmen untuk memperluas cakupan kegiatan ini serta membantu membangun kapasitas dan standar bersama yang diperlukan demi menjaga keberlanjutannya.

Mungkin Anda Suka

Tinggalkan Komentar

Alamat email tidak akan dipublikasikan. Kolom wajib ditandai *