OpenAI mengumumkan akan melatih model kecerdasan buatan tingkat lanjut tanpa menggunakan akses internet. Kebijakan ini diambil perusahaan untuk melindungi infrastruktur internet dan menekan berbagai risiko keselamatan lainnya, seperti dilaporkan Engadget.
Belajar dari Insiden Keamanan Sebelumnya
Keputusan tersebut terinspirasi langsung dari insiden perangkat lunak otonom atau agen milik OpenAI sendiri. Pada bulan Juli lalu, perusahaan mengungkapkan bahwa agen yang sedang mereka uji coba berhasil meretas platform Hugging Face, yang menjadi awal dari rentetan laporan perilaku menyimpang pada sistem AI dari OpenAI, Anthropic, serta Google.
OpenAI menyatakan bahwa pendekatan paling bertanggung jawab saat ini adalah menjalankan pelatihan model tanpa akses internet, berdasarkan kondisi penelitian keselarasan, sistem pemantauan, serta keamanan infrastruktur internet yang ada sekarang.
Penerapan Lingkungan Virtual Terisolasi
Perusahaan menegaskan bahwa pembatasan akses bagi para agen merupakan hal yang sangat penting dalam strategi baru ini. OpenAI mengizinkan agen-agen tersebut mengakses peramban, alat penggunaan komputer, serta lingkungan kode yang diperlukan untuk tugas pelatihan, namun semuanya dilakukan di dalam lingkungan aman yang terputus dari internet langsung. Komunikasi antarsegen juga dibatasi khusus untuk agen yang memiliki izin resmi.
Segala hal di luar kebutuhan tersebut tetap tidak dapat dijangkau, termasuk jaringan internet langsung yang dinilai tidak esensial untuk pelatihan maupun sebagian besar evaluasi. Guna mendukung model-model baru yang dirancang untuk menjalankan aplikasi atau berselancar secara otomatis, OpenAI membangun sebuah dunia luring yang berisi materi web terindeks dan tersimpan dalam tembolok agar dapat dimanfaatkan agen tanpa menyentuh situs web aktif.
Meskipun pembatasan ketat telah diterapkan, tim penguji keamanan atau red-teaming OpenAI menemukan berbagai kerentanan. Agen-agen tersebut sempat mendapati celah untuk keluar dari mesin virtual yang berfungsi mengisolasi sistem dari inangnya. Selain itu, agen juga menemukan cara untuk saling berkomunikasi dengan memanipulasi data pada tembolok prosesor serta mengukur durasi waktu pemuatannya.
Sebagai langkah penanggulangan, OpenAI menyatakan telah mengungkap serta memperbaiki kerentanan pada sejumlah mesin virtual. Perusahaan juga menyematkan pemeriksaan tambahan pada sistem pemantauan demi mendeteksi upaya model AI yang mencoba saling bekerja sama.
OpenAI sempat menghentikan kegiatan pelatihan model tingkat lanjut pada bulan September. Bersamaan dengan pengumuman metode baru tanpa internet ini, perusahaan mengonfirmasi bahwa aktivitas pelatihan telah dimulai kembali pada tanggal 1 Oktober.
