Anggota dewan yayasan OpenAI sekaligus Direktur Eksekutif Alignment Research Center, Paul Cristiano, memperingatkan ancaman besar kecerdasan buatan terhadap umat manusia. Berbicara dalam rangkaian kuliah di Toronto Convention Center, ia menyebut kecelakaan akibat kecerdasan buatan menjadi penyebab kematian paling mungkin bagi sebagian besar orang di ruangan tersebut.
Risiko Pengambilalihan oleh Kecerdasan Buatan
Dalam kuliah pembuka dari seri tiga bagian tersebut, Cristiano menyampaikan kekhawatirannya mengenai risiko pengambilalihan dunia oleh kecerdasan buatan yang sudah di ambang pintu. Ia mendefinisikan situasi tersebut sebagai kondisi ketika sistem kecerdasan buatan yang mengejar tujuan tertentu memegang kendali penuh atas apa yang terjadi di Bumi, sementara manusia yang berusaha menghentikannya tidak akan berdaya seperti warga biasa yang mencoba menghentikan militer Amerika Serikat.
Menurut Cristiano, skenario semacam itu berpotensi memicu kematian massal dan menciptakan lingkungan yang tidak dapat dihuni oleh manusia. Meskipun menyampaikan penilaian suram tersebut, ia mengakui bahwa belum ada model kuantitatif yang mampu memperkirakan angka pasti dari probabilitas pengambilalihan tersebut.
Namun, dalam kesempatan yang sama, ia menyatakan bahwa apabila teknologi ini terus berkembang pada lintasan tercepat, umat manusia menghadapi peluang setara lemparan koin terkait pengambilalihan kecerdasan buatan, termasuk risiko yang signifikan dalam waktu enam hingga 12 bulan ke depan. Bahkan dengan adanya respons kebijakan realistis yang memperlambat laju perkembangan, tingkat risiko tersebut tetap dinilai sangat tinggi.
Ancaman Eskalasi Bertahap
Berbeda dari para pengecam akhir zaman kecerdasan buatan lain yang kerap berbicara secara samar, Cristiano memanfaatkan kuliahnya untuk memaparkan alur ancaman yang meningkat secara bertahap layaknya kisah fiksi ilmiah. Jalan pemikiran tersebut sangat mengandalkan insiden peretasan OpenAI dan Hugging Face pada musim panas ini sebagai gambaran mengenai perkiraan situasi yang bakal muncul sesaat sebelum bencana besar benar-benar terjadi.
Sumber: Ars Technica
