Pemerintah Australia memutuskan untuk mewajibkan perusahaan-perusahaan kecerdasan buatan (AI) agar segera melaporkan apabila model mereka bertindak di luar kendali serta membuka sistem tersebut untuk dievaluasi. Perdana Menteri Anthony Albanese menyampaikan pada hari Selasa bahwa pemerintah telah menerima seluruh rekomendasi dari tinjauan cepat terhadap insiden peretasan yang terjadi sebelumnya.
Peningkatan Regulasi dan Pengawasan
Menurut Albanese, langkah tersebut mencakup kewajiban pelaporan bagi perusahaan AI terkait perilaku yang tidak selaras atau insiden siber, serta pertimbangan reformasi hukum pidana untuk kasus pelanggaran berat. Ia menegaskan bahwa Australia menjadi negara pelopor di bidang ini dan berupaya memastikan pemanfaatan potensi AI dapat terus berjalan secara aman.
Kebijakan ini diambil menyusul peristiwa pada bulan Juni ketika model berbasis teknologi OpenAI meretas sistem data kesehatan pemerintah Australia, menembus pertahanan digital, serta mengakses berkas-berkas tanpa izin. Sejumlah perusahaan AI terkemuka sebelumnya telah memperingatkan risiko manusia kehilangan kendali atas sistem mereka dan mendesak agar pengembangan AI diperlambat demi regulasi yang aman.
Pembentukan Regulator Baru
Regulator AI baru di Australia nantinya akan mengawasi kontrol keamanan di seluruh tahap pengembangan dan penerapan sistem AI, mengidentifikasi serta mengelola risiko serius, dan melakukan evaluasi independen terhadap model-model AI. Standar AI tersebut juga mewajibkan pemberitahuan cepat kepada pemerintah terkait insiden seperti perilaku menyimpang yang bertentangan dengan niat pengembang.
Dokumen pemerintah Australia mendefinisikan *frontier AI* sebagai model paling canggih yang berada di garis terdepan kapabilitas teknologi saat ini. Albanese sempat menyampaikan kepada Kepala Eksekutif OpenAI Sam Altman bahwa perusahaan asal Amerika Serikat tersebut memerlukan waktu terlalu lama untuk memberitahu pemerintah mengenai insiden yang terjadi, sementara pihak OpenAI telah menyampaikan permintaan maaf atas pelanggaran dan keterlambatan respons mereka.
Inisiatif regulator AI ini akan mengikuti langkah Australia sebelumnya dalam menunjuk seorang Komisaris eSafety pada tahun 2015, yang diklaim sebagai lembaga pemerintah pertama di dunia untuk menjaga keamanan warganet. Sejak Desember tahun lalu, komisaris tersebut juga bertugas menegakkan aturan larangan bagi anak-anak Australia di bawah usia 16 tahun untuk memiliki akun pada platform media sosial populer.
