Daftar Isi
Sebuah investigasi oleh ombudsman persemakmuran menilai bahwa alat berbasis algoritma yang digunakan pemerintah federal Australia untuk menilai tingkat perawatan bagi warga lanjut usia dinilai tidak masuk akal, tidak adil, serta tidak memiliki pengawasan manusia. Penyelidikan tersebut juga menemukan bahwa rekomendasi transparansi dari komisi kerajaan robodebt telah diabaikan.
Masalah Hukum dan Kotak Hitam Teknologi
Ombudsman Persemakmuran, Iain Anderson, mengatakan kepada Guardian Australia pada Senin bahwa undang-undang harus diubah agar penilai perawatan lansia dapat mengubah sendiri keputusan algoritma yang secara klinis tidak tepat. Penyelidikan ini bermula dari laporan media tersebut bahwa para lansia merasa tertekan dan tidak mendapatkan perawatan yang memadai setelah kebutuhan dukungan rumah mereka dinilai oleh algoritma dalam Integrated Assessment Tool (IAT) mandatori pemerintah.
Para penilai perawatan lansia dilarang mengesampingkan rekomendasi paket pendanaan dari IAT, meskipun keputusan tersebut keliru. Berdasarkan laporan setebal 104 halaman itu, aturan hukum yang berlaku tidak memungkinkan keputusan otomatis tersebut diubah meski tidak sesuai secara klinis. Selain itu, ketiadaan informasi publik yang menjelaskan cara kerja algoritma dalam mengolah data membuat IAT disebut sebagai kotak hitam teknologi.
Laporan menyimpulkan bahwa sistem tersebut berpotensi merusak kepercayaan publik terhadap administrasi sistem penilaian yang adil dan konsisten. Dokumen yang dirilis melalui kebebasan informasi menunjukkan adanya kepanikan di tingkat departemen, tekanan klinis yang parah di kalangan penilai garis depan, serta pembuatan solusi TI rahasia setelah pejabat menyadari bahwa undang-undang melarang intervensi manusia.
Kurangnya Pengawasan dan Konsultasi
Anderson menyatakan keprihatinannya karena departemen sebelumnya menyampaikan kepada publik bahwa sistem akan beroperasi dengan cara tertentu dan menunjukkan versinya, namun kenyataannya diubah. Penyelidikan menemukan bahwa informasi yang diberikan departemen mengenai uji coba dan konsultasi kunci tidaklah benar, karena kegiatan tersebut berkaitan dengan versi dan undang-undang IAT sebelumnya tanpa adanya konsultasi yang bermakna.
Kualifikasi dan keahlian penilai sangat krusial bagi IAT, namun ombudsman menemukan bahwa departemen gagal menegakkan kontrol kualitas kontrak atau memverifikasi apakah penilai memiliki kualifikasi klinis wajib. Staf senior bahkan telah mengangkat kekhawatiran mengenai tidak adanya jalur peninjauan untuk keputusan yang salah sebelum algoritma tersebut diluncurkan.
Anderson menjelaskan bahwa penyelidikan dimulai pada April setelah berbagai pihak mengangkat kekhawatiran publik mengenai operasional IAT, khususnya kurangnya transparansi cara kerja algoritma. Laporan menegaskan bahwa departemen belum mematuhi rekomendasi dari komisi kerajaan mengenai skema robodebt terkait transparansi pembuatan keputusan otomatis oleh pemerintah.
Tuntutan Peninjauan dan Langkah Selanjutnya
Laporan tersebut mendesak adanya tinjauan menyeluruh terhadap undang-undang yang berkaitan dengan proses penilaian kebutuhan serta aturan yang mendasari algoritma. Departemen Kesehatan dan Penuaan telah dihubungi untuk dimintai tanggapan terkait temuan ini.
Sumber: World news | The Guardian
