Para peneliti menyebarkan dua juta perangkat pemantau digital dalam permintaan yang dikirimkan melalui jaringan layanan kecerdasan buatan untuk menguji nasib data sensitif. Eksperimen tersebut mengungkap sebuah ekosistem teknologi yang sangat rentan mengalami kebocoran data pribadi.
Eksperimen Pemantauan Rantai Pasok AI
Kerentanan tersebut terungkap dalam sebuah eksperimen cerdas guna menguji apakah informasi sensitif dapat bocor melalui rantai layanan kecerdasan buatan yang banyak digunakan serta cara pemanfaatannya. Sejumlah aplikasi kecerdasan buatan masa kini memanfaatkan layanan perantara seperti OpenRouter atau Vercel. Layanan yang kerap disebut sebagai router atau gerbang kecerdasan buatan ini menerima banyak kuesioner dari pengguna akhir dan meneruskannya ke mesin inferensi berdasarkan kriteria tertentu, seperti harga termurah atau kesesuaian tugas.
Berdasarkan laporan Ars Technica, OpenRouter mengirimkan surel kepada para pelanggan bahwa beberapa kuesioner mereka mungkin telah terbaca. OpenRouter mengutip penelitian tersebut dan menyatakan bahwa pihaknya menerima laporan mengenai potensi paparan yang melibatkan kuesioner ke penyedia model asal China, MiniMax. Layanan tersebut menyatakan bahwa tautan umpan milik peneliti diakses baik melalui pengiriman langsung ke MiniMax maupun lewat tiga pengecer lain, yaitu AtlasCloud, Novita, dan StreamLake. OpenRouter juga telah menghapus label tanpa penyimpanan data dari titik akhir model MiniMax.
Pelanggaran Privasi dan Kredensial
Guna menguji potensi kebocoran tersebut, peneliti HD Moore menghimpun sejumlah kumpulan kunci akses Amazon Web Services berupa kredensial fungsional yang terhubung ke akun kosong, kata sandi untuk layanan seperti SSH, serta alamat unik, nama sistem domain, dan referensi repositori git privat. Seluruh rahasia tersebut belum pernah digunakan sebelumnya dan Moore mengendalikan infrastruktur penerima permintaan dari kredensial itu.
Peneliti kemudian memasukkan setiap data rahasia ke dalam satu kuesioner yang dikirimkan ke satu penyedia layanan. Apabila terjadi kebocoran, data pemantau yang dinamai kenari tersebut memungkinkan Moore untuk mengenali setiap rantai penghubung yang bertanggung jawab atas kebocoran informasi tersebut.
Sumber: Ars Technica








