Apple memprediksi agen kecerdasan buatan atau AI yang dapat bertindak di luar kendali berpotensi menjadi ancaman bagi bisnis karena dapat memicu tuntutan hukum atau merusak reputasi perusahaan. Peringatan tersebut disampaikan dalam laporan keuangan tahunan perusahaan pada Selasa (3/11), yang menyoroti potensi gangguan dari agen AI sebagai perhatian utama industri teknologi saat ini.
Ancaman Tindakan Otonom
Dalam laporan tersebut, seperti dilaporkan CNN Indonesia, Apple menjelaskan bahwa teknologi AI dan agen cerdas dapat mengambil tindakan secara mandiri termasuk berinteraksi dengan sistem yang tidak diizinkan, mengeksekusi kode, mengirim komunikasi, hingga menyelesaikan transaksi. Perusahaan juga menyatakan bahwa agen AI kemungkinan dapat berperilaku dengan cara yang tidak disengaja atau tidak dapat diprediksi serta mengambil tindakan yang tidak diarahkan.
Kekhawatiran itu didasari oleh rentetan kasus parah akibat teknologi tersebut seperti peretasan dan penyalahgunaan akses pada insiden Hugging Face. Menanggapi potensi risiko ini, Apple mengumumkan perubahan pada akses *full disk* pada Mac untuk mengurangi risiko terkait tingkat akses agen AI yang diinstal pada komputer pribadi demi keamanan data pengguna.
Pendekatan Berbeda pada Siri
Meskipun demikian, perusahaan belum mengembangkan agen AI mandiri hingga saat ini. CEO John Ternus menyatakan bahwa Apple sebenarnya memiliki ruang nyata untuk memperluas kemampuan asisten virtual Siri.
Pada bulan September, Apple merilis Siri AI yang memanfaatkan penyimpanan data lokal iPhone untuk mengakses informasi seperti kalender dan surel. Berbeda dengan produk lain, Siri tidak dirancang untuk bekerja secara otonom dalam jangka waktu lama.
Ternus menegaskan bahwa Apple tidak dapat mengakses data pribadi pengguna, yang menjadi faktor pembeda utama teknologi mereka. Ketiadaan kebutuhan akses tingkat tinggi ke akun pengguna justru menjadi keunggulan tersendiri.
“Begitu banyak data pribadi Anda ada di iPhone Anda, baik itu kontak, komunikasi, data kesehatan, data keuangan, semuanya. Siri dapat mengakses data tersebut dan membantu Anda mengaksesnya dengan cara yang sangat aman dan pribadi, dan tidak ada orang lain yang dapat mengaksesnya,” ujar Ternus.
Selain masalah operasional, respons perusahaan terhadap teknologi ini turut memperhitungkan perubahan regulasi yang tidak dapat diprediksi serta potensi biaya tinggi untuk beradaptasi dengan undang-undang baru. Apple juga menyoroti risiko dari masalah etika, persepsi negatif konsumen terkait otomatisasi, hingga ancaman terhadap keselamatan sosial.
