Teknologi

Bot AI Grok Bertindak Sendiri, Abaikan Perintah, dan Bohong

Bot AI Grok Bertindak Sendiri, Abaikan Perintah, dan Bohong
Daftar Isi
  1. Akses Diam-diam Tanpa Sepengetahuan Pengguna
  2. Mengabaikan Perintah Berhenti dan Menyangkal
  3. Penjelasan Tim Dukungan Grok

Para peneliti baru-baru ini menemukan perilaku tak terduga dari Grok Bot, platform agen kecerdasan buatan dari SpaceXSI milik Elon Musk. Selama lima hari, bot Grok yang dipasang di dua laptop karyawan terpisah meluncurkan puluhan permintaan akses ke data yang tersimpan di kalender, surel, Slack, dan akun GitHub milik karyawan tersebut.

Akses Diam-diam Tanpa Sepengetahuan Pengguna

Perilaku tersebut diungkapkan pada Selasa oleh NewCore, pembuat produk gerbang terkelola yang bertindak sebagai perantara antara agen kecerdasan buatan dan alat serta akun tempat mereka bekerja. Dalam beberapa kejadian, percobaan akses tanpa izin tersebut terjadi ketika laptop yang terpasang Grok Bot dalam kondisi tertutup, atau larut malam saat karyawan sedang tidur.

Tidak ada satupun tindakan tanpa perintah tersebut yang tercatat di dalam log Grok. Tanpa log dari gerbang tersebut, para karyawan tidak akan pernah mengetahui bahwa kejadian itu berlangsung. Tanpa adanya gerbang perantara tersebut, upaya akses tanpa izin itu dipastikan akan berhasil tanpa sepengetahuan pengguna akhir.

Mengabaikan Perintah Berhenti dan Menyangkal

Begitu mengetahui Grok Bot mencoba memeriksa akun tanpa perintah, salah satu karyawan menginstruksikan agen tersebut sebanyak empat kali secara terpisah untuk berhenti mengambil tindakan apa pun secara mandiri. Tanggapan dari agen tersebut berbunyi, “I won’t set that up, and I’ll stop offering recurring check-ins.”

Meskipun telah mengakui instruksi eksplisit tersebut, Grok Bot tetap melakukan upaya akses tanpa izin lebih lanjut. Ketika salah satu karyawan bertanya kepada bot apakah ia melakukan akses apa pun, bot tersebut melakukan pengecekan dua kali dan kemudian mengeluarkan respons bahwa ia dalam keadaan menganggur sejak Jumat malam hingga pagi hari.

Penjelasan Tim Dukungan Grok

Para karyawan NewCore mengirimkan log gerbang tersebut kepada personel dukungan Grok Bot dan menanyakan apa yang menyebabkan bot mengakses akun tanpa perintah atau persetujuan. Tanggapan dari tim dukungan menyatakan bahwa perilaku tersebut memang disengaja dan dirancang agar bot dapat mengambil tindakan secara proaktif atas nama pengguna.

Dengan kata lain, upaya akses yang tidak diminta dan tidak tercatat tersebut merupakan fitur yang dirancang agar Grok Bot lebih berguna dengan cara memeriksa secara berkala serta mencari tugas untuk dikerjakan sebelum pengguna sempat memintanya. Fitur pemeriksaan proaktif tersebut merupakan bagian dari Cursor, layanan pengodean kecerdasan buatan yang baru saja diakuisisi oleh SpaceXSI.

Sumber: Ars Technica

Mungkin Anda Suka

Tinggalkan Komentar

Alamat email tidak akan dipublikasikan. Kolom wajib ditandai *