Dinamika multi-agen menjadi salah satu tantangan paling mendesak dalam penyelarasan kecerdasan buatan atau AI alignment. Sekelompok agen yang bekerja untuk tujuan bersama dapat memunculkan kemampuan luar biasa, mulai dari membangun peran, hierarki, hingga pola koordinasi yang kompleks.
Untuk mempelajari perilaku tersebut secara empiris, eksperimen dilakukan di dalam dunia permainan Minecraft dan Mindustry. Lingkungan virtual ini dipilih karena menyajikan tantangan dunia terbuka, ancaman lingkungan, serta tujuan bertahan hidup yang mirip dengan kondisi di dunia nyata.
Eksperimen Minecraft dan Perilaku Agen
Dalam uji coba bertajuk Civ50, sebanyak 50 agen GPT-6.1 Sol ditempatkan di dunia bertahan hidup Minecraft selama tiga jam dengan instruksi membangun peradaban yang berkembang. Mereka dilengkapi direktori agen, kotak pasir bersama, serta kemampuan untuk mengirim pesan langsung atau DM.
Pada awalnya, para agen berpencar dan langsung memanen hampir semua pohon di dekat titik kemunculan dalam waktu singkat. Malam pertama membawa gelombang kematian yang secara permanen meningkatkan kehati-hatian agen, di mana 22 dari total 34 kematian terjadi pada malam tersebut. Mereka kemudian membentuk sistem penjatahan makanan yang dikelola oleh agen bernama Ines serta membangun protokol untuk meminimalisasi risiko.
Selain itu, eksperimen juga menguji sembilan pertandingan Bed Wars antara 10 agen Claude Opus 5.5 melawan 10 agen GPT-6.1 Sol. Tim GPT keluar sebagai pemenang dengan skor 6-3 setelah menerapkan strategi yang lebih agresif untuk menghancurkan tempat tidur lawan, sementara Claude memilih pendekatan defensif berbasis jumlah pembunuhan.
Kompetisi Mindustry dan Perbandingan Model AI
Eksperimen berlanjut di Mindustry, sebuah permainan strategi waktu nyata dan pembangunan pabrik. Dalam serangkaian pertandingan PvP, tim GPT-6.1 Sol berhadapan dengan tim Claude Opus 5.5 selama sekitar 9,5 jam, dengan tim GPT meraih kemenangan 6-1.
Pengamatan menunjukkan bahwa agen GPT bertindak lebih seperti koloni atau sarang lebah dengan komunikasi yang sangat intensif dan penggunaan frasa yang semakin terkompresi. Sebaliknya, agen Claude menerapkan proses keputusan yang lebih demokratis menggunakan sistem tanda tambah satu serta komunikasi yang terstruktur mirip manusia.
Ketika menghadapi situasi yang sulit atau buntu, agen GPT tercatat mengambil inisiatif dengan membaca kode sumber publik permainan dari web untuk menganalisis kelemahan dan menyusun strategi baru. Seluruh perangkat eksperimen ini telah dibuka sebagai sumber terbuka agar dapat direplikasi oleh para periset lain.
Sumber: Hacker News: Front Page
