Pencarian produk dalam maksimum (MIPS) menjadi inti dari sistem rekomendasi, pencarian, dan sistem temu kembali (RAG). Peneliti dari Apple dalam konferensi ICML 2026 memperkenalkan pendekatan baru untuk mempercepat pencarian ini menggunakan jaringan saraf tiruan kecil yang dilatih secara luring.
Dasar Pencarian MIPS dan Fungsi Pendukung
Sistem MIPS tradisional membagi kumpulan kunci ke dalam beberapa kluster dan membandingkan kueri baru dengan sentroid perwakilan untuk merutekan kueri tersebut. Namun, mekanisme perutean sentroid ini tidak selalu akurat karena mengabaikan penyebaran data di dalam kluster. Dalam studi baru ini, para peneliti memanfaatkan struktur matematika di mana fungsi yang memetakan kueri ke produk dalam terbesar adalah fungsi pendukung dalam analisis konveks. Fungsi ini bersifat konveks dan gradiennya menghasilkan kunci yang paling cocok.
Tim peneliti melatih jaringan saraf tiruan untuk meniru fungsi pendukung tersebut menggunakan teknik regresi dengan memasangkan sampel kueri pengguna dengan sinyal keluaran MIPS yang optimal. Praktik ini membagi pendekatan menjadi dua model khusus, yaitu SupportNet dan KeyNet, yang masing-masing dilatih menggunakan contoh dari distribusi kueri yang relevan.
Perutean Terlatih dengan SupportNet dan Integrasi Indeks
Model SupportNet dirancang untuk mempelajari fungsi pendukung secara langsung guna menghasilkan beberapa skor sekaligus untuk perutean kueri yang lebih akurat. Berdasarkan pengujian pada perangkat *Natural Questions* dengan 128 kluster, model SupportNet ukuran kecil mampu mencapai tingkat perolehan kembali (recall) sebesar 95 persen dengan latensi yang jauh lebih cepat dibanding perutean sentroid konvensional.
Sementara itu, model KeyNet berfungsi sebagai pengubah kueri yang ditempatkan di depan indeks pencarian aproksimasi standar seperti FAISS IVF. Berdasarkan evaluasi, penggunaan KeyNet mampu memangkas waktu pencarian secara signifikan dan meningkatkan akurasi pengambilan kunci hingga 96,7 persen pada model terbesar, mengungguli kueri mentah konvensional.
Pemilihan antara kedua model tersebut bergantung pada kebutuhan praktis sistem, di mana KeyNet cocok digunakan saat kecepatan inferensi menjadi kendala utama, sedangkan SupportNet ideal untuk mendapatkan skor terkalibrasi. Sistem MIPS skala besar bahkan dapat menggabungkan keduanya dengan melatih perute SupportNet di seluruh kluster serta KeyNet di setiap kluster untuk mempercepat pencarian kunci terbaik.
Sumber: Hacker News: Front Page
