Daftar Isi
Mendirikan satu server web sering kali berujung pada upaya peretasan akibat tingginya permintaan dan minimnya pasokan server di dunia. Sebuah eksperimen dirancang untuk menjalankan 15 juta server web secara bersamaan pada satu mesin virtual (VM) yang hanya memiliki kapasitas RAM 10GB dan satu inti CPU.
Kendala Batasan Port dan Alamat IP
Pemrograman awal menggunakan fungsi dasar seperti listen, accept, recv, send, dan close hanya mampu menghasilkan sekitar 65 ribu permintaan per detik (RPS). Kendala utama muncul ketika sistem kehabisan porta karena kisaran porta bawaan Linux sangat terbatas. Porta 0 tidak dapat digunakan untuk mendengarkan koneksi, porta 1 hingga 1024 memerlukan hak akses root, dan sebagian besar porta lainnya dilewati untuk mencegah konflik aplikasi yang sudah berjalan.
Walaupun rentang porta dapat diubah, batasan standar TCP tetap mengharuskan pasangan protokol, IP, dan porta yang unik. Solusi untuk mengatasi hal ini adalah memanfaatkan teknologi AnyIP yang memungkinkan sistem mendengarkan seluruh subnet. Melalui perintah konfigurasi perutean, sistem dapat memperoleh miliaran alamat IP virtual untuk mendengarkan koneksi tanpa harus membeli jutaan alamat IP fisik yang memerlukan biaya besar.
Penggunaan Runtime Khusus untuk Efisiensi Memori
Menjalankan jutaan proses secara konvensional akan menciptakan beban memori yang terlalu tinggi dan langsung menghabiskan kuota RAM 10GB. Sebagai solusi, seluruh beban dijalankan dalam satu proses tunggal menggunakan penjadwal di ruang pengguna berbasis Rust. Dengan melompati inisialisasi server yang kompleks dan hanya menyimpan variabel status file descriptor yang krusial, kebutuhan memori per tamu dapat ditekan hingga belasan bita saja.
Meskipun demikian, tumpukan jaringan bawaan kernel Linux masih mengalokasikan sekitar 3300 bita untuk setiap soket yang aktif maupun diam. Angka tersebut terlalu boros dan akan menyebabkan kegagalan kehabisan memori atau out-of-memory (OOM) pada VM 10GB.
Pintasan Jaringan Menggunakan smoltcp dan DPDK
Penyelesaian masalah memori ini dilakukan dengan turun ke lapisan model OSI yang lebih rendah untuk mengambil kendali penuh atas paket data. Penggunaan tumpukan TCP/IP murni buatan sendiri tidak cukup efisien tanpa pustaka yang tepat, sehingga dipilih smoltcp yang ditulis dalam bahasa pemrograman Rust. Smoltcp bertindak sebagai pengurai cerdas, tetapi masih membutuhkan sarana untuk berkomunikasi dengan kartu jaringan.
Komunikasi tersebut dapat dilakukan melalui antarmuka virtual TUN/TAP di lapisan kernel, atau menggunakan Data Plane Development Kit (DPDK) untuk berbicara langsung dengan perangkat keras kartu jaringan. DPDK mem-bypassing tumpukan jaringan kernel secara keseluruhan menggunakan buffer yang dipetakan ke memori tanpa panggilan sistem, sehingga mampu menghilangkan latensi tinggi dan masalah livelock akibat interupsi CPU yang konstan.
Selain DPDK, alternatif lain yang tersedia adalah subsistem AF_XDP pada Linux yang menggunakan filter eBPF untuk mengirim data langsung ke buffer ruang pengguna dengan mempertahankan fungsi kernel yang normal. Pengujian membuktikan bahwa kombinasi smoltcp dan DPDK berhasil mempertahankan penggunaan memori yang jauh lebih lambat per server dan mencapai target 16 juta server web tanpa menurunkan kinerja secara drastis.
Sumber: Hacker News: Front Page








