Liquid AI mengumumkan peluncuran LFM3, generasi terbaru dari Liquid Foundation Models yang dirancang untuk kecerdasan terspesialisasi. Keluarga model LFM3 bersifat multimodal dan menyatukan model teks, visi, audio, omni, dan keputusan ke dalam satu kerangka bersama berukuran kisaran parameter 2B.
Arsitektur Baru untuk Kemampuan Ekspresif
Dibangun di atas arsitektur hibrida baru dan 22 triliun token pra-pelatihan, LFM3 menawarkan ekspresi yang jauh lebih tinggi daripada versi sebelumnya dengan tetap menjaga efisiensi. Perusahaan memperluas pengujian perangkat keras dalam siklus dari CPU pada ponsel dan laptop sebelumnya menjadi 14 kombinasi perangkat dan backend untuk LFM3, termasuk ponsel pintar, Raspberry Pi 5, laptop, CPU cloud Arm dan x86, GPU, serta NPU Qualcomm Hexagon.
Model ini mengombinasikan tiga operator yang terdiri dari konvergensi pendek berpintu, perhatian jendela geser, dan perhatian global. Dari 24 lapisan yang ada, sebanyak 13 adalah konvolusi, 5 merupakan perhatian jendela geser dengan jendela 256 token, dan 6 lainnya adalah perhatian global. Selain itu, LFM3 menggunakan kosakata 128K yang sama dengan versi pendahulunya guna melakukan tokenisasi aksara non-Latin secara lebih efisien.
Keluarga Multimodal untuk Berbagai Kebutuhan
Rilis perdana LFM3 mencakup enam model yang bercabang dari tulang punggung LFM3-1.7B-Base dengan ukuran sekitar 2 miliar parameter. Empat model di antaranya mencakup modalitas masukan berupa teks, visi, audio, dan omni, sementara dua model terakhir merupakan model keputusan yang dikhususkan dari model visi dan omni.
Model teks LFM3-1.7B dirancang untuk agen lokal dan aplikasi khusus dengan jendela konteks sebesar 256K token. Model ini telah dilatih pasca-pelatihan untuk berjalan pada perangkat agen seperti Hermes Agent, Pi, dan OpenClaw guna mengelola kotak masuk, kalender, hingga melakukan riset web.
Sementara itu, model visi LFM3-VL-2B mampu mengamati, bernalar, dan memahami dunia fisik melalui pemahaman video, penalaran langkah demi langkah, serta penalaran spasial. Model ini dilengkapi penyandi visi internal buatan sendiri yang membutuhkan komputasi tiga kali lebih sedikit dibandingkan penyandi SigLIP2 pada model sebelumnya.
Model audio LFM3-Audio-2B hadir sebagai model audio ringkas yang dapat berjalan secara lokal di laptop dan perangkat pinggiran untuk menangani masukan teks atau audio dengan keluaran berupa teks, ucapan, atau keduanya. Model ini mendukung 18 bahasa serta dilengkapi fitur obrolan suara, ucapan multibahasa, pemahaman audio, hingga pemanggilan alat.
Seluruh model dasar dan pasca-pelatihan dari keluarga LFM3 kini tersedia dalam bentuk bobot terbuka di platform Hugging Face, Playground, serta API Liquid AI bagi pengguna yang ingin menjalankan dan menyempurnakannya secara lokal.
Sumber: Hacker News: Front Page
