Akhir Perjalanan Kelompok Riset AI Frontiers Microsoft

Kelompok sub-organisasi riset AI Frontiers (AIF) di dalam Microsoft Research resmi berakhir setelah para pemimpin pendirinya memutuskan untuk meninggalkan perusahaan tersebut. Pembubaran ini terjadi menyusul reorganisasi yang memasukkan kelompok kecil beranggotakan sekitar 50 orang itu ke dalam divisi Microsoft AI (MAI) pada awal September lalu.

Pembentukan dan Kontribusi AI Frontiers

Sub-organisasi AI Frontiers dibentuk menyusul peluncuran ChatGPT pada tahun 2023 oleh sekelompok peneliti yang menilai bahwa riset kecerdasan buatan membutuhkan organisasi yang lebih terstruktur. Dukungan dan fokus yang diberikan oleh kelompok riset lain kala itu sangat besar, sehingga gagasan cerdas yang dikerjakan oleh satu orang saja dinilai akan tiba secara lambat dan tidak meyakinkan karena keterbatasan kecepatan dan fondasi dasar.

Dalam kelompok tersebut, berbagai upaya riset yang koheren diorganisasikan melalui titik tengah antara pendekatan dari atas ke bawah dan dari bawah ke atas. Walaupun sempat menghadapi tantangan berupa perbedaan pendapat serta keterbatasan ketersediaan sumber daya komputasi yang ketat, kelompok ini berhasil melakukan berbagai hal rintisan.

Sebagian besar pekerjaan AIF berfokus pada pengembangan agen, seperti kerangka kerja orkestrasi Autogen dan agen penggunaan komputer Fara. Sementara itu, para peneliti di New York juga mengembangkan kemampuan fundamental baru seperti objektif Next Latent untuk ekstrapolasi, Dion3 untuk mengoptimalkan Muon, serta Full Bandwidth Transformer guna meningkatkan tenaga model secara efisien lewat rekursi.

AIF juga berupaya membagikan hasil kerja mereka kepada seluruh bagian Microsoft Research dengan mengembangkan repositori tunggal yang dibagikan secara bawaan. Repositori tersebut mencakup basis kode prapelatihan skala tepi yang terbukti kapabel, sebuah upaya signifikan mengingat pembuatan alur kerja model yang matang membutuhkan usaha besar.

Benturan Filosofi dengan Microsoft AI

Peleburan ke dalam Microsoft AI pada mulanya dinilai masuk akal karena menyatukan dua organisasi kecerdasan buatan untuk berkonsentrasi bersama. Namun dalam praktiknya, terdapat masalah substansial akibat filosofi kepemimpinan eks-Inflection di MAI yang dinilai tidak sejalan karena berfokus murni pada penskalaan dan secara agresif menghindari riset.

Model yang lebih besar dianggap menghasilkan prediksi yang lebih baik, serta imbal hasil dari penskalaan jauh lebih bisa diprediksi dari sisi bisnis dibandingkan imbal hasil dari riset. Lingkungan yang hanya berorientasi pada skala membuat upaya utama terpusat pada pengelolaan data, yang dinilai jauh berbeda dari fokus kerja kelompok AIF sebelumnya.

Fokus yang hanya berorientasi pada skala tersebut dinilai keliru dan tidak menyenangkan, sementara imbal hasil dari riset sejauh ini terbukti nyata serta signifikan. Eksperimen ByteDance menunjukkan bahwa varian Full Bandwidth Transformer dapat sebanding dengan model yang ukurannya dua kali lipat, yang mengindikasikan penghematan biaya pelatihan dan inferensi yang besar di tengah investasi industri yang mendekati satu triliun dolar.

Keputusan untuk Keluar

Situasi tersebut mendorong para pemimpin pendiri AIF untuk menempatkan para staf sebaik mungkin sebelum akhirnya memutuskan mundur dari perusahaan. Setiap anggota tim kepemimpinan pendiri AIF tampaknya menarik kesimpulan serupa untuk meninggalkan organisasi tersebut.

Kembali ke Microsoft Research bukan menjadi pilihan yang dapat ditempuh akibat adanya dua hambatan serius. Hambatan pertama adalah ketidaknyamanan bekerja di perusahaan di mana riset yang dilakukan tidak memiliki jalur untuk digunakan secara nyata, mengingat inovasi sulit masuk atau dipertimbangkan selama berada di MAI.

Hambatan kedua adalah kekhawatiran runtuhnya kesepakatan dasar di MSR bahwa kerja bagus akan menghasilkan hal-hal baik, setelah organisasi tersebut direorganisasi secara non-konsensual. Kondisi tersebut dikhawatirkan akan terus berlanjut sampai kepemimpinan MSR mengembangkan keinginan untuk mengorganisasikan diri secara efektif.

Berakhirnya AI Frontiers juga memastikan tidak ada program magang bersama kelompok tersebut pada tahun mendatang. Masa depan Microsoft dinilai masih berpeluang kembali menjadi tempat yang menarik untuk riset apabila pihak yang memegang kendali mampu mengembangkan sedikit lebih banyak kebijaksanaan.