Agen AI Canggih Masih Andalkan Manusia di Balik Layar

Di balik kecanggihan agen kecerdasan buatan atau kecerdasan buatan (AI) yang diklaim mampu menyelesaikan berbagai tugas digital, sejumlah perusahaan rintisan ternyata masih melibatkan tenaga manusia. Manusia dilibatkan untuk menangani pekerjaan rumit di dunia nyata, seperti melakukan panggilan telepon atau mengatasi hambatan di internet yang belum bisa diatasi oleh sistem perangkat lunak secara andal.

Keterbatasan Agen AI dalam Tugas Nyata

Teknologi agen AI yang ditenagai oleh model fondasi mutakhir dari perusahaan besar seperti Meta dan OpenAI kini kembali menarik perhatian publik untuk berbagai keperluan, seperti mencari sepatu di internet atau merencanakan renovasi rumah. Namun, menurut mantan CEO Yahoo yang kini memimpin perusahaan rintisan agen Dazzle AI, Marissa Mayer, model AI papan atas saat ini masih kesulitan mengambil tindakan di seluruh web secara andal, terutama hal yang berkaitan dengan sambungan telepon.

Mayer menjelaskan bahwa perusahaannya mengandalkan model perintis untuk memberikan saran dan daftar kandidat yang baik, tetapi kemudian memeriksanya kembali untuk memastikan kualitas layanan. Kendala serupa juga disampaikan oleh Meghan Joyce, CEO perusahaan rintisan agen digital Duckbill, yang menyebutkan bahwa hambatan tersebut biasanya muncul ketika agen AI harus melakukan panggilan telepon, menjadwalkan janji temu medis, atau memesan jasa pembersihan dari penyedia lokal.

Untuk pekerjaan yang menuntut pertimbangan di dunia nyata, Joyce menilai manusia masih lebih unggul dibandingkan AI. Guna mengatasi keterbatasan tersebut, Duckbill baru saja meluncurkan antarmuka pemrograman aplikasi atau API agar perusahaan yang membangun agen personal dapat terhubung dengan tenaga kontrak manusia.

Melalui sistem kerja yang mirip dengan perusahaan ride-hailing, Duckbill memecah tugas-tugas rumit menjadi bagian kecil yang dapat dikerjakan oleh orang dewasa secara konsisten. Perusahaan pembuat agen dapat memanfaatkan API tersebut untuk mendelegasikan tugas yang berpotensi gagal diselesaikan oleh AI.

Kasus Kebingungan AI dan Peran Kolaborasi

Marissa Mayer membeberkan contoh ketika model AI kekurangan akal sehat, di mana seorang pengguna super Dazzle AI meminta teknologi tersebut menangani proyek renovasi rumah secara bersamaan, mulai dari penggantian atap, jendela rusak, hingga pembelian meja kaca. AI tersebut justru kebingungan dan menyamakan kaca jendela dengan kaca meja sehingga mencoba mencari cara agar meja tersebut bisa dipasang di jendela.

Kesalahan tersebut tidak berlangsung lama karena teknologi Dazzle langsung menandai tugas itu dan menyerahkannya kepada manusia untuk diselesaikan. Dalam waktu beberapa detik, tenaga manusia dapat membereskan masalah yang jika dibiarkan oleh agen AI akan menghabiskan banyak token dan berpotensi tidak pernah mencapai solusi yang tepat.

Pendekatan serupa juga diterapkan oleh Shivani Poddar, CEO perusahaan rintisan agen AI personal Wajo AI, yang melibatkan pekerja manusia untuk menangani panggilan telepon serta tes CAPTCHA guna menghalau bot di situs web. Poddar menegaskan bahwa kolaborasi antara AI dan manusia merupakan kunci agar suatu pekerjaan benar-benar dapat diselesaikan.

Privasi dan Seleksi Ketat Tenaga Kerja

Interaksi dengan chatbot dan agen AI yang sangat personal membuat pengguna memiliki alasan kuat untuk mewaspadai keterlibatan manusia di baliknya, terutama jika perusahaan tidak memberikan informasi transparan. Karyawan Meta sebelumnya sempat menyampaikan kekhawatiran privasi terkait pengujian internal perusahaan yang menggunakan kontraktor manusia untuk menangani panggilan telepon atas nama agen AI Muse mereka, meski juru bicara Meta menyatakan pengujian semacam itu merupakan inti dari proses pengembangan produk. Saat ini Meta tidak lagi menggunakan manusia untuk menyelesaikan permintaan pengguna Muse.

Sementara itu, Duckbill melakukan pemeriksaan latar belakang secara menyeluruh terhadap para kontraktor independen yang dipekerjakan, mirip seperti pengemudi layanan transportasi online di Amerika Serikat yang mencari sumber pendapatan tambahan. Dazzle AI juga menerapkan proses penyaringan yang ketat untuk mencari kontraktor yang memiliki tingkat diskresi tinggi, selera yang baik, serta kemampuan penilaian yang matang dalam berinteraksi dengan pengguna.

Mayer menilai bahwa pasar saat ini berada dalam masa transisi sampai teknologi dasar mampu melakukan tugas web yang lebih rumit dan panggilan telepon secara efisien layaknya manusia. Perusahaannya bahkan secara terbuka menyatakan bahwa keberadaan manusia di dalam sistem justru memberikan nilai tambah.