Dalam perkembangan terkini industri kecerdasan buatan, evaluasi performa agen AI menghadapi tantangan mendasar. Satu percakapan agen AI yang tampak sempurna berdasarkan skor individual dapat tetap mengindikasikan produk yang bermasalah secara keseluruhan. Gap ini mendorong perusahaan untuk mengubah pendekatan evaluasi dari penilaian trace tunggal menuju perbandingan kohort pengguna terhadap baseline yang telah ditetapkan.
Pada VB Transform 2026, Harrison Chase selaku CEO LangChain, Hui Zhang sebagai CTO dan co-founder Conviva, serta Emmanuel Turlay dari CoreWeave menjelaskan pergeseran tersebut. Mereka juga membahas transisi paralel menuju model judge yang lebih murah dan lebih sempit cakupannya. Pendekatan agent-as-judge belum sepenuhnya menggantikan LLM-as-judge yang masih menjadi standar utama menurut Chase.
Zhang menekankan ketegangan utama antara penilaian otomatis melalui LLM atau agen dan tinjauan manusia. Penilaian otomatis menawarkan skalabilitas namun sulit untuk di-grounding, sementara keterlibatan manusia memberikan akurasi namun tidak scalable. Industri kini dihadapkan pada pilihan antara dua pendekatan tersebut.
Kriteria evaluasi kini berfungsi sebagai spesifikasi produk yang hidup. Chase menggambarkan bahwa tim terbaik tidak terjebak dalam eval paralysis, melainkan meluncurkan produk terlebih dahulu lalu melakukan iterasi berdasarkan data nyata. Evaluasi berperan sebagai dokumen persyaratan produk yang terus berkembang dan mendefinisikan batasan perilaku agen.
Turlay menambahkan perspektif dari pengalaman pengujian perangkat lunak, di mana cakupan tes 100 persen tetap memungkinkan bug muncul di produksi. Monitoring online yang luas dan selalu aktif terbukti lebih efektif menangkap kegagalan nyata dibandingkan rangkaian tes offline yang lengkap sebelum peluncuran.
Pendekatan penilaian trace satu per satu juga dinilai keliru karena melewatkan sinyal yang hanya muncul pada tingkat populasi. Zhang mengusulkan contrastive analysis yang membandingkan metrik seperti rasio klarifikasi dan penyelesaian tugas di luar percakapan terhadap baseline kategori tertentu. Metode ini memungkinkan identifikasi masalah spesifik kategori yang tidak terlihat dari trace individual.
Dalam konteks industri e-commerce yang semakin bergantung pada agen AI untuk interaksi pelanggan, penerapan contrastive analysis dapat membantu mencegah penurunan kepuasan pengguna akibat interaksi yang tampak normal namun sebenarnya tidak efisien. Selain itu, penggunaan model open-source yang disesuaikan seperti Qwen menunjukkan upaya perusahaan untuk mencapai efisiensi biaya tanpa mengorbankan akurasi penilaian perceived error.
Turlay menegaskan pentingnya akuntabilitas manusia, terutama di sektor legal, keuangan, dan kesehatan. Meskipun otomatisasi dapat menangani skala besar, penandatanganan resmi oleh manusia tetap diperlukan untuk aspek tanggung jawab hukum. Chase menambahkan bahwa human-in-the-loop juga krusial untuk membangun kepercayaan dan memfasilitasi pembelajaran sistem agenik secara berkelanjutan.
Pergeseran ini mencerminkan kematangan pendekatan evaluasi AI di tengah kompleksitas agen yang terus meningkat. Perusahaan yang mengadopsi metode kohort dan monitoring berkelanjutan berpotensi menghasilkan sistem yang lebih andal dalam jangka panjang.
