Instacart menghadirkan pendekatan baru dalam pengembangan perangkat lunak dengan memanfaatkan kecerdasan buatan secara luas. CTO Anirban Kundu menjelaskan bahwa sebagian besar pekerjaan rekayasa yang bersifat repetitif dan bervolume tinggi kini dapat diserahkan kepada agen AI. Hal ini memungkinkan tim manusia untuk memusatkan perhatian pada tugas yang membutuhkan penilaian, niat, dan penanganan pengecualian.
Dalam praktiknya, 97 persen kasus menunjukkan bahwa para pengembang Instacart tidak lagi membaca kode secara langsung. AI menangani pembuatan kode dan boilerplate, terutama pada proyek baru yang kode-nya dibuat ulang setiap minggu. Akibatnya, perusahaan tidak lagi memprioritaskan pemeliharaan tech debt karena komponen yang tidak aktif dapat dihapus dan dibangun kembali.
Meski demikian, 3 persen sisanya masih memerlukan perhatian manusia. Area tersebut mencakup sistem lama, kepatuhan, serta alur kerja yang sensitif terhadap latensi. Instacart sedang menyederhanakan bagian-bagian ini melalui proyek Atoms yang memecah sistem monolith menjadi arsitektur berbasis RPC yang lebih modular.
Evaluasi menjadi tantangan utama ketika AI menghasilkan kode. Tinjauan kode tradisional kurang relevan karena sintaks dan baris kode sudah memenuhi standar. Instacart beralih ke model intent yang melatih pengembang untuk mengajukan pertanyaan yang tepat kepada berbagai model AI. Sekitar 7.000 evaluasi otomatis dijalankan setiap bulan dengan akurasi 99,9 persen dalam menjawab lebih dari 8.000 kueri pengembang secara real-time.
Selain itu, Instacart membangun sistem site reliability engineering berbasis agen yang dilatih menggunakan data insiden dan analisis akar masalah internal perusahaan. Sistem ini mampu mendeteksi dan mengatasi masalah produksi dengan akurasi meningkat dari 60 persen menjadi lebih dari 90 persen. Contohnya, agen Blueberry berhasil mengidentifikasi masalah pada shard database yang terkait dengan sistem roulette, sesuatu yang tidak langsung terdeteksi oleh tim manusia.
Perubahan ini berdampak pada redefinisi peran engineer. Pekerjaan taktis kini mencakup perancangan proses evaluasi, koordinasi eksperimen simultan, serta identifikasi edge case. Domain knowledge juga didemokratisasi melalui definisi dan spesifikasi yang dapat digunakan oleh tim mana pun, bukan hanya tim pemilik kode.
Secara lebih luas, pendekatan Instacart mencerminkan tren industri di mana AI mengubah struktur organisasi pengembangan perangkat lunak. Perusahaan lain mungkin perlu menyesuaikan proses evaluasi dan pelatihan untuk menghindari ketergantungan berlebih pada output AI tanpa pengawasan yang memadai. Selain itu, transisi menuju arsitektur modular seperti yang dilakukan Instacart dapat menjadi acuan bagi organisasi yang ingin mengurangi beban pemeliharaan sistem lama secara bertahap.
