Adopsi kecerdasan buatan (AI) agentik di lingkungan perusahaan terus berkembang, tetapi kesiapan operasional untuk mengelola sistem tersebut masih menjadi tantangan. Riset terbaru OutSystems bersama CIO Dive dan KPMG mengungkapkan hanya 26 persen perusahaan yang menyatakan sangat siap menangani konflik antara agen AI, sistem, dan alur kerja otomatis ketika teknologi tersebut diterapkan di lingkungan produksi. Temuan ini menunjukkan adanya kesenjangan antara keyakinan eksekutif terhadap kemampuan tata kelola AI dan kesiapan perusahaan menghadapi kompleksitas operasionalnya.
Dalam laporan berjudul Engineering Business Outcomes: The Shift to Agentic Systems, sebanyak 82 persen eksekutif meyakini perusahaan mereka mampu mengikuti perkembangan dalam mengatur, mengintegrasikan, dan memantau AI agentik. Namun, tingkat kesiapan tersebut belum sepenuhnya diikuti kemampuan menyelesaikan konflik yang dapat muncul ketika berbagai agen AI bekerja secara bersamaan.
Survei daring yang dilakukan CIO Dive pada Juni 2026 itu melibatkan 858 pengambil keputusan bidang teknologi informasi (TI). Seiring meningkatnya penggunaan AI agentik, sebanyak 71 persen eksekutif memperkirakan aplikasi dalam lima tahun mendatang akan mampu menyelaraskan pekerjaan lintas sistem, tim, dan proses bisnis, termasuk menjalankan alur kerja multi-langkah yang lebih kompleks.
CIO OutSystems, Tiago Azevedo, menilai tantangan utama perusahaan bukan hanya mengembangkan agen AI, melainkan memastikan seluruh sistem dapat bekerja secara aman dan terkoordinasi. Menurutnya, aspek keamanan perlu dibangun sejak awal pada platform, termasuk melalui penerapan kebijakan saat agen beroperasi, bukan hanya melalui pemeriksaan setelah sistem digunakan.
Pengawasan AI Masih Bergantung pada Manusia
Riset tersebut juga menemukan bahwa 83 persen perusahaan telah mengandalkan proses TI, keamanan, atau kepatuhan, tinjauan khusus, maupun kebijakan dan pemantauan terpusat untuk mengawasi agen AI yang dapat bertindak secara otonom di berbagai aplikasi dan alur kerja.
Meski demikian, pengawasan masih banyak bergantung pada manusia dan prosedur. Hanya 5 persen perusahaan yang menyatakan telah menerapkan kontrol otomatis, jejak audit, serta mekanisme peninjauan formal oleh manusia. Kondisi ini memperlihatkan perlunya penguatan tata kelola yang dapat diterapkan secara konsisten ketika agen AI sedang menjalankan tugas.
Tantangan lain muncul dari kebutuhan mengintegrasikan AI dengan ekosistem teknologi perusahaan yang sudah ada. Sebanyak 74 persen responden menempatkan integrasi dengan aplikasi dan sistem eksisting sebagai prioritas. Sementara itu, 63 persen menyoroti pentingnya orkestrasi agen lintas sistem dan 62 persen mengutamakan fleksibilitas untuk berganti model, vendor, maupun platform sesuai kebutuhan.
Selain integrasi, keandalan seluruh alur kerja menjadi perhatian perusahaan. Sebanyak 81 persen eksekutif menilai pengujian, evaluasi, dan validasi perilaku agen sebagai faktor penting dalam memilih platform atau perangkat AI. Pengujian tersebut mencakup interaksi antaragen, penanganan pengecualian, tindakan yang saling bertentangan, hingga mekanisme pemulihan atau rollback.
Konsistensi data juga menjadi tantangan. Sebanyak 35 persen responden menyebut konsistensi data dan kemampuan berbagi konteks sebagai hambatan utama dalam orkestrasi AI agentik. Karena itu, agen AI dinilai perlu bekerja berdasarkan data perusahaan yang terkelola, status aplikasi, serta proses bisnis yang relevan, bukan semata-mata mengandalkan pengetahuan umum dari model AI.
Pengurangan Kesalahan Jadi Ukuran Keberhasilan
Dalam mengukur manfaat penerapan AI agentik, perusahaan paling banyak memperhatikan pengurangan kesalahan, yang disebut oleh 64 persen responden. Indikator lainnya meliputi kepatuhan dan pengurangan risiko, peningkatan produktivitas karyawan, serta penghematan biaya.
Namun, dampak AI agentik terhadap inovasi bisnis masih relatif terbatas. Secara global, hanya 12 persen responden menyatakan teknologi tersebut telah mempercepat peluncuran produk, layanan, atau pengalaman pelanggan baru. Temuan ini mengindikasikan bahwa manfaat operasional mulai menjadi perhatian, sedangkan transformasi bisnis yang lebih luas masih berada pada tahap awal.
Di kawasan Asia Pasifik, yang dalam survei ini mencakup Australia, India, dan Jepang, sebanyak 39 persen responden menyatakan sangat siap menangani konflik antaragen AI. Angka tersebut lebih tinggi dibandingkan Eropa sebesar 29 persen dan Amerika Utara sebesar 18 persen.
Kawasan Asia Pasifik juga mencatat penerapan kontrol tata kelola otomatis yang lebih tinggi. Sebanyak 14 persen responden di kawasan tersebut melaporkan telah menerapkan kontrol otomatis, jejak audit, dan titik peninjauan oleh manusia. Sebagai perbandingan, angkanya mencapai 3 persen di Eropa dan 2 persen di Amerika Utara.
Managing Director KPMG, Michael Harper, menekankan bahwa jaminan keamanan dan keandalan sistem AI agentik perlu dirancang sejak awal. Menurutnya, pencatatan log tradisional dan tata kelola prosedural yang dirancang untuk perangkat lunak statis perlu dilengkapi dengan mekanisme yang mampu menangani sistem AI dinamis, termasuk penerapan kebijakan sebagai kode dan pagar pengaman saat sistem berjalan.
Sejalan dengan temuan tersebut, OutSystems memperluas Agentic Systems Platform yang diperkenalkan pada awal 2026. Platform ini dirancang untuk membantu perusahaan membangun, mengorkestrasi, dan mengatur sistem AI agentik dalam lingkungan teknologi yang kompleks, seiring peralihan dari tahap eksperimen menuju penerapan berskala perusahaan.
