Ada satu angka di survei VentureBeat Intelligence bulan Agustus yang arahnya berlawanan dengan seluruh siaran pers industri pada periode yang sama. Ketika perusahaan makin banyak membeli agen AI, porsi perusahaan yang bersedia membiarkan agen itu mengubah sistem produksi tanpa persetujuan manusia justru turun. Dari 75 persen pada Juli menjadi 56 persen pada Agustus.

Angka itu spesifik. Lima puluh enam persen responden yang organisasinya men-deploy agen otonom mengaku sudah mengizinkan perubahan produksi tertentu hanya berdasarkan hasil evaluasi otomatis, tanpa tinjauan manusia. Sisanya sedang membangun sistem agar bisa melakukannya dalam setahun ke depan. Pada Juli, angka yang sama mencapai 75 persen.

Yang menarik bukan penurunannya. Yang menarik adalah ke mana uangnya tetap mengalir.

Bukan Sekadar Sampel yang Berbeda

Keberatan pertama yang wajar muncul: jangan-jangan yang menjawab survei Agustus memang orang yang lebih hati-hati. VentureBeat sendiri mengangkat keraguan ini. Komposisi responden memang bergeser, dari 44 persen pengambil keputusan pembelian AI pada Juli menjadi 53 persen pada Agustus. Responden Agustus berjumlah 140 orang.

Tapi penurunannya juga terjadi di dalam kelompok yang sama. Di antara pengambil keputusan final yang organisasinya men-deploy agen otonom, porsi yang mengizinkan perubahan produksi tanpa tinjauan turun dari 88 persen pada Juli menjadi 61 persen pada Agustus. Kalau penyebabnya cuma pergeseran komposisi, angka di dalam kelompok ini seharusnya tidak berubah sebesar itu.

VentureBeat tetap jujur soal batas metodenya. Kedua survei memakai kelompok pembaca dan anggota panel yang memilih sendiri, bukan sampel acak. Jadi hasilnya tidak bisa dipakai untuk menyimpulkan bahwa seluruh pasar enterprise global bergerak dengan cara yang sama. Yang bisa dikatakan: di dalam organisasi yang disurvei, ada pergeseran yang cukup nyata.

Timing yang Aneh

Ada satu detail kronologis yang membuat temuan ini lebih layak dibahas. Survei Agustus berjalan sebelum Dario Amodei, CEO Anthropic, menerbitkan esai “We Must Pace the Frontier” pada 12 September 2026. Esai itu menyerukan perlambatan pengembangan AI terdepan dan penguatan pengawasan keselamatan. Setelahnya, Sam Altman dari OpenAI dan Demis Hassabis dari Google DeepMind menyatakan dukungan terhadap sikap lebih hati-hati.

Artinya, kehati-hatian itu sudah muncul sebelum ada seruan resmi dari tokoh industri. Survei Agustus tidak mungkin merupakan reaksi terhadap esai September. Tapi VentureBeat juga tidak bisa menjelaskan apa yang sebenarnya menyebabkan perubahan itu, karena data survei tidak dirancang untuk menjawab pertanyaan sebab-akibat.

Di titik ini lebih baik berhenti daripada memaksakan penjelasan. Bisa jadi perusahaan mulai kena tagihan insiden. Bisa jadi dewan direksi mulai bertanya. Bisa jadi memang cuma pergeseran selera responden. Data yang ada tidak cukup untuk memilih salah satunya.

Yang Justru Naik

Ada satu angka lain di survei yang sama yang arahnya terbalik dan jarang dikutip. Penggunaan perkakas evaluasi bawaan OpenAI naik dari 31 persen pada Juli menjadi 59 persen pada Agustus.

Jadi perusahaan tidak berhenti memakai evaluasi otomatis. Mereka justru memakainya jauh lebih banyak. Yang mereka tolak adalah menjadikan hasil evaluasi itu sebagai satu-satunya izin untuk masuk ke produksi.

Perbedaan ini kelihatan sepele di atas kertas, tapi implikasinya besar untuk cara tim engineering bekerja. Evaluasi otomatis tetap dipakai sebagai penyaring awal. Yang ditambahkan adalah gerbang terakhir yang masih dijaga manusia. Dua lapis, bukan satu.

Enam Puluh Satu Persen Pernah Kena

Alasan kehati-hatian itu masuk akal kalau melihat angka berikutnya. Enam puluh satu persen responden yang organisasinya menjalankan evaluasi pra-deploy melaporkan setidaknya satu kasus dalam dua belas bulan terakhir. Fitur AI atau LLM lolos pengujian internal, lalu menyebabkan kegagalan yang dirasakan pelanggan.

Dua puluh dua persen melaporkan lebih dari satu kegagalan semacam itu. Angka Juli yang bisa dibandingkan langsung adalah 53 persen dari 101 responden. Secara numerik Agustus lebih tinggi, tapi selisihnya tidak signifikan secara statistik. Yang signifikan adalah kenaikan porsi yang melaporkan tepat satu kegagalan, dari 27 persen menjadi 39 persen.

Perlu dicatat, survei ini mengukur berapa banyak organisasi yang pernah mengalami, bukan seberapa sering agen individual gagal. Organisasi yang men-deploy ratusan fitur AI punya peluang lebih besar bertemu insiden dibanding yang hanya men-deploy beberapa. Jadi angka 61 persen bukan berarti agen gagal lebih dari separuh waktu.

Yang membuat angka itu relevan adalah kepercayaan terhadap alat evaluasinya sendiri. Hanya 9 persen responden Agustus yang memilih jawaban “kami percaya evaluasi otomatis hari ini” ketika ditanya batasan apa yang paling mengurangi kepercayaan mereka.

Uangnya Pergi ke Mana

Kalau kehati-hatian naik, logikanya anggaran pengawasan ikut naik. Di sini datanya sedikit membantah ekspektasi sederhana itu.

Responden Agustus diminta memilih satu area investasi keandalan yang paling besar pertumbuhannya dalam setahun ke depan. Sebaran jawabannya: alur kerja tinjauan manusia 30 persen, perkakas observabilitas produksi 26 persen, pipeline evaluasi otomatis 21 persen. Lalu evaluasi keselamatan dan kebijakan 11 persen, dan tidak ada kenaikan anggaran keandalan 11 persen.

Alur kerja tinjauan manusia memang tetap di posisi teratas, sama seperti Juli ketika angkanya 31 persen. Tapi keunggulannya atas observabilitas produksi terlalu tipis untuk disebut berbeda secara statistik. Dan porsi yang memilih evaluasi keselamatan turun dari 16 ke 11 persen.

VentureBeat memberi catatan penting yang sering dilewatkan pembaca: angka ini mengukur area mana yang diperkirakan tumbuh paling besar, bukan bagaimana anggaran sebenarnya dibagi. Turunnya porsi yang memilih evaluasi keselamatan tidak otomatis berarti belanja keselamatan turun.

Tetap saja, kombinasi “kami lebih hati-hati” dengan “prioritas belanja kami hampir tidak berubah” terdengar familier. Banyak organisasi yang mengubah kebijakan lebih cepat daripada mengubah anggaran.

Empat Kelompok, Bukan Satu Kurva

Survei Agustus membagi responden ke beberapa kubu, dan pembagian ini lebih berguna daripada headline 75 ke 56.

Dari seluruh 140 responden, 27 persen sudah mengizinkan sebagian agen berisiko rendah melakukan perubahan tanpa validasi manusia. Tiga puluh lima persen mencoret kemungkinan itu untuk masa yang bisa diperkirakan. Dua puluh persen sedang membangun kemampuan itu dalam dua belas bulan. Enam belas persen tidak men-deploy agen otonom sama sekali, dan 2 persen tidak yakin.

Kalau responden yang tidak men-deploy agen dikeluarkan, angkanya bergeser. Tiga puluh dua persen sudah mengizinkan perubahan tanpa tinjauan untuk agen atau perubahan berisiko rendah tertentu, dan 24 persen sedang membangun ke arah itu. Sisanya, 42 persen, memperkirakan akan tetap mempertahankan tinjauan manusia untuk masa yang bisa diperkirakan.

Angka 42 persen itu salah satu perubahan paling jelas di survei ini. Pada Juli, porsi yang memperkirakan akan mempertahankan persetujuan manusia hanya 20 persen. Kenaikan ke 42 persen signifikan secara statistik.

Kenapa Ini Penting untuk Perusahaan di Indonesia

Bagi banyak perusahaan di Indonesia yang baru mulai menaruh agen AI di alur kerja, temuan ini terasa seperti kabar lambat. Sebagian besar organisasi di sini belum sampai ke tahap membiarkan agen menyentuh produksi, jadi perdebatan soal persetujuan manusia mungkin terdengar seperti masalah orang lain.

Justru di situ letak gunanya. Perusahaan yang belum men-deploy agen punya kesempatan merancang gerbangnya sejak awal, tanpa harus belajar dari insiden dulu. Yang perlu diputuskan sekarang bukan apakah agen boleh bekerja, tapi perubahan jenis apa yang boleh lewat tanpa manusia, dan siapa yang menanggung akibatnya kalau salah.

Praktiknya sederhana dan tidak butuh alat mahal. Mulai dari daftar tindakan yang tidak boleh dilakukan agen tanpa persetujuan, misalnya menyentuh data pelanggan, mengubah konfigurasi pembayaran, atau menghapus catatan. Lalu putuskan siapa yang meninjau, dalam hitungan menit atau jam, dan apa yang terjadi kalau peninjau tidak tersedia.

Perusahaan yang sudah punya alur persetujuan untuk perubahan kode sebenarnya tinggal memakai alur yang sama. Yang berubah cuma siapa yang mengusulkan. Kalau alur itu belum ada, itu masalah lain yang lebih dulu perlu dibereskan, dan agen AI hanya membuatnya lebih kelihatan.

Yang Sebenarnya Dibeli

Selama dua tahun terakhir, pasar menjual agen AI dengan janji otonomi. Makin mandiri, makin mahal harganya. Angka-angka Agustus menunjukkan bahwa pembeli mulai menilai otonomi dengan cara berbeda.

Otonomi bukan fitur yang membuat harga naik. Otonomi adalah risiko yang harus dibeli bersama pengawalnya. Perusahaan yang menjual agen tanpa jalur audit, tanpa riwayat keputusan, dan tanpa cara membatalkan tindakan, sebenarnya menjual utang yang baru akan ditagih saat insiden pertama.

Dan insiden pertama itu cukup sering datang. Enam dari sepuluh organisasi yang sudah menjalankan evaluasi pun pernah mengalaminya dalam setahun terakhir.

Jadi ketika 42 persen organisasi memilih mempertahankan manusia di gerbang terakhir, itu bukan kemunduran teknologi. Itu keputusan akuntansi yang diambil dengan hati-hati: lebih murah membayar satu reviewer daripada menjelaskan ke pelanggan kenapa sistem mereka berubah tanpa ada yang memperhatikan.

Sebelumnya, incodeonline.com juga membahas jarak antara adopsi agen AI dan pengawasannya, serta mengapa fondasi tata kelola AI di ASEAN belum siap meski adopsinya juara.