Auto-Compacting: Kenapa Agen AI Ngadat di Turn 15

Lembur semalaman. Tanpa sistem auto-compacting yang tepat, sesi panjang agen AI rentan mengalami context saturation. Prompt sudah rapi, PRD sudah disetujui, agen mulai ngebut dari turn 1. Kamu tinggalkan terminal sebentar buat rebahan jam 2 pagi, berharap pas bangun kerjaan kelar.

Pas bangun jam 7, kursor masih berkedip di turn 15. Bukan selesai, bukan error. Diam.

Log terakhir cuma nunjukin Reading tool result... lalu berhenti. Token counter di dashboard udah nembus puluhan ribu, kuota API bulan ini habis buat prompt yang sama sekali nggak nyampe tujuan. Pekerjaan macet, deadline geser, dan kamu cuma bisa tatapan ke layar sambil ngopi.

Kenapa Tepat di Turn 15, Bukan Turn 3?

Ada polanya. Hampir semua kasus freeze agen terjadi di rentang turn 12 sampai 18, bukan di awal sesi. Itu bukan kebetulan.

Tiap turn, agen menyimpan tiga hal sekaligus: prompt sistem, riwayat percakapan sebelumnya, dan seluruh output tool. Baca 40 file, jalankan 12 perintah, dan tiap hasilnya nyangkut di konteks. Turn 1 mungkin cuma 8 ribu token. Turn 15 bisa 180 ribu token, dan itu masih sebelum agen mulai mikir.

Begitu mendekati batas context window, empat hal terjadi berurutan:

1. Context saturation. Model dipaksa memilih bagian mana yang perlu diperhatikan dari tumpukan data raksasa. Sinyal penting tenggelam di antara ribuan baris log.
2. Attention dilution. Akurasi menurun justru saat instruksi paling banyak. Agen mulai mengulang langkah yang sudah dikerjakan, atau lupa constraint yang kamu tulis di prompt awal.
3. Tool output truncation. Hasil grep atau cat dipotong di tengah. Agen membaca data setengah jadi, lalu mengambil kesimpulan dari potongan itu.
4. Hard stall. Provider menolak request karena melebihi limit. CLI menunggu respons yang tidak akan pernah datang. Terminal beku tanpa pesan error yang jelas.

Analogi paling gampang: bayar argo taksi muter-muter karena driver terus dijejali alamat baru, padahal tujuan dari awal cuma satu. Bensin habis, kamu tetap belum sampai.

Yang lebih parah, kebanyakan CLI agentic tidak punya rolling summarizer bawaan. Konteks hanya bertambah, tidak pernah diringkas. Jadi sesi panjang pasti menabrak dinding, cepat atau lambat.

Mengapa "Restart Saja" Bukan Solusi

Solusi instingtif jelas: tutup terminal, mulai sesi baru.

Masalahnya, konteks yang hilang itu justru hasil kerja semalaman. Keputusan arsitektur, nama variabel yang sudah disepakati, alasan kenapa pendekatan A ditolak. Semua lenyap. Kamu mulai dari nol dan mengulang kesalahan yang sama.

Ini yang kami sebut amnesia operasional: agen tetap punya kemampuan menulis kode, tapi kehilangan memori kenapa kode itu ditulis begitu.

Mekanisme auto-compacting dan Autonomous Sentinel Heartbeat

ACS Core menangani ini di dua lapis, bukan dengan menambah panjang prompt.

Autonomous Context Compaction Engine™ bekerja seperti rolling summarizer yang berjalan otomatis. Sebelum konteks menyentuh ambang kritis, engine memadatkan riwayat menjadi ringkasan terstruktur: keputusan yang sudah diambil, file yang sudah disentuh, dan langkah yang belum selesai. Detail mentah dibuang, sinyal dipertahankan.

Hasilnya terukur di sesi nyata:

• Pemakaian token idle turun dari 10.474 token di turn pertama menjadi sekitar 1.216 token, karena konteks dimuat on-demand, bukan seluruhnya di awal.
• Sesi 60 turn berjalan tanpa hard stall, karena ringkasan menggantikan tumpukan log mentah.
• Zero amnesia pada keputusan kunci, sebab ringkasan memprioritaskan constraint dan hasil verifikasi.

Autonomous Sentinel Heartbeat™ menutup celah lainnya: agen yang diam tanpa progres. Watchdog memeriksa denyut sesi tiap 3 menit. Kalau tidak ada perubahan file, tidak ada output baru, atau pola kegagalan yang sama terulang dua kali, heartbeat menandai sesi sebagai stagnan lalu memicu pemulihan, bukan menunggu selamanya.

Analogi keduanya: compactor itu editor naskah yang merangkum 200 halaman jadi 5 halaman penting. Watchdog itu asisten yang ngetuk pintu kalau kamu kelamaan diam di ruangan.

Yang perlu digarisbawahi, keduanya berjalan tanpa kamu memanggil perintah apa pun. Tidak ada /compact manual, tidak ada restart berkala, tidak ada jadwal bersih-bersih konteks yang harus kamu ingat sendiri.

Yang Berubah Setelah Konteks Dikelola

Agen yang tidak kehabisan konteks di tengah jalan bukan sekadar lebih nyaman dipakai. Biaya API turun karena prompt tidak membengkak, dan hasil kerja semalaman benar-benar bisa dipanen pagi hari.

Kalau kamu ingin melihat bagaimana mekanisme ini terpasang bersama fitur lain, mulai dari seksi fitur ACS. Untuk perbandingan paket dan akses resep lengkapnya, lihat halaman harga. Pelajari batas token dan arsitektur konteks LLM di Anthropic Context Window Guide ↗.