Context Window: Kenapa AI Tiba-tiba 'Lupa'

Context window adalah jumlah token maksimum yang bisa dibaca model dalam satu percakapan — mencakup pertanyaanmu, kode yang kamu tempel, dan seluruh jawaban sebelumnya. Begitu batas itu terlampaui, bagian paling awal terdorong keluar, dan di situlah AI mulai melupakan keputusan yang sudah kalian sepakati di awal. Sebagai patokan kasar untuk kode, satu token kira-kira 4 karakter, jadi file 8.000 karakter menghabiskan sekitar 2.000 token. Kebiasaan yang menolong: buka sesi baru untuk masalah baru, dan tempel hanya potongan kode yang relevan.

const kodeDitempel = 'a'.repeat(20000);
console.log(Math.ceil(kodeDitempel.length / 4));