Apa itu manajemen konteks agen AI?
Manajemen konteks agen AI adalah proses memilih, menata, dan memperbarui informasi yang digunakan agen untuk bekerja, sesuai batas akses yang sudah berlaku. Dalam tim, informasi ini tersimpan di kode, kotak masuk bersama, kanal tim, serta catatan keputusan yang harus tetap akurat dan tersedia bagi orang yang tepat.
Pemahaman bersama dimulai dari konteks yang dibagikan. Pemahaman itu berkembang melalui komunikasi, dapat ditindaklanjuti melalui hasil kerja yang konkret, dan tetap berguna dengan pemeliharaan rutin.
Mulailah dari satu alur kerja: temukan sumber yang menjadi acuan, ambil hanya informasi yang dibutuhkan tugas saat ini, lalu buat ringkasan dengan tautan ke bukti. Pisahkan keputusan dari usulan. Perbarui ringkasan ketika rilis, informasi baru dari pelanggan, atau perubahan izin membuat isinya tidak lagi sesuai.
1. Petakan konteks bersama untuk agen AI
Setiap tim sudah memiliki catatan pengetahuan dan keputusan yang tersebar di berbagai tempat. Langkah pertama dalam memperkenalkan agen adalah menemukan lokasi catatan tersebut.
Jendela konteks agen memuat informasi yang tersedia selama tugas saat ini. Memori agen AI menyimpan informasi agar dapat diambil kembali nanti. Konteks bersama adalah pengetahuan tim yang tersebar di berbagai alat kerjanya. Sistem manajemen konteks yang berguna memilih bagian yang relevan untuk setiap tugas dan mempertahankan tautan ke sumber aslinya.
Proses memilih dan memelihara informasi ini juga disebut rekayasa konteks. Panduan rekayasa konteks dari Anthropic menjelaskan cara mengambil informasi saat diperlukan dan merangkum materi lama agar konteks kerja agen tetap terarah. Bagi tim, pertanyaan praktisnya adalah bukti mana yang membantu pengambilan keputusan saat ini.
Bagi tim produk, kode merupakan sumber konteks yang penting. Bersama catatan penerapan dan rilis, kode membantu memastikan apa yang dilakukan produk saat ini. Kotak masuk bersama memberikan perspektif lain: pertanyaan pelanggan, masalah yang mereka temui, dan hasil yang ingin mereka capai. Kanal tim merekam diskusi, batasan, komitmen, serta alasan di balik keputusan.
Sumber-sumber ini menjawab pertanyaan yang berbeda. Kode menjelaskan implementasi. Informasi penerapan memastikan apakah implementasi tersebut sudah tersedia bagi pelanggan. Percakapan dengan pelanggan memperlihatkan pengalaman mereka. Diskusi internal membantu menjelaskan mengapa tim memilih pendekatan tertentu.
Agen memerlukan peta sumber-sumber tersebut: apa isi setiap sumber, pertanyaan apa yang dapat dijawabnya, siapa yang memeliharanya, dan seberapa mutakhir informasinya. Peta ini menyediakan konteks awal untuk kolaborasi yang bermanfaat.
Agen juga perlu mengenali ketidaksesuaian antar-sumber. Pesan di kanal mungkin menjelaskan rilis yang direncanakan, sementara catatan penerapan menunjukkan bahwa rilis itu masih tertunda. Dokumen bisa saja menjelaskan versi produk sebelumnya. Menampilkan perbedaan ini membantu tim memulai dari pemahaman yang akurat.
Gambar 1. Kode, percakapan pelanggan, dan diskusi tim memberikan perspektif yang berbeda. Agen menghubungkan bukti sesuai izin akses setiap orang dan membuat hasil kerja yang dapat digunakan tim.
2. Kelola izin akses agen AI di sistem sumber
Konteks bersama tetap memiliki batas akses. Anggota tim mempunyai tanggung jawab yang berbeda, dan informasi yang tersedia bagi setiap orang harus mencerminkan tanggung jawab tersebut.
Izin akses merupakan tanggung jawab sistem yang menyimpan dan mengambil konteks. Sistem identitas organisasi, aplikasi sumber, dan penyimpanan memori harus menentukan siapa yang dapat mengakses informasi. Agen bekerja di dalam batas tersebut tanpa menentukan sendiri tingkat akses seseorang.
Agen tim bersama dari Okou menerapkan pemisahan ini: tim dapat berbagi instruksi dan alur kerja, sementara setiap orang menjalankannya melalui akun terhubung miliknya sendiri.
Pembedaan ini penting saat konteks berubah format. Ringkasan yang berasal dari percakapan terbatas harus mempertahankan pembatasan yang relevan. Menyimpan informasi dalam memori atau memasukkannya ke materi visual juga harus menjaga ketentuan aksesnya.
Konteks pribadi pun memerlukan cakupan yang jelas. Catatan, preferensi, dan percakapan pribadi harus tetap terkait dengan orang tersebut, kecuali dibagikan secara sengaja melalui proses yang berwenang.
Dengan demikian, sebuah tim dapat memiliki tujuan bersama meskipun anggotanya mengakses informasi yang berbeda. Peran agen adalah membantu setiap orang berkontribusi dengan konteks yang tersedia baginya. Ketika bukti yang relevan tidak tersedia, agen perlu menjelaskan bagian pemahamannya yang belum terverifikasi.
3. Gunakan agen AI untuk membangun pemahaman bersama
Setelah agen dapat mengakses sumber yang tepat, agen bisa membantu orang memahami hubungan sumber tersebut dengan pekerjaan mereka.
Perhatian dan memori kerja manusia terbatas. Orang mengikuti percakapan yang berbeda dan membentuk penafsiran yang berbeda terhadap situasi yang sama. Tim engineering memahami batasan implementasi. Tim dukungan mengenali masalah pelanggan yang berulang. Tim produk mengingat pertimbangan di balik keputusan sebelumnya.
Agen dapat menghubungkan berbagai perspektif ini dan menjelaskan implikasinya.
Bayangkan pelanggan kesulitan mengundang rekan kerja ke sebuah produk. Kotak masuk bersama berisi uraian masalahnya. Kode dan catatan rilis memastikan cara kerja undangan saat ini. Salah satu kanal tim menyimpan alasan di balik aturan kelayakan.
Agen dapat menyusun bukti tersebut menjadi penjelasan yang utuh tentang apa yang dialami pelanggan, bagaimana produk berperilaku, dan keputusan apa yang membentuk perilaku itu. Setelah itu, agen dapat menyiapkan penjelasan yang sesuai untuk setiap pihak.
Tim engineering membutuhkan langkah reproduksi dan bukti perilaku yang bermasalah. Tim dukungan memerlukan penjelasan yang akurat serta solusi sementara yang sudah diverifikasi, jika ada. Tim produk perlu memahami dampak pada pelanggan dan pilihan yang tersedia. Setiap sudut pandang harus tetap berpijak pada fakta dasar yang sama.
Sebagian besar koordinasi kerja mencakup menjaga kesinambungan antarpercakapan, memperlihatkan ketergantungan, dan mengidentifikasi asumsi yang mungkin tidak disadari oleh para peserta.
Jika diskusi berlangsung di Slack, agen yang bekerja di utas yang sama dapat menjaga agar permintaan, bukti, dan tindak lanjut tetap terlihat oleh peserta percakapan tersebut.
Agen perlu mempertahankan perbedaan antara pengamatan, penafsiran, dan keputusan. Keluhan pelanggan yang serupa bisa menunjukkan pola, sementara penyebabnya masih perlu diteliti. Solusi yang diusulkan dapat terlihat menjanjikan meskipun dampaknya belum pasti. Menjaga perbedaan ini tetap jelas membantu tim memilih tindakan berikutnya.
4. Bantu orang berfokus pada tujuan dan hubungan
Ketika agen menangani lebih banyak pekerjaan pengumpulan dan penjelasan konteks, orang dapat memberikan lebih banyak perhatian pada arah, pertimbangan, dan hubungan.
Oranglah yang menentukan hasil mana yang penting. Mereka menimbang prioritas yang saling bersaing, membuat komitmen, serta membangun kepercayaan dengan rekan kerja dan pelanggan. Mereka juga memahami keadaan yang mungkin tidak pernah dicatat: hubungan pelanggan yang sensitif, kesepakatan informal, atau kekhawatiran yang belum disampaikan dengan jelas.
Agen dapat mempersiapkan orang untuk mengambil keputusan tersebut. Sebelum diskusi, agen bisa mengumpulkan riwayat yang relevan, menemukan pertanyaan yang belum terjawab, dan menjelaskan konsekuensi dari berbagai pilihan. Selama pekerjaan berjalan, agen dapat menyoroti perubahan yang memengaruhi komitmen atau mengungkap ketergantungan.
Jumlah informasi yang disajikan harus sesuai dengan percakapannya. Panggilan dengan pelanggan mungkin hanya memerlukan penjelasan singkat tentang masalah dan komitmen yang sudah dibuat. Tinjauan engineering mungkin membutuhkan rincian implementasi dan bukti reproduksi. Diskusi pimpinan mungkin berfokus pada implikasi bisnis serta keputusan yang diperlukan.
Manajemen konteks yang baik mengurangi upaya untuk saling memahami. Orang seharusnya dapat memulai percakapan dengan latar belakang bersama yang cukup agar waktu mereka digunakan untuk membahas hal yang penting.
5. Visualisasikan keputusan dan serah terima pekerjaan
Hasil kerja yang konkret memberi tim sesuatu yang dapat diperiksa, dibahas, dan diperbaiki.
Formatnya harus sesuai dengan masalah komunikasi. Diagram alur kerja dapat menunjukkan ketergantungan yang belum jelas. Tampilan layar dengan anotasi dapat memperlihatkan bagian yang menyulitkan pelanggan. Tabel perbandingan dapat menjelaskan konsekuensi pilihan yang berbeda. Linimasa dapat menunjukkan bagaimana komitmen satu tim memengaruhi pekerjaan tim lainnya.
Untuk masalah undangan, perjalanan pelanggan yang diberi anotasi dapat memperlihatkan langkah saat ini, titik kebingungan, bukti dari pelanggan, dan perubahan yang diusulkan. Perilaku saat ini, perilaku yang diusulkan, dan pertanyaan yang belum terjawab harus diberi label yang jelas.
Materi ini dapat mendukung beberapa percakapan. Tim dukungan dapat memeriksa apakah materi tersebut mencerminkan pengalaman pelanggan. Tim engineering dapat memverifikasi perilaku produk. Tim produk dapat menilai apakah perubahan yang diusulkan mengatasi akar masalah.
Materi keputusan harus mempertahankan alasan di balik hasil akhirnya. Perbandingan yang berguna dapat menunjukkan pilihan yang dipertimbangkan, batasan yang penting, asumsi di balik setiap pilihan, dan alasan pemilihan akhir.
Serah terima pekerjaan juga terbantu oleh kejelasan yang sama. Orang berikutnya harus dapat melihat apa yang sudah selesai, apa yang sudah diverifikasi, apa yang masih terbuka, di mana pekerjaan pendukung tersimpan, dan tindakan apa yang diharapkan selanjutnya.
Agen dapat menjaga agar materi tersebut tetap selaras dengan bukti yang mendasarinya ketika pekerjaan berubah.
6. Pelihara memori dan konteks agen AI
Konteks kehilangan nilainya ketika status dan kemutakhirannya menjadi tidak jelas.
Produk berkembang, prioritas bergeser, dan keputusan direvisi. Solusi sementara bisa terus beredar setelah masalah aslinya diperbaiki. Sebuah usulan dapat perlahan dianggap sebagai keputusan yang sudah disetujui. Ringkasan yang akurat bisa menjadi menyesatkan ketika keadaan berubah.
Sistem konteks yang berguna perlu membedakan fakta, asumsi, usulan, keputusan, dan catatan historis. Masing-masing memerlukan pemeliharaan yang berbeda. Fakta perlu diperbarui ketika kondisi berubah. Asumsi perlu divalidasi. Usulan memerlukan status yang terlihat. Keputusan membutuhkan alasan dan catatan revisi selanjutnya.
Pemeliharaan rutin perlu menggabungkan duplikasi, menandai pertentangan, memperbarui ringkasan yang masih digunakan, dan mengarsipkan materi yang tidak lagi menjadi panduan pekerjaan saat ini. Bukti historis harus tetap dapat diakses, dengan panduan yang sudah digantikan diberi penanda yang jelas.
Pemeliharaan juga perlu merespons peristiwa penting. Sebuah rilis dapat membuat panduan produk tidak lagi berlaku. Tujuan yang direvisi dapat mengubah informasi mana yang penting. Keputusan baru dapat menggantikan rencana lama. Perubahan izin akses pada sumber harus tercermin dalam cara konteks turunannya disimpan dan diambil.
Anggota tim memerlukan cara mudah untuk mengoreksi pemahaman agen. Mereka harus dapat menunjukkan pernyataan yang sudah usang, merujuk ke sumber yang berwenang, atau menjelaskan bahwa suatu diskusi tidak pernah menjadi keputusan. Koreksi tersebut harus memengaruhi pekerjaan berikutnya dalam cakupan pribadi atau bersama yang tepat.
Gambar 2. Orang menetapkan tujuan. Agen menemukan, menghubungkan, dan menjelaskan konteks, lalu memperbaruinya ketika pekerjaan berubah. Tautan sumber dan riwayat keputusan tetap tersedia.
7. Mulai dari lingkup kecil dan ukur kolaborasi tim dengan AI
Penerapan praktis dapat dimulai dari satu proyek dan satu masalah komunikasi yang berulang.
Untuk titik awal yang konkret, lihat contoh alur kerja AI dan pilih alur dengan masukan yang jelas serta hasil yang dapat ditinjau tim.
Serah terima dari tim dukungan ke engineering merupakan contoh yang berguna. Tim dapat menentukan kotak masuk, repositori, informasi rilis, dan kanal diskusi yang relevan. Selanjutnya, tim menetapkan hasil yang konkret, misalnya ringkasan masalah berisi bukti pelanggan, perilaku produk yang sudah diverifikasi, pertanyaan terbuka, dan alur kerja beranotasi.
Evaluasi pertama adalah apakah agen menggambarkan situasi secara akurat. Apakah agen mengambil bukti yang relevan? Apakah agen membedakan perilaku saat ini dari perubahan yang direncanakan? Apakah ketidakpastian tetap dipertahankan? Dapatkah setiap peserta memahami kebutuhan pihak lain?
Setelah itu, tim dapat menilai apakah kolaborasi membaik. Apakah informasi latar belakang lebih jarang diulang? Apakah serah terima memerlukan lebih sedikit putaran klarifikasi? Dapatkah orang yang baru bergabung memahami alasan sebuah keputusan? Apakah asumsi usang terdeteksi sebelum memengaruhi komitmen kepada pelanggan?
Umpan balik dari interaksi ini perlu digunakan untuk memperbaiki peta sumber, cara menyusun konteks, dan hasil kerja yang dibuat agen. Tanggung jawab yang lebih luas dapat diberikan setelah dasar-dasar ini andal.
Nilainya terlihat dalam pekerjaan sehari-hari: seorang engineer memahami dampak pada pelanggan sebelum menyelidiki; tim dukungan dapat menjelaskan produk secara akurat; peserta baru dapat mengikuti alasan di balik keputusan. Orang datang dengan konteks yang dibutuhkan dan dapat memberikan lebih banyak perhatian untuk memilih tujuan, membuat komitmen, serta membangun hubungan yang membantu tim mencapai hasil.
Pertanyaan yang sering diajukan
Apa perbedaan konteks dan memori agen AI?
Konteks adalah informasi yang tersedia bagi model untuk respons atau tindakan saat ini. Memori menyimpan informasi untuk digunakan nanti, termasuk lintas sesi jika sistem mendukungnya. Keputusan yang disimpan menjadi bagian dari konteks aktif ketika diambil kembali. Keduanya membutuhkan rujukan sumber, cakupan yang jelas, dan pemeriksaan informasi yang sudah usang.
Apa perbedaan manajemen konteks agen AI dan RAG?
Retrieval-augmented generation (RAG) mengambil informasi untuk menjadi dasar respons model. Manajemen konteks mencakup proses yang lebih luas: memilih instruksi, riwayat percakapan, hasil alat, dan informasi yang diambil untuk setiap tugas. Proses ini juga mengatur kemutakhiran dan penyimpanan dalam batas akses yang diberlakukan. RAG dapat menjadi salah satu bagiannya.
Apa yang terjadi ketika jendela konteks agen AI penuh?
Bergantung pada sistemnya, permintaan bisa gagal, konten lama bisa dihapus, atau percakapan bisa dipadatkan menjadi ringkasan. Simpan tujuan, keputusan yang sudah dikonfirmasi, pertanyaan terbuka, dan tautan sumber dalam catatan kerja singkat. Ambil kembali bukti terperinci saat diperlukan, lalu periksa apakah ringkasan melewatkan batasan penting.
Bisakah agen AI berbagi konteks tanpa berbagi izin akses semua orang?
Bisa, jika aplikasi sumber, sistem identitas, dan lapisan penyimpanan menegakkan kontrol akses. Instruksi bersama tidak memberikan akses ke akun terhubung milik orang lain. Ringkasan atau serah terima harus mempertahankan pembatasan pada informasi sumbernya, dan sistem harus memeriksa ulang akses ketika informasi tersebut diambil atau dibagikan.
Apa saja yang harus disertakan dalam serah terima agen AI?
Sertakan tujuan tugas, status terkini, temuan terverifikasi, tautan sumber, keputusan beserta alasannya, pertanyaan terbuka, serta tindakan berikutnya dan penanggung jawabnya. Tandai asumsi dan usulan secara jelas. Untuk masalah pelanggan, bedakan perilaku yang diamati di lingkungan produksi dari perbaikan yang masih direncanakan atau belum dirilis.
Seberapa sering konteks agen AI perlu diperbarui?
Perbarui konteks aktif ketika ada rilis yang relevan, informasi baru dari pelanggan, keputusan, atau perubahan izin. Sebelum tindakan yang berdampak besar, periksa ulang fakta yang mungkin berubah. Tentukan frekuensi peninjauan berdasarkan kecepatan perubahan sumber, tandai panduan yang sudah digantikan, dan jaga agar bukti historis tetap dapat diakses pengguna yang berwenang.
Bagaimana mengukur apakah manajemen konteks memperbaiki kolaborasi tim?
Pilih satu alur kerja yang berulang dan catat kondisi awalnya. Bandingkan waktu untuk memahami kembali latar belakang, jumlah putaran klarifikasi per serah terima, dan koreksi fakta pada tugas sejenis. Tinjau juga ketepatan sumber, kepatuhan pada batas akses, dan kejelasan ketidakpastian. Penyelesaian yang lebih cepat berguna jika hasilnya tetap akurat.
