AI-агенти для розробки (перший урок): підводні камені в контекстному вікні



Під час роботи над проектом я зрозумів, наскільки ця проблема може бути складною — кілька файлів випадково швидко розростаються, і весь процес доводиться кардинально переробляти. У той момент я був справді здивований.

Пізніше я задумався, чи можливо зробити зворотний підхід: навчити агентів самостійно керувати своїм розміром контексту? Тобто, щоб агенти під час роботи могли визначати, коли потрібно оптимізувати, і як змінювати структуру файлів для відповідності обмеженню токенів.

Ця ідея насправді досить цікава — вбудувати логіку оптимізації у механізм саморегуляції агентів. Наступним кроком буде тестування, які рішення справді працюють, а які легко призводять до помилок. У кого є ідеї, можете долучатися до обговорення.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 7
  • Репост
  • Поділіться
Прокоментувати
0/400
WealthCoffeevip
· 1год тому
Ха-ха, ця пастка з контекстним вікном дійсно абсолютна, я раніше теж стикався з подібним, раптовий вибух токенів дійсно дуже неприємний. Мені подобається ідея дозволити агенту самостійно керувати та оптимізувати цей процес, це трохи нагадує йому встановлення системи самовідновлення.
Переглянути оригіналвідповісти на0
MentalWealthHarvestervip
· 10год тому
Ха, я також наступав на цю яму з контекстним вікном, справжній хаос з токенами Що стосується самоуправління, дійсно потрібно його опрацювати, інакше пізніше буде важко підтримувати
Переглянути оригіналвідповісти на0
ForkInTheRoadvip
· 10год тому
哈哈這就是我上週的血淚史,文件一膨脹token直接爆表 自我优化這個思路確實抠,让agent自己管理context窗口比手動刪刪減減更可靠多了 不過我覺得關鍵還是得看怎麼讓它識別哪些信息該留哪些該扔,這裡面的trade-off不好把握啊 有實裝經驗的來分享一下呗,我想看看有沒有現成的方案
Переглянути оригіналвідповісти на0
MEVHunterZhangvip
· 10год тому
哈哈這個坑我也踩過,文件一膨脹就完蛋 自己管理context size的思路確實絕,就是不知道實現起來會不會又是新坑 有進展一定得分享啊,現在都卡在這兒呢 這想法可以,agents能自適應優化的話這事兒就解了一半 不過怎麼判斷什麼時候該優化這塊邏輯得想清楚,容易搞反了 等你的測試結果呢,哪些方案真實可行的
Переглянути оригіналвідповісти на0
PoolJumpervip
· 10год тому
哈,context window這坑確實絕。踩過一次就再也忘不了那種感覺 讓agent自己管理token這想法我喜歡,就是不知道實際跑起來會不會又是另一套邏輯 有測試結果的話一定要分享啊,想看看最後怎麼優化的 其實這才是真正的自適應吧,不然就是在給agents打補丁 感覺你後面肯定還有更野的想法,繼續啊 試過RAG那套流程嗎,感覺也能緩解這問題 坦白說之前的方案都太被動了,這次換個思路還是值得的 等你出個最佳實踐指南,社區估計得搶破頭
Переглянути оригіналвідповісти на0
MevWhisperervip
· 10год тому
Я також потрапляв у цю пастку, вибух контексту дійсно неймовірний Ідея дозволити агенту самостійно керувати токенами хороша, але боязко знову натрапити на нову пастку
Переглянути оригіналвідповісти на0
TestnetFreeloadervip
· 10год тому
哈,context window這坑我也踩過,文件一膨脹就完蛋 --- 自適應管理聽起來不錯,就怕實際跑的時候token還是會濺你一臉血 --- 這個思路有點意思,反正現在模型那麼多限制,讓agents自己想辦法也蠻合理的 --- 等等,優化邏輯怎麼嵌入啊,會不會本身就吃掉一堆context --- 我覺得可以試試分片處理,比硬怼context window聰明多了 --- 真的,這種自我優化的東西調試起來得多費勁啊 --- 有點想看看你後面測試的方案,踩坑指南也值得學
Переглянути оригіналвідповісти на0
  • Закріпити