پرش به محتوای اصلی

جست‌وجو در مدل‌ها، ابزارها، سرویس‌ها، شرکت‌ها، ارائه‌دهندگان، APIها، پلن‌ها، مقالات و اخبار.

پوسیدگی زمینه: چرا پنجره‌ی بزرگ همیشه به معنای حافظه‌ی بزرگ نیست

پوسیدگی زمینه: چرا پنجره‌ی بزرگ همیشه به معنای حافظه‌ی بزرگ نیست

روی جعبه مدل‌های امروزی عدد خیره‌کننده‌ای نوشته شده: پنجره زمینه ۱ میلیون توکن. اما تجربه هر توسعه‌دهنده‌ای که ساعتی طولانی با یک عامل کدنویسی کار کرده، چیز دیگری می‌گوید: عامل وسط کار «گیج» می‌شود، فایل‌هایی که ابتدای جلسه خوانده را فراموش می‌کند و دستورهای اول را تکرار می‌کند. این شکاف بین عدد روی جعبه و واقعیت، اسم رسمی دارد: پوسیدگی زمینه یا Context Rot.

پژوهش‌های ۲۰۲۶ این پدیده را دقیق اندازه گرفته‌اند: توجه مدل یک «بودجه محدود» است و با هر توکن اضافه، سهم هر توکن دیگر کم می‌شود. در عمل، پنجره‌ی ۱۲۸ هزار توکنیِ تبلیغ‌شده بسته به نوع وظیفه گاهی فقط ۲۰ تا ۴۰ هزار توکن «مؤثر» ارائه می‌دهد؛ اطلاعات وسط پنجره ضعیف‌تر از ابتدا و انتها بازیابی می‌شوند و وظایف پیچیده زودتر از وظایف ساده شروع به افت می‌کنند.

برای کاربر عادی این یعنی سه چیز: اول، جلسه‌های طولانی عامل را هر چند گام یک‌بار ری‌استارت کنید و خلاصه‌ی زمینه را به جلسه جدید بدهید. دوم، به فایل‌های حیاتی در انتهای پرامپت اشاره کنید — مدل به لبه‌های پنجره بیشتر از وسطش توجه می‌کند. سوم، به تبلیغ «زمینه بی‌نهایت» بی‌اعتماد باشید؛ معیار واقعی، دقت روی وظیفه شماست نه عدد پنجره.

سمت صنعت هم راه‌حل‌های جدی در آزمایش است: مهندسی زمینه (پاک‌سازی و خلاصه‌سازی خودکار جلسه)، بازیابی انتخابی به‌جای ریختن همه‌چیز در پنجره، و معماری‌های بازگشتی که سند طولانی را قطعه‌قطعه پردازش می‌کنند. رقابت ۲۰۲۶ کمتر درباره «پنجره بزرگ‌تر» و بیشتر درباره «استفاده هوشمندتر از پنجره» است.

بازگشت به وبلاگ