Context Engineering - האומנות של לבנות agents שעובדים

מה ששומרים לצמיתות שונה ממה שהמודל רואה בכל קריאה. ההפרדה מאפשרת לפתח את האחסון וה-prompts בנפרד.

// Storage (durable) - everything saved
const storage = {
  fullHistory: [...],      // all messages ever
  allToolResults: [...],   // every tool output
  userPreferences: {...}
}

// Presentation (per-call) - curated view
const context = {
  recentHistory: summarize(storage.fullHistory),
  relevantResults: filterByTask(storage.allToolResults),
  activeGoal: storage.currentTask
}

אל תטען הכל מראש “למקרה שיצטרך”. שמור מזהים קלים ושלוף תוכן כשבאמת צריך.

system_prompt = f"""
Here is the entire codebase:
{read_all_files()}
"""
# 100K tokens wasted

system_prompt = """
Use Glob to find files.
Use Read to view them.
"""
# Files loaded only when needed

כשה-context גדל מדי, צמצם אותו אסטרטגית תוך שמירה על מידע חיוני.

• ניקוי תוצאות Tools: החלף פלטים מפורטים בסיכומים. “הקובץ נקרא ונותח” במקום 5000 tokens של קוד.
• סיכום היסטוריה: דחס turns ישנים. שמור את 3 האחרונים גולמיים כדי לשמר “קצב”.
• בידוד Sub-agents: העבר למשנה עם context נקי, קבל סיכום של 1-2K tokens.

// Instead of just deleting:
messages.shift()

// Summarize before removing:
const oldMessages = messages.splice(0, 10)
const summary = await summarize(oldMessages)
messages.unshift({ role: 'system', content: summary })

אחרי 50 קריאות tools, המודל שוכח את המטרה המקורית. הילחם בזה על ידי חזרה מתמדת על המטרות בסוף ה-context.

// At session start:
memory_view("current_goals.md")

// After completing each task:
memory_str_replace(
  "current_goals.md",
  oldGoals,
  updatedGoals  // with completed items marked
)

100+ כלים = בלבול context. המודל לא יכול להחליט במה להשתמש. הפתרון: לארגן כלים לרמות ולטעון אותם לפי הקשר.

// Tier 1: Core (always available) ~10 tools
const coreTools = [
  "Read", "Write", "Bash", "Grep", "WebSearch",
  "memory_view", "memory_create", "Task", "Skill"
]

// Tier 2: Domain-specific (load when detected)
const googleTools = [  // Load when "email", "calendar" detected
  "list_gmail", "send_gmail", "list_calendar", ...
]

// Dynamic loading:
if (userMessage.includes("gmail") || userMessage.includes("email")) {
  activeTools = [...coreTools, ...googleTools]
}

זה מצמצם את מרחב ההחלטה של הכלים מ-30 ל~10-15, מה שהופך את המודל להחלטי יותר.

כלים מעוצבים היטב מפחיתים עומס context ומורכבות החלטות.

• עצמאי: בלי תלויות נסתרות ב-state. כל כלי עובד בנפרד.
• החזרות יעילות ב-tokens: מחזיר את המינימום הנדרש. לא כל הקובץ, רק החלק הרלוונטי.
• תיאורים ברורים: אם אדם לא יכול להחליט באיזה כלי להשתמש, גם המודל לא.
• ללא חפיפה: לכל כלי מטרה ייחודית. אין שני כלים שעושים אותו דבר.