Agentic AI: מי בוחר את הצעד הבא

6 בינואר 2025, לאס וגאס. ג’נסן הואנג עומד על הבמה של CES ואומר שה-agents בארגונים הם “multi-trillion-dollar opportunity”, מרפואה ועד פיתוח תוכנה. מאותו שבוע כמעט כל deck שראיתי קיבל את המילה agentic, בדרך כלל בשקף השני. MIT Sloan ו-BCG סקרו ארגונים באביב 2025: 35% אמרו שהם כבר אימצו agents, ועוד 44% אמרו שבקרוב. אף שאלה בסקר לא בדקה מה בדיוק הם אימצו.

וזאת הבעיה עם המילה. agentic AI זה לא מודל חדש ולא מוצר. זה בעצם שאלה אחת: מי מחליט מה הצעד הבא בתוכנה שלכם, הקוד או המודל. ברגע שמנסחים את זה ככה, אפשר למדוד את זה ביום שני.

המילה ישנה, התואר חדש

ב-Interface.ai מייחסים את השורש לפסיכולוג אלברט בנדורה ולמושג human agency שלו. יפה, אבל ב-AI המילה agent ותיקה בהרבה מהטרנד. ספר הלימוד של Russell ו-Norvig מ-1995 בנוי כולו סביב agent: משהו שקולט סביבה ופועל עליה.

מה שחדש זה התואר. Andrew Ng דחף את “agentic workflows” במרץ 2024, בהרצאה ב-Sequoia ובניוזלטר The Batch שלו, ובספטמבר 2024 זה כבר היה בניו יורק טיימס. משם זה פשוט נדבק. ביוני 2025 Gartner כבר הזהירו מ-agent washing, והעריכו שרק כ-130 מתוך אלפי הספקים שמוכרים “agentic” באמת בונים agents.

סימן קלאסי להייפ: Agentic Engineer הופיע בשמות של משרות הרבה לפני שמישהו הסכים מה זה.

agentic זה מחוון, לא מתג

בגדול, Ng ניסח את זה הכי טוב: במקום להתווכח אם מערכת היא agent או לא, תחשבו על דרגות. מערכת יכולה להיות קצת agentic או מאוד agentic. אנטרופיק עשו את החלוקה המעשית בפוסט Building effective agents מדצמבר 2024. workflow זה כשה-LLM והכלים רצים במסלול שכתבתם מראש בקוד. agent זה כשהמודל עצמו מחליט על התהליך ועל הכלים, צעד אחרי צעד.

מה זה לא:

• לא צ’טבוט עם prompt ארוך יותר. צ’טבוט עונה ומחכה לכם.
• לא בהכרח multi-agent. ב-C3 מגדירים agentic כ-orchestration של agents מתמחים, אבל זו ארכיטקטורה אחת, לא ההגדרה.
• לא RPA עם LLM באמצע. אם המסלול קבוע, זה workflow, וזה בסדר גמור.

הלולאה, צעד אחרי צעד

בפועל כל agent שראיתי הוא אותה לולאה:

1. אתם נותנים מטרה, לא הוראות.
2. המודל מתכנן ובוחר tool עם ארגומנטים.
3. ה-harness מריץ את ה-tool. לא המודל.
4. התוצאה נכנסת חזרה ל-context.
5. בדיקה: הגענו? עברנו תקציב? הפלט עובר verifier?
6. חזרה לשלב 2, או עצירה.

תמר יהושע, לשעבר נשיאת מוצר וטכנולוגיה ב-Glean, תיארה את זה ב-Real-time Data Summit ב-2024:

“We’re seeing the beginning of agents that do work for you… that won’t just do one task, but will do multiple tasks… We’ll call those multi-step processes or loops.” — Tamar Yehoshua, Glean

רגע, ומה זה עושה לעלות? בכל סיבוב שולחים מחדש את כל ה-context. צעד 20 משלם על 19 הצעדים שלפניו. בלי prompt caching, החשבון גדל הרבה יותר מהר ממספר הצעדים.

דוגמה במספרים: GPT-3.5 שעוקף את GPT-4

זה המספר שהפך את Ng לנביא של המילה. ב-The Batch, מרץ 2024, הוא הראה תוצאות HumanEval, בנצ’מרק של כתיבת קוד. GPT-3.5 zero-shot פתר 48.1%. GPT-4 zero-shot פתר 67.0%. ו-GPT-3.5 עטוף בלולאה agentic הגיע עד 95.1%.

מה הלולאה עשתה? כתבה קוד, הריצה tests, קראה את השגיאה, תיקנה, חזרה. תסתכלו על זה רגע: השיפור לא בא מזה שהמודל “החליט לבד”. הוא בא מזה שהיה לו מול מה לבדוק. בלי tests, אותה לולאה הייתה מסתובבת ומשכנעת את עצמה שהיא צודקת.

בקיצור: הערך של agentic מגיע מה-verification בתוך הלולאה, לא מהאוטונומיה.

מתי לא לתת למודל את ההגה

יולי 2025. ג’ייסון למקין, מייסד SaaStr, בונה אפליקציה עם ה-agent של Replit. באמצע code freeze מפורש, ה-agent מוחק את ה-database של production, ואז אומר לו שאין דרך לשחזר. בדיעבד ה-rollback עבד. אמג’ד מסעד, ה-CEO של Replit, התנצל בפומבי והכריז על הפרדה אוטומטית בין dev ל-prod.

מה היה חסר שם? לא מודל חכם יותר. גבול. ל-agent היתה הרשאת כתיבה ל-prod, ושום דבר מחוץ למודל לא עצר אותו.

Gartner מאותו קיץ: מעל 40% מפרויקטי ה-agentic AI יבוטלו עד סוף 2027, בגלל עלויות, ערך עסקי לא ברור ובקרת סיכונים חלשה. לא מפתיע. הכלל שלי פשוט: אם אתם יכולים לצייר את ה-flowchart, תכתבו אותו כקוד. agent שווה את המחיר רק כשיש יותר מדי מסלולים לצייר.

הדעה שלי: רוב מה שנקרא היום agentic בארגונים זה workflow עם LLM בשלב אחד, ודווקא זה החלק הטוב. אני לא קונה את הרעיון שאוטונומיה היא יעד. אוטונומיה היא עלות, ומשלמים אותה רק כשאין ברירה.

מה לנסות השבוע

טוב, קחו flow אחד אצלכם שמישהו קרא לו agentic ותעברו עליו:

1. ספרו כמה החלטות של “מה הצעד הבא” המודל מקבל לבד. אם אפס, זה workflow. תקראו לו ככה, וזה יחסוך ויכוח בפגישה הבאה.
2. כל צעד שאפשר לכתוב כ-if, תכתבו כ-if. זול יותר, מהיר יותר, ולא מתברבר.
3. תקרה ב-harness, לא ב-prompt: MAX_STEPS ותקציב טוקנים. מודל לא אוכף מגבלות על עצמו.
4. verifier לכל לולאה: tests, JSON schema, מודל שני או בן אדם.
5. כל tool שכותב (DB, מייל, deploy) עובר אישור או dry-run. ו-credentials של prod לא נכנסים ל-sandbox של ה-agent בכלל.
6. trace לכל צעד: איזה tool, אילו ארגומנטים, מה חזר. בלי זה אין לכם דרך להבין למה ריצה אחת עלתה פי 10 מהשנייה.

השלד שאני מתחיל ממנו:

MAX_STEPS = 12
MAX_TOKENS = 200_000
WRITE_TOOLS = {"db_write", "send_email", "deploy"}


def run(goal, llm, tools, verify, approve):
    messages = [{"role": "user", "content": goal}]
    used = 0
    for step in range(MAX_STEPS):
        reply = llm(messages)
        messages.append(reply.as_message())
        used += reply.usage.total_tokens
        if used > MAX_TOKENS:
            return {"status": "budget", "step": step}
        if reply.tool is None:
            ok, why = verify(reply.text)
            if ok:
                return {"status": "done", "answer": reply.text, "step": step}
            messages.append({"role": "user", "content": f"Check failed: {why}. Fix it."})
            continue
        if reply.tool.name in WRITE_TOOLS and not approve(reply.tool):
            messages.append({"role": "user", "content": "Write rejected. Find another way."})
            continue
        result = tools[reply.tool.name](**reply.tool.args)
        messages.append({"role": "tool", "content": str(result)[:4000]})
    return {"status": "max_steps"}

יש פה שתי יציאות שהן לא done, וזה בכוונה. הרבה ריצות אמיתיות נגמרות דווקא שם, ואתם רוצים לדעת איפה.

אם אין לכם תשובה לשאלה “מתי הלולאה הזאת עוצרת”, אין לכם agent. יש לכם חשבונית פתוחה.