חוק ה-98.4%: למה AI בייצור הוא בעיקר אתגר הנדסי

בינה מלאכותית היא לא מטה קסמים, היא אתגר של ⁨הנדסת מערכות⁩. רוב האנשים חושבים שהמודל הוא הכוכב של ההצגה, אבל המציאות בשטח מראה תמונה אחרת לגמרי. ב-Aniccai, חברת ייעוץ ופיתוח AI המתמקדת בפתרונות פרגמטיים לעסקים, אנחנו רואים שוב ושוב שפרויקטים נכשלים לא בגלל המודל, אלא בגלל מה שעוטף אותו.

נקודות מרכזיות

• חוק ה-98.4%: רק חלק מזערי מהקוד ב⁨סוכני AI בייצור⁩ מוקדש לקבלת החלטות; השאר הוא תשתית לוגיסטית.
• המעבר לסביבות הרצה: גופים כמו מיקרוסופט עוברים מספריות פיתוח (SDK) לסביבות הרצה מנוהלות (Runtimes).
• משילות כסטנדרט: סוכני צד שלישי הופכים לחלק מצי מנוהל תחת ⁨מדיניות אבטחה וניטור אחידה⁩.
• ביצועי CodeAct: הרצת קוד פייתון בתוך סביבה מוגנת מקצרת זמני תגובה וחוסכת בעלויות טוקנים.

המודל הוא רק 1.6% מהסיפור

ניתוח של VILA-Lab על פרויקט Claude Code חשף נתון מדהים: 98.4% מבסיס הקוד מורכב מתשתית ⁨ה-Harness⁩ (הרסן). זה כולל הרשאות, ⁨ניהול הקשר⁩ (Context), ארגז חול (Sandboxing), ניתוב כלים ולוגיקת התאוששות. רק 1.6% מוקדש ללוגיקת ההחלטות של ה-AI.

זה לא חיסרון של קלוד, המודל של חברת Anthropic. זו ההתפלגות האמיתית של מאמץ בכל מערכת סוכנים שמגיעה לייצור. מודל לבדו יכול רק לייצר טקסט. ה-Harness הוא מה שהופך טקסט לביצוע משימות אוטונומי.

המעבר מ-SDK לסביבת הרצה מנוהלת

מיקרוסופט הכריזה על זמינות כללית (GA) של ה-Agent Framework Harness. זהו שינוי תפיסתי. ה-Agent Framework הוא כבר לא רק ספרייה לבניית סוכנים, אלא סביבת הרצה לייצור.

עבור צוותי פלטפורמה, זה אומר שקריאת כלים, היסטוריה, זיכרון וניטור (OpenTelemetry) מגיעים מובנים. במקום לשאול אם הסוכן יכול לרוץ, השאלה הופכת להיות תחת איזו מדיניות הוא רץ ואיפה נשמר התיעוד שלו.

CodeAct: שיפור ביצועים דרך כתיבת קוד

אחד החידושים המעניינים הוא CodeAct. במקום סבבים אינסופיים של מודל-כלי-מודל, הסוכן כותב תוכנית פייתון אחת שמפעילה את כל הכלים הדרושים בתוך מיקרו-VM מוגן.

בבדיקות ביצועים על עומסי עבודה מרובי שלבים, התוצאות היו משמעותיות:

CodeAct נמצא כרגע בשלב אלפא ותומך רק בפייתון. הוא מצוין לניתוח נתונים, אך פחות מתאים לפעולות עם השפעות חיצוניות כמו תשלומים.

משילות בצי של סוכנים

הסיפור הגדול באמת הוא הארכיטקטורה של מחברי צד שלישי. מחברים עבור GitHub Copilot ו-Claude Agent SDK מאפשרים לסוכנים לפעול תחת מודל המשילות של הארגון. הם יורשים אוטומטית הגדרות זהות, בטיחות תוכן ומדיניות ניטור.

זה הופך את ה-AI מרכיב מבודד לחלק אינטגרלי ממערך המחשוב הארגוני. זה מקל מאוד על אישורי אבטחה וציות לרגולציה, נושא שאנחנו ב-Aniccai שמים עליו דגש בכל הטמעה.

מקורות

• Microsoft Agent Framework Harness Is GA — The Runtime, Not the Library (byteiota)
• Microsoft Agent Framework Harness and Hosted Agents Reach General Availability (InfoQ)
• The Microsoft Agent Framework Harness is now released (Microsoft Agent Framework)

שאלות נפוצות

מה זה Agent Harness?

זוהי התשתית שעוטפת את מודל השפה והופכת אותו לסוכן פעיל. היא מטפלת בתכנון, זיכרון, ניהול הקשר וחיבור לכלים חיצוניים.

למה 98% מהקוד הוא תשתית?

כי בייצור, ה-AI צריך להתמודד עם שגיאות, הרשאות, אבטחה וניהול משאבים. אלו משימות הנדסיות קלאסיות שתופסות את רוב נפח הפיתוח.

האם כדאי להשתמש ב-CodeAct עכשיו?

רק עבור משימות קריאה וניתוח נתונים בשלב זה. מכיוון שהוא באלפא, הוא עדיין לא בשל לפעולות קריטיות שמשנות נתונים במערכות ייצור.

דברים שחשוב לזכור

• ה-AI הוא רכיב בתוך מערכת, לא המערכת עצמה.
• התמקדות בתשתית (Harness) מונעת חוב טכנולוגי עתידי.
• משילות וניטור הם תנאי סף להטמעה עסקית אמיתית.

מהו החלק בניהול סוכני ה-AI שלכם שגוזל לכם הכי הרבה זמן הנדסי כרגע?