למה ה-AI שלכם תקוע בלי פיגומים

למה ה-LLM שלכם זקוק לפיגומים כדי לעבוד באמת

ה-LLM שלכם הוא מוח בתוך צנצנת. הוא חכם, הוא קרא כמעט כל מה שנכתב אי פעם, והוא מסוגל לנמק לוגיקה מורכבת. אבל ללא עזרה, הוא לא יכול להזיז קובץ אחד, לשלוח אימייל או לבדוק את יתרת הבנק שלכם. הוא לכוד.

רוב בעלי העסקים חושבים שרכישת מנוי למודל חזק היא סוף הדרך. הם מצפים שה"מוח" פשוט יטפל בדברים. ואז הם מתעצבנים כשה-AI מתחיל להזות (Hallucinations) או נכשל בביצוע תהליך פשוט של שלושה שלבים. הבעיה היא לא במודל. הבעיה היא שאתם מבקשים מטייס לנצח במלחמה בלי לתת לו מטוס.

בעולם של הטמעת בינה מלאכותית, אנחנו קוראים לפתרון הזה 'פיגומי סוכנים' (Agent Scaffolding). אם ה-LLM הוא הטייס, הפיגומים הם חליפת המכא (Mech Suit). זוהי מעטפת של כלים, חיישנים ושריון שמאפשרת לטייס לתקשר עם העולם הדיגיטלי והפיזי.

נקודות מפתח

• מודלי שפה הם מנועי הסקה, לא עובדים אוטונומיים. הם זקוקים למבנים חיצוניים כדי לבצע משימות בצורה מהימנה.
• הפיגומים הם "חליפת המכא". הם מספקים את הזיכרון, הכלים והשערים הלוגיים שחסרים למודל.
• הערך נמצא בארכיטקטורה. בשנת 2026, היתרון התחרותי יגיע מהאופן שבו אתם עוטפים את המודל, לא מאיזה מודל אתם בוחרים.
• תפסיקו לעשות פרומפטינג, תתחילו לבנות. ערך עסקי אמיתי קורה כשה-AI עובר מ"שיחה" ל"עשייה" דרך תהליכי עבודה מובנים.

למה המוח בצנצנת מכשיל את העסק שלכם

כשאתם מתקשרים עם ממשק צ'אט סטנדרטי של AI, אתם מדברים עם מודל גולמי. זהו מנוע סטטיסטי שחוזה את המילה הבאה. למרות שזה מרשים להפליא, אין לו תחושה פנימית של זמן, אין לו זיכרון מתמשך של החוקים העסקיים הספציפיים שלכם, ואין לו דרך לוודא אם המידע שהוא הרגע נתן לכם הוא נכון.

זו הסיבה שכל כך הרבה פרויקטים של AI נכשלים אחרי שלב ירח הדבש. מנהל רואה דמו מגניב, מנסה ליישם אותו על תהליך עסקי אמיתי, ומבין שה-AI שוכח את ההקשר כבר בפסקה השלישית. או גרוע מכך, הוא ממציא מספר מעקב פיקטיבי למשלוח כי התפקיד היחיד שלו הוא להישמע משכנע, לא להיות מדויק.

כדי לתקן את זה, אנחנו צריכים להפסיק להסתכל על ה-AI כעל אדם ולהתחיל להסתכל עליו כעל רכיב. כאן ⁨ייעוץ אסטרטגי לבינה מלאכותית⁩ הופך להיות קריטי. אתם חייבים לעצב את הסביבה מסביב למודל כדי שהוא יוכל להצליח.

מה זה בעצם Agent Scaffolding?

פיגומים הם הקוד והלוגיקה שמקיפים את ה-LLM. זהו ה-"אם-אז" של עולם ה-AI. הם מורכבים מארבעה חלקים עיקריים שהופכים בוט צ'אט לסוכן מתפקד.

ראשית, יש את התכנון (Planning). במקום פשוט לבקש מה-AI "לכתוב דוח", הפיגומים מאלצים את ה-AI קודם כל ליצור תוכנית. הוא מפרק את המשימה הגדולה לחמש קטנות. הפיגומים אז מזינים את המשימות האלו בחזרה ל-AI אחת אחת. זה מונע מהמודל להיות מוצף ולאבד את הצפון.

שנית, יש לנו את הזיכרון (Memory). לא רק זיכרון לטווח קצר של הצ'אט הנוכחי, אלא זיכרון עסקי לטווח ארוך. זה נעשה לרוב דרך RAG (Retrieval-Augmented Generation). הפיגומים מחפשים בקבצי ה-PDF ובמאגרי המידע של החברה, מוצאים את העובדות הרלוונטיות ומגישים אותן ל-AI. ה-AI לא צריך לזכור הכל. הוא רק צריך להיות קורא טוב.

שלישית, והכי חשוב, הם הכלים (Tools). זוהי הזרוע ההידראולית של חליפת המכא. דרך ממשקי API, הפיגומים נותנים ל-AI את היכולת "ללחוץ" על כפתורים ב-CRM שלכם, לחפש באינטרנט החי, או להריץ סקריפט פייתון כדי לחשב מסים מורכבים. ה-AI מחליט באיזה כלי להשתמש, אבל הפיגומים מספקים את הכלי עצמו.

לבסוף, יש את המעקות (Guardrails). אלו הן בדיקות הבטיחות. הפיגומים סורקים את הפלט של ה-AI לפני שהאדם רואה אותו. אם ה-AI מנסה להבטיח הנחה של 90% ללקוח, הפיגומים תופסים את זה ואומרים "לא, נסה שוב בתוך הפרמטרים האלו".

המעבר ממיקוד במודל למיקוד בארכיטקטורה

אנחנו מתרחקים מהעידן שבו ה"מודל הכי חכם" מנצח. היום, GPT-4, Claude 3.5 ו-Llama 3 כולם קרובים מאוד ביכולות ההסקה שלהם. ההבדל בשורה התחתונה שלכם לא יגיע ממעבר מאחד לשני. הוא יגיע מהאיכות של ארכיטקטורת ה-⁨אוטומציה לעסקים⁩ שלכם.

מודל בינוני בתוך חליפת מכא ברמה עולמית ינצח מודל גאוני בלי חליפה בכל פעם. למה? כי החליפה מספקת עקביות. היא מספקת תהליך שניתן לחזור עליו ולא תלוי בכך של-AI יש "יום טוב".

חשבו על נציג שירות לקוחות. אם פשוט תתנו לו טלפון ובלי הכשרה, הוא יתקשה. אם תתנו לו CRM, מאגר ידע, סט ברור של חוקי הסלמה ומנהל שבודק את עבודתו, הוא ישגשג. פיגומים הם פשוט הגרסה הדיגיטלית של מבנה התמיכה הזה.

איך מתחילים לבנות פיגומים משלכם

אתם לא צריכים להיות מהנדסי טכנולוגיה עמוקה כדי להתחיל לחשוב ככה. אתם רק צריכים להפסיק להתייחס ל-AI כמו למטה קסמים. התחילו במיפוי של תהליך אחד במשרד.

אל תשאלו: "איך AI יכול לעשות את זה?" תשאלו: "מהם חמשת השלבים של המשימה הזו, ואיזה מידע דרוש בכל שלב?"

ברגע שיש לכם את השלבים, אתם יכולים לבנות את הפיגומים. אתם יכולים להשתמש בכלים כמו LangChain או בפלטפורמות אוטומציה ללא קוד. המטרה היא ליצור לולאה שבה ה-AI מבצע פעולה קטנה, הפיגומים בודקים אותה, מספקים את פיסת הנתונים הבאה ומניעים את התהליך קדימה.

זה החלק ה"מלוכלך" של בניית עסק בעידן ה-AI. זה לא קשור לדמואים נוצצים. זה קשור לאינסטלציה. זה קשור לוודא שהנתונים זורמים מהאימייל למסד הנתונים בלי דליפות.

למה רוב החברות יטעו בזה

רוב החברות נמצאות כרגע בשלב ה"פרומפט אנג'ינירינג". הן חושבות שאם הן רק ימצאו את הפרומפט המושלם בן 500 המילים, ה-AI סוף סוף יתנהג יפה. זהו מלכודת. פרומפטים הם שבירים. עדכון קטן אחד למשקולות של המודל והפרומפט המושלם שלכם עלול להפסיק לעבוד.

פיגומים הם חסונים. הם מסתמכים על לוגיקה וקוד, לא רק על "וייב". אם אתם מסתמכים על חליפת מכא, אתם יכולים להחליף את הטייס (המודל) בכל פעם שמגיע אחד זול יותר או מהיר יותר. הלוגיקה העסקית שלכם נשארת בחליפה, לא בראש של הטייס.

שאלות נפוצות

האם אני צריך לכתוב קוד כדי ליצור פיגומי AI?לא בהכרח. בעוד שקוד מותאם אישית מציע את השליטה הרבה ביותר, פלטפורמות רבות של "ללא קוד" מאפשרות כעת לבנות תהליכי עבודה סוכנותיים על ידי חיבור מודולים שונים. הלוגיקה חשובה יותר מהתחביר.

האם תחזוקת פיגומים היא יקרה?למעשה, זה זול יותר בטווח הארוך. על ידי פירוק משימות לחלקים קטנים יותר, לעתים קרובות ניתן להשתמש במודלי AI קטנים וזולים יותר עבור החלקים הקלים ורק לקרוא למודלים ה"גאוניים" עבור החלקים הקשים.

מה הסיכון הגדול ביותר באי-שימוש בפיגומים?חוסר ניבוי. ללא מסגרת, ה-AI שלכם הוא קופסה שחורה. אתם לא יכולים לבקר למה הוא קיבל החלטה מסוימת, ואתם לא יכולים לתקן אותו בקלות כשהוא יורד מהפסים.

איך זה קשור ל-RAG?RAG הוא סוג ספציפי של פיגומים המתמקד בזיכרון. הוא חלק אחד מהחליפה, אבל חליפת מכא מלאה כוללת גם יכולות תכנון וכלים.

האם אתם עדיין מנסים למצוא את הפרומפט המושלם, או שאתם מוכנים להתחיל לבנות את המכונה שהופכת את הפרומפטים ללא רלוונטיים?

אם אתם רוצים לעבור מעבר לתיבת הצ'אט ולהתחיל לבנות תועלת אמיתית, בואו נדבר על איך לעצב את תהליך העבודה הסוכנותי הראשון שלכם.