מדוע מודלים חכמים מחסלים את הנדסת הפרומפטים המורכבת

⁨מודלי AI חכמים⁩ כמו Claude 5 ו-GPT-5 דורשים הרבה פחות הנחיות מתקנות, מכיוון שהיכולת הלוגית הטבעית שלהם מטפלת בהקשר טוב יותר מכללים ידניים. ככל שהאינטליגנציה של המודלים עולה, ⁨פרומפטים מורכבים⁩ הופכים לעיתים קרובות ל⁨חוב טכני⁩ שמבלבל את ה-AI במקום להנחות אותו. ב-Aniccai שמנו לב שצמצום הנחיות ישנות בעת מעבר למודלים מתקדמים יכול להפחית את צריכת הטוקנים בשיעור של עד 40%, תוך שיפור איכות הפלט בו-זמנית.

נקודות מרכזיות

• אינטליגנציה טבעית גבוהה במודלים מפחיתה את הצורך בהוראות תיקון.
• פרומפטים מורכבים הופכים לחוב טכני בעת שדרוג למודלים חדשים.
• תפקיד המפתח משתנה ממיקרו-ניהול של התנהגות להגדרת יעדים ברמה גבוהה.
• המתודולוגיה של Aniccai מוכיחה שפרומפטים רזים משפרים ביצועים וחוסכים בעלויות תפעול.

האם אתם עדיין מחזיקים פרומפט מערכת של 2,000 מילים רק כדי למנוע מה-AI להזות? אם כן, סביר להניח שאתם עובדים נגד הטכנולוגיה. ככל שמודלים מגיעים לרמות חדשות של תבונה, עידן ה"מגה-פרומפט" מסתיים. המודלים האלו מבינים כוונה והקשר כל כך טוב, שהמעקפים המורכבים שנבנו לפני חודשים ספורים הם כעת רק רעש שמעכב את המערכת שלכם. השינוי הזה הודגש בראיון האחרון עם בוריס, שבו נבחן לעומק המעבר מ"פריצת" פרומפטים לארכיטקטורה של אינטליגנציה.

עלייתה של האינטליגנציה הטבעית

בימים הראשונים של מודלי שפה גדולים, פרומפטים של מערכת שימשו כצורת תכנות גסה. היינו צריכים לומר למודל במפורש לא להתנצל, באיזה פורמט להוציא פלט ובאיזה טון בדיוק להשתמש. למעשה, סתמנו את הפערים הקוגניטיביים של המודל באמצעות טקסט. אבל ככל שהאינטליגנציה גדלה, הפערים האלו נסגרים.

כשמודל חכם מספיק, הוא לא צריך שיגידו לו להיות מקצועי או לעקוב אחרי סכימה ספציפית. הוא מזהה את התבנית מתוך המשימה עצמה. השינוי הזה אומר שרבות מההנחיות שיושבות כרגע בקריאות ה-API שלכם הן כנראה מיותרות. גרוע מכך, הן עלולות לבלבל את המודל על ידי אילוצו לתת עדיפות לכללים נוקשים על פני הלוגיקה של המשימה.

מ⁨הנדסת פרומפטים⁩ להגדרת יעדים

אנחנו עוברים מעולם שבו אנחנו מנהלים איך ה-AI חושב לעולם שבו אנחנו מגדירים מה אנחנו רוצים שהוא ישיג. זהו שינוי יסודי בזרימת העבודה של פיתוח AI. במקום לכתוב רשימה של חמישים דברים שהמודל לא צריך לעשות, מפתחים מוצאים הצלחה עם הצהרות משימה קצרות וברורות.

החוב הטכני של עודף פרומפטים

כל שורה בפרומפט המערכת שלכם היא התחייבות. כשאתם משדרגים ממודל ישן למודל בעל יכולות גבוהות יותר, הנדסת הפרומפטים הקיימת שלכם משמשת לעיתים קרובות כעוגן. פרומפט שנועד לתקן את המוזרויות של מודל משנת 2024 יפריע ככל הנראה ליכולות החשיבה של מודל משנת 2026.

ב-Aniccai ביצענו לאחרונה ביקורת למערכת ישנה של לקוח שהסתמכה על הודעת מערכת של 3,000 טוקנים. על ידי העברתם ל-Claude 5 והסרת 80% מהוראות ה"בטיחות" וה"פורמט", ראינו ירידה מאסיבית בזמני התגובה וצמצום משמעותי בעלויות הטוקנים. המודל כבר לא היה צריך לנווט ביער סבוך של הוראות לפני שהוא מגיע לשאילתת המשתמש. היה לו יותר אנרגיה מנטלית להתמקד בבעיה עצמה.

אם אתם מוצאים את עצמכם בוהים בהודעת סלאק ביום שישי בתשע בערב ומנסים להבין למה ה-AI שלכם נכשל פתאום, התשובה אולי אינה שאתם צריכים עוד הוראות. אולי אתם צריכים פחות. מערכות ה-AI החסונות ביותר כיום הן אלו שמתייחסות למודל כאל סוכן מוכשר ולא כאל מחשבון שביר שזקוק להחזקת ידיים מתמדת.

איך לבצע ביקורת לפרומפטים שלכם

התחילו בפירוק הפרומפטים למינימום ההכרחי. הסירו כל הנחיה שמתחילה ב"אל תעשה" או "לעולם לא". בדקו אם המודל נכשל. ברוב הפעמים, זה לא יקרה. המטרה היא להגיע למצב שבו הפרומפט מגדיר את ה"מי" וה"מה", ומשאיר את ה"איך" למשקולות הפנימיות של המודל.

זה לא רק עניין של חיסכון בטוקנים. זה עניין של בניית מערכות שהן אגנוסטיות למודל. אם המימוש שלכם מסתמך על פרומפט ספציפי ושביר מאוד, אתם נעולים לגרסת מודל ספציפית. על ידי פישוט, אתם הופכים את התשתית שלכם לעמידה יותר בפני מחזורי השחרור המהירים של התעשייה.

האם כדאי להפסיק להשתמש בשרשרת מחשבה (Chain of Thought)?

לא בהכרח. בעוד שמודלים חכמים יותר טובים בחשיבה פנימית, בקשה מפורשת לפירוט צעד-אחר-צעד עדיין שימושית ללוגיקה מורכבת. עם זאת, אתם כבר לא צריכים לספק חמש דוגמאות לאיך לעשות זאת. בקשה פשוטה לחשוב צעד אחר צעד לרוב מספיקה.

האם פרומפטים קצרים יובילו ליותר הזיות?

למעשה, ההפך הוא הנכון לרוב במודלים מתקדמים. עודף פרומפטים עלול ליצור אילוצים סותרים שדוחפים את המודל לפינות לוגיות, מה שמגדיל את הסיכוי ל⁨הזיה⁩. יעד ברור ופשוט הוא בדרך כלל בטוח יותר.

האם זה אומר שהנדסת פרומפטים מתה?

היא פשוט משתנה. היא עוברת מניסיונות לתחמן את המודל לארכיטקטורה של זרימת נתונים. המיומנות כעת היא באיך אתם מבנים את ההקשר ואת הכלים שאתם נותנים למודל, ולא בתארים הספציפיים שבהם אתם משתמשים בהודעת המערכת.

3 דברים שחשוב לזכור

• מודלים מתקדמים מתפקדים טוב יותר עם פחות מיקרו-ניהול.
• פרומפטים ישנים הם סוג של חוב טכני שעלול לפגוע בביצועי מודלים חדשים.
• התמקדו בהגדרת יעדים ברורים במקום ברשימת אילוצים נוקשים.