הנדסת פרומפטים מתקדמת

במקום לתת הנחיות מופשטות, טכניקת ה-Few-Shot מחייבת אותנו לספק דוגמאות בתוך הפרומפט. לדוגמה, אם אנחנו רוצים שה-AI יכתוב תיאורי מוצר בסגנון ספציפי, לא נבקש 'כתוב לי תיאור שיווקי', אלא נזין למערכת 3 דוגמאות של תיאור מוצר שעשינו בעבר עם התווית 'קלט' ו'פלט'. המודל מזהה את הדפוס הלשוני, רמת הפירוט והטון, ומחיל אותם על המשימה הבאה. ככה אנחנו עוברים מ'ניסוי וטעייה' לתוצאה מדויקת כבר בניסיון הראשון.

כשמבקשים מהמודל פתרון מיידי לבעיה סבוכה, הוא נוטה לעשות טעויות לוגיות. הטכניקה היא לבקש ממנו 'לחשוב צעד אחר צעד' (Let's think step by step). אם עלינו לנתח דוח פיננסי, ננחה את המודל קודם להפיק סיכום נתונים גולמיים, אחר כך לזהות חריגות, ורק בסוף להסיק מסקנות. פירוק המשימה לתתי-שלבים מאלץ את המודל לעבד כל שלב בנפרד, מה שמפחית דרמטית את שיעור ההזיות (Hallucinations) ומעלה את רמת הדיוק הלוגי.

עבודה בטקסט חופשי היא טובה לקריאה אנושית, אך לא למערכות אוטומטיות. נלמד איך לאלץ את המודל להוציא תשובה בפורמט JSON קשיח באמצעות System Prompt מוגדר. במקום לקבל פסקה ארוכה, נבקש: 'הוצא את הנתונים הבאים בפורמט JSON עם מפתחות: מוצר, מחיר, תכונה_עיקרית'. ברגע שהפלט הופך למובנה, אפשר לחבר אותו ישירות לאקסל, ל-Notion או למערכות ה-CRM של החברה ללא צורך בהעתק-הדבק.