Walkthroughs
Walkthroughs ציבוריים למערכות שצריכות יותר מדמו.
אלה walkthroughs קצרים ומנוקים. הם מראים לאן הבקשות הולכות, איפה האיכות נשברת ומה הייתי מודד לפני שמוסיפים עוד שכבה חכמה.
למה זה חשוב
Legal QA עם מסלול abstain אמיתי
זה בדיוק סוג המשטח שנראה טוב בדמו והופך ליקר ברגע שמישהו באמת סומך עליו.
מסלול תקין
הבקשה נוחתת על החלק הנכון בקורפוס, ה-retrieval נשאר צר, והתשובה אומרת רק את מה שהמקורות באמת תומכים בו.
- סיווג השאלה מנתב אותה ל-legal answerer ולא לזרם כללי של assistant.
- Hybrid retrieval מושך candidate set קטן, ואז reranking ובדיקות מקור מצמצמים את ה-context הסופי.
- התשובה מצביעה על קטעי המקור הרלוונטיים ונשארת בגבולות מה שהם באמת תומכים בו.
למה זה שימושי
זה לא דיאגרמת ארכיטקטורה לקישוט. זאת דרך קצרה להראות איפה נגמר החשיבה של דמו ומתחילה חשיבה אמיתית של פרודקשן.
לדבר על מערכת