Mistral משיקה agentic search — ומשלשת את הדיוק בדוחות פיננסיים

Mistral השיקה את Agentic Search, יכולת retrieval שנועדה להפוך מערכות AI למדויקות ויעילות בהרבה כשהן עובדות דרך מסמכים מורכבים. הזמינה דרך ה-Search Toolkit וה-Libraries של Mistral, היא מאפשרת ל-AI לנווט, לקרוא ולאמת מסמכים באמצעות ניווט ממוקד במקום חיפושים חוזרים בכוח גס.

המספרים המדווחים הם הסיפור. על FinanceBench — benchmark של שאלות מול דוחות פיננסיים אמיתיים — Agentic Search מקפיצה את הדיוק מ-26.7% ל-86%, שיפור של פי 3 בערך, בתחום ידוע לשמצה בטבלאות והערות שוליים צפופות ומקושרות-צולבות. היא גם חותכת את צריכת ה-token בעד שליש ומפחיתה את ה-p90 latency בעד 39.6%, כלומר הזנב האיטי ביותר של השאילתות נעשה מהיר משמעותית. המנגנון הוא agentic: במקום לשפוך את הקטעים שאוחזרו לתוך ה-context, המערכת מנתחת היכן להסתכל ומאמתת תוך כדי תנועה, ומצמצמת גם token מבוזבזים וגם סבבים חוזרים.

זה נוחת בשבוע עמוס מבחינת retrieval וכלכלת document-AI. AWS תיארה בנפרד context compression מודע-שאילתה על Bedrock כדי לחתוך עלויות RAG, ו-CEO של LlamaIndex ג'רי ליו פרסם ממצאים שלפיהם harnesses של coding-agent כמו Claude Code הם baseline מפתיע בחוזקו מבחינת עלות/דיוק בחילוץ ממסמכים ארוכים. ההתכנסות מאותתת שאיכות ה-retrieval — לא רק גודל המודל — היא שדה הקרב התחרותי הנוכחי בתהליכי עבודה ארגוניים סביב מסמכים.

ההסתייגות: benchmarks שמדווחים בידי הספק מחייבים שחזור עצמאי, וההישגים ב-FinanceBench עשויים לא להכליל לסטים מבולגנים יותר של מסמכים אמיתיים. ובכל זאת, עבור תעשיות מוסדרות שטובעות בדוחות, קפיצה מאומתת של פי 3 בדיוק בעלות נמוכה יותר היא הצעה משכנעת. שווה לעקוב אחר שחזורי FinanceBench של צד שלישי ואם Agentic Search תשתלב בעבודת ה-sovereign-cybersecurity של Mistral עבור צרפת.