Microsoft חושפת את Rampart ו-Clarity: כלי red-team agentic לפיתוח מאובטח

Rampart הוא החדשני יותר מבין השניים. הוא מרחיב את PyRIT (פריימוורק ה-red-team הקיים של מיקרוסופט לקוד פתוח עבור GenAI) מסריקה בדיעבד ל-probing רציף תוך כדי פיתוח. ה-agent מזריק adversarial prompts ומקרי בדיקה תמימים לתוך ה-CI, כך שפרצות — prompt injection, נתיבי data exfil, jailbreaks — נתפסות בזמן ה-merge ולא אחרי שהמודל כבר בפרודקשן. Clarity, לעומתו, מתמקד בהסברתיות של הממצאים שעולים.

התזמון רועש: פרצת RCE בחומרה מקסימלית ב-build של ChromaDB מבוסס FastAPI טלטלה השבוע את קהילת אפליקציות ה-AI, והדגישה עד כמה vector DBs נותרו משטח תקיפה תת-מבוקר עבור מחסניות LLM. ביקורת של מרכז CISPA Helmholtz (סוקרה בנפרד) מצאה proxies של 'shadow' LLM API שמציגים מצג שווא של המודלים שמתחתיהם — proxy שממותג כ-Gemini-2.5 שקיבל 37% ב-benchmark רפואי, כשנקודת הקצה האמיתית קיבלה 84%, וזיהם 116 מתוך 187 מאמרים אקדמיים שנבדקו. אבטחת ה-AI עוברת במהירות מהתיאורטי לאופרטיבי.

ההקשר התחרותי: זוהי גם מיקרוסופט שמעבירה את נרטיב אבטחת ה-agentic לטריטוריה שלה במקום להפקיר אותו ל-Mythos של Anthropic או למודל הסייבר-בנקאי של Mistral. השושלת של Rampart מ-PyRIT מעניקה למיקרוסופט אמינות מול צוותי אבטחה; שכבת ההסברתיות של Clarity היא טיעון המכירה לארגונים.