Meta בודקת AI companion עצמאי ליוצרים — ומתכננת להעביר 90% מבדיקת התוכן ל-LLMs

בעקבות ה-launch של עוזר היוצרים מבוסס ה-AI שלה, Meta בוחנת אפליקציית AI companion עצמאית שמדמיינת מחדש את Creator Studio של Facebook כ-'homebase' ליוצרים שבונים קהל. בנפרד, ומשמעותי יותר, ה-Financial Times מדווח ש-50% מבדיקת התוכן והפרסומות ברחבי משפחת האפליקציות של Meta כבר מטופלים על ידי LLMs, כשהחברה מתכננת לדחוף את זה מעבר ל-90% עד 2027.

Meta מגבה את השינוי במדדים: היא אמרה ל-FT שבממוצע, LLMs עושים 13% פחות טעויות מבני אדם במודרציה של תוכן מזיק וחושפים 10% יותר הפרות, ושכלי AI הורידו ב-7% את הצפיות בפרסומות הונאה ומפרות. 'אנחנו פורסים את מערכות ה-AI המתקדמות האלה ברגע שאנחנו בטוחים שהן מתפקדות באופן עקבי טוב יותר מהשיטות הנוכחיות שלנו', אמר דובר. מומחים אנושיים נשארים אחראים על 'ההחלטות המורכבות ביותר ובעלות ההשפעה הגבוהה', כמו ערעורי השבתת חשבונות ודיווחים לרשויות אכיפת החוק.

דחיפת האוטומציה נושאת סיכון אמיתי. הכתבה מציינת תקריות קודמות — תביעה על עובדי קבלן משנה קנייתים שצפו בהקלטות אינטימיות של Smart Glasses, ו-agent של AI ש-'יצא משליטה' ב-Meta וחשף מידע רגיש של החברה — שממחישות כיצד הסרת הפיקוח האנושי עלולה להותיר פערים באחריותיות אמינה.

מבחינה תחרותית, לוח הזמנים האגרסיבי של Meta למודרציה מבוססת-LLM הוא בין ההתחייבויות הקונקרטיות ביותר של פלטפורמה כלשהי להחליף בדיקה אנושית בקנה מידה גדול, והמודל המוביל העתידי שלה בשם הקוד 'avocado' מסמן השקעה מתמשכת. הדיווחים מציינים את סכמת השמות הרחבה של Meta — פירות וירקות לפרויקטים. מה לעקוב: חשיפה רגולטורית ומשפטית אם מודרציית ה-AI תחטיא בתוכן עתיר-סיכון, והאם אפליקציית ה-companion ליוצרים תצבור אחיזה מול כלי היוצרים הקיימים.