Reddit מפעילה LLMs כדי לזהות תוכן AI שהיא עצמה עזרה ליצור
חברת Reddit מפנה את ה-LLM נגד בעיה שה-LLM עצמם יצרו במידה רבה: מבול של תוכן שנוצר על ידי AI. החברה מפעילה טכנולוגיית מודל שפה כדי לזהות ולסנן פוסטים ותגובות סינתטיים, ומעניקה עדיפות לאותנטיות של הפלטפורמה ולבטיחות המשתמשים — עמדה בולטת בהתחשב בכמות נתוני האימון ש-Reddit עצמה מכרה ברישיון בדיוק לאותן חברות AI שמייצרות את התוכן הזה.
האירוניה היא הסיפור: השיחה האנושית ב-Reddit היא גם הדלק לאימון LLM וגם הדבר שה-LLM מאיימים עכשיו להטביע בטקסט סינתטי. שימוש ב-LLM כמזהה הוא מהלך פרגמטי במרוץ החימוש — את היכולת לייצר תוכן אוטומטי בקנה מידה גדול אפשר לבלום באופן ריאלי רק בזיהוי אוטומטי בקנה מידה דומה.
הכתבה מנגידה פילוסופיות של פלטפורמות: YouTube, Meta ו-Instagram מתירות תוכן AI בתנאי גילוי נאות, ו-TikTok מאפשרת למשתמשים לכוונן כמה תוכן שנוצר על ידי AI יופיע ב-feed שלהם. Reddit נוקטת קו מגביל יותר, מבוסס-אותנטיות, ומהמרת שהערך שלה טמון בקהילה אנושית אמיתית. זה חשוב עבור סביבת המידע הרחבה ועבור חברות ה-AI שתלויות בנתוני Reddit — אם הפלטפורמה תצליח לסנן תוכן סינתטי, היא תשמר את איכות ה-corpus שמשמש לאימון. מה כדאי לעקוב אחריו: דיוק הזיהוי ושיעורי ה-false-positive (סינון-יתר של משתמשים אמיתיים הוא סיכון ממשי), האופן שבו זה מתממשק עם עסקאות רישוי הנתונים של Reddit, והאם פלטפורמות קהילתיות אחרות יאמצו את הקו המחמיר של Reddit או דווקא את המתירני.