הונאות נתפסות בתוך הטלפון: DeepMind וסינגפור פורסות Gemma לצ׳אטים פרטיים

Google DeepMind ו-GovTech של סינגפור, בשיתוף משרד הפיתוח הדיגיטלי והמידע, עשו deploy למערכת לזיהוי הונאות שמבוססת על מודלי Gemma קטנים שרצים כולם על המכשיר של המשתמש. הכלי מזהה דפוסי שיחה אופייניים להונאות, כמו התחזות, לחץ זמן או דחיפה לתשלום, ומסמן אותם בתוך אפליקציות המסרים. ההודעות אף פעם לא נשלחות לשרת.

הארכיטקטורה הזו חשובה כי לזיהוי הונאות יש בעיית פרטיות מובנית. האות הכי שימושי נמצא בשיחות מוצפנות מקצה לקצה, שמסווגים בענן לא יכולים, וגם לא אמורים, לקרוא. הרצה של מודל Gemma קומפקטי מקומית עוקפת את הסתירה הזו ופותרת בקלות את שאלת מיקום הנתונים, יתרון ברור כשהשותף הוא ממשלה.

ההשקה משתלבת במגמה רחבה של AI על הקצה השבוע: Liquid AI שחררה מודל agent למכשירים עם 2B פרמטרים פעילים, EmbeddingGemma 2 הוסב ל-speech-to-text בפרויקט שעלה ב-HN, ו-llama.cpp השיקה אפליקציה ל-Windows. גם ה-AI של Siri מבית Apple נשען על עיבוד מקומי לצד Private Cloud Compute. פריסות ממשלתיות וריבוניות הופכות לערוץ משמעותי עבור מודלים פתוחים קטנים.

השאלות הפתוחות המרכזיות הן שיעור ההתרעות השגויות ואיך המערכת מתמודדת עם תסריטי הונאה שמשתנים מהר. מודלים קטנים מהירים אבל שבירים, והנוכלים מסתגלים. עוד לא ברור אם Google תציע את הכלי מחוץ לסינגפור, למשל בתוך Android Messages בכל העולם.