PyTorch מפרסמת In-Kernel Broadcast Optimization ל-inference של RecSys

צוות PyTorch של Meta פירט את In-Kernel Broadcast Optimization (IKBO), עיצוב משותף של kernel-מודל-מערכת שמטמיע את לוגיקת ה-broadcast ישירות בתוך ה-kernels של user-candidate. השיטה מבטלת את השכפול המפורש של user embeddings/sequences משותפים לכל candidate שעליו מסתמך inference מסורתי במערכות RecSys.