למידה בהנחיה עצמית (Self-Supervised Learning)

למידה בהנחיה עצמית היא שיטה בה אלוגרימי לימוד מכונה יכולים להצליח ללמוד מהות של נושא, מבלי תיוגים אנושיים כמו בלמידה מונחית.

הכי קל להבין את זה דרך דוגמה. מודלי שפה גדולים, בשלב הpretrain שלהם, מתאמנים על חיזוי הטוקן הבא בטקסט, עבור המון המון טקסט.

אין צורך לתייג את הטקסט או להגיד למודל שום דבר עליו. בעצם זה שהמודל מנסה לחזות את המילה הבא, הוא "לומד את השפה" ורוכש את היכולות שאנחנו מכירים במודלי בסיס.

בדרך כלל, על גבי מודל שעשה למידה בהנחיה עצמית, מלבישים למידה מונחית לטובת מטרה מסויימת. בניגוד למודל שמתחיל את הלמידה המונחית מ-0, מודל שכבר עבר למידה בהנחיה עצמית מבין איך "לקרוא" את הדאטה, ורק צריך להתאים את עצמו למשימה.

נניח ואני רוצה לבנות מודל שיודע לסנן תכנים פוגעניים בתגובות של משתמשים. יש לי דאטה יחסית "קטן", של אולי כמה אלפי תגובות שאני יודע שמתוייגות כפוגעניות, וכמה אלפים שאינן פוגעניות.

ה"מתכון" הטוב ביותר להצליח לאמן מודל כזה הוא לקחת מודל שעבר למידה בהנחיה עצמית על הרבה טקסט, סתם הרבה טקסט, וכבר מבין איך לקרוא אותו. לאחר מכן אפשר להלביש עליו עוד "חתיכה" שלוקחת את מה שהוא למד - ומתאמנת על הדאטה המתוייג, וכך להשיג תוצאות טובות הרבה יותר מאשר אימון מודל רק על הדאטה הקיים.