טרנספורמרים

לפענח את מוחו של ה-AI: אנתרופיק מציגה מסגרת מתמטית להבנת טרנספורמרים

חברת אנתרופיק (Anthropic), מובילה בתחום בטיחות וחקירת AI, חושפת מחקר חדש המציג מסגרת מתמטית פורצת דרך להבנת המבנה הפנימי של מודלי טרנספורמר. מחקר זה נועד לפענח את 'הקופסה השחורה' של מודלי שפה גדולים, ולאפשר פרשנות עמוקה יותר של אופן פעולתם. באמצעות הבנת 'המעגלים' החישוביים הייחודיים בתוך המודלים, אנתרופיק שואפת לבנות מערכות AI אמינות, ניתנות ליישור ובטוחות יותר, תוך קידום היכולת לאתר ולתקן התנהגויות לא רצויות. מדובר בצעד קריטי לקראת פיתוח AI אחראי ואמין לטווח הארוך.