אנתרופיק מגייסת 580 מיליון דולר בסבב B לשיפור בטיחות ויציבות מודלי AI
אנתרופיק (Anthropic), חברת מחקר ופיתוח מובילה בתחום בטיחות ה-AI, הודיעה על השלמת סבב גיוס B משמעותי בהיקף של 580 מיליון דולר. הגיוס יאפשר לחברה לבנות תשתית ניסויית רחבת היקף, שנועדה לחקור ולשפר את מאפייני הבטיחות של מודלי AI עתירי חישוב. אנתרופיק, שהוקמה בתחילת 2021, מתמקדת בפיתוח מודלים שהם ניתנים להכוונה, יציבים וניתנים לפרשנות, במטרה להטמיע בהם מנגנוני הגנה מובנים עוד בשלבי האימון, ולדרוש פחות התערבויות לאחר מכן.
במהלך דרכה הקצרה, אנתרופיק כבר הציגה התקדמות משמעותית בתחומי הליבה שלה. בתחום הפרשנות, היא הצליחה לבצע הנדסה הפוכה מתמטית להתנהגות של מודלי שפה קטנים והחלה להבין את המקורות להתנהגויות התאמת תבניות במודלי שפה גדולים. באשר להכוונה ויציבות, פיתחה החברה טכניקות בסיסיות כדי להפוך מודלי שפה גדולים ל"מועילים ולא מזיקים" יותר, ולאחר מכן שיפרה אותן באמצעות RLHF. בנוסף, אנתרופיק שחררה דאטה סט המסייע למעבדות מחקר אחרות לאמן מודלים מיושרים יותר עם העדפות אנושיות, ופרסמה ניתוח על שינויים פתאומיים בביצועים של מודלי שפה גדולים המדגיש את הצורך בחקר נושאי בטיחות בסקיילינג רחב היקף.
"עם הגיוס הזה, נחקור את תכונות הסקיילינג הצפויות של מערכות למידת מכונה, תוך בחינה מדוקדקת של הדרכים הבלתי צפויות שבהן יכולות ונושאי בטיחות עשויים לצוץ בסקיילינג", אמר דריו אמודאי (Dario Amodei), מייסד שותף ומנכ"ל אנתרופיק. "התקדמנו היטב בהבנת והכוונת ההתנהגות של מערכות AI, ואנו מרכיבים בהדרגה את החלקים הנדרשים לבניית מערכות AI שמישות ומשולבות המועילות לחברה."
אנתרופיק ממשיכה להרחיב את צוותה, המונה כיום כ-40 עובדים במשרדיה הממוקמים בסן פרנסיסקו. דניאלה אמודאי (Daniela Amodei), מייסדת שותפה ונשיאת אנתרופיק, הוסיפה כי כעת, לאחר שהארגון התבסס, הדגש הוא על הבטחת תרבות וממשל פנימי שיאפשרו לחברה להמשיך ולחקור ולפתח מערכות AI בטוחות באחריות ככל שהיא גדלה. סבב הגיוס הנוכחי מגיע לאחר גיוס סבב A בסך 124 מיליון דולר ב-2021, והובל על ידי סם בנקמן-פריד (Sam Bankman-Fried), מנכ"ל FTX, עם השתתפות של משקיעים נוספים.
