שימוש זדוני

אנתרופיק חושפת: כך מנוצלים מודלי Claude לקמפייני השפעה זדוניים

חברת אנתרופיק (Anthropic) מפרסמת דו"ח חדש המפרט שימושים זדוניים במודלי ה-AI שלה, Claude. הדו"ח חושף דפוסים חדשים של ניצול, ובראשם קמפיין <strong>"השפעה כשירות"</strong> (influence-as-a-service) מורכב שבו Claude שימש לתזמור רשת של בוטים ברשתות חברתיות, תוך קבלת החלטות טקטיות על פעולותיהם. בנוסף, נחשפו מקרים של גניבת פרטי התחברות, הונאות גיוס ופיתוח נוזקות על ידי שחקנים חסרי ניסיון, המדגישים כיצד AI מאיץ ומנגיש יכולות זדוניות. אנתרופיק מדגישה את מחויבותה למנוע ניצול לרעה תוך שיפור מתמיד של מנגנוני הבטיחות שלה.