מידע כוזב

אנתרופיק נערכת לבחירות 2024: כך היא נלחמת בניצול לרעה של AI

לקראת שנת הבחירות הגלובלית של 2024, אנתרופיק (Anthropic) מפרסמת את צעדיה למניעת ניצול לרעה של כלי ה-AI שלה בהקשרים פוליטיים. החברה הטמיעה מדיניות שימוש קפדנית האוסרת על קמפיינים פוליטיים ולובינג באמצעות מודלים כמו Claude. היא גם ביצעה Red Teaming יזום לבחינת עמידות המערכות בפני הפצת מידע כוזב והטיה, ותפנה משתמשים המבקשים מידע על בחירות למקורות אמינים למניעת הזיות. אנתרופיק מדגישה את מחויבותה ל-AI אחראי ומצפה ללמוד מהשימושים הלא צפויים שיצוצו.