בחירות

2 כתבות בנושא זה

12 בדצמבר 2024

אנתרופיק מסכמת את שנת הבחירות הראשונה בעידן ה-AI הגנרטיבי

אנתרופיק (Anthropic) מפרסמת דו"ח מקיף המסכם את התנהלות מודלי ה-AI שלה, ובפרט Claude, במהלך שנת הבחירות הגלובלית של 2024 – השנה הראשונה בה בינה מלאכותית גנרטיבית הייתה נגישה לציבור הרחב באופן נרחב. החברה מציגה תובנות משימוש בפועל, אמצעי בטיחות שנקטה, ולקחים קריטיים לקראת מערכות בחירות עתידיות. הנתונים מראים כי שימוש הקשור לבחירות היה נמוך מאוד, אך אנתרופיק הדגישה את מחויבותה המתמשכת להגן על שלמות התהליך הדמוקרטי.

קרא עוד

6 ביוני 2024

אנתרופיק נגד פייק ניוז בבחירות: חושפת את מנגנוני הבטיחות של מודלי ה-AI שלה

לקראת שנת הבחירות הגלובלית של 2024, חברת אנתרופיק (Anthropic) מפרסמת הצצה למאמציה המתמשכים לבחון ולהפחית סיכונים הקשורים לבחירות במודלי ה-AI שלה, בדגש על קלוד (Claude). החברה משתמשת בשילוב של בדיקות עומק ידניות עם מומחים חיצוניים (PVT) והערכות אוטומטיות מבוססות סקיילינג, כדי לזהות ולטפל בסוגיות כמו מידע שגוי והטיה. הדו"ח מפרט כיצד ממצאי הבדיקות מובילים ליישום אסטרטגיות הפחתה אפקטיביות, כולל עדכונים ל-System Prompt וכוונון עדין של המודלים, במטרה להבטיח את שלמות התהליך הדמוקרטי. תהליך זה מדגים את מחויבותה של אנתרופיק ל-AI אחראי.

קרא עוד