אשליית השליטה על הכלים שלכם

סיכון שני: כשהמדיניות משתנה מתחת לרגליים

הדבר שהפך את שינוי המדיניות של אנתרופיק למשמעותי כל כך הוא שהוא חל גם על ארגונים שחשבו שיש להם הסכם מיוחד. ארגונים עם הסכם של אפס שמירת נתונים נאמר להם שלמודלים החדשים ברמת היכולת הגבוהה תחול דרישה חדשה: שמירה של 30 יום לצרכי בטיחות ואבטחה.

ההסבר של אנתרופיק הגיוני מבחינה טכנית. ניסיונות פריצה מסוימים שולחים מאות וריאציות של אותה בקשה עד שאחת מצליחה. קמפיינים של ריגול אינם נראים בבקשה בודדת, הם נראים רק בניתוח דפוסים לאורך זמן, 30 הימים מאפשרים לאנתרופיק לנתח דפוסים כאלה ולזהות שימוש לרעה.

אבל מבחינת הארגונים שבנו את מסגרת הסיכון שלהם על ההנחה שהסכם אפס השמירה עדיין תקף, זה שינוי מהותי. ומיקרוסופט, עם כל מחלקת המשפט שלה, הגיעה למסקנה שעדיף לחסום גישה לגמרי מאשר לקבל את הסיכון.

המסר: גם הכלים שאישרתם שנה שעברה יכולים לשנות את המדיניות שלהם. "כבר בדקנו" היא לא תשובה לצמיתות.

ויש גרסה קשה יותר של שינוי המדיניות, זו שההשבתה של Fable 5 הציפה -
ספק שמשנה את תנאי השמירה הוא דבר שאפשר לקרוא, להעריך ולהיערך אליו, מודל שנעלם בצו ממשלתי הוא דבר שלא ניתן לחזות.

ב-13 ביוני זה בדיוק מה שקרה: Fable 5 ו-Mythos 5 הושבת לכולם, לא כי אנתרופיק בחרה בכך, אלא כי צו הגבלות ייצוא אמריקאי לא הותיר לה ברירה.

קראו את האותיות הקטנות של הצו: הוא אוסר על כל אזרח זר להשתמש במודלים, בתוך ארה״ב או מחוצה לה, עבור משרד עורכי דין ישראלי זו לא אבסטרקציה על פוליטיקה אמריקאית, אנחנו האזרחים הזרים, המודל שעורכי הדין שלכם עבדו איתו ביום שישי הפך, בשבת, לכלי שאסור עליהם לגעת בו, בלי תקופת התראה, בלי תוכנית הגירה, ובלי שום SLA שכיסה את זה.

זו קטגוריית סיכון שונה מזו שרוב מסגרות הממשל נבנו עבורה. היא לא עוסקת במה שהעובדים מקלידים, אלא בריכוזיות: אם תהליך עבודה קריטי תלוי במודל יחיד מספק אמריקאי יחיד, אתם במרחק צו רגולטורי אחד מלאבד אותו בן-לילה. המענה אינו חוזה טוב יותר, אלא ארכיטקטורה: מודל גיבוי, שכבה שמאפשרת להחליף ספק, והכנת מיפוי של אילו תהליכים פשוט ייעצרו אם המודל המרכזי ייעלם מחר.

יש כאן אירוניה שסוגרת מעגל: אותם 30 יום של שמירת נתונים שפתחו את הסיפור - אלה שמיקרוסופט נבהלה מהם, היו המנגנון שאנתרופיק הציגה כדי לזהות פריצות, והעילה שהממשל נימק בה את ההשבתה.

סיכון שלישי: כשה-AI מחובר ופועל

זהו הסיכון הפחות מוכר, אבל מבחינה טכנית הוא חמור משני הקודמים.

ב-2025 פרסם חוקר האבטחה Simon Willison את המושג “lethal trifecta” (השלישייה הקטלנית):
שלושה מאפיינים שכשמשלבים אותם בכלי AI אחד, נוצרת חשיפה קריטית לגניבת מידע:

🔐 גישה לנתונים פרטיים, כלומר לכלי יש הרשאה להגיע למידע הרגיש שלכם: תיבות מייל, קבצים, מסמכי לקוח ומערכות פנימיות.

⚙️ חשיפה לתוכן לא-מהימן, כלומר הכלי קולט תוכן שמקורו מחוץ לשליטתכם, ובתוכו תוקף יכול להחביא הוראות סמויות. ההבדל מהסעיף הקודם אינו שהכלי קורא מסמך, אלא שהמסמך עצמו עלול להיכתב בידי תוקף.

🤖 יכולת תקשורת החוצה, כלומר הכלי יכול לשגר מידע החוצה (בקשת רשת, שליחת מייל, העברה לשירות אחר). זה הצינור שדרכו המידע הפרטי דולף.

כשמשלבים את שלושתם, תוקף יכול להטמין הוראות בתוכן שהכלי קורא ולגרום לו לשלוח מידע פרטי החוצה. זו לא תיאוריה: כלי Copilot של מיקרוסופט, שרתי מפתחים של GitHub, פלטפורמת Slack, כולם חוו מתקפות מסוג זה ב-2024-2025.

הרגע המסוכן בפירמה הוא לא בהכרח מתקפה מתוחכמת, הוא עלול להיות הרגע שבו עובד מחבר את תיבת המייל העסקית שלו לחשבון ה-AI האישי שלו, "כדי שיהיה יותר שימושי" - פעולה אחת כזו יוצרת את שלושת המרכיבים יחד, בלי שאף אחד שם לב.