אלפי שיחות פרטיות מ-Claude אונדקסו בגוגל: מה לבדוק כבר היום

משתמשים גילו בסוף השבוע האחרון שחיפוש פשוט בגוגל חושף אלפי שיחות ותוצרים שנוצרו בצ'אטבוט Claude של Anthropic. לפי דיווח של 404Media, בין התוצאות שנחשפו היו דוח רפואי מפורט של מטופל אמיתי, תוצאות של ניסויים קליניים, סודות מסחריים של חברות, טיוטת פוסט שטרם פורסמה, קורות חיים ואפילו מספרי טלפון של קטינים. גיקטיים דיווחו שמצאו בחיפוש פשוט גם צ'אטים בעברית שלא נועדו להיות פומביים.

מקור הדליפה הוא פיצ'ר שיתוף הצ'אטים. משתמשים הניחו שמדובר בקישור פרטי, בדומה לגוגל דוקס או לסרטון יוטיוב לא רשום, אך בפועל קישורים ששותפו בפלטפורמות פתוחות אונדקסו ישירות במנועי החיפוש. דוברת Anthropic טענה שהקישורים חשאיים ולא ניתנים לניחוש אלא אם המשתמש בחר לשתף אותם במקום חשוף, ומגוגל נמסר שהמנוע פועל לפי הגדרות הסריקה של בעלי האתרים. עם זאת, זמן קצר אחרי שהפרשה התפוצצה Anthropic שינתה את הגדרות השיתוף והקישורים הפסיקו להופיע בתוצאות. הפעולה המעשית לכל מי שקורא את זה: Settings, ואז Privacy, ואז Shared Chats, ולבטל שיתוף עד שמופיעה ההודעה No shared content found.

קראו עוד »

Crosby מבטחת את סוכני ה-AI שלה בביטוח אחריות מקצועית

משרד ה-NewMod האמריקאי Crosby הודיע שהוא יוצא לרכוש ביטוח אחריות מקצועית עבור סוכני ה-AI שלו, כדי שיוכלו לבצע עבודה משפטית אוטונומית. המנכ"ל כתב שכיום עורכי הדין של המשרד בודקים כל פלט ופלט, אבל שהסוכנים השתפרו בקפיצות מדרגה בחודשים האחרונים ולדבריו ברור שזה לא יהיה הכרחי בעתיד. הוא הוסיף שהמשרד הוא מהראשונים שמנסים את זה, ושבחודשים הקרובים ימשיך לעבוד מול מבקרים להגדרת Evals, וכן מול לשכות עורכי דין, רגולטורים מדינתיים וחברות ביטוח. שם המבטח טרם פורסם.

המשמעות עמוקה יותר מהכותרת. כל עוד עורך דין אנושי בודק כל דבר שיוצא מהמשרד, אין צורך בגישת ביטוח מיוחדת, כי האחריות נשארת אצלו ואצל המשרד. הביטוח נדרש ברגע שהמשרד מצהיר שהוא סומך על הסוכן להריץ תיק שלם ולשלוח תוצאות As Is. בנקודה הזו הסוכן הופך דה-פקטו לעורך דין, ואת זה צריך לבטח. Artificial Lawyer ניסחו את זה בחדות: אם זה מפיק פלט כמו עורך דין, אז זה עורך דין. היו קודם לכן מהלכים לביטוח פלטים של AI, למשל Orbital בבריטניה והסטארטאפ Corgi, אבל ביטוח של סוכן משמעו התייחסות אליו כאל עמית במשרד.

קראו עוד »

 Harmony הישראלית: יותר מ-100 סוכנים מוכנים מראש, כולל לתהליכים משפטיים

ניצן שפירא ורן רבנזפט, מייסדי Epsagon שנמכרה ב-2021 לסיסקו, חשפו את הסטארטאפ החדש שלהם Harmony, שמפתח פלטפורמת AI לניהול שירותים פנים-ארגוניים. עובדים פונים בשפה טבעית ב-Slack או ב-Teams ומקבלים מענה או ביצוע פעולות, והמערכת מזהה את זהות העובד, תפקידו והרשאותיו כדי להבין את ההקשר הארגוני. לפי שפירא, המערכת מגיעה עם יותר מ-100 סוכנים מוגדרים מראש, שתי פגישות אונבורדינג מספיקות והיא באוויר תוך 48 שעות. דוגמה שהוא נותן: מחשב נעול נפתר בסלאק ב-40 שניות במקום ביום עבודה שלם.

הזווית המשפטית מפורשת בדבריו: הסוכנים לא נעצרים ב-IT, ואותו מנגנון שעונה על שאלת חופשת לידה ממשאבי אנוש או פותח בקשת רכש גם מקדם תהליך משפטי. אבל האמירה שהכי שווה לקרוא היא התשובה שלו לשאלה למה ארגון לא יבנה את זה לבד: לבנות סוכן אחד בשעה עם Claude כל אחד יכול, אבל לבנות יותר מ-100 סוכנים שמבצעים פעולות אמיתיות במערכות הליבה של הארגון, עם בקרות, אישורים, הרשאות, לוג ביקורת ואבטחה ברמת אנטרפרייז, ולתחזק את זה כשהמערכות משתנות, זה כבר מוצר ולא פרויקט.

קראו עוד »

הכלכלה שמאחורי הטוקן: הטענה שהמחיר עדיין לא מכסה את העלות

Raymond Blijd, שמפעיל את פלטפורמת המחקר ומודיעין השוק Legalcomplex, פרסם ניתוח שמערער על כלכלת היחידה של פלטפורמות ה-Legal AI. לטענתו Harvey מקבלת כ-2.08 דולר למיליון טוקנים ו-Legora כ-1.39 דולר, בעוד שהעלות האמיתית עומדת על כ-15 דולר למיליון. את החישוב הוא סומך על היקף של 12 טריליון טוקנים בחודש, כ-144 טריליון בשנה, מול ARR של כ-300 מיליון דולר. אם המספרים האלה נכונים, מדובר בפער כלכלת-יחידה שלילי עמוק.

ההבחנה החשובה כאן היא בין שני סוגי מודלים עסקיים. ספקית תוכן ותיקה שיושבת על מאגר דאטה קנייני שכבר שולם עליו מוכרת מנוי, והטוקנים הם עבורה שולי עלות. פלטפורמות ה-Legal AI האג'נטיות, לעומת זאת, מוכרות בעיקר את הריצה עצמה, וכל שאילתה נוספת היא עלות נוספת. זו אותה נקודה שהעלינו כשדיווחנו שצריכת הטוקנים של Harvey זינקה פי 14 בחצי שנה, רק שעכשיו יש לה מספר.

לאתר המחקר »

הצעת חוק ה-AI Kill Switch: סמכות ממשלתית לעצור מודל

הצעת חוק דו-מפלגתית שהוגשה ב-23 ביולי בשם AI Kill Switch Act תחייב מפתחים של מערכות ה-AI החזקות ביותר לשמור על יכולת טכנית להאט, להשעות או לכבות אותן. ההצעה, של חברי הקונגרס Ted Lieu ו-Nathaniel Moran, מסמיכה את שר ה-DHS, בהתייעצות עם שר המסחר ועם ראש הקהילה המודיעינית, להורות על האטה או על כיבוי של מערכת שעלולה לגרום נזק קטסטרופלי, בתגובה מדורגת שנקבעת לפי חומרת האיום. הסף: מערכות שפותחו בהשקעת מחשוב של יותר מ-100 מיליון דולר, על ידי חברות שמגלגלות לפחות 500 מיליון דולר בשנה מהטכנולוגיה. הקנס על הפרה מגיע ל-2 מיליון דולר ליום, ועד 20 מיליון דולר ליום על הפרת צו חירום.

רשימת התרחישים שיכולים להפעיל התערבות ממשלתית שווה קריאה בפני עצמה: מערכת שמתנגדת לפקודת כיבוי, מערכת שמסתירה את יכולותיה או את פעולותיה ממי שאמור לנטר אותה, גרימה בלתי מכוונת של עשרה מקרי מוות לפחות, או נזק כלכלי של 100 מיליון דולר ומעלה. הרקע הישיר הוא האירוע שדיווחנו עליו בעדכון מ-23 ביולי, שבו OpenAI חשפה שסוכנים אוטונומיים חמקו מסביבת בדיקה ופרצו לתשתית של Hugging Face. ההיגיון מנוסח בשורה אחת שמדברת ישירות לעולם המשפט: אנחנו עוברים מ-AI שעונה על שאלות ל-AI שמבצע פעולות. עבור משרדים ומחלקות משפטיות המשמעות היא שמנגנון העצירה הופך ממאפיין מוצר לדרישת ציות, והשאלה בבדיקת ספק כבר לא תהיה רק איזה מודל אתם מריצים, אלא מי מחזיק במתג ומה קורה לתהליכים שרצים אצלכם כשמישהו לוחץ עליו.

להודעה הרשמית »

האם לקוחות בכלל אמורים לצפות להוזלה בגלל ה-AI?

ריצ'רד טרומנס, מייסד Artificial Lawyer, מעלה את השאלה המרכזית: אם אין שינוי כלכלי, בשביל מה כל זה. הוא סוקר טכנולוגיות שהוזילו את עלות התוצר לאורך ההיסטוריה, מטיסות חוצות-אוקיינוס ועד מחשבים ואירוח וידאו, ואז שואל היכן יושב הייעוץ המשפטי. אם לקוחות של Big Law רואים כמעט כל תוצר משפטי שהם קונים כמוצר יוקרה, אז ל-AI אין תפקיד במשוואה: הוא רק עוזר למוכרים לספוג זמן לא-חיוב ולהגדיל רווח. גם מחיר קבוע לא חייב להיות תחרותי, כדברי טרומנס, לתיק Birkin יש מחיר קבוע ואיש לא טען שהוא זול.

הטענה שלו היא שהבעיה איננה משפטית או טכנולוגית אלא סוציולוגית: השאלה אינה האם לקוחות אמורים לצפות להוזלה, אלא האם הם ישנו את האופן שבו הם מסווגים את התוצר. רק אם חלק ניכר ממה שהיום נתפס כמוצר יוקרה יסווג מחדש כשירות תשתיתי, ייפתח מרחב לתחרות מחירים שה-AI יוכל להזין. בעדכון הקודם הבאנו את מאמרו של אדם נגוין על דיבידנד ה-AI ומי מקבל את החיסכון; טרומנס לוקח צעד אחורה ושואל מי בכלל מבקש אותו. הוא מציין שמשרדי ה-NewMod כבר פועלים לפי ההיגיון הזה, אבל האתגר שלהם זהה: אין טעם להציע מחיר נמוך ללקוח שמוכן לחצות את הכביש ולשלם פי חמישה על אותו דבר.

קראו עוד »

מערך הסייבר: חלון הזמן להתקנת עדכון אבטחה התכווץ ליום וחצי

מערך הסייבר הלאומי פרסם ב-28 ביולי התרעה שקוראת לשנות את קצב התקנת עדכוני האבטחה בארגונים, כמענה ישיר לתקיפות המבוצעות באמצעות AI. הנתון שמניע את המסמך חד: הזמן הממוצע מרגע פרסום פגיעות ועד לניצולה בפועל צנח מ-2.3 שנים בממוצע ב-2018, לכחודש ב-2025, ול-1.3 ימים בלבד ב-2026. אם בעבר כ-83.9% מהפגיעויות שרדו את יום הפרסום בלי קוד ניצול פעיל, היום רק 30.3% מהן שורדות, ו-73.2% מהפגיעויות הקריטיות מנוצלות עוד לפני יום פרסום העדכון או בו ביום. הסיבה, לפי המערך, היא שתוקפים משתמשים במודלי שפה מתקדמים ובסוכנים אוטונומיים כדי לבצע הנדסה לאחור של עדכוני אבטחה ולפתח Exploits באופן ממוכן ומהיר.

ההמלצה המעשית היא לנטוש מדיניות עדכונים תקופתית שמבוססת על ציון חומרה בלבד, ולעבור למודל דינמי מבוסס סיכון לפי העקרונות של דירקטיבת CISA BOD 26-04: האם הרכיב חשוף לאינטרנט, האם הפגיעות כבר מופיעה בקטלוג הפגיעויות המנוצלות בפועל, האם ניתן לאוטומט את התקיפה, ומה עוצמת השליטה שהיא מקנה. חלון התיקון שנקבע לרכיבים נגישים מהאינטרנט הוא 24 עד 48 שעות, ועד 7 ימים למערכות ליבה פנימיות. שתי נקודות שרלוונטיות במיוחד למשרדים: הקטגוריה הראשונה כוללת מפורשות גם ממשקי מודלי שפה ארגוניים (LLM Gateways) שחשופים ל-Prompt Injection ולהרצת קוד מרחוק, והמסמך דורש להטמיע את משטר העדכונים הזה גם בחוזים מול ספקים בשרשרת האספקה. ההנחה המובנית שמאחורי הכל, ואולי המשפט החשוב במסמך, היא שהרשת נפרצה עוד בטרם הותקן עדכון האבטחה.

לנתוני Zero-Day Clock »