כל הכתבות של CyberNow בנושא בינה מלאכותית — 44 כתבות. ניתוחים טכניים, עדכוני אבטחה והתראות בעברית — עמוד 4 מתוך 5.
מספיק היה להקליד שורת חיפוש אחת בגוגל כדי להגיע לשיחות שאנשים ניהלו עם קלוד, ובהן דוח רפואי אמיתי ופרטים של ילדים. הכפתור שיצר את זה נקרא 'שיתוף', ורבים לא הבינו שהוא הופך את השיחה לעמוד גלוי לכל הרשת.
יולי היה החודש העמוס שסיקרנו: עדכון השיא של מיקרוסופט עם 570 תיקונים, SharePoint שנוצל כל החודש, בינה מלאכותית שעברה לצד התוקף, ופריצה לחברת התשלומים הישראלית Nayax.
תוקף דובר סינית חיווט מודל שפה ל-framework התקפי והריץ מתקפות מקצה לקצה בלי יד אדם. שרת קבצים שנפתח בטעות חשף את כל האופרציה, כולל הלוגים של המכונה שתוקפת לבד.
חוקר הראה שאפשר להחביא הוראות בטקסט לבן על רקע לבן בתוך מסמך Word, ועוזר ה-AI של אופיס מבצע אותן כאילו אתם ביקשתם. במקרה שהוצג המסמך אף שתל את אותה הוראה נסתרת במסמך החדש שנוצר, כדי להמשיך ולהתפשט.
השבוע שבו ה-AI הפך גם למשטח תקיפה: פרסומות מזויפות של Claude, סוכנים שהומלצו לרדת נוזקה, וסוכן אוטונומי שפרץ לחברה שהריצה אותו. לצד חולשות שכבר מנוצלות ודליפות ענק.
תוקפים קנו פרסומות בגוגל בינג שהובילו למתקין מזויף של Claude. במקום התוכנה, הקורבנות קיבלו נוזקה ששואבת סיסמאות, פרטי אשראי ועוגיות דפדפן.
חוקרי Qualys חשפו חולשת מרוץ במערכת הקבצים XFS שנותנת למשתמש מקומי רגיל הרשאות root על שרתי Red Hat, בלי דרך לעקוף אותה. את החולשה הם מצאו כשכיוונו מודל של Anthropic אל קוד הליבה וביקשו באג ממשפחת Dirty COW.
חוקרי Island חשפו מבצע ענק של מאגרי קוד מזויפים שמתחזים לכלי AI ולשרתי MCP. החידוש: העוקץ לא מכוון רק לבני אדם, אלא גם לסוכני הקוד שממליצים על המאגר הזדוני מיוזמתם.
חוקרי Group-IB חשפו נוזקה שלא פותחת חיבור לשום שרת של התוקף. במקום זה היא קוראת פקודות מאירועי יומן שמתוארכים לשנת 2050 ומעלה מידע גנוב כקבצים מצורפים. הקורבן: ארגון ישראלי, והחשד מפנה לכיוון איראן.
הפלטפורמה שעליה יושבים רוב מודלי ה-AI הפתוחים בעולם חשפה פריצה שהורצה מקצה לקצה בידי מערכת סוכנים אוטונומית, אלפי פעולות מנחיל של sandbox-ים. בדרך התברר גם שהמודלים המסחריים סירבו לסייע לצוות התגובה לאירוע.