מה זה דיפ-פייק, ולמה הפנים שבשיחת הווידאו כבר לא מוכיחות כלום?
וידאו וקול שנוצרו במחשב כדי להישמע ולהיראות בדיוק כמו אדם מסוים. איך זה עובד, איפה פוגשים את זה בשיחה שנכנסת לטלפון, ומה עוזר כשהחושים כבר לא מספיקים.
כל הכתבות של CyberNow בנושא בינה מלאכותית — 119 כתבות. ניתוחים טכניים, עדכוני אבטחה והתראות בעברית — עמוד 10 מתוך 12.
וידאו וקול שנוצרו במחשב כדי להישמע ולהיראות בדיוק כמו אדם מסוים. איך זה עובד, איפה פוגשים את זה בשיחה שנכנסת לטלפון, ומה עוזר כשהחושים כבר לא מספיקים.
חוקרים נכנסו לפאנל הניהול של פלטפורמה שמוכרת לגנבי אייפונים שירות אחד: לשכנע את הבעלים למסור את קוד המכשיר ואת פרטי חשבון אפל. בין הכלים שם, סוכן קול שמציג את עצמו כ"אליס מהתמיכה של אפל".
אתם מבקשים מעוזר AI לסכם עמוד, ובתוך העמוד מישהו שתל משפט שמנוסח כפקודה. מערך הסייבר הלאומי פרסם היום הסבר על סוג התקיפה הזה ועל ההרשאות שכדאי לא לתת. בשני מקרים שתועדו החודש זה כבר עבד על עוזרים אמיתיים.
AIT-GUI, הקונסולה מבוססת הדפדפן של ערכת הכלים לתחנות קרקע של NASA/JPL, עולה על כל ממשקי הרשת בלי מסך התחברות ובלי הגנה מפני בקשות ממקור זר. גם התקנה שיושבת מאחורי חומת אש חשופה, כי הדפדפן של המפעיל יכול לשלוח את הבקשה במקומו.
עשרות פרופילים שנפתחו זמן קצר לפני הפריימריז, עם תמונות שנוצרו בבינה מלאכותית וכמעט בלי פעילות אישית, שיבחו מועמדת אחת בקבוצות פייסבוק ירושלמיות. ראש אגף החקירות שלח בעקבות דפוסים כאלה מכתב לחברות קידום ישראליות לקראת הבחירות.
חוקר של TrendAI מצא אשכול חבילות npm שמספקות פונקציות תאריכים עובדות, ולצידן קובץ ELF שרץ ברגע שמישהו מייבא את החבילה. המטען הוא RedShell, המימוש הלינוקסי של מסגרת התקיפה המסחרית RedC2, שמגיעה עם רכיב שמתרגם משפט בשפה חופשית לשרשרת פקודות על המכונה הנגועה.
חוקרי Sophos X-Ops עברו על שנה של אירועים אצל לקוחותיהם ומצאו ש-30 מתוך 38 מקרי התקיפה שקשורים ל-AI היו התחזות לתוכנה. קלוד הופיע ב-26 מהם, וחלק מהאתרים המזויפים סיימו בדלת אחורית חדשה.
התראה בודדת אצל גוף ממשלתי אחד הובילה את חוקרי Bitdefender למבצע ריגול שרץ קרוב לשנה עם שבע משפחות נוזקה, חמש מהן לא היו מתועדות. אחת מקבלת פקודות מתיקיית Google Drive משותפת, אחרת מסתירה אותן בכותרות של זיכרון מטמון, ובשתיים נשארו סימנים שמי שכתב אותן נעזר ב-AI.
חוקרי Cisco Talos נכנסו לספרייה פתוחה בשרת של קבוצת פשיעה דוברת סינית ומצאו שם רשימת מטרות של 170 אלף כתובות, ארבעה סקריפטים שנוצרו בעזרת בינה מלאכותית, ומדריך בן תשעה פרקים להרצת קוד בשרתי IIS. הפרק התשיעי הוא יומן של פריצה שכבר קרתה.
חוקרי Adversa AI הראו שהצפנה של הוראות זדוניות מעבירה אותן מתחת לרדאר של מנגנוני הסינון, כי הם לא יכולים לקרוא אותן. את הפענוח עושה המודל עצמו. לפי החברה, xAI לא הגיבה מאז יוני ותיקון עדיין אין.