שיחת וידאו עם מישהו שאתם מכירים. הוא מדבר, זז, מהנהן כשאתם עונים, ובאמצע מבקש משהו קטן ודחוף. הכול נראה נכון, ובכל זאת אין שם אדם. דיפ-פייק הוא וידאו או הקלטת קול שיוצרו במחשב כדי להיראות ולהישמע כמו אדם אמיתי ומסוים, והוא כבר לא הפתעה טכנולוגית אלא כלי עבודה שגרתי של נוכלים.

מה בעצם קורה שם?

בואו נתחיל מהמכניקה, כי היא הרבה פחות קסומה ממה שהיא נשמעת. תוכנה מקבלת חומר גלם של אדם מסוים, כמה דקות וידאו מרשת חברתית או הקלטת קול קצרה מהודעה קולית, ולומדת ממנו תבניות: איך הפה שלו זז על כל הברה, איפה הצליל עולה בסוף שאלה, איך הפנים נראות כשהראש פונה הצידה. אחר כך היא מייצרת חומר חדש שמתאים לאותן תבניות, ואומר את מה שמישהו מקליד לה.

התוצאה דומה לחקיין מקצועי שצפה בכם מספיק זמן כדי לחקות אתכם, רק שהחקיין הזה לא צריך כישרון, לא מתעייף, עולה כמה דולרים ועובד לפי תסריט שמוזן לו בזמן אמת. לשילוב הזה קוראים דיפ-פייק (deepfake), הלחמה של deep learning ו-fake.

איפה פוגשים את זה בפועל?

הצורה הנפוצה היא דווקא הקול, פשוט כי הוא הזול ביותר לייצור והכי קשה לבדיקה. שיחה מ"נציג הבנק" או מ"מחלקת המחשוב בעבודה" נשמעת אנושית לחלוטין, כולל היסוס ונשימה במקום הנכון. בשירות שתואר בכתבה על הפלטפורמה שרודפת אחרי בעלים של אייפונים גנובים, סוכן קול שהציג את עצמו כ"אליס מהתמיכה של אפל" ביצע 200 שיחות כאלה, בעלות כוללת של פחות מ-20 דולר.

הווידאו נכנס לתמונה כשיש הרבה כסף על הפרק. קבוצת התקיפה הצפון קוריאנית BlueNoroff, למשל, הזרימה לשיחת Zoom דמות ערוכה מראש של איש קשר מוכר לפני שביקשה מהקורבן להתקין "עדכון". ויש גם את הכיוון ההפוך, שבו הזיוף לא מכוון אליכם אלא נעשה בשמכם: סרטון של איש ציבור או של מנכ"ל שאומר משהו שמעולם לא אמר, בדרך כלל בפרסומת להשקעה. בכל המקרים האלה הדיפ-פייק עצמו הוא לא המתקפה. הוא רק שכבת האמינות שמונחת מעל בקשה רגילה של הנדסה חברתית.

אז איך מגנים על עצמכם?

קבעו מילת קוד משפחתית. משפט אחד שסגרתם עליו בבית מראש, וכל בקשה דחופה לכסף שמגיעה בטלפון חייבת לעבור דרכו. זיוף קול לא יודע אותו, וזו ההגנה הזולה והיעילה ביותר שיש נגד השיחה של "אמא, איבדתי את הטלפון".

נתקו ותתקשרו חזרה, אבל לא למספר שהתקשר ולא לקישור שנשלח בהמשך. חייגו למספר שאתם כבר מכירים, מגב כרטיס האשראי או מרשימת אנשי הקשר שלכם. נוכל שמפעיל סוכן קול לא יכול לענות בקו של הבנק.

בשיחת וידאו שמגיעה לבקשה חריגה, בקשו מהצד השני משהו לא צפוי: להסתובב לפרופיל, להעביר יד לאט מול הפנים, להגיד בקול את השעה שמופיעה על המסך שלו. זיוף שרץ בזמן אמת עדיין נשבר על התנועות האלה, וסרטון שהוזרם מראש פשוט לא יגיב.

הכלל שהשתנה הוא פשוט: פנים וקול הפכו לעוד פרט שאפשר לזייף, בדיוק כמו שם של שולח במייל. מה שקשה לזייף זה ערוץ שאתם פתחתם, בעצמכם, למספר שהכרתם קודם.