פורנו, סלבז ו-AI: הסיוט של טיילור סוויפט וכל הוליווד התגשם

בלילה שבין שבת לראשון זה קרה: הרשת החברתית X (טוויטר לשעבר) השביתה את האפשרות לערוך בה את החיפוש "טיילור סוויפט", לאחר שבמהלך סוף השבוע שטפו את הפיד צילומים פורנוגרפיים מזויפים של טיילור סוויפט שהופקו באמצעות תוכנות AI. אחת התמונות שפורסמו נצפתה 47 מיליון פעמים לפני שהחשבון ממנו פורסמה נחסם.

>> המלחמה הרגה את האינטליגנציה המלאכותית. והמציאות גוססת

מיד עם שיגורם של מנועים גרפיים גנרטיביים אל אוויר העולם ב-2022 – כל אותן אפליקציות שמסוגלות לייצר דימוי באמצעות פקודה מילולית –  עלה החשש כי יהיו מי שישתמשו בהם כדי לייצר דימויים פורנוגרפיים בכיכובם של דמויות תקשורתיות בולטות וכוכבים מפורסמים. מרבית אפליקציות ה-AI מכילות קוד שנועד למנוע בהן שימוש מהסוג הזה, אבל תמיד יש מי שישמח לאתגר את עצמו ולעקוף אותן, וזה בדיוק מה שקרה עכשיו.

זה לא AI, כן? כן. כן? כן. טיילור סוויפט (צילום מסך: מתוך "Look What You Made Me Do")

על פי הדיווח של עמנואל מיברג (כן) ב"404 מדיה", מפיצי התמונות של סוויפט הם חברי קבוצת טלגרם שבה חולקים המשתתפים תמונות AI פורנוגרפיות של סלבז, כמו גם את הדרכים שבהן הם עוקפים את המגבלות והחסימות של יצרני התוכנות. במקרה הנ"ל אחד הכלים היה כפי הנראה התוכנה "מיקרוסופט דיזיינר" ומספר מעקפים שנמצאו בה.

ב-2020 כבר נפגעו מספר כוכבות הוליוודיות, ובראשון אמה ווטסון וקריסטין בל, מסרטוני דיפ-פייק שהלבישו את פרצופן על גופן של שחקניות פורנו, שלא לדבר על זיופי פוטושופ פורנוגרפיים שמסתובבים באינטרנט מאז שנות ה-90, אך יצירות ה-AI הפורנוגרפיות נראות אינן עושות שימוש בדימויים קיימים ולכן נראות אותנטיות יותר. בשנה שעברה כב החלו מאמצי חקיקה בקונגרס שמטרתם לקטלג ייצור תמונות כאלה והפצתן כאקט של תקיפה מינית.

צבא הסוויפטיות התאחד להגנתה. טיילור סוויפט (צילום מסך)

ביממה שלאחר הפצת התמונות השתלטו על טוויטר הסוויפטיות – מעריצות טיילור סוויפט המסורות ביותר – ופצחו בקמפיין שמטרתו הייתה לדחוק מרשימת הנושאים הטרנדיים את ההאשטג #TaylorSwiftAI והעלו לפסגה במקומו את ההאשטג #ProtectTaylorSwift. המעריצות לא היו לבד: גם נשיא ארצות הברית ג'ו ביידן ומנכ"ל מיקרוסופט סאטייה נדאלה התבטאו בחריפות נגד התופעה ונגד העוול שנגרם לסוויפט, כשאליהם מצטרף גם איגוד השחקנים החזק SAG-AFTRA בדרישה לחקיקה ולצעדי אכיפה נוקשים נגד יצרני תמונות מהסוג הזה.