ממשלת בריטניה הופכת את יצירת תמונות אינטימיות על ידי AI לפשע ומרחיבה את הפיקוח על רשתות חברתיות
החל מהשבוע, החקיקה הבריטית מקשיחה משמעותית את המאבק באלימות דיגיטלית עם כניסתן לתוקף של תקנות המפילות את הפקת תמונות אינטימיות כוזבות שנוצרות על ידי בינה מלאכותית. ההודעה פורסמה בפרלמנט ביום שני, 12 בינואר, על ידי שרת הטכנולוגיה, ליז קנדל, אשר סיווגה את הצעד כצעד בסיסי להגנה על שלמות נשים ונערות בסביבה הוירטואלית. הכלל החדש לא רק מעניש את ההפצה, אלא תוקף את שורש הבעיה בכך שהופך את פעולת יצירת החומר לבלתי חוקית, ללא קשר לשיתוף שלו לאחר מכן.
החמרה של החוקים באה בתגובה ישירה להתרבות של כלי בינה מלאכותית המאפשרת יצירת תוכן מיני שאינו בהסכמה, הידוע בשם deepfake. החלטת הממשלה מקדימה הוראות שנקבעו בחוק הנתונים (שימוש וגישה), שאושר ב-2025, המדגים את הדחיפות של הרשויות להתמודד עם ההתפתחות המהירה של טכנולוגיות אלו. ההתמקדות העיקרית היא למנוע שימוש בתוכנה להסרה דיגיטלית של בגדים מתצלומים או להכנסת פנים של אנשים אמיתיים לסצנות עם תוכן מפורש ללא כל אישור.
בנוסף למיקוד המשתמשים שמייצרים תוכן, החקיקה החדשה מרחיבה אחריות פלילית למפתחים וספקי כלים המיועדים במיוחד למטרה זו. האסטרטגיה שמה לה למטרה לפרק את המערכת האקולוגית המאפשרת “נודיפיקציה” אוטומטית, תוך התייחסות לתוכנה זו כאל כלי שימוש לרעה. השרה קנדל הדגישה כי תמונות מסוג זה אינן יכולות להיחשב כבלתי מזיקות, שכן הן מייצגות פגיעה חמורה בפרטיות ובכבודן של הקורבנות, הגורמת לרוב לפגיעה נפשית מתמשכת.
יישומו המיידי של החוק משקף שינוי עמדתה של ממשלת העבודה, המבקשת להשלים פערים שהותירו תקנות קודמות. מומחים למשפט דיגיטלי מציינים שעד אז, פעולות רבות התמקדו רק בהפצה פומבית של תמונות, והותירו את מי שהפיק אותן לצריכה פרטית או לאיום על קורבנות ללא עונש. כעת, ייצור פשוט של חומר אסור מהווה עבירה פלילית, וסוגר את הפער מפני שימוש זדוני בבינה מלאכותית.
Ofcom חוקרת ליקויי אבטחה בפלטפורמה
רגולטור התקשורת הבריטי Ofcom פתח בחקירה רשמית נגד פלטפורמה X, שנודעה בעבר כ-Twitter, על שימוש לרעה בצ’אטבוט הבינה המלאכותית שלה, Grok. דיווחים אחרונים הצביעו על כך שהכלי נמצא בשימוש נרחב ליצירת תמונות מיניות וזיופים עמוקים, תוך הפרה של הנחיות הבטיחות המקוונות שנקבעו במדינה. החקירה מבקשת לקבוע אם החברה לא הצליחה ליישם אמצעי הגנה נאותים כדי למנוע יצירת תוכן זה.
התגובה הראשונית של פלטפורמה X, שהגבילה את הגישה לתכונת ההדמיה למנויים בתשלום בלבד, נחשבה לא מספקת על ידי הרשויות הבריטיות. הממשלה דורשת אמצעים טכניים חזקים המונעים יצירת תוכן במקור, במקום רק להגביל את מי שיכול לגשת אליו. בכוחה של חקירת אופקום לגרור קנסות כבדים והטלת תיקוני חובה אם יוכח שהחברה הזניחה את הסיכונים הכרוכים בטכנולוגיה שלה.
מקרה גרוק הפך לסמל לחשיפת הקלות שבה ניתן לתמרן כלי AI למטרות פוגעניות כאשר אין להם מסננים אתיים קפדניים. היכולת ליצור תמונות מציאותיות בשניות הפכה את הפלטפורמה לוקטור של דאגה לרגולטורים ברחבי אירופה. ממשלת בריטניה שומרת על בדיקה של השימוש ברשת החברתית כערוץ תקשורת רשמי, ומסמנת התרחקות אפשרית אם מדיניות האבטחה לא תתחזק בצורה משביעת רצון.
הנחיות חדשות ומאבק באלימות דיגיטלית
החקיקה החדשה קובעת מסגרת רגולטורית ברורה לשימוש בטכנולוגיות מתפתחות, תוך עדיפות לבטיחות האזרחים על פני חדשנות חסרת מעצורים. הממשלה התוותה שורה של פעולות שחייבים לבצע הן על ידי יחידים ותאגידי טכנולוגיה כדי להבטיח ציות לחוק. האמצעים נועדו ליצור סביבה דיגיטלית עוינת עבור מתעללים ובטוחה עבור משתמשים רגילים.
- הפללה מיידית של יצירה או שידול של זיופים עמוקים מיניים, ממלאת את הוואקום המשפטי שאפשר ייצור לשימוש פרטי.
- איסור מוחלט על פיתוח ומסחור של תוכנות או אפליקציות שתפקידן העיקרי הוא הסרה דיגיטלית של בגדים.
- חובה לפלטפורמות דיגיטליות לאמץ מנגנונים יזומים לאיתור וחסימת תוכן פוגעני לפני התפשטותו.
- הרחבת שיתוף הפעולה הבינלאומי לניטור הזרימה החוצה גבולות של כלי AI בלתי חוקיים ושיתוף טכנולוגיות מניעה.
הנחיות אלו מחזקות את חוק הבטיחות המקוון משנת 2023, המעדכן את הוראותיו למציאות של בינה מלאכותית יוצרת. הצפי הוא שלחץ רגולטורי יאלץ חברות טכנולוגיה גדולות להשקיע יותר בצוותי אבטחה ואמון, בנוסף לפיתוח אלגוריתמים המסוגלים להבחין בין אמנות לגיטימית לחומר פוגעני. השרה ליז קנדל דרשה מאופקום לקבוע לוח זמנים קפדני להשלמת חקירות מתמשכות, ולמנוע מתהליכים בירוקרטיים לעכב את ההגנה הדרושה לקורבנות.
השפעה על פיתוח טכנולוגיות AI
כניסתו לתוקף של חוק זה מציבה את בריטניה בחזית הרגולציה של בינה מלאכותית, ומשמשת מודל אפשרי עבור מדינות אחרות המתמודדות עם אתגרים דומים. מפתחי בינה מלאכותית פועלים כעת תחת ביקורת רבה יותר, כאשר רשלנות ביישום מסנני אבטחה עלולה לגרום לתוצאות פליליות. זה אמור להניע שינוי בפילוסופיית עיצוב המוצר, שבה אבטחה הופכת לדרישה בסיסית מתפיסת התוכנה, ולא רק לפונקציונליות שנוספה מאוחר יותר.
מגזר הטכנולוגיה עוקב מקרוב אחר ההתפתחויות, שכן התקן עשוי לדרוש התאמות טכניות מורכבות למודלים קיימים של שפות ומחוללי תמונות. האחריות על השימוש האתי בכלים עוברת ממשתמש הקצה ליוצרי הטכנולוגיה, מה שמאלץ חברות לקחת חלק פעיל במניעת נזק. הצעד גם מבקש למנוע את הופעתו של שוק מחתרתי לכלים מזויפים עמוקים, מה שהופך את פעולתם של שירותים המיועדים לניצול מיני דיגיטלי למסוכן.
