ליקוי אבטחה בשימוש בבינה מלאכותית חושף את הרשת של סין המתמקדת בהפחדת יריבים בחול
דו”ח אבטחת סייבר לאחרונה העלה לאור מבצע השפעה דיגיטלית מורכבת המתוזמרת על ידי גורמים ממלכתיים. החקירה מפרטת כיצד פקיד אכיפת החוק השתמש בפלטפורמות של בינה מלאכותית כדי לתעד ולארגן הטרדות נגד מבקרי משטר שחיים מחוץ למדינה האסייתית. המקרה זכה לשמצה לאחר הגילוי שהכלי הטכנולוגי שימש בשוגג כיומן מבצעי, המתעד את צעד אחר צעד של פעולות בלתי חוקיות.
החשיפה התרחשה כאשר מערכות ניטור OpenAI זיהו דפוסי שימוש חריגים, תוך התאמה בין הערות שהוזנו בצ’אט לאירועי מעקב מקוונים אמיתיים. הפקיד הסיני השתמש בממשק כדי לסקור דוחות על פעולות סייבר, לערוך טקסטים תעמולה ולתכנן מתקפות הנדסה חברתית, והותיר שובל דיגיטלי שאפשר לו לפרק חלק מהתשתית של הרשת.
הרשויות זיהו כי הקמפיין גייס מאות סוכנים ואלפי חשבונות מזויפים ברשתות חברתיות שונות. המטרה המרכזית הייתה להשתיק מחלוקות בחו”ל באמצעות שיטות כפייה וקמפיינים של דיסאינפורמציה בקנה מידה תעשייתי, להדגים השקעה משמעותית במשאבים לשליטה בנרטיבים גלובליים.
אסטרטגיות טרור פסיכולוגיות ומסמכים מזויפים
בין הטקטיקות האגרסיביות ביותר שחשפה החקירה, בולטת ההתחזות לרשויות ההגירה של ארצות הברית. הסוכנים יצרו קשר עם מתנגדי משטר המתגוררים על אדמת אמריקה, ושלחו הודעות הונאה על הפרות משפטיות לכאורה. המטרה הייתה ליצור בהלה ולכפות שתיקת קורבנות מתוך חשש לגירוש או להליכים משפטיים.
בנוסף ללחץ הישיר, הרשת נקטה בזיוף מסמכים רשמיים. נמצאו רישומים של צווי בית משפט מדומים, שנועדו להיראות כאילו הוצאו על ידי בתי משפט אמריקאים, שנשלחו לפלטפורמות מדיה חברתית כדי לבקש הסרה של פרופילים ופוסטים ביקורתיים כלפי הממשלה הסינית. גישה זו נועדה לנצל את מנגנוני הציות של חברות טכנולוגיה כדי לצנזר תוכן לגיטימי.
שיטה מטרידה נוספת כללה יצירת מודעות אבל מזויפות. בשנת 2023 החלו להסתובב שמועות על מותם של פעילים באינטרנט, מלוות בתמונות מניפולציות של מצבות ואנדרטאות. הפתקים ששוחזרו מראים כי נעשה שימוש בבינה מלאכותית כדי ליצור טקסטים אלה ולתכנן את הפצת השמועות, במטרה מקאברית להכפיש את קולם של מתנגדים ולגרום סבל רגשי למשפחותיהם.
ניסיון התערבות בפוליטיקה היפנית
היקף המבצע לא הוגבל לארצות הברית או למתנגדי משטר בודדים. מסמכים שנותחו מצביעים על מאמץ מתואם להתערב בפוליטיקה הפנימית של יפן. מערכת הבינה המלאכותית התבקשה לפתח תוכנית מפורטת להשמיץ את ראש הממשלה סאנה טקאיצ’י זמן קצר לאחר השבעתה, תוך הדגשת השימוש בכלים אלה בסכסוכים גיאופוליטיים ברמה גבוהה.
למרות שהכלי OpenAI סירב להנחיות ראשוניות עקב מסנני אבטחה אתיים, ראיות מצביעות על כך שהקמפיין המשיך להשתמש באמצעים אחרים או במודלים של שפה מקומית. האשטאגים שליליים וביקורת על המדיניות הכלכלית של ראש הממשלה, בעיקר על מכסי סחר, הופצו בפורומים שבהם פוקדות קהילות ספציפיות, כמו גרפיקאים יפנים, בניסיון לעורר זעם עממי.
פעולות אלה מדגימות את הגמישות של מפעילים, אשר מתאימים את האסטרטגיות שלהם כאשר מחסומים טכנולוגיים מתעוררים. הניסיון לתמרן את דעת הקהל בדמוקרטיה שכנה מאותת על התרחבות בשאיפות של פעולות השפעה, המכוונות כעת לא רק ליחידים, אלא ליציבות הפוליטית של מדינות אסטרטגיות.
תפקיד הפלטפורמות בזיהוי איומים
הגילוי של רשת זו מדגיש את החשיבות של ניטור רציף של חברות המפתחות בינה מלאכותית. היכולת לקשר בין הנחיות קלט לפעילות חיצונית אפשרה ל-OpenAI לזהות את מקור ההתקפות ולאסור את החשבונות המעורבים. סוג זה של מעקב יזום חיוני כדי להפחית את השימוש הזדוני בטכנולוגיות מתפתחות על ידי גורמי מדינה.
השיטות העיקריות לזיהוי פעילות חשודה כוללות:
– ניתוח של דפוסי שפה חוזרים או מקוטבים בהנחיות;
– מעקב אחר כתובות IP ומטא נתונים הקשורים לסוכנויות ממשלתיות ידועות;
– הצלבה של נתונים פנימיים עם דוחות מודיעין איומים חיצוניים;
– ניטור ניסיונות לעקוף מסנני אבטחה וסירוב תוכן.
למרות התקדמות הגילוי, הפרק משמש אזהרה לגבי התמדה של סוכנים זדוניים. ההגירה למודלים של AI פחות מוסדרים או פיתוח של כלים קנייניים הם מגמות שנצפות כאשר פלטפורמות מערביות מטילות חסימות אפקטיביות.
אבולוציה של דיכוי חוצה לאומי
השילוב של כלי יצירת טקסט ותמונה בפעולות ריגול ודיכוי מסמן שלב חדש בלוחמה היברידית. אוטומציה מאפשרת לקמפיינים של דיסאינפורמציה לצבור היקף ומהירות, מה שהופך את המאבק באיומים אלה לאתגר מתמיד עבור ממשלות וחברה אזרחית. שימוש בבינה מלאכותית ליצירת תוכן אמין במספר שפות מוריד את חסמי הכניסה לפעולות השפעה גלובלית.
ארגוני זכויות אדם הזהירו מההשפעה ההרסנית של טקטיקות אלו על חייהם של גולים פוליטיים. התחושה שזרוע המדינה האוטוריטרית יכולה להגיע אליהם לכל מקום בעולם, בין אם באמצעות איומים דיגיטליים או מעקב פיזי, יוצרת סביבה של פחד מתמיד. עם זאת, החשיפה הציבורית של פעולות אלה מספקת תחמושת משפטית וטכנית לקורבנות לחפש הגנה ולפלטפורמות דיגיטליות לשיפור ההגנה שלהם.
התרחיש הנוכחי דורש שיתוף פעולה הדוק בין המגזר הפרטי, סוכנויות מודיעין וארגונים בינלאומיים. שקיפות לגבי אירועי אבטחה ושיתוף מידע על טקטיקות מתעוררות הם קריטיים לבניית חוסן קולקטיבי נגד ניצול לרעה של טכנולוגיה למטרות אוטוריטריות.
