האם עולם הסייבר צריך להתכונן למתקפות מבוססות AI על תשתיות קריטיות?
מאת: מערכת Telecom News, 4.7.23, 11:57
 
האם הפריצות יכולות להפוך לקלות יותר? מהם 3 התחומים בהם מודלי שפה עלולים לסייע להאקרים? ועל הקרב בין תשתיות קריטיות ובין בינה מלאכותית - חקיקה חדשה.
 
עם העלייה ההולכת וגדלה בחשיבותה של הבינה המלאכותית (AI), אנשים משקיעים מאמצים אדירים לאיתור דרכים בהן הבינה המלאכותית תוכל לשמש אותם ולתמוך במאמציהם, ממש כפי שחברות עושות בימים אלה. בתחום אבטחת הסייבר, בינה מלאכותית יכולה לשמש ככלי מועיל אך גם ככלי מזיק – היא יכולה לסייע ביצירת כלי הגנת סייבר טובים יותר, אך גם בעקיפה של אותן ההגנות.

אחד החששות העיקריים הוא עלייה בכמות של מתקפות סייבר על תשתיות קריטיות. בתחום התשתיות הקריטיות, כמו יצירת ואספקת חשמל, בתי חולים, מרכזים רפואיים ושרשרת האספקה העולמית, ניתן לכלול גם שרשראות אספקה דיגיטליות ואת האינטרנט עצמו. התשתיות הקריטיות הן כל המערכות, הרשתות והנכסים החיוניים לתפקודה של אומה (על פי הצרכים, המשאבים ורמת ההתפתחות שלה). כך, שהמשכיות הפעילות שלהם נחוצה כדי להבטיח את שימור הביטחון, הכלכלה ובריאות או ביטחון הציבור של המדינה.

הרעיון הכללי, שעומד מאחורי תקיפה, הוא פגיעה בפעילות העסקית היומיומית. כך, שכלי AI אפקטיבי עשוי, באופן היפותטי, לסייע לגורמים זדוניים לבצע מתקפות או להגדיל את מאגר התוקפים הפוטנציאליים באמצעות הפיכת כתיבת הקוד של הנוזקה למטלה קלה יותר. עם זאת, לא כולם חושבים שזה נכון.

תפקידה של הבינה המלאכותית - האם פריצות יכולות להפוך לקלות יותר?
על פי ראיון, שבוצע עם קמרון קאמפ, אחד מחוקרי האבטחה של ESET, אנו עדיין די רחוקים מ״נוזקה שנוצרה במלואה ע״י AI״, אף על פי ש-ChatGPT עושה עבודה די טובה בהצעה של קוד, ויוצר דוגמאות וקטעי קוד, מאתר תקלות בהם, משפר אותם ואף כותב תיעוד לקטעי הקוד האלה באופן אוטומטי.

הוא הסכים, ש-ChatGPT יכול לשמש ככלי סיוע למפתחים, ולכן יוכל לסייע בשלב הראשון של יצירת נוזקה, אך זה עדיין רחוק - מכיוון שכרגע השירות לא נותן תוצאות ״עמוקות״ מספיק, מבצע טעויות, מוסר תשובות לא-מדויקות ואינו אמין במיוחד למטלות רציניות.

עם זאת, קאמפ ציין 3 תחומים, שבהם מודלי שפה עלולים לסייע:
מתקפות פישינג משכנעות יותר - החל מאיסוף מידע מכמות גדולה יותר של מקורות נתונים ועד שילוב ביניהם כדי ליצור הודעות דוא״ל מותאמת אישית, שבהן יהיה קשה יותר לזהות סימנים לכוונות זדוניות. נראה, שלמשתמשים יהיה הרבה יותר קשה להימנע ממתקפות הנדסה חברתית. בנוסף, כיום אנשים יכולים לזהות הודעות פישינג באמצעות שגיאות שפה ברורות, אך להודעות, שתיווצרנה ע״י בינה מלאכותית, יהיה תחביר משכנע יותר.

מתקפות פישינג מכוון (Spear Phishing) עלולות להיות אפילו יותר משכנעות ולהגיע כהודעות דוא״ל או אסמס המותאמות באופן אישי לקורבן ועלולות לכלול טריגרים רגשיים אישיים - כשיצירה של הודעות כאלו תהיה קלה יותר הודות לעזרה של הבינה המלאכותית. עם העלייה הצפויה של כלים ליצירת מלל בשפות שונות, יהיה קל יותר לפעול בשיטות כאלו וההיקף שלהן יגדל. כך, שתקיפה של תשתיות קריטיות במספר מדינות במקביל תוכל לתת תוצאות משמעותיות לתוקפים.
​
אוטומציה של משא ומתן על כופר - כמעט ואי אפשר למצוא מפעילי כופרות עם לשון חלקלקה, אך עם קצת עזרה בנושא התקשורת הבין-אישית מצד ChatGPT, העומס על התוקפים יכול לרדת באמצעות הפיכת המשא ומתן לבעל חזות לגיטימית יותר. כך למעשה התוקפים יעשו פחות טעויות, מה שיקשה על המגינים לזהות את השמות והמיקומים של מפעילי הכופרה.  

בנוסף, עם ההפיכה של יצירת קטעי וידאו ודיבור לפשוטה יותר באמצעות AI, הגורמים הזדוניים יכולים להתחזות לכל אדם ולהסוות את זהותם האמיתית באופן יעיל יותר. למעשה, החששות בנוגע לבינה מלאכותית הגיעו לתפוצה רחבה כל כך, עד כדי שמומחים רבים בתחום הזה מעוניינים לקבוע תנאים בחוזה שלהם שיאסרו שימוש ביצירות שלהם למטרות AI.

הונאות טלפוניות איכותיות יותר - עם ההפיכה של יצירת שפה טבעית לפשוטה יותר, תוקפים יוכלו להישמע כאילו הם מתגוררים באזור שלכם או שהם רוצים בטובתכם. זהו אחד מהשלבים הראשונים בהונאה: דיבור באופן בטוח בעצמו כך שהתוקף יישמע כאילו הוא ״משלכם״.  

כל עוד התוקפים יצליחו לגרום לקולו של אדם להישמע טבעי, הם יוכלו לשטות בקורבנות שלהם בקלות. אך נכון להיום, הבעיה בתוכן, שנוצר בבינה מלאכותית, היא שהוא מרגיש מלאכותי, כלומר - אף על פי שהקולות, הסרטונים או הטקסט נראים לגיטימיים, עדיין יש בהם טעויות או בעיות ספציפיות פשוטות לזיהוי, וניתן לראות זאת באופן שבו ChatGPT טוען טענות שגויות או מגיב באופן הנראה כמו סיכום של דף מוויקיפדיה.

עם זאת, למרות כל החסרונות של בינה מלאכותית יוצרת, ניתן להשתמש בה לסיעור מוחות כדי ליצור בסיס לעבודה מסוימת, אף על פי שעדיין יש לבדוק את נכונותו של המידע שנמסר למשתמש בכלי כזה.
 
הקרב בין תשתיות קריטיות ובין בינה מלאכותית - חקיקה חדשה
בינה מלאכותית מתחילה למלא חלק חשוב יותר ויותר באבטחת סייבר, ולכן עסקים וממשלות יצטרכו להתאים את עצמם לכלי AI ולהשתמש בהם, מכיוון שפושעי סייבר יעשו בדיוק את אותו הדבר. על פי דו"ח שפורסם ביולי 2022 ע״י Acumen Research and Consulting, שוק הבינה המלאכותית עמד על 14.9 מיליארד דולרים ב-2021, וצפוי להגיע להיקף של 133.8 מיליארד דולרים עד 2030.

הודות לשימוש ההולך וגובר ב״אינטרנט של הדברים״ (IoT) ומכשירים מקושרים אחרים, שירותי אבטחה מבוססי-ענן יוכלו לספק הזדמנויות חדשות לשימוש ב-AI. מערכות אנטי-וירוס, הגנה מפני אובדן נתונים, זיהוי הונאות, ניהול זהויות וגישה, זיהוי ומניעת פריצות וניהול סיכונים וציות (Compliance) משתמשות כבר היום בכלים כמו למידת מכונה כדי ליצור הגנה עמידה יותר.

מהצד השני של המטבע, גם גורמים זדוניים עלולים להשתמש בבינה מלאכותית לתועלתם. ההיצע הגדול מאוד של כלי AI חכמים מאפשר לפושעי סייבר להשתמש בהם כדי לזהות תבניות במערכות מחשבים שתחשופנה נקודות חולשה בתוכנות או בכלי אבטחה וכך תוכלנה לאפשר להם לנצל לרעה את נקודות החולשה החדשות שנחשפו.

אם כן, נראה, שתשתיות קריטיות עלולות להפוך לאחת מהמטרות של מתקפות סייבר מבוססות AI. במצב בו בינה מלאכותית תוקפת אותן ומגינה עליהן, ייווצר מצב של ״תיקו״ בו גורמי אבטחה וממשלות יצטרכו לנהוג באופן חכם יותר.

כבר עכשיו האיחוד האירופי מנסה להעריך את הסיכונים באמצעות חקיקת חוק הבינה המלאכותית של האיחוד האירופי (EU AI Act), כדי לפקח על השימוש בו באירופה ולסווג כלי AI שונים על פי מידת הסיכון הנשקפת מהם, במדד, שנע בין ״נמוך״ ל״לא מתקבל על הדעת״. מחויבויות שונות תוטלנה על ממשלות וחברות שתשתמשנה בכלים האלה, כתלות במידת הסיכון של כל אחד מהם.

חלק מכלי ה-AI האלה עשויים להיות מוגדרים ככלים ברמת סיכון גבוה, כמו אלה שמשמשים בתשתיות קריטיות. ככל הנראה, הגופים, שמשתמשים בכלי AI מסוכנים כמו אלה, יחויבו לעמוד בהערכות סיכונים מקיפות, לתעד את הפעילויות שלהם ולהפוך את נתוניהם לזמינים עבור בחינה של הרשויות. אם חברה מסוימת אינה עומדת בחוקים, הקנס, שיוטל עליה צפוי לעמוד על כ-30 מיליון יורו או עד ל-6% מגובה הרווחים הגלובלי שלהם.
 
 עדכון 17.1.24: מחקר חדש של חברת CB-Insights בנושא: Generative AI Bible יש כאן.