הדגמה: כיצד אפשר לרתום את יעילותו של ChatGPT לשיפור אבטחת המידע?
מאת: מערכת Telecom News, 16.3.23, 16:32

הצ'טבוט מבוסס AI יכול לסייע לצוותי הזיהוי והתגובה המורחבים (XDR) לנתח ביעילות כמויות מידע עצומות מתוכנות אבטחה ולאתר פעילות זדונית באמצעות הוראות בשפה טבעית, לשפר מסנני דואר זבל אלקטרוני ולפשט את תהליך הניתוח של קבצים בינאריים המשמשים לביצוע מתקפות בשיטת Living Off the Land.

סופוס (Sophos), חברת אבטחת מידע וסייבר וספקית פתרונות אבטחת סייבר כשירות, פרסמה היום ממצאי מחקר המדגים כיצד יכולה קהילת אבטחת המידע לרתום את מודל השפה GPT-3 - שעליו בנוי הצ'טבוט ChatGPT, שזכה בחודשים האחרונים לתהודה רחבה בתקשורת ועניין רב מצד הציבור - כדי לשפר את רמת האבטחה ולבלום מתקפות סייבר.
 
במחקר Applying AI Language Processing to Cyber Defenses מתואר פרויקט בהובלת צוות Sophos X-Ops, שבו פותחו כלים המשתמשים במודלי השפה הענקיים של GPT-3 לניתוח כמויות גדולות של מידע ואיתור פעילות זדונית תוך שימוש בשפה טבעית, שיפור יעילותו של מסנן דואר זבל אלקטרוני וקיצור תהליך הניתוח של קבצים בינאריים המשמשים במתקפות בשיטת Living Off the Land (LOLBin).
 
 
חוקרי Sophos X-Ops, ובהם יאנגהו לי (Younghoo Lee), מדען הנתונים הראשי של חטיבת SophosAI, פיתחו 3 אבות טיפוס, שמדגימים כיצד יכולה לרתום קהילת הסייבר את כוחו של מודל השפה GPT-3 לשיפור רמת האבטחה ובלימת מתקפות סייבר. כל 3 אבות הטיפוס אומנו בשיטת Few-shot learning (למידה ממספר קטן של דוגמאות) המקטינה את כמות הדוגמאות המתויגות הנדרשת לאימון מודל הבינה המלאכותית.
 
היישום הראשון, שפיתחה החברה בשיטת Few-shot learning הוא ממשק שאילתה בשפה טבעית המשמש לניתוח כמויות המידע העצומות הנאספות מתוכנות האבטחה השונות וזיהוי פעילות זדונית, ובפרט בדקה את יעילותו של המודל החדש במוצר זיהוי ותגובה המיועד לאבטחת נקודות קצה. עיקר כוחו של הכלי החדש הוא ביכולתו לסייע למומחי הסייבר לנתח במהירות כמויות מידע עצומות ע"י הקלדת הוראות בשפה טבעית גם מבלי לשלוט בשפת המחשב SQL או אפילו לדעת מהו מבנה מסד הנתונים שבו מרוכזים הנתונים.
 
בשלב הבא, חקרה החברה מסנן דואר זבל אלקטרוני (ספאם) על בסיס ChatGPT ומודל השפה GPT-3 ומצאה, שהוא יעיל יותר משמעותית לעומת מסננים על בסיס מודלים אחרים של למידת מכונה.

לסיום, הצליחו החוקרים של החברה לפתח תוכנית מחשב, שמקצרת ומייעלת את תהליך ההנדוס לאחור של קבצים בינאריים המשמשים למתקפות LOLBins שנחשב תמיד לארוך, קשה ומסובך, אבל הכרחי להבנת התנהגותן ואופן ביצוען של מתקפות Living Off the Land והמפתח לבלימתן בעתיד.
 
שון גלאגר, חוקר איומים ראשי בסופוס: "מאז שחברת OpenAI השיקה את ChatGPT בנובמבר 2022, עיקר תשומת הלב של קהילת הסייבר הופנתה לסיכונים האפשריים, שמביאה איתה הטכנולוגיה החדשה, ובראשם השאלה האם תוקפים לא מיומנים ובעלי יכולות טכנולוגיות מוגבלות יוכלו להיעזר בבינה מלאכותית כדי לכתוב קוד זדוני או הודעות דיוג משכנעות יותר?
 
גם אם התשובה לשאלה הזאת היא חיובית, מאז ומתמיד ראתה החברה בבינה מלאכותית קודם כל בת ברית של קהילת אבטחת המידע ולא יריב ולכן אימצה אותה במהירות לשורותיה, השתמשה בה לשיפור מוצריה וכך גם הפעם עם מודל השפה GPT-3. קהילת הסייבר צריכה להתייחס לא רק לסיכונים האפשריים אלא גם לתועלת וליכולות החדשות, שמביא איתו מודל השפה GPT-3.
 
אחת מהדאגות הגוברות של מרכזי תפעול אבטחה (SOC) היא כמות הרעש שרק ממשיכה לגדול. לארגונים רבים משאבים מוגבלים והם פשוט כורעים תחת עומס ההתראות. הדגמנו, שבעזרת מודל שפה כמו GPT-3 אפשר להפוך חלק מהתהליכים המורכבים והארוכים האלה לפשוטים יותר וכך להחזיר את השליטה לצוותי הסייבר ולסייע להם להתמודד טוב יותר עם האיומים. אנו מאמינים, שבעתיד יכול להפוך מודל השפה GPT-3 לחלק בלתי נפרד מארגז הכלים של מומחי הסייבר".