כלי בינה מלאכותית יוצרת (GenAI) כמו ChatGPT כבר הפכו לחיוניים בארגונים ברחבי העולם. מנכ"לים מתלהבים במיוחד מהיכולת של GenAI לאפשר לעובדים "לעשות יותר בפחות". לפי הסקר העולמי של מקינזי על מצב הבינה המלאכותית ב-2024 , 65% מהארגונים כבר משתמשים בכלי GenAI באופן נרחב, וגרטנר צופה שמספר זה יעלה על 80% עד 2026.
בעוד שפלטפורמות GenAI עשויות להגדיל משמעותית את הפרודוקטיביות, הן גם מציגות סיכוני אבטחת סייבר חדשים שארגונים חייבים לטפל בהם. מאמר זה דן באיומים העיקריים שמציב GenAI וחושף כיצד למנוע דליפת נתונים באמצעות ChatGPT וצ'אטבוטים אחרים של GenAI.
איומי סייבר עיקריים שמציבים ChatGPT וכלי GenAI אחרים
האם ChatGPT מדליף את הנתונים שלך?
פלטפורמות AI גנרטיביות מאפשרות למשתמשים לנתח במהירות מערכי נתונים גדולים, לפתור בעיות בתוכנה, לתזמן פגישות, להפיק דוחות, ליצור תוכן רלוונטי ולבצע משימות שגרתיות אחרות.
מה מאפשר זאת? כלים כמו ChatGPT של OpenAI ו-Gemini של Google מבוססים על אימון מקדים נרחב על נתוני טקסט מגוונים, כוונון עדין עם דוגמאות ספציפיות ואלגוריתמים מתוחכמים, ובעזרתם הם מפיקים תשובות דמויות אנוש על סמך הקלט שהם מקבלים. במילים פשוטות, הקלט שלך עשוי לשמש כדי להשפיע על התשובות שהכלי ייתן למשתמשים אחרים.
אם אתה או העובדים שלך לא נזהרים, אתה יכול להזין מידע שמעמיד את החברה שלך בסיכון. זה עשוי לכלול מידע אישי מזהה, נתונים ארגוניים רגישים, מסמכים פיננסיים, מיילים, קובצי PDF ונכסים סודיים אחרים. לאובדן נתונים כאשר צ'אטבוט GenAI מעורב יש אפילו שם משלו: דליפת AI שיחתית (conversational AI leak).
דוגמה בולטת לדליפת AI שיחתית התרחשה באביב 2023 כאשר עובדי סמסונג הדליפו מבלי משים נתונים סודיים ביותר תוך כדי שימוש ב-ChatGPT כדי לסייע במשימות.
מה קרה
דליפת AI שיחתית בסמסונג
השורש וההשלכות
באביב 2023, מהנדסים מחטיבת המוליכים למחצה של סמסונג השתמשו בכלי GenAI כדי לבדוק קוד מקור סודי. הם הזינו את קוד המקור הקנייני לתוך ChatGPT, ובכך חולקים מידע רגיש עם הפלטפורמה. זה הביא לדליפת נתונים ולסיקור תקשורתי נרחב.
לקח נלמד
- לעולם אל תזין נתוני קניין רוחני בצ'אטבוטים!
כמעט מחצית מכל החברות ברחבי העולם משתמשות בכלי Microsoft כחלק ממבנה ניהול המידע שלהן. עם זאת, לא כולם מבינים ש-Copilot AI של מיקרוסופט יכול לגשת לנתוני חברה רגישים ממקורות כמו צ'אטים של Teams של חברה, אפליקציות Microsoft 365, אתרי SharePoint ואחסון ב-OneDrive. Copilot AI בתורו מנתח את כל הנתונים הללו כדי ליצור תוכן חדש אך ורק עבור אותה חברה מסוימת.
ובכל זאת, כמו כל תוכנה אחרת, לכלי GenAI יכולים להיות פגיעויות שעלולות לגרום לגישה לא מורשית לנתונים או למערכות. דליפת נתונים אחת כזו התרחשה עם ChatGPT בשנת 2023.
מה קרה
באג בספריית הקוד הפתוח redis-py שבה משתמש ChatGPT
השורש וההשלכות
ב-20 במרץ 2023 גרם באג בספריית הקוד הפתוח redis-py, ש-ChatGPT משתמשת בה, לכך שחלק מהמשתמשים הפעילים יכלו לראות כותרות של שיחות מהיסטוריית הצ'אט של משתמשים אחרים. בנוסף, אצל כ-1.2% ממנויי ChatGPT Plus שהיו פעילים בחלון של תשע שעות, ייתכן שנחשפו למשתמש אחר חלק מפרטי התשלום: שם, כתובת דוא"ל, כתובת לחיוב, סוג הכרטיס, ארבע הספרות האחרונות שלו ותוקפו. מספרי כרטיס מלאים לא נחשפו.
לקח נלמד
- גם ספקי AI גדולים חשופים לתקלות ולפגיעויות ברכיבי צד שלישי, ולכן כל מידע שמוזן לצ'אטבוט עלול להיחשף.
- הגבל את הגישה לנתונים רגישים בתוך המערכות שלך כדי למנוע חשיפה מקרית של מידע קריטי.
עבור ארגונים, דליפות AI שיחתיות יכולות לגרום להשלכות שליליות רבות.
השלכות שליליות של דליפת נתונים באמצעות שירותי GenAI
דליפת נתונים באמצעות צ'אטבוטים יכולה להוביל לתוצאות שליליות רבות, הנפוצות שבהן הן כדלקמן:
- אובדן קניין רוחני. דליפה של מידע קנייני או סודות מסחריים עלולה לגרום לאובדן יתרון תחרותי, נוכחות מופחתת בשוק ואובדן הכנסות. בנוסף, יריבים עשויים לקבל גישה לנכסים היקרים שלך ולהשתמש בטכנולוגיות שלך לטובתם.
- הפרעה תפעולית . טיפול והפחתה של פרצת נתונים יכולים לשבש באופן משמעותי את הפעילות העסקית, מה שללא ספק מוביל להשבתה ולירידה בפריון הכללי. ארגונים עשויים למצוא צורך להפנות משאבים משמעותיים לחקירה ולתיקון הפרצה, כמו גם ליישום אמצעי אבטחה חזקים יותר.
- פגיעה במוניטין. לקוחות ושותפים עלולים לאבד את האמון בחברה שסובלת מדליפת נתונים, שבהחלט תגרום למוניטין פגום. בנוסף, פרסום שלילי וסיקור תקשורתי עלולים להכתים את תדמית המותג.
- הפרות ציות. אי הגנה נאותה על הנתונים עלול להוביל להשלכות רגולטוריות ומשפטיות. גופים רגולטוריים בטוחים שיטילו סנקציות או פעולות משפטיות אחרות נגד ארגון בגין אי ציות לחוקים ולתקנות הגנת מידע, כגון GDPR, HIPAA, PCI DSS, CCPA, FCRA, EU AI Act ואחרים. בנוסף, צדדים מושפעים עשויים להגיש תביעות משפטיות נגד הארגון בגין אי הגנה נאותה על הנתונים שלהם.
- הפסדים כספיים . אי ציות לתקנות הגנת מידע עלול לגרום לקנסות ועונשים משמעותיים לארגונים. כמו כן, ארגונים יכולים להתמודד עם השפעה כספית ישירה עקב אובדן קניין רוחני, אחריות, הונאה, גניבה וכו'.
- רגישות להתקפות סייבר. כל פרצת מידע יכולה להפוך ארגון למטרה להתקפות סייבר עתידיות, מכיוון ששחקנים רעים עלולים לתפוס אותה כפגיעה. ניתן להשתמש בנתונים שדלפו להתקפות Credential Stuffing, שכתוצאה מכך גורמות לגישה לא מורשית למערכות שלך. פושעי סייבר יכולים גם להשתמש בנתונים שדלפו כדי ליצור התקפות פישינג משכנעות יותר על העובדים שלך.
ארגונים יכולים להגן על עצמם טוב יותר מפני דליפת נתונים דרך ChatGPT על ידי הבנת הסיכונים הללו ויישום נוהלי אבטחה חזקים.
7 שיטות עבודה מובילות למניעת דליפת נתונים באמצעות כלי GenAI
כיצד למנוע דליפת נתונים באמצעות ChatGPT ושירותי GenAI אחרים?
השיטות המומלצות הבאות יכולות לעזור לך לרתום את היתרונות של שימוש בצ'אטבוטים של GenAI תוך הגנה על הנתונים הרגישים של הארגון שלך מפני דליפות פוטנציאליות.
1. צור מדיניות חזקה לשימוש GenAI
קביעת מדיניות ברורה ומקיפה לשימוש ב-GenAI היא חיונית. לשם כך, עליך להגדיר ולתעד מה נחשב "שימוש מותר" בכלי GenAI. כאשר מביאים את הנושא לידיעת ההנהלה, עליך:
- ציין אילו מחלקות או תפקידים מורשים להשתמש בשירותי GenAI.
- תאר מקרי שימוש מקובלים ובלתי מקובלים.
- החלט אם העובדים שלך יכולים להשתמש בחשבונות GenAI האישיים שלהם למטרות עבודה. אם לא, ייתכן שתצטרך ליצור חשבונות GenAI ארגוניים המוגנים בסיסמאות חזקות.
עליך גם להגדיר תהליכים ברורים כיצד תפקח על הציות למדיניות שלך ותחליט לגבי ההשלכות של הפרות אפשריות. קביעת נהלים לביקורת ועדכוני מדיניות קבועים היא חיונית גם כן.
2. הגדר אילו סוגי נתונים אסור להעלות לשירותי GenAI
כדי למנוע דליפת נתונים סודיים דרך ChatGPT וכלי GenAI אחרים, כתוב מדיניות ברורה שמתארת אילו נתונים מוגבלים להעלאה לצ'אטבוטים. זהה ותקשר סוגי נתונים רגישים שלעולם לא כדאי לעובדים שלך לשתף עם ChatGPT וכלי GenAI אחרים. סוגי נתונים אלה יכולים לכלול:
- מידע אישי מזהה (PII) – מספרי תעודת זהות, כתובות, מספרי טלפון, כתובות דוא"ל, שמות משתמש, סיסמאות וכל מידע אחר על העובדים והלקוחות שלך שיכול לזהות אותם.
- מידע בריאותי מוגן (PHI) – רשומות רפואיות, פרטי ביטוח בריאות ומידע אחר הקשור למצב בריאותי או לטיפול רפואי.
- מידע פיננסי – מספרי חשבון בנק, פרטי כרטיסי אשראי, דוחות כספיים ורשומות פיננסיות רגישות אחרות.
- מידע עסקי קנייני – סודות מסחריים, קוד קנייני, עבודות יצירתיות, תוכניות אסטרטגיות ומידע תאגידי סודי אחר.
שימו לב שאלו רק כמה דוגמאות למידע קריטי שאסור לחשוף. סווג את הנתונים לפי רמת הרגישות שלהם (למשל ציבורי, פנימי, סודי, מוגבל). כמו כן, ייתכן שתפנה לחוקים כמו GDPR, HIPAA או PCI DSS המגדירים קטגוריות ספציפיות של נתונים רגישים.
3. בצע הדרכה שוטפת למודעות אבטחה
שתף את כל המדיניות הזו עם העובדים שלך וחנך אותם כיצד למנוע דליפות נתונים בעת שימוש ב-ChatGPT. ספק הנחיות ליצירה ותחזוקה של חשבונות מאובטחים לשימוש בכלי GenAI, תוך שימת דגש על החשיבות של שימוש בחשבונות ארגוניים ולא בחשבונות אישיים בכל הזדמנות אפשרית. אם העובדים עדיין משתמשים בחשבונות שירות אישיים עבור צ'אטבוטים של GenAI, למד אותם כיצד לאבטח חשבונות אלה באמצעות סיסמאות חזקות וכניסה יחידה (SSO).
הדגש כי אי עמידה במדיניות זו עלולה לגרום לפעולות משמעתיות, כולל גישה מוגבלת לכלי בינה מלאכותית, אזהרות רשמיות ואפילו סיום במקרים חמורים.
דברו על הטקטיקות שבהן משתמשים פושעי סייבר כדי להערים על אנשים לספק מידע רגיש. למד את העובדים שלך על אתרי הונאת GenAI והתקפות דיוג הכוללות שירותי GenAI. עודדו עובדים לדווח מיידית למחלקת ה-IT שלכם אם כלי GenAI מבקשים מידע רגיש בכוונה.
4. לאכוף אמצעי אבטחת מידע
הטמע אמצעי אבטחת נתונים חזקים, כגון הצפנת נתונים רגישים והקמת נהלי אימות משתמשים קפדניים, כולל אימות רב-גורמי.
עם זאת, אל תתעלם מכלי אבטחה מסורתיים. פרוס מערכות לניהול מידע ואירועי אבטחה (SIEM) ומערכות למניעת אובדן נתונים (DLP) כדי להגן על הארגון שלך מפני גישה לא מורשית, פרצות נתונים והתקפות הזרקה.
בדוק באופן קבוע את מערכות אבטחת הנתונים שלך כדי לזהות ולטפל בפרצות פוטנציאליות. זה גם קריטי שתהיה לך תוכנית תגובה לאירועים כדי לטפל במהירות וביעילות בכל פרצות מידע.
5. פעל לפי הנחיות אבטחת סייבר רלוונטיות
עיין במסגרות אבטחת הסייבר הרלוונטיות המסדירות שימוש בבינה מלאכותית וספק הנחיות כיצד לאבטח את המערכות שלך תוך כדי שימוש בכלי בינה מלאכותית. אתה יכול לבחור לדבוק ב:
- התוכנית למגילת זכויות בינה מלאכותית (Blueprint for an AI Bill of Rights). זוהי מסגרת שפרסם ב-2022 משרד הבית הלבן למדיניות מדע וטכנולוגיה, כדי להנחות פיתוח ופריסה של מערכות בינה מלאכותית באופן שמגן על הזכויות והחירויות של אנשים. היא אינה מסדירה את השימוש ב-AI באופן ישיר כמו חקיקה או תקנות, אבל מספקת סט עקרונות לשימוש אתי ואחראי בטכנולוגיות AI.
- AI Risk Management Framework (AI RMF) מאת NIST [PDF]. NIST פרסמה מסגרת מקיפה שעוזרת לארגונים לנהל את הסיכונים הקשורים לפלטפורמות AI. ביולי 2024 פרסמה NIST גם את AI RMF: Generative AI Profile [PDF], שעוזר לארגונים לזהות סיכונים ייחודיים ל-GenAI. שתי המסגרות נועדו לשפר את השקיפות והאחריותיות בארגונים שמשתמשים בטכנולוגיות AI, ולהבטיח שכלי AI יופעלו באחריות.
- EU AI Act. חוק הבינה המלאכותית של האיחוד האירופי עוסק בניהול סיכונים, ממשל נתונים, תיעוד טכני, שמירת רשומות, שקיפות, פיקוח אנושי, דיוק, עמידות ואבטחת סייבר. לפי החוק, מערכות AI בסיכון גבוה חייבות לשמור על רמת אבטחת סייבר הולמת לאורך כל מחזור חייהן, וספקים של מודלי AI כלליים בעלי סיכון מערכתי כפופים לחובות בטיחות ואבטחה נוספות. לכן כדאי לארגונים למפות את מערכות ה-AI שלהם, לקבוע אם הם ספקים או מפעילים, לסווג את תרחישי השימוש ולזהות אילו דרישות חלות עליהם.
6. הגבל גישה לנתונים רגישים
הגן על הנתונים הרגישים שלך והענק גישה רק למי שזקוק לה. על ידי צמצום הגישה למשאבים הקריטיים שלך ואימות מתמשך של בקשות גישה, אתה יכול להפחית משמעותית את הסיכון לדליפה של נתונים סודיים דרך ChatGPT ופלטפורמות GenAI אחרות.
שקול לאמץ את גישת אפס האמון ואת עקרון ההרשאות המינימליות כדי למזער נקודות גישה ולמנוע פרצות נתונים, בין אם בשוגג ובין אם בכוונה.
7. ליישם ניטור רציף
פרוס כלי ניטור כדי לקבל נראות לשימוש ב-GenAI ולנתונים המשתמשים מכניסים אליו. באופן אידיאלי, כלי הניטור שלך אמור להיות מסוגל לשלוח התראות אוטומטיות על כל פעילות חריגה כדי לעזור לך לזהות ולהגיב לאירועי אבטחה באופן מיידי.
על ידי ביצוע שיטות עבודה מומלצות אלה, ארגונים יכולים למזער את הסיכון לדליפות נתונים דרך ChatGPT תוך מינוף היתרונות של שירותי GenAI.
כיצד יכולה Syteca לסייע במניעת דליפת נתונים באמצעות כלי GenAI?
Syteca יכולה לעזור לארגון שלך להפיק את המרב מהיכולות של GenAI מבלי להסתכן באבטחת מידע.
Syteca היא פלטפורמה רבת עוצמה לניהול סיכוני פנים, המספקת יכולות ניטור וניהול גישה מתקדמות למניעת דליפת נתונים דרך ChatGPT.
הנה כמה מהתכונות העיקריות שיכולות לעזור לך להגן על הנתונים הרגישים שלך:
ניטור פעילות משתמש מקיף
Syteca מנטרת ומתעדת סשנים של משתמשים בנקודות קצה שונות, כולל שולחנות עבודה, שרתים וסביבות וירטואליות. זה כולל לכידת כל הפעילויות על המסך, מה שיכול לעזור לך להציג אינטראקציות עם צ'אטבוטים של AI.
שימו לב ש-Syteca רושמת פעולות בלוח הגזירים (clipboard), דבר חיוני לזיהוי ניסיונות דליפת נתונים פוטנציאליים שבהם מידע רגיש עשוי להיות מועתק ומודבק בצ'אטבוטים של AI. מלבד פעולות לוח הגזירים, אתה יכול לעקוב אחר:
- פעולות העלאת קבצים
- הקשות
- פעולות בלוח הגזירים
- התקני USB מחוברים
- אפליקציות שהופעלו
- כתובות URL שביקרו בהן
- פקודות שבוצעו (Linux)
התרעה ותגובה לאירועים
אפשר להגדיר ב-Syteca התראות על כניסה לכתובות כמו chatgpt.com, chat.openai.com ו-platform.openai.com, ולכל אתר GenAI אחר שתגדירו בממשק הניהול. אפשר גם להגדיר התראות על מילות מפתח מסוימות, העלאות קבצים, פעולות בלוח הגזירים, שימוש באפליקציות ופעולות חשודות אחרות.
ברגע שתקבל התראה כזו, תוכל:
- לצפות בסשנים של משתמשים בזמן אמת כדי לראות כיצד עובדים משתמשים בכלי AI ואילו נתונים הם מזינים לצ'אטבוטים.
- לשלוח הודעת אזהרה למשתמש כדי ליידע אותו שהוא מפר את הנחיות הטיפול בנתונים של הארגון.
- לחסום את המשתמש או לסגור מיד את האפליקציה אם הפעולות שלו זדוניות או מזיקות (חסימת משתמש זמינה ב-Windows, וסגירת אפליקציה ב-Windows וב-macOS).
ביקורת ודיווח
Syteca יכולה לעזור לארגון שלך לציית לתקנות הגנת נתונים כמו GDPR, HIPAA ו-PCI DSS על ידי אספקת יומנים מפורטים ומסלולי ביקורת של כל פעילויות המשתמש. בסך הכול, Syteca מציעה יותר מ-20 סוגים של דוחות ברירת מחדל ודוחות מותאמים אישית.
עבור ביקורות אבטחה וחקירות תקריות, הפלטפורמה מספקת תיעוד מפורט של סשנים לצורך חקירה פורנזית, תוך לכידת כל הפעילויות והאירועים הרלוונטיים במהלך סשן המשתמש. כך, אתה יכול לעקוב אחר השלבים שהובילו לדליפת נתונים, לזהות פעילויות מסוכנות וליישם אמצעים למניעת תקריות נוספות.
ניהול גישה
עם Syteca, אתה יכול לאכוף מדיניות בקרת גישה קפדנית, ולהבטיח שרק המשתמשים הנכונים יוכלו לגשת לנתונים הרגישים שלך. הפלטפורמה מאפשרת לך:
- הטמע בקרות גישה פרטניות כדי לציין מי יכול לגשת לאילו נתונים ובאילו נסיבות.
- הענק הרשאות מוגבלות בזמן למשתמשים ספציפיים לפי בקשה ובטל הרשאות אלה מיד לאחר השימוש.
- הגבל גישה לנתונים רגישים בהתבסס על ההקשר, כגון תפקיד המשתמש או השעה ביום.
הפלטפורמה גם מאפשרת לך להגדיר אימות דו-גורמי (2FA) להגנה נוספת על חשבונות ארגוניים.
אינטגרציה עם פתרונות אבטחה אחרים
Syteca משתלבת בצורה חלקה עם סוגים אחרים של פתרונות אבטחה כדי לספק מערכת אקולוגית אבטחה מקיפה:
- SIEM. הפלטפורמה משתלבת עם מערכות לניהול מידע ואירועי אבטחה (SIEM), שאוספות נתונים ממקורות רבים ומספקות תמונה אחידה של אירועי האבטחה.
- מערכות קריאות שירות (Ticketing). Syteca משתלבת בתהליכי קריאות שירות, כך שאפשר לאמת בקשות גישה מול קריאות שאושרו.
מסקנה
ככל שכלי GenAI ממשיכים להתפתח, חיוני להישאר פרואקטיבי ועירני במאמצי הגנת מידע. על ידי יישום שבע השיטות המומלצות שנדונו במאמר זה, תוכל להפחית ביעילות את הסיכון הנשקף מ-GenAI ולהגן על המידע הרגיש שלך.
Syteca יכולה להשלים את הפרקטיקות הללו באמצעות ניטור פעילות משתמשים, התראות ותגובה בזמן אמת ויכולות ניהול גישה מקיפות.
