על איזו שאלה אנחנו עונים?
האם ניתן להטעות את מערכת ה-AI או לגרום לה לפעול באופן מזיק? בדיקות Red Team בוחנות מה קורה כאשר מישהו מנסה במכוון לגרום למערכת לפעול בניגוד לייעודה.
למי זה מתאים?
לארגונים עם מערכות AI פעילות או לקראת השקה, הזקוקים לבדיקה של עמידות המערכת בפני שימוש לרעה מכוון.
מה כולל השירות?
הבדיקות כוללות תרחישים התקפיים לאורך המערכת כולה:
- הזרקת הנחיות וניסיונות עקיפת מגבלות בתצורה המדמה את סביבת הייצור
- ניצול לרעה של הרשאות לכלים כדי לגרום לסוכן לחרוג מתחום פעילותו
- ניסיונות להוציא מידע דרך המודל או החיבורים שלו
- ראיות ודיווח המתאימים להנהלה ולרגולטור, לצד ממצאים לצוות הטכני
תוצרים ותוצאות
- תמונת מצב של מה שתוקף נחוש עשוי להשיג
- ממצאים המתועדפים גם לפי השפעתם העסקית
- הנחיות תיקון מעשיות לצוות
- דוח המתאים לבדיקת דירקטוריון, לקוח או רגולטור
איך עובדים יחד?
הגדרת היקף
הגדרת מערכות ה-AI הנבדקות, כללי הפעולה וקריטריוני ההצלחה.
בדיקה התקפית
בחינת תרחישי שימוש לרעה והטעיה המתאימים למערכת.
דיווח
ממצאים מתועדפים, השפעה עסקית והנחיות תיקון.
היערכות לדרישות רגולציה
תהליכי הממשל מספקים גם תיעוד וראיות לצורך עמידה בדרישות הרגולציה.
תעשיות ושימושים
טכנולוגיה ו-SaaSשירותים פיננסייםביטוח
הניסיון שלנו
ניסיון במגוון ארגונים
50 לקוחות ארגוניים פעילים, יותר מ-100 לקוחות עסקיים קטנים ובינוניים ויותר מ-1,000 הערכות בשנה.
סקירה מקצועית
אסף לוי
מייסד-שותף ב-Cybecs וב-RedRok, מנהל תחום CISO וטכנולוגיה. לשעבר CISO באל על בשנים 2020 עד 2024.
שאלות נפוצות
במה השירות שונה מהערכת אבטחת מודלי שפה?
הערכת אבטחת LLM בוחנת סוגי חשיפה מוכרים בחיבורי המודל. Red Team כולל בדיקה התקפית פתוחה יותר של מה שתוקף יכול להשיג במערכת כולה.
האם נבדקים גם סוכנים?
כן. כאשר סוכנים נכללים במערכת הנבדקת, משלבים תרחישי שימוש לרעה הייחודיים להם.