רגולציה אירופית: בינה מלאכותית
תקנת האיחוד האירופי 2024/1689תחולה מדורגת לפי סוג המערכת והחובה

חוק ה-AI האירופי

הסבר בקצרה

חוק ה-AI האירופי מסדיר מערכות בינה מלאכותית לפי סיכון ותפקיד הארגון בשרשרת הערך. הוא כולל שימושים אסורים, דרישות למערכות בסיכון גבוה וחובות שקיפות. גם ספקים מחוץ לאיחוד עשויים להיכלל בתחולה. מועדי היישום משתנים לפי סוג החובה והמערכת.

פעילות מחוץ לאיחוד אינה שוללת תחולה; יש לבחון היכן המערכת משווקת או מופעלת והיכן נעשה שימוש בפלט שלה.

על מי חלות הדרישות?

ארגונים המספקים או מפעילים מערכות AI הקשורות לשוק האירופי, בהתאם לתפקידם, לשימוש במערכת ולסיווג הסיכון.

דרישות מרכזיות

סיווג המערכת ובחינת החובות החלות. במערכות בסיכון גבוה נדרשים בין היתר ניהול סיכונים, ממשל מידע, תיעוד טכני, פיקוח אנושי ובחינת התאמה.

משמעויות לאבטחת מידע ולפרטיות

הארכיטקטורה, התיעוד ונקודות האישור האנושי צריכים לתמוך גם בבדיקת עמידה בדרישות החלות.

שיטת ההערכה

מיפוי מערכות ותפקידים, סיווג לפי החוק, סקר פערים ותוכנית היערכות לפי מועדי התחולה העדכניים.

שלבי היישום

01
סיווג

מיפוי מערכות AI וסיווגן לפי דרגות הסיכון הרלוונטיות.

02
תיקון פערים

הקמת תהליכי ניהול סיכונים, תיעוד ופיקוח אנושי בהתאם לחובות החלות.

03
תחזוקה ושיפור

בחינה חוזרת של ההתאמה כאשר המערכות או הדרישות משתנות.

דרישות ראיות ותיעוד

תיעוד הסיווג, מסמכים טכניים, תהליכי פיקוח אנושי ורישומי בחינת התאמה כאשר נדרשים.

טעויות נפוצות

סיווג מערכת כבעלת סיכון נמוך ללא תיעוד והתייחסות לכל החובות כאילו הן חלות באותו מועד.

תקנים ומסגרות קשורים

סקירה מקצועית

ניצן לוי
ניצן לוי
מייסד-שותף ב-Cybecs וב-RedRok ומנהל תחום פרטיות ו-GRC. הסמכות: CISM, CISSP, CDPSE, CCSK, CSA.

שאלות נפוצות

האם החוק עשוי לחול על חברה מחוץ לאיחוד האירופי?
כן. יש לבחון את תנאי התחולה, לרבות שיווק המערכת ושימוש בפלט שלה באיחוד, לצד החריגים הרלוונטיים.
מה נחשב מערכת בסיכון גבוה?
החוק מגדיר קטגוריות ותנאים, בין היתר בתחומי תעסוקה, אשראי ותשתיות חיוניות. נדרש למפות את המערכת והשימוש בה מול הוראות החוק ונספחיו.
מה הקשר לבדיקות Red Team ולהערכת סיכוני AI?
הבדיקות מספקות ממצאים טכניים. ההיערכות לחוק מחברת אותם לתיעוד, לבקרות ולחובות החלות על הארגון.

לתיאום בדיקת מוכנות לממשל AI

מפו את מערכות ה-AI ואת חובות הארגון לפי סיווג הסיכון.

לתיאום בדיקת מוכנות ←

מקור רשמי

European Commission: AI Act timeline