21.10.2024
מאת: גלית ליסאי | מנהלת ומייסדת Gal.IT Data Integrity Consulting
בשנים האחרונות, טכנולוגיות הבינה המלאכותית (AI) הופכות יותר ויותר לכלי מרכזי בתעשיות רבות, במיוחד בתחומים הכוללים ייצור מתקדם, וניהול איכות. עם התקדמות זו מגיעים גם אתגרים רבים. שילוב של כלים אינטואיטיביים ופתרונות פשוטים לבקרה הופך להיות צורך חיוני עבור ארגונים הנדרשים לקבל אחריות מלאה על אמינות, שלמות ושקיפות ניהול הנתונים.
התחום הרגולטורי העוסק ניהול איכות הנתונים נקרא Data Integrity ומגיע מתחום הביורפואי. את אותו המושג אנחנו מוצאים גם בתחום העוסק באבטחת מידע. בעוד שבעולם אבטחת המידע הדגש הוא בעיקר על הבטחת שלמות הנתונים, בתחום הביורפואי נוסף אלמנט של אמינות הנתונים לצרכי החלטות רגולטוריות. בתחום זה, לא מספיק שהנתונים יהיו מוגנים מפני גישה לא מורשית, אלא עליהם להיות מתועדים ונגישים בצורה שניתן לסמוך עליהם.
במהלך השלושים שנה האחרונות הצליחו להגדיר את החוקים והדרישות העוסקים ב Data Integrity במבנה של ראשי תיבות בשם: ALCOA+ מה שמאפשר לכל אחד העוסק בתחום לדבר בשפה זהה עם קולגות ברחבי העולם. להבנתי, אימוץ ראשי התיבות והשימוש בהם בתחומים נוספים יכול להקל על הטמעת כלים המאפשרים בקרה על השימוש בבינה מלאכותית במקביל להתקדמות הטכנולוגית בכל תחום.
מהו ALCOA+ ולמה הוא קריטי ביישומים העוסקים בבינה מלאכותית?
עקרונות ALCOA+ נועדו להבטיח שהנתונים יהיו אמינים, מדויקים וניתנים לאימות, ושהם עומדים בתנאי הרגולציה המחמירים ביותר. עקרונות אלו הינם חיוניים במיוחד במערכות המיישמות מודולים שונים המתבססים על בינה מלאכותית, שכן למידת המכונה והאימון האפקטיבי תלוי בנתונים לצורך קבלת החלטות ועידכון פעילויות. הנתונים שמזינים את המערכת חייבים להיות עקביים, מאומתים ומתועדים בקפידה.
לאורך השנים והניסיון להטמיע את הדרישות הצליחו להגדיר בצורה קלה, אינטואיטיבית את הדרישות כך שקל יהיה לזכור ולהקפיד לבצע לאורך זמן.
העקרונות הראשיים הם:
Attributable (A)
כל פעולה או שינוי במערכת חייבים להיות משויכים למשתמש, אלגוריתם או תהליך ספציפי, כדי שניתן יהיה לעקוב בצורה ברורה אחר מקור הפעולה.
Legible (L)
כל המידע חייב להיות קריא וברור, כך שכל משתמש יוכל להבין את הנתונים בצורה מדויקת, גם לאחר זמן רב.
Contemporaneous (C)
הנתונים חייבים להירשם בזמן אמת, כך שתיעוד הפעולות יותאם לסדר ההתרחשות האמיתי שלהם במערכת.
Original (O)
יש לשמור את הנתונים המקוריים ולא להסתמך על עותקים משניים או גיבויים. נתונים מקוריים הם הבסיס לאמינות.
(A) Accurate
נתונים חייבים להיות מדויקים, לשקף את המידע האמיתי ולהיות נכונים בכל שלב של התהליך.
העקרונות הנוספים ("+") הם:
Complete
כל המידע הרלוונטי לתהליך חייב להיות מתועד בצורה שלמה, מבלי לאבד נתונים קריטיים.
Consistent
יש להבטיח שהנתונים יהיו עקביים לאורך כל תהליכי העבודה, מבלי שיתרחשו הבדלים לא מוסברים בין שלבים שונים.
Enduring
הנתונים חייבים להישמר לאורך זמן כדי להבטיח את יכולת השחזור שלהם בעתיד לצורך בקרה ואימות.
Available
הנתונים צריכים להיות זמינים לשימוש, כך שניתן יהיה לגשת אליהם בכל עת בהתאם לדרישות הרגולציה.
האתגר של AI והבקרה על שלמות הנתונים: כיצד ALCOA+ מסייע?
הטמעת AI מאתגרת כי כל הצגת נתונים שגויים או לא מדויקים עלולים לגרום לכשלונות בתהליכים, לייצור פגום בחברות יצרניות או להשלכות העוסקות בקבלת החלטות חמורות. ומכאן חשובה ההטמעה של הגישה המושתת על תהליכי בקרה.
הטמעת עקרונות ALCOA+ בתרבות הארגונית
כדי שעקרונות ALCOA+ יוטמעו בצורה אפקטיבית, יש לשלב אותם בתרבות הארגונית ולא רק כדרישות רגולציה. ארגונים צריכים להבטיח שהעובדים מבינים את החשיבות של כל עקרון, ומבצעים את עבודתם בהתאם לסטנדרטים הללו. הטמעת תרבות כזו מצריכה הכשרות שוטפות, התאמת נהלים פנימיים, ושימוש בכלים שמאפשרים עמידה בעקרונות אלו בצורה פשוטה ואינטואיטיבית.
ההנהלה צריכה לעודד שקיפות בארגון ולהראות דוגמה לכך שהשקיפות תורמת לניהול סיכונים טוב יותר ולאמינות הנתונים.
שקיפות וניהול סיכונים: למה הם חשובים ?
כאשר אנו משלבים מערכות AI עלינו ליישם גישה יזומה לניהול סיכונים. מערכות AI יכולות להיות מורכבות, ולכן שקיפות היא הכרחית – הן בהבנת הדרך שבה המערכת עובדת, והן במעקב אחרי השינויים והעדכונים שעוברים עליה.
עקרונות ניהול סיכונים: זיהוי, הערכה, מעקב ותיעוד.
שקיפות וניהול סיכונים משלימים את עקרונות ALCOA+ בכך שהם יוצרים מסגרת שבה כל שינוי או פעולה ניתנים למעקב ובקרה, מה שמבטיח שלא יתרחשו כשלים קריטיים. ללא שקיפות, נתוני AI עלולים להפוך ל-"קופסה שחורה" – מקום שבו נתונים עוברים עיבוד אך אף אחד לא יכול להבין או לאמת אותם. זה מעלה סיכונים משמעותיים מבחינת שלמות הנתונים ועמידה בדרישות רגולטוריות.
הקשר בין הרגולציה הגלובלית לעקרונות ALCOA+
ככל שהעולם מתמקד בשימוש במערכות AI ונתונים דיגיטליים לניהול תהליכים, הדרישות הרגולטוריות העולמיות ממשיכות להתפתח כדי להבטיח שהמערכות הללו פועלות בצורה שקופה, מאובטחת ואמינה. דרישות אלה מקבילות במידה רבה לעקרונות ALCOA+.
הדרישות המרכזיות של GDPR ושל European AI Act כוללות:
מעקב אחרי שינויים ושקיפות: הבטחה שניתן לעקוב אחר כל פעולה במערכת, ולהבין את מקורותיה ואחראיה. (Attributable )
אמינות, עקביות ושמירה על שלמות המידע:: הרגולציה דורשת שמירה על שלמות הנתונים לאורך כל מחזור החיים שלהם. (Complete & Consistentt )
נגישות: חשיבות הזמינות של הנתונים לגורמים מוסמכים בזמן אמת. (Available )
שמירה לאורך זמן: היכולת לשמור על הנתונים לאורך זמן לצורך בדיקות, בקרה ודרישות עתידיות. (Enduring )
טיפים לשמירה על עקרונות ALCOA+ :
ניהול מדויק של מקור הנתונים (Attributable):- הטמיעו מערכת הרשאות ברורה
הבטחת קריאות ובריאות הנתונים (Legible):- השתמשו במערכת לניהול גרסאות
תיעוד בזמן אמת (Contemporaneous):- הוסיפו כלים ניטור המשדרים עדכונים אוטומטיים בזמן אמת לצוותי הבקרה.
שמירה על נתונים מקוריים (Original):- הטמיעו כלי Backup מתאימים.
אבטחת דיוק הנתונים (Accurate):- השתמשו באלגוריתמים שמבצעים בדיקות אוטומטיות לאיתור נתונים לא תקינים או חריגות
בצעו ניתוח סיכונים מקדים: השתמשו במתודולוגיות המאפשרות זיהוי בעיות פוטנציאליות, מידת ההשפעה ופיתוח תוכניות פעולה מונעות.
ולידציה קבועה למערכות בהתאם להערכת הסיכונים ודאו שהמערכות שלכם עוברות תהליכי ולידציה תקופתיים (CSV)
יישום של מערכות Audit Trail אוטומטיות: מערכות אלו מספקות תיעוד מלא של כל שינוי במערכת בצורה שקופה וברורה
נגישות מלאה של נתונים: הטמיעו פתרונות Data Governance כדי לשלוט בגישה לנתונים בצורה מבוקרת
שקיפות בכל תהליך קבלת ההחלטות: הטמיעו כלים המאפשרים תיעוד מלא של תהליכי קבלת החלטות במערכת. זה כולל גם תיעוד התערבות אנושית וגם תיעוד של אלגוריתמים אוטומטיים שמבצעים עיבוד נתונים.
בדיקות תאימות תקופתיות: בצעו בדיקות תאימות תקופתיות כדי לוודא שהמערכת עומדת בדרישות הרגולציה העדכניות, במיוחד כשמדובר ברגולציות חדשות בתחום הבינה המלאכותית
הפרדה בין סביבות מחקר ופיתוח פתרון זה כולל הפרדה פיזית או לוגית של הנתונים והשימוש בהם, וכן יישום כלי בקרה אוטומטיים שיוודאו ששום שינוי בסביבה אחת לא משפיע על השנייה.
סיכום: השילוב בין AI, Data Integrity ועקרונות ALCOA+ הוא המפתח לעתיד תעשייתי מבוקר
בינה מלאכותית יכולה להוות מהפכה אמיתית בתעשייה, אך השימוש בה חייב להיות תחת בקרה קפדנית ומוסדרת. עקרונות ALCOA+ מספקים את הכלים להבטיח שכל הנתונים והמערכות פועלים בצורה אחראית, שקופה ומדויקת. הטמעה נכונה של עקרונות אלו, יחד עם כלים פשוטים לניהול המידע, תאפשר לכל ארגון להתקדם עם טכנולוגיות AI תוך עמידה בדרישות רגולציה ושמירה על שלמות הנתונים.
על הכותבת | גלית ליסאי
מנהלת ומייסדת החברה : Gal.IT Data Integrity Consulting
גלית מפתחת כלים ושיטות עבודה מהימנים העוסקים בהטמעת הדרישות הרגולטוריות
העוסקות בשמירה על איכות המידע המנוהל בארגון ומוצג לרשויות הבריאות.
גלית עוסקת בתחום מעל 20 שנה, כמנהלת פרוייקטים העוסקים בולידציה והטמעה של מערכות ממוחשבות המאפשרות בקרה על תהליכי העבודה.
Comentarios