מבוא
התפתחות מואצת של מערכות בינה מלאכותית (Artificial Intelligence – AI) מביאה עמה הזדמנויות רבות,
לצד סיכונים טכנולוגיים, אתיים, משפטיים ואקדמיים.
מסמך זה נועד לקבוע עקרונות מנחים לשימוש אחראי, זהיר ובטוח בכלי AI בכל תחומי הפעילות בטכניון,
להבטיח שמירה על סטנדרט אקדמי נאות והגנה על מידע אישי, ולאפשר שימוש מושכל בכלים אלו תוך מודעות לסיכונים,
ובהתאם לנהלים, לחוק הגנת הפרטיות ותקנות אבטחת מידע.
קהל יעד
ההנחיות מיועדות לכל קהילת הטכניון – סגל אקדמי ומנהלי, סגל הוראה, סטודנטים ואורחים הפועלים בטכניון.
סיכונים מרכזיים בשימוש בכלי AI
- סיכוני אבטחת מידע: דליפת מאגרי מידע, חשיפה לתקיפה של מערכות ומאגרי הטכניון, עקיפת מנגנוני הרשאות.
- סיכוני פרטיות: דליפת מידע אישי ו/או סודי או שימוש לא מורשה במידע אישי. הפרת חוק הגנת הפרטיות עלולה לגרור סנקציות פליליות וקנסות.
- סיכונים ארגוניים: קבלת החלטות מוטות, שגויות או מפלות על בסיס תוצרי AI בלתי מבוקרים.
- חשיפת מידע ארגוני חיוני: העלאת מידע לכלי AI עלולה לגרום לחשיפתו בטווח הארוך.
- הפרת זכויות קניין רוחני.
- הפרת חובת הסודיות בדיונים בנושאים אישיים.
אחריות
כלי בינה מלאכותית הם עזר בידי המשתמש.
תוצרי השימוש והשלכותיהם הם באחריות המשתמש בלבד.
כלי AI ארגוניים בטכניון
בטכניון קיימים כלי AI ארגוניים שנרכשו במסגרת הסכם מוסדי. כלים אלו כוללים סביבת עבודה ארגונית
ייעודית עם רמות אבטחה והגנות מתקדמות.
כיום הכלים כוללים: Copilot הארגוני ו־ChatGPT הארגוני.
הם זמינים לרכישה דרך חנות התוכנות והשירותים של מערך המחשוב.
בכל פעילות המערבת מידע אישי ו/או סודי – יש להשתמש בכלים הארגוניים בלבד.
כללי זהב לשימוש בכלי AI בטכניון
1. העדיפו כלי ארגוני
השתמשו בכלים שאושרו ומנוהלים על ידי הטכניון במקום בכלים פרטיים או חינמיים.
2. הזינו מינימום מידע נדרש
לפני הזנת מידע שאלו: האם באמת נדרש להזין את כל המידע?
3. אין להכניס מידע אישי/סודי לכלים חיצוניים
פעולה זו עלולה להפר את חוק הגנת הפרטיות ולחשוף את המשתמש והטכניון לסנקציות.
יש לבצע אנונימיזציה של מידע אישי.
4. תמיד לתקף תוצרי AI
AI עלול לטעות. יש לקרוא, לחשוב ולבדוק מול מקורות אמיתיים.
5. אין לחבר סוכני AI למערכות ליבה ללא אישור
חיבור ללא אישור עלול ליצור סיכון אבטחתי משמעותי.
6. כלי חדש מחייב אישור מערך המחשוב
לפני הכנסת כלי חדש – יש לוודא שאין פתרון ארגוני ולפנות לאישור.
7. בדיקת חוזים והסכמים
יש לבדוק היכן נשמרים הנתונים והאם נעשה בהם שימוש לאימון מודלים.
8. שימוש אחראי בהוראה, מחקר ומנהלה
- בהוראה: שמירה על קניין רוחני ופרטיות.
- במחקר: אין להעלות נתונים סודיים לענן חיצוני ללא אישור.
- במנהלה: אין להשתמש בתוצרי AI ללא בקרה.
- בדיונים אישיים: חובת סודיות מלאה.
9. כשיש ספק – שואלים
במקרה של התלבטות או חשש לחשיפה – פנו למערך המחשוב.
פניות ודיווח
במקרה של חשש לחשיפה, דליפה או שימוש בלתי מורשה במידע אישי ו/או סודי:
- צוות אבטחת מידע:
ciso-team@technion.ac.il - ממונה הגנת הפרטיות:
dpo@technion.ac.il
תודה על שיתוף הפעולה!