איך בינה מלאכותית תשולב במערכת הפיננסית? הדוח של הצוות הבין משרדי

הצוות הבין-משרדי לבחינת שימושי בינה מלאכותית במגזר הפיננסי מפרסם דוח ביניים הכולל המלצות ראשונות ביחס לרגולציה על שימוש בטכנולוגיית AI, אשר יעצבו את עקרונות האסדרה שתחול בנושא זה בסקטור הפיננסי. הדוח הוא תוצר של צוות משותף של משרד המשפטים (ייעוץ וחקיקה), משרד האוצר, רשות התחרות, רשות ניירות ערך, רשות שוק ההון, ביטוח וחיסכון והפיקוח על הבנקים בבנק ישראל.
 

הצורך ברגולציה על בינה מלאכותית במגזר הפיננסי

בתקופה האחרונה ישנו עיסוק מוגבר בטכנולוגיית ה-AI וכפועל יוצא מתקיים גם דיון אינטנסיבי ברגולציה שתחול על השימוש בטכנולוגיה זו. לצד הבנת הפוטנציאל של הטכנולוגיה, מתקיים גם דיון באתגרים ובסיכונים שצריכים לקבל מענה רגולטורי ומשפטי. הדוח מציג את הפוטנציאל הגלום בשימוש ב- AI בתחום הפיננסי לשיפור איכות המוצרים והשירותים הפיננסיים, להוזלת עלויות, להנגשת שירותים פיננסיים לקהלים רחבים יותר, לשיפור הפעילות התפעולית, העסקית וניהול הסיכונים, ועוד. לצד זאת, הדוח מזהה את האתגרים הפוטנציאליים הכרוכים בשימוש בטכנולוגיה ובהם: חשש מפגיעה בפרטיות, הדרת אוכלוסיות משירותים פיננסיים, הבטחת הוגנות צרכנית, וכדומה. 

בינה מלאכותית

הדוח עוסק בסוגיות הנובעות ממאפיינים ייחודיים של בינה מלאכותית, כגון סוגיית "הקופסה השחורה" והסברתיות, סוגיית המעורבות האנושית, כמו גם בשאלות המתעוררות לנוכח פעילות מבוססת AI בהקשרים של פרטיות, אפליה ואחריות. עוד עוסק הדוח בהשלכות רוחב שעשויות להיות לפעילות AI, בין היתר בהיבטי יציבות פיננסית, תחרות, סיכוני סייבר ודיסאינפורמציה.

מעבר לסוגיות הרוחב, הצוות התמקד ב-3 תחומי פעילות ספציפיים שבהם יש כבר שימוש מסוים בבינה מלאכותית: ייעוץ השקעות וניהול תיקים, חיתום אשראי וחיתום ביטוח. בנוגע לכל אחת מהסוגיות שנדונו, בוצעו סקירה מקיפה של הדין הקיים בישראל ובעולם, ניתוח של סוגיות הליבה שמעוררת כניסת הבינה המלאכותית, והוצעו חלופות אפשריות לטיפול והמלצות מעשיות.
 

התחומים בהם הצוות מציע למקד את הרגולציה

לתפיסתו של הצוות, ככלל, יש לעודד פעילות AI בסקטור הפיננסי, לצד קביעת רגולציה מותאמת מקום בו הדבר נדרש ולרוב באמצעות כלי אסדרה "רכים" וגמישים.  

הצוות מדגיש את הצורך באימוץ גישה מבוססת סיכונים, לפיה היקף הרגולציה יותאם למהותיות השירות הפיננסי והשפעתו על הלקוח. לדוגמה, צ'ט-בוט AI המספק שירות לקוחות בסיסי יידרש לעמוד בדרישות רגולטוריות מצומצמות יותר בהשוואה למערכת חיתום אשראי מבוססת AI, שלהחלטותיה השפעה משמעותית על הפרט. גישה זו תאפשר לגופים הפיננסיים למקד משאבים בניהול סיכונים בשירותים המהותיים יותר.

הסברתיות: בעיית "הקופסה השחורה" לפיה לא ניתן להסביר באופן מלא את תוצריהן של מערכות AI  היא אחד האתגרים המורכבים ביחס לטכנולוגיה זו. הדוח מבחין בין הסברתיות כללית, בנוגע לאופן פעולת המערכת, ובין הסברתיות פרטנית, בנוגע להחלטות ספציפיות. ההמלצה היא שתחול חובת הסברתיות כללית, בעוד שחובת הסברתיות פרטנית תיקבע בהתאם לנסיבות הנוגעות למהות ההחלטה, לקיומה של מעורבות אנושית, וכדומה.

מעורבות אנושית: אחד הכלים הנפוצים המוצעים על מנת להתמודד עם האתגרים הגלומים בפעילות של בינה מלאכותית הוא מעורבות ופיקוח אנושי. ישנה גם ביקורת על דרישה זו שעלולה לצמצם את התועלת בשימוש בטכנולוגיה. בדוח עורך הצוות הבחנה בין סוגים שונים של מעורבות אנושית – מעורבות בזמן אמת מול מעורבות בדיעבד, מעורבות בכל החלטה פרטנית מול מעורבות על פעילות המערכת בכללותה. הצוות ממליץ על מודל מדורג של מעורבות אנושית, שיכלול חובת בקרה אנושית כללית, ומעורבות ישירה בהחלטות בשימושים שיסווגו בסיכון בינוני או גבוה (כגון החלטות מהותיות).

חובות יידוע וגילוי: הצוות סבור כי יש ליידע את הציבור על שימוש במערכות AI או אינטראקציה עם מערכות כאלה בנוסף לחובות גילוי בדבר מאפייני הבינה המלאכותית והשלכותיה שישתלבו בדרישות הגילוי הקיימות בתחום הפיננסי. הצוות מדגיש את הצורך כי הגילוי ייעשה תוך מניעת ״“AI washing (הצגת שווא או הגזמה ביחס לשימוש ב-AI ) וכן הקפדה שהיידוע והגילוי יהיו בשפה פשוטה ונייטרלית.

הונאות ודיסאינפורמציה: הדוח מתייחס להשפעת התקדמות ה-AI על סיכוני הונאה ודיסאינפורמציה במערכת הפיננסית, החל מהתחזות ללקוחות ועד להשלכות מערכתיות רחבות, וממליץ לרגולטורים כיצד לעדכן ולהרחיב את מנגנוני ההתמודדות עם סיכונים אלה.
פרטיות והגנה על מידע אישי: הדוח כולל סקירה של האתגרים העומדים בפני ההגנה על הזכות לפרטיות הנובעים ממאפייני מערכות AI ורגישות המידע הפיננסי. הדוח כולל הצעות לכלים ואמצעים להתמודדות עם אתגרים אלה, ובין היתר ממליץ לרגולטורים הפיננסיים להכווין גופים מפוקחים לבצע הערכת סיכונים ביחס לזיהוי חוזר של מידע אישי, וכן לאמץ כלים ארגוניים לניהול וצמצום הסיכונים לפרטיות הכרוכים בפיתוח מערכות בינה מלאכותית כגון: תסקיר השפעה על פרטיות, יישום והטמעת תפיסות של עיצוב לפרטיות, וזאת בנוסף למינוי ממונה על הגנת הפרטיות.

הדוח כולל המלצות בתחומים רבים נוספים: כללי ממשל תאגידי שיאפשרו ניהול סיכונים ביחס לשימושי AI במוסד הפיננסי; כללי אחריות ביחס למערכות AI, המבהירים על מי מוטלת האחריות בנוגע לתפקוד המערכות; אמצעים למניעת אפליה; סיכונים והזדמנויות בהיבטי תחרות וכדומה.

דוח הביניים פורסם לאחר תהליך שכלל למידה של הטכנולוגיה, הבנת היישומים שלה בתחום הפיננסי, ניתוח היבטים משפטיים ורגולטוריים של AI, שיתוף ידע בין הגורמים השותפים להכנת דוח הביניים, פרסום קול קורא ומפגשים עם גורמים רבים מהתעשייה, האקדמיה, הממשל, וכן רגולטורים וארגונים זרים העוסקים בקביעת מדיניות בתחום. לדוח קדמה סקירה מקיפה שערכו חוקרים מאוניברסיטת תל אביב (פרופ׳ אסף חמדני, פרופ׳ דן עמירם, פרופ׳ קובי קסטיאל, וד״ר ארי אחיעז) יחד עם מחלקת ייעוץ וחקיקה במשרד המשפטים. חוקרים אלה המשיכו ללוות את הצוות בשלב גיבוש ההמלצות.

בראש הצוות הבין-משרדי לבחינת שימושי בינה מלאכותית במגזר הפיננסי עומדים עו"ד אמיר וסרמן היועץ המשפטי של רשות ניירות ערך, ועו"ד שרית פלבר, ראשת אשכול חדשנות טכנולוגית ותקציב בייעוץ וחקיקה (משפט כלכלי), משרד המשפטים. בנוסף חברים בצוות גב' אילנית מדמוני, מנהלת יחידת החדשנות בטכנולוגיה פיננסית בפיקוח על הבנקים בבנק ישראל, גב' אביבה וייס, מנהלת מחלקת ניהול סיכונים ומנהלת מחלקת פיקוח על טכנולוגיות מידע וסייבר ברשות שוק ההון, ביטוח וחיסכון, עו"ד דודי קופל, המשנה ליועץ המשפטי במשרד האוצר, ועו"ד איל שפירא, מנהל תחום בכיר תכנון ומדיניות ברשות התחרות. עו"ד תום גולדרייך, ראש תחום טכנולוגיות פיננסיות במחלקה הבינלאומית ברשות ניירות ערך, מרכז את עבודת הצוות.