"החקיקה הישראלית בתחום ה-AI תצטרך להתאים את עצמה לאירופה"

עורכת הדין רותם פרלמן פרחי, שותפה וראש מחלקת טכנולוגיה והגנת הפרטיות במשרד אפשטיין, רוזנבלום, מעוז (ERM), הגיעה לאולפן של ביזפורטל לריאיון מצולם. בין השאר היא מדברת על החקיקה המתגבשת באירופה בתחום ה-AI ועל חקיקה בעייתית שעלולה לעבור בכנסת.

את למעשה מתעסקת בכל החקיקה של הבינה המלאכותית. אנחנו לקראת חקיקה באירופה, שתהיה למעשה ראשונה מסוגה בעולם, מה היא כוללת?
"נכון. אם החקיקה תעבור, כשהיא תעבור, היא תחול על כל המדינות באיחוד האירופאי אבל היא תיכנס לתוקף רק אחרי שנתיים. אז מה היא כוללת? היא כוללת למעשה עקרונות לשימוש אתי במערכות ומודלים של AI. היא גם כוללת רשימה של מערכות AI שאסורות לגמרי לשימוש, כמו מערכות לדירוג חברתי של אנשים. היא גם כוללת חובות שונים, כמו החובה לנהוג בשקיפות, על יצרנים של מערכות AI שונות. זה חשוב כי השקיפות מאפשרת לאנשים לקבל החלטות מושכלות ולהבין שהם לא תחת מניפולציות שונות". 

לדעתך, האם החקיקה נותנת מענה לחששות שיש מפני הסכנות שיש בבינה מלאכותית?
"היא עושה כמיטב יכולתה בעת הזאת. מן הסתם יהיו חקיקות נוספות בהמשך. כיום הסכנה היא לא שהמכונות יקומו עלינו, על בני האדם, אלא שאנשים יעשו ב-AI שימושים מסוכנים. צריך מצד אחד לעודד חדשנות ומצד שני להגן על האנשים, על ארגונים וגם על מדינות". 

את יכולה לתת דוגמא לאיום שהבינה המלאכותית יכולה ליצור?
"בהחלט. האיום המשמעותי ביותר הוא שהמערכות יהיו מוטות ויקבלו מידע שמייצר אפליה וכתוצאה מזה יתנו תחזיות שפוגעות באנשים. יכולות החיזוי שמבוססות על מידע רב יכולות להיות מאוד מסוכנות. אבל אם השחקנים ינהגו בתבונה בהתאם לרגולציה אפשר להתנהל בצורה ראויה עם חששות נמוכים".

"למה ה-AI כל כך מפחידה, כי היא בסדרי גודל אחרים בכל מה שנוגע לפייק ניוז למשל. זה מפץ הרבה יותר גדול לעומת מה שהיה האינטרנט לפני 20-30 שנה. וזה גם מתקדם בקצב מאוד מהיר. יש גם חשש להיעלמות של מקצועות. למשל אנחנו רואים עכשיו אנשים שלא מגיעים למשרדי עורכי דין אלא מייצרים בעצמם הסכמים. אז יש חשש ממשי שמקצועות יעלמו. אגב, החקיקה באירופה לא מטפלת בזה. החברה האנושית ממשיכה מקצועות חדשים וכולם צריכים לעשות התאמות, כמו שקרה הרבה פעמים בעבר".

איך זה יכול להשפיע על חברות ישראליות?
"לחקיקה באירופה יש תחולה אקס טריטוריאלית, כלומר היא חלה גם על שחקנים מחוץ לאירופה אם הם מציבים מערכות שלהם באירופה.  אז גם חברות ישראליות שרוצות לפעול באירופה בתחום הזה צריכות ללמוד את החקיקה ולהתאים את עצמן".

האם יש לזה משקל כלכלי משמעותי עבור אותם שחקנים?
"קשה להעריך כיום. ממילא החקיקה הישראלית תצטרך להתאים את עצמה כך שכל מי שפועל בתחום יצטרך לעשות את כל אותם דברים שיהיו בחקיקה באירופה אז כדאי לגורמים ישראלים לפעול בכיוון כבר היום".

ומה לגבי המצב באמריקה?
"הדין בארה"ב בנוגע להגנת הפרטיות הולך המידה רבה אחרי האירופאים. כיום יש 25 הצעות חוק ברמה המדינתית, אין חוק פדרלי כלשהו שנמצא בצנרת. יש גם צווים נשיאותיים שביידן הוציא. אנחנו נראה את האמריקאים צועדים בכיוון של אירופה". 

את מעריכה שבישראל החקיקה תתבסס על אירופה?
"שאלה מצוינת. אני חושבת שתהיה כאן חקיקה ברוח החקיקה האירופאית. אני מניחה שזה ייקח עוד קצת זמן".

אנחנו נמצאים בזמן של תקנות חירום בעיקר בגלל המלחמה. איך אפשר לשמור על פרטיות האזרחים בתקופה כזאת?
"בשעת מלחמה או בשעת משבר אחר כמו שהיה בקורונה, זכויות האדם מצטמצמות. יש שתי הוראות שעה לחצי שנה שמאפשרות למשל לחדור למאגר הביומטרי או למצלמות אבטלה שונות והחשש העיקרי הוא שהזמני יהפוך לקבוע. אני מאוד מודאגת מהפגיעה בזכות לפרטיות. אני מאוד מקווה שהוראות השעה לא יימשכו מעבר לחצי שנה. גם התקנות בזמן הקורונה לא היו נדרשות ולא הועילו, בדיעבד". 

יש עוד תקנה שנמצאת בצנרת..
"כן. חוק השב"כ יתוקן, רוצים לתקן אותו לראשונה מזה 17 שנה, כך שניתן יהיה לעשות שימוש ברוגלות, ללא פיקוח של בתי משפט. כאן מדובר בתיקון קבוע, באופן שמקנה שיקול דעת מאוד רחב ומשמעותי לראש הממשלה, לרשות המבצעת. יש פה חשש לפוליטיזציה, כלומר יש חשש שהרשות המבצעת תעשה שימוש פוליטי בסמכות כזאת".