המאמר של הידי נגב ב"דה מרקר":

אלגוריתמים שולטים בחיינו יותר ויותר. הם מחליטים מי מקבל הלוואה, מי זוכה במכרז, ואפילו מי מקבל הטבות מרשות המסים. אבל אלגוריתם, בניגוד לתפיסה הרווחת, אינו מושלם. הוא לא "מחשב שלא טועה". הוא נוסחה שפותחה על ידי בני אדם, ומכילה בתוכה את ההטיות, ההנחות והטעויות של יוצריה. הבעיה העיקרית היא חוסר הגישה למידע לגבי פעולת האלגוריתמים.

האתגרים שמציבות טכנולוגיות מעקב מודרניות, כמו אלגוריתמים וכלי בינה מלאכותית, שעשויות לאפשר לממשלות ולחברות פרטיות לעקוב אחר כל היבט של חיי האזרחים – הם עצומים. כשמדובר בשימוש השלטון בטכנולוגיות כמו בינה מלאכותית, שיכולת הלמידה ואגירת המידע שלה על כל אזרח עלולה לפגוע בפרטיות ובחירויות הפרט – הדרישה לפיקוח ציבורי היא קריטית.

לאחרונה התקיים דיון עקרוני בבית המשפט המחוזי בירושלים בעתירה שהוגשה נגד המוסד לביטוח לאומי, כדי לקבל את הקוד שיצרו שם למחשבון המודד "מחיה בכבוד". בעבודה משותפת עם אוניברסיטת חיפה בתחום שקיפות של אלגוריתמים, נמצא שהסכומים המוצגים במחשבון הזה הם לא הסכומים שמאפשרים מחיה בכבוד. יחד עם הקליניקה למשפט וסייבר באוניברסיטת חיפה הגשנו את העתירה שדורשת את שקיפות הקוד.
בינתיים המחשבון הוסר מן האתר – אבל במקודם או במאוחר, ובהיעדר כל חקיקה באופק, בית המשפט יהיה מוכרח להכריע בשאלה: האם קוד תוכנה אכן מהווה "מידע" שצריך להנגיש לציבור.

המדינה טוענת שחשיפת מידע על קוד תוכנה תפגע בסודות מסחריים או בביטחון לאומי. אבל שקיפות אלגוריתמית מצריכה גישה מאוזנת. ניתן להתמודד עם פרסום הקודים כמו כל מידע אחר שצריך לאזן – באמצעות החסמת מידע רגיש – השחרת מידע או חשיפה של חלקים ממנו בלבד – או פרסום מידע מפורט רק לאחר בחינה קפדנית וקבלת אישורים רלוונטיים.

הציבור צריך לפקח

פרסום קוד פתוח למשל של מחשבון המחיה בכבוד לא יאפשר פריצה לקופות הביטוח הלאומי – אבל הוא כן יאפשר להבין מה הנימוקים לקביעה של המחשבון אם אדם מסויים מתחת לקו עוני.

חוסר האפשרות של הציבור לפקח ולבקר כיום את האלגוריתמים השונים שהמדינה מפעילה עלינו מבטא גישה קיצונית לכיוון השני ופוגע באפשרות לתקן עיוותים ובמקרים מסוימים גם עלול לפגוע גם בכיס של כל אחד מאיתנו.

גישת המדינה מחמירה ובעייתית, דווקא כי היא קובעת שקוד תוכנה הוא לא בגדר מידע, ולכן לא צריך להנגיש אותו לציבור. אבל יש הבדל בין קוד תוכנה של מערכת כיפת ברזל שחשיפתו עלולה לסכן את הביטחון, לבין קוד תוכנה שמחשב הטבות מס שאנחנו זכאים להן, או את הרף למחיה בכבוד. הרי אם לא נדע את הנימוקים להחלטה לדחיית הבקשה שלנו להטבות – בהכרח ניפגע. גישת המדינה כלפי שקיפות אלגוריתמית היא קיצונית ובוודאי שאינה מאזנת זכויות יסוד ולא מאפשרת שום שקיפות ופיקוח ציבורי.

לא רק שצריך להבדיל בין קוד שהמדינה צריכה להנגיש לבין כזה שצריך להיות חסוי. אפשר לקדם שקיפות אלגוריתמית גם בצורה הדרגתית, החל מתיאור כללי של עצם קיומה של תוכנת בינה מלאכותית שאוגרת מידע על האזרחים, דרך מידע על המודל והנתונים המשמשים אותו, ועד לגישה חלקית לקוד המקור (במקרים מתאימים). לבחון כל שלב בקפידה, תוך התייחסות לסיכונים ולתועלות, והחלטה על המשך החשיפה בהתאם. אבל קביעה מראש שלא תהיה שקיפות ולא פיקוח ציבורי היא גישה מסוכנת.

אלגוריתמים צריכים להיות שקופים

דווקא השימוש הגובר לאחרונה בבינה מלאכותית באלגוריתמים ממשלתיים מחייב באופן בהול יותר שקיפות והנגשת קודים לציבור. שקיפות לגבי אופן פעולתה של הבינה המלאכותית, הנתונים המשמשים לאימונה והדרך שבה היא מגיעה להחלטות, היא חיונית ביותר כדי להבטיח הוגנות, אחריות וביקורת ציבורית יעילה. ללא שקיפות, קיים סיכון גבוה להחלטות שרירותיות, אפליה והיעדר אחריות על פעולות הממשל. בדמוקרטיה בריאה, הממשלה מחויבת להיות שקופה לגבי אופן השימוש שלה במערכות אלו כדי לשמור על איזון הכוחות בינה לבין הציבור.

חוסר השקיפות סביב פעולת האלגוריתמים הופך אותם ל"קופסה שחורה" – כך שאנחנו לא יודעים איך המדינה קיבלה החלטה בענייננו ובאופן שעלול לסכן את הדמוקרטיה ואת זכויות האזרח. התוצאות יכולות להיות מפלות, שרירותיות, ואף בלתי צודקות. דמיינו מצב שבו רשות מסוימת מסרבת לנמק החלטה, בטענה שהאלגוריתם "החליט".

מדינות מתקדמות בעולם והאיחוד האירופי בפרט, כבר החילו רגולציות המחייבות שקיפות אלגוריתמית והנגשה של קודים ממשלתיים לציבור. ישראל צריכה וחייבת להצטרף אליהן. חופש המידע צריך לכלול מידע על אלגוריתמים, ורצוי גם להגדיר נהלים ברורים לגישה למידע על אודותיהם. רק כך נוכל להבטיח שמערכות טכנולוגיות חדשות משרתות את הציבור ולא להפך. הגיע הזמן לפתוח את "הקופסה השחורה" ולדרוש שקיפות מלאה.