פרשת הבינה המלאכותית בעיריית רמת-גן: כשהזיות דיגיטליות פוגעות באמון הציבור

המהפך הדיגיטלי שהפך לכישלון משפטי: המקרה של רמת-גן

בצל המהפכה הטכנולוגית השוטפת את מערכות השלטון והמשפט בישראל, התגלה אמש מקרה חריג במיוחד שמטיל איומים על אמינותן של רשויות ציבוריות ועל עצם האמון בתקשורת המשפטית בין אזרח למדינה. עיריית רמת-גן מצאה את עצמה במרכזו של סערה תקשורתית ומשפטית לאחר שנחשפה בבית המשפט העליון כי עשתה שימוש בכלי בינה מלאכותית (AI) כדי לנמק סירוב לפנייה של אזרח, תוך הסתמכות על חוזר מנכ"ל משרד החינוך שלמעשה לא קיים. האירוע, שהסתיים בחובת תשלום הוצאות משפט בסך 30 אלף שקל לטובת האזרח, מסמן נקודת מפנה משמעותית בדרך שבה גופים ציבוריים רשאים להשתמש בטכנולוגיות מתקדמות, וקובע גבולות ברורים בין יעילות מנהלית לבין זיוף ורשלנות. עירייה, המהווה רשות ציבורית המחויבת לשקיפות ולדיוק, העזה להציג בפני בית המשפט נרטיב מבוסס על מציאות פיקטיבית שנוצרה על ידי אלגוריתם, מה שמעלה שאלות קשות לגבי הבקרה הפנימית והכשירות המקצועית במערכות השלטון המקומיות.

חוזר שלא קיים וזיכוי חסר תקדים

הפרשה החלה ככל הנראה כסיפור ניהולי שגרתי, אך הסתבכה במהרה לכדי פרשה המעוררת דאגה ציבורית עמוקה. אזרח, שפנה לעיריית רמת-גן בבקשה שסביב פרטיה עדיין מצויים במסתורין צנועים, קיבל תשובה שלילית נחרצת אשר התבססה על חוזר מנכ"ל משרד החינוך. תשובה זו, שהוגשה כעילה משפטית מכרעת, נועדה לסגור את הדיון ולחסוך מהעירייה משאבים, אולם בדיקה יסודית שנערכה לאחר מכן חשפה כי המסמך עליו נסמכה העירייה הוא פרי דמיונה של תוכנת בינה מלאכותית, כלומר מסמך שמעולם לא נכתב, לא נחתם ולא פורסם על ידי משרד החינוך. עוד יותר מכך, במהלך ההליכים המשפטיים שהתנהלו בעקבות הערר של האזרח, המשיכה העירייה לעמוד על טענותיה ואף הגישה תצהירים וכתבי הגנה שציטטו פסקי דין והלכות משפטיות שלמעשה נוצרו על ידי ה-AI ואינם קיימים במציאות המשפטית. שימוש זה במסמכים מזויפים, אשר עשויים להיראות בעלי משנה טון וניסוח מקצועי, הוליך שולל את הערכאות השיפוטיות ופגע ישירות בזכותו של האזרח לקבל מידע אמין ולהתנהל מול רשות ציבורית שפועלת בתום לב ובהתאם לחוק.

התערבות בית המשפט העליון וקביעת נוהל חדש

התגובה השיפוטית למעשיה של עיריית רמת-גן לא איחרה לבוא, והיא הגיעה במלוא העוצמה מערכאת הערעור העליונה. בית המשפט העליון, בראשות שופטים שהביעו זעזוע מהמתרחש, קבע כי מדובר ב"שימוש מופקר" בטכנולוגיה שמטרתה להחליף שיקול דעת אנושי ובדיקה מעמיקה במכונה חסרת רגשות ואחריות. השופטים לא הסתפקו בקבלת הערעור ובביטול ההחלטה המנהלית, אלא החליטו להטיל על העירייה חובת תשלום הוצאות משפט מיוחדות ומשמעותיות בסך 30 אלף שקלים, סכום שנועד לשלם לא רק את הוצאותיו של האזרח אלא גם לשמש כאמצעי הרתעה ברור וחד. נימוקי השופטים עסקו אף בסכנה הטמונה בתופעה, וציינו כי הסתמכות על מציאות בדויה שנוצרה על ידי AI במסגרת תגובות רשמיות של גופים ציבוריים היא אקט שאינו מתקבל על הדעת ושעלול לערער את יסודות האמון בשלטון החוק. החלטה זו של העליון חורגת מהסדר הישן וקובעת תקדים מחמיר, לפיו רשלנות טכנולוגית של רשות ציבורית תטופל באותה חומרה כמו זיוף מכוון או רשלנות חמורה במסמכים, תוך שימת דגש על החובה המוחלטת של המדינה ונציגיה לבדוק ולאמת כל טענה וכל מסמך לפני הגשתם לבית המשפט.

"שימוש מופקר": המסר החד לרשויות המקומיות

השימוש במונח "שימוש מופקר" על ידי שופטי בית המשפט העליון אינו משל חלל, והוא משקף את חומרת המצב כפי שהוא נתפש על ידי מערכת המשפט. בעידן שבו הטמעת כלי AI במגזר הציבורי נחשבת לצעד רצוי ואף נחוץ לשיפור היעילות ולחיסכון במשאבים, פסק הדין מציב סייג משמעותי וברור. המסר המועבר לרשויות המקומיות ולמשרדי הממשלה הוא כי טכנולוגיה אינה תחליף לשיקול דעת מקצועי ואינה מקנה חסינות מפני טעויות או מפני עונשין. כאשר עובד ציבור או גוף מוניציפלי בוחר להשתמש בכלי אוטומטיים להכנת תשובות משפטיות או נימוקים להחלטות מנהליות, הוא נוטל על עצמו את האחריות הבלעדית לדיוקן. העובדה שהמסמך נוצר על ידי אלגוריתם אינה יכולה לשמש כהגנה משפטית, ואף לא כנימוק מרכך בפני בית המשפט; להפך, היא עלולה להחמיר את המצב, שכן היא מעידה על אדישות ועל חוסר תשומת לב לפרטים הקטנים שיכולים להפוך למכשולים עצומים בדרך לאמת. ההחלטה לחייב את העירייה בתשלום הוצאות גבוהות נועדה להעביר מסר חד ובהיר לכלל העובדים הסוקרים מסמכים במגזר הציבורי: אין להניח כל דבר על הסף, ובמיוחד לא כאשר מקור המידע הוא טכנולוגי ומבוסס על הסתברות ולא על עובדות אמיתיות ומאומתות.

הפרדוקס של הבירה הדיגיטלית

האירוניה הגדולה בפרשה זו נעוצה בעובדה שרמת-גן, בהנהגתו של ראש העירייה כרמל שאמה הכהן, הציבה לעצמה כיעד מרכזי להפוך את העיר ל"בירת ה-AI" של ישראל. החזון השאפתני של שאמה הכהן, הכולל השקעות בתשתיות דיגיטליות, משיכת חברות הייטק וקידום חדשנות טכנולוגית בכלל השירותים העירוניים, נתקל כעת במכשול מביך וציני. במקום שהעיר תשמש כמודל לחיקוי באימוץ אחראי ומתקדם של טכנולוגיות חכמות, היא הפכה לדוגמה לכישלון ולשימוש לא אחראי באותם כלים שהעירייה מקדמת בגאווה. הפרשה מדגישה את הפער העצום שבין הכרזות רועמות על חזון דיגיטלי לבין המציאות השגרתית בשטח, שבה עובדים עייפים או לא מיומנים עשויים להינתע לפתרונות קלים שמציעים כלי ה-AI, מבלי להבין את המשמעויות המשפטיות והמוסריות של הפעלתם. נסיעותיו של ראש העירייה לחו"ל ללמוד על מערכות מתקדמות ולהביא השקעות עשויות להיתקל בקיר אתי ומעשי, אם התשתית האנושית והפרוצדורלית בעירייה עצמה אינה מוכנה או מצוידת להתמודד עם האתגרים שהטכנולוגיה החדשה מציבה. המקרה של רמת-גן משמש כתזכורת כואבת לכך שדיגיטליזציה אינה רק רכישת תוכנות ומחשבים, אלא דורשת חינוך, הדרכה והקמת נהלי בקרה קפדניים כדי למנוע את הפיכת הטכנולוגיה מכלי עזר לנטל ולמקור למבוכה.

אתגר ה-AI במערכת המשפט הישראלית

מעבר למקרה הספציפי של רמת-גן, האירוע מאיר זרקור חזק על האתגרים העומדים בפני מערכת המשפט הישראלית כולה בעידן הפוסט-מודרני והטכנולוגי. מערכת המשפט, המסתמכת מאות שנים על ראיות כתובות, פסקי דין קדומים ונוהלי עבודה קפדניים, נאלצת להתמודד כעת עם תופעה חדשה ומשתנה של "הזיות AI" – יצירת מידע שנראה אותנטי אך הוא בדוי לחלוטין. הסכנה הגדולה ביותר אינה רק במקרים של זיוף מכוון, אלא דווקא במקרים של רשלנות תמימה, שבה עורך דין או פקיד משתמש בצ'אטבוט או במנוע חיפוש מתקדם כדי למצוא תקדים משפטי, וקובל את התשובה שקיבל כעובדה מוגמרת. בבריטניה, למשל, כבר הושמעו אזהרות רמות מפי השופטים לגבי העונשים הצפויים לעורכי דין שיציגו "הזיות" כאילו היו ראיות אמיתיות בבית המשפט, ונראה כי ישראל נמצאת בתחילתו של דיון דומה וחיוני. הבעיה היא שה-AI, ככלי שנועד לחקות שפה אנושית ולייצר טקסט רהוט, מצטיין דווקא ביצירת אמינות שווא; הוא יכול לצטט פסקי דין בצורה מרשימה, להזכיר סעיפי חוק ואפילו לשלב נימוקים לוגיים, אך כל אלו עלולים להיות חסרי בסיס במציאות. מערכת המשפט נדרשת כעת לפתח כלים לזיהוי מסמכים כאלה, ולהטיל על בעלי הדין חובה ברורה לאמת כל מקור שמקורו דיגיטלי, בטרם יוגש לכל ערכאה שהיא.