מתקפת הסייבר השקטה: חשבונות ה-AI מתנפחים וההוצאות גוברות על התקציבים
דפוסי שימוש חריגים בסוכני בינה מלאכותית, מתקפות Denial of Wallet וחוסר ניטור חושפים חברות ישראליות להפתעות בחיובי ענק, ומאלצים את הארגונים לחבר בין אבטחת מידע לניהול הוצאות
במהלך השבועות האחרונים מתרבים הדיווחים בישראל על חשבונות בינה מלאכותית שמתנפחים באלפי אחוזים תוך שעות ספורות, גם בחברות הייטק מבוססות שמפעילות סוכני AI אוטונומיים במוצרי הליבה שלהן. לפי ההערכות שעולות מדיווחים בכלכליסט, הגורמים לכך נעים בין תקלות תוכנה תמימות לבין מתקפות סייבר ממוקדות מסוג Denial of Wallet, שמנצלות את העובדה שמודלים גנרטיביים מתומחרים לפי טוקנים. כל קריאה, כל שאלה וכל לולאת סוכן רושמת שורת חיוב, וכשמישהו מצליח להכניס את המערכת ללולאה אינסופית, החשבון פשוט מתפוצץ.
מהפכת הסוכנים האוטונומיים חושפת חור תקציבי
המעבר מצ'טבוטים פשוטים לסוכני AI שמסוגלים לבצע פעולות מורכבות בעצמם יצר שכבת סיכון חדשה שלא הייתה קיימת בעידן ה-API המסורתי. סוכן שמקבל משימה עסקית עשוי לפצל אותה לעשרות קריאות משנה, לבדוק תוצאות, לבקש הרחבות ולחזור שוב על אותה פעולה אם התשובה לא הספיקה. כל אחת מהפעולות האלו נחשבת בנפרד, ובמקרים של באג בקוד או פרומפט שגוי, הסוכן עלול להיכנס למעגל חוזר שצורך אלפי טוקנים בדקה.
בחברות ישראליות רבות, בהן סטארטאפים בתחומי הפינטק, הסייבר והקמעונאות, מדווחים על מקרים שבהם חשבון חודשי שלם התבזבז על סוכן אחד שנכנס ללולאה במשך סוף שבוע. התוצאה היא לא רק עלייה בהוצאה, אלא גם פגיעה ברווחיות הפרויקט וביכולת להצדיק את ההשקעה בעיני הדירקטוריון. חלק מהארגונים אף נאלצו להקפיא פיתוחים חדשים עד לבחינת מנגנוני הבקרה.
lightbulb טיפ מהמומחה
מומלץ להגדיר מראש תקרת טוקנים יומית לכל סוכן AI, לחבר התראות למערך ה-SOC הארגוני ולבצע סקירת שימוש שבועית. שילוב נכון בין אבטחת מידע לניהול פיננסי מונע הפתעות בחיוב ומגן על תקציב הפיתוח מפני מתקפות Denial of Wallet ושימוש לא מורשה במודלים הגנרטיביים.
מתקפת Denial of Wallet: הנשק החדש של העבריינים
כיצד פועלת המתקפה ומדוע היא מסוכנת דווקא בעידן ה-AI
בעוד שמתקפות מסורתיות שואפות להשבית שירות או לגנוב מידע, מתקפת Denial of Wallet מתמקדת במשאב הפיננסי של הקורבן. תוקף שמוצא נקודת חולשה בממשק ה-AI יכול להזרים אליו בקשות בכמויות אדירות, לשנות פרמטרים שמגדילים את משך החישוב, או לנצל חשבונות שנפרצו כדי להפעיל סוכנים במקביל. מטרתו אינה להפיל את המערכת אלא להכניס את בעליה לחובות ענק מול ספק המודלים, תוך שהוא מסתיר את עקבותיו מאחורי שימוש לגיטימי לכאורה.
הסכנה גדולה במיוחד כשמדובר בחברות שעובדות עם מודלים של OpenAI, Anthropic או Google דרך כיסוי חשבון אחד, בלי הפרדה בין סביבות פיתוח, בדיקות וייצור. במקרים כאלו, תקלה בודדת בענף פיתוח יכולה להפוך לחשבון מנופח בענף הייצור, ולהשפיע על דוחות הכספיים של החברה בתוך זמן קצר. מכאן גם הלחץ הגובר להפריד את תקציב הבינה המלאכותית מתקציב הפיתוח הכללי.
שימוש לא מורשה: הצד האנושי של הבעיך
מעבר למתקפות חיצוניות, גם שימוש פנים-ארגוני לא מבוקר תורם להתנפחות החשבונות. עובדים שמשתמשים בכלי AI לצרכים אישיים, מפתחים שמריצים ניסויים על מודלים יקרים, או יועצים חיצוניים שמקבלים גישה זמנית יכולים לייצר חיובים שלא תוכננו. בארגונים רבים מתגלה רק בסוף החודש שחלק ניכר מהתקציב נוצל על ידי משתמשים שאינם קשורים לפרויקטים המרכזיים.
balance פרשנות ביקורתית: הצד השני של המטבע
ההתלהבות מסוכני AI אוטונומיים מסתירה סיכון תקציבי אמיתי, שכן ארגונים רבים משלבים את הכלים מבלי שהם מבינים את מנגנון התמחור לפי טוקנים. ללא ניטור בזמן אמת ובקרת גישה מחמירה, הוצאות הבינה המלאכותית עלולות לחרוג מתקציב הפיתוח כולו תוך ימים ספורים ולחשוף את החברה להפסדים של מאות אלפי שקלים.
תופעה זו מחריפה דווקא בחברות שבהן תרבות החדשנות מעודדת ניסויים, אך לא מגדירה גבולות ברורים לשימוש. הפתרון אינו חסימה גורפת של הכלים, אלא יצירת מסגרת שמאפשרת ניסוי מבוקר תוך שמירה על תקציב ידוע מראש. כך ניתן להמשיך ליהנות מהתרומה הטכנולוגית של הבינה המלאכותית מבלי להפוך אותה לבור תקציבי בלתי צפוי.
הצורך בניטור בזמן אמת
שילוב בין אבטחת מידע לניהול עלויות
המענה המקצועי לבעיה מתחיל בניטור בזמן אמת של דפוסי השימוש במודלים. כלים מתקדמים מאפשרים לזהות חריגות בצריכת הטוקנים, להתריע על שימוש חריג בשעות לא שגרתיות, ולקשר בין התנהגות חשודה לבין חיובים בפועל. כך ניתן לחסום גישה באופן מיידי ולהגביל את הנזק התקציבי עוד לפני שהוא מגיע לספק המודלים.
במקביל, ארגונים מתחילים לשלב את ניהול ה-AI בתוך מערך אבטחת המידע הקיים. הגישה הזו מבוססת על ההבנה שכל אירוע חריגה תקציבי הוא גם אירוע אבטחה פוטנציאלי, ולהפך. שיתוף מידע בין הצוותים הפיננסיים לצוותי ה-SOC מאפשר זיהוי מהיר של מתקפות, ומקטין את הסיכון שחיוב חריג יתפרש בתחילה כתקלה תמימה או כשימוש לגיטימי של עובד.
מודל תקציבי חדש לעידן הסוכנים
ההתמודדות הארגונית עם התופעה מחייבת מעבר למודל תקציבי חדש, שבו הוצאות הבינה המלאכותית מנוהלות בנפרד מתקציב הפיתוח הכללי. חברות ישראליות מובילות כבר מגדירות תקרות חודשיות לכל פלטפורמת AI, מבצעות מכרזים פנימיים בין ספקי מודלים ומחברות את ההוצאות למדדי ביצוע עסקיים ברורים. הגישה הזו מאפשרת לא רק שליטה תקציבית, אלא גם השוואה אמיתית בין ערך הסוכן לבין עלות הפעלתו לאורך זמן.
בסופו של דבר, ההצלחה בעידן הבינה המלאכותית תלויה לא רק ביכולת הטכנולוגית, אלא גם במשמעת הפיננסית והאבטחתית שמלווה אותה. ארגונים שיצליחו לחבר בין ניהול עלויות חכם לאבטחת מידע מודרנית ייהנו מהיתרון התחרותי של הכלים החדשים, בעוד שאלו שלא יעשו זאת ימצאו את עצמם מתמודדים עם חשבונות בלתי צפויים ועם איומי סייבר שמנצלים את הפערים שלהם.
menu_book מילון מונחים כלכליים רלוונטיים
- טוקן (Token):
- יחידת מידה שלפיה נמדדת צריכת מודל שפה גדול, המשמשת לחישוב עלות השימוש במודל בינה מלאכותית
- מתקפת Denial of Wallet:
- מתקפת סייבר שמטרתה לרוקן את תקציב הקורבן דרך ניצול חיוב לפי שימוש בשירותי ענן או במודלי AI
- סוכן AI אוטונומי:
- תוכנה מבוססת בינה מלאכותית שמבצעת משימות באופן עצמאי ללא התערבות אנושית מתמדת
שאלות נפוצות (FAQ)
-
מתקפת Denial of Wallet היא וקטור סייבר שבו גורם עוין או תקלה גורמים לסוכן בינה מלאכותית לצרוך כמויות אדירות של טוקנים, עד שחשבון החיוב מתרוקן או מתנפח לסכומי עתק. בארגונים רבים בישראל היא מתגלה רק בדיעבד, כשהחיוב החודשי כבר חורג מתקציב הפיתוח כולו.
-
סוכני AI פועלים ללא התערבות אנושית מתמדת, מה שמאפשר להם ליצור לולאות עבודה ארוכות ובלתי צפויות. כל לולאה כזו צורכת טוקנים, ובמקרים של באג או קוד פגום, הסוכן עשוי לחזור על אותה פעולה אלפי פעמים תוך שעות, עד לחשבון בן עשרות אלפי דולרים.
-
משק ההייטק הישראלי מאמץ כלי AI בקצב מהיר, אך לעיתים ללא מדיניות ניהול עלויות או פיקוח אבטחתי מספק. שילוב סוכנים אוטונומיים במוצרי Wiz, Base44 ובחברות פינטק יוצר שטח תקיפה רחב, ומחייב הקצאת תקציב נפרד ל-AI ולא רק לפיתוח.
-
הצעד הראשון הוא ניטור בזמן אמת של צריכת הטוקנים והתראות חריגה אוטומטיות. לאחר מכן יש להגדיר מכסות שימוש יומיות, לבצע בקרת גישה לפי תפקיד בארגון, ולשלב את ניהול ה-AI בתוך מערך אבטחת המידע הקיים, כך שכל חריגה תטופל הן כאירוע תקציבי והן כאירוע אבטחה.
