האם AI טוב או רע לאנושות?

האם האזהרות הללו ימנעו או יאטו ארגונים מלאמץ את הבינה המלאכותית? מאת חן בורשן, מנכ"ל סקייהוק סקיוריטי
ושוב האליטה הכלכלית העולמית טסה לה לעיירה הקטנטנה דאבוס בהרי האלפים השוויצריים כדי לסעוד, לרקוד ולדבר פוליטיקה. למרות שיש הרבה דברים שהטייקונים הפיננסיים וראשי המדינות האלה לא מסכימים עליהם, היו 2 נושאים שכולם עסקו בהם: סייבר ובינה מלאכותית.
על פי דוח הסיכונים העולמי לשנת 2024 של הפורום הכלכלי העולמי (שמבוסס על סקר מקיף של מאות מנכל"ים מרחבי העולם),חשש מהשלכות של אימוץ טכנולוגיית AI וסיכוני סייבר היו שני גורמי הסיכון הטכנולוגיים המובילים. ולא סתם הם כרוכים יחד.
מתחים עולמיים, סכסוכים מזוינים מקומיים ולחץ כלכלי תורמים כולם להגברת פשיעת הסייבר, ריגול סייבר ופעילויות סייבר התקפיות. אבל זה לא יוצא דופן. למעשה, מדי שנה ה-WEF מוציא אזהרה דומה. אבל, בהתחשב באימוץ המוגבר של AI על ידי פושעי סייבר, הם מסוגלים כעת להגדיל את מספר הורטיקלים שהם יכולים לכוון אליהם וגם את נפח ההתקפות, ולהוריד את ה"עלות להתקפה" מתחת לסף מגוחך שלמעשה מאפשר להם להתקיף בלי התקפה ללא עלות. המזכיר הכללי של INTERPOL, יורגן סטוק שדיבר בדאבוס, הדגיש את האתגרים שה-AI מציב בפני מגיני הסייבר. הוא אמר כי "רשויות אכיפת החוק העולמיות נאבקות בהיקף העצום של פשיעה הקשורה לסייבר. הונאה נכנסת למימד חדש עם כל המכשירים שהאינטרנט מספק. הפשע יודע רק כיוון אחד, למעלה".
נכון- הטכנולוגיה עובדת בשני הכיוונים. אם ארגונים ינועו מהר מספיק הם יוכלו לרתום את הטכנולוגיות החדשות כדי להילחם בהתקפות הללו. אבל סביר להניח שזה לא יהיה המקרה עבור רוב החברות. מכיוון שנוף איומי הסייבר משתנה במהירות,ה- WEF מזהיר מפני הפער ההולך וגובר בין ממשלות וארגונים שיוכלו להתמודד עם מתקפות הסייבר הנוצרות בינה מלאכותית, לבין אלה שלא.
אבל האם האזהרות הללו ימנעו או יאטו ארגונים מלאמץ את הבינה המלאכותית? ספק רב. עד כה, AI נתפסת כטכנולוגיה המבטיחה ביותר על ידי מנהיגים עסקיים. סקר שנערך לאחרונה על ידי Ernst & Young Financial Services GenAI מצא שכמעט כל (99%) מובילי השירותים הפיננסיים שנשאלו דיווחו שהארגונים שלהם עושים שימוש בבינה מלאכותית בצורה כלשהי, וכולם כבר משתמשים, או מתכננים להשתמש, בבינה מלאכותית יוצרת (Generative AI ). עם זאת, מנכ"לים אינם עיוורים לסיכונים. סקר אחר (שבוצע על ידי PWC ) מצא כי 77% מהמנכ"לים חושבים ש-Gen AI עשוי להגביר את הסיכון למתקפות סייבר.
רגולציה? בבקשה
אם טכנולוגיה חדשה מבטיחה ומפחידה כאחד (כגון המצאת הרכב, המטוס או החשמל) - האם היא לא צריכה להיות מוסדרת על ידי ממשלות? מכיוון שהעולם עבר מספר מחזורים טכנולוגיים ב-150 השנים האחרונות, אנו יודעים שזה חכם שסוכנויות ממשלתיות יהיו מעורבות באימוץ טכנולוגיות חדשות. למשל, אף אחד לא מאמין שרכבים אוטונומים צריכים פשוט להתחיל לשוטט ללא פיקוח. לא, רכבים אלו עוברים בדיקות אינטנסיביות תחת עין זהירה של הרגולטור הרלוונטי כדי לוודא שהם לא גרמו לסכנות מיותרות לאנשים ולסביבה. כך גם לגבי תרופות חדשות, דגמי מטוסים חדשים וחומרי הדברה חדשים. למה AI צריך להיות שונה? רבים מאמינים שצריך לווסת את האימוץ שלו.
"זו הטכנולוגיה החזקה ביותר של זמננו", אמר אראטי פראבהקאר, מנהל המשרד למדיניות מדע וטכנולוגיה של הבית הלבן בארה"ב, באירוע בדאבוס. הוא אמר כי ארה"ב רואה בבינה מלאכותית את הטכנולוגיה החזקה ביותר של זמננו. הוא העיר כי: "אנו רואים ב AI משהו שחייב להיות מנוהל. יש לנהל את הסיכונים". האיחוד האירופי היה הראשון להגיב עם חוק הבינה המלאכותית שלו שעבר בחודש שעבר. טיוטת הרגולציה נועדה להבטיח שמערכות AI הממוקמות בשוק האירופי ומשמשות באיחוד האירופי בטוחות ומכבדות את זכויות היסוד ואת האיחוד האירופי. ארה"ב לא רחוקה מאחור, עם צו ביצוע משלה על פיתוח ושימוש בטוח, מאובטח ואמין בבינה מלאכותית שהוצא על ידי ממשל ביידן עוד באוקטובר 2023.
מרוץ טכנולוגי או צבאי?
מרוץ הבינה המלאכותית יכול להפוך בקלות למרוץ חימוש צבאי. לאחרונה דווח שחיל האוויר האמריקאי בודק תוכנת בינה מלאכותית חדשה כדי להטיס את המל"טים המתקדמים שלו, וכן פורסם שחברת OpenAI האמריקאית עובדת עם הפנטגון על מספר פרויקטים כולל פיתוח יכולות אבטחת סייבר. אך סוגיית ה-AI יכולה דווקא לשרת את המטרה ההפוכה, של בניית גשרים בין ארה"ב ויריביה. לאחרונה דווח על ידי הפייננשל טיימס כי במהלך שנת 2023, שחקנים מרכזיים בתעשיית הבינה המלאכותית האמריקאית עסקו בדיונים דיסקרטיים עם מומחי בינה מלאכותית סינית, אולי בניסיונות ראשוניים לקבוע קווים מנחים לפיתוח בטוח של בינה מלאכותית. נכון לעכשיו סין מפגרת אחרי ארה"ב בפיתוח ואימוץ בינה מלאכותית, וכאשר ממשלתה מציבה יעד שאפתני להפוך למובילת בינה מלאכותית עולמית עד 2030, הנחיות כאלה עשויות למנוע שימוש פזיז בטכנולוגיה מצידה. ג'ף וונג, מנהל חדשנות עולמי בארנסט אנד יאנג, אמר על הצורך בשיתוף פעולה בינה מלאכותית בין ארה"ב לסין: "נדרש שיתוף פעולה גלובלי לקביעת ערכים משותפים ויש צורך במדיניות מחקר ומסגרות משפטיות משותפות כדי להדביק את הטכנולוגיה".
סיכום
האם AI טוב או רע? נראה שכולם מסכימים שלא משנה מה התשובה, הטכנולוגיה כאן כדי להישאר. זה כבר משפיע על עסקים, זה מתחיל להשפיע על אבטחת הסייבר ויהיו לה השלכות צבאיות ובינלאומיות בקרוב מאוד. ה-WEF עשה עבודה מצוינת והדגיש את חשיבותו של נושא זה, תוך שהוא מניע דיונים בינלאומיים ראשוניים על דרכים לרסן את הסיכונים הטמונים בבינה המלאכותית.