ההתפתחות המהירה בתחום הבינה המלאכותית (AI) ממשיכה לעורר דאגה בצמרת תעשיית הטכנולוגיה. נשיא חברת Microsoft, בראד סמית, קורא להטלת רגולציה גלובלית מחייבת על התחום ומזהיר כי הטכנולוגיה סובלת כיום מתת-רגולציה חמורה בהשוואה למוצרי צריכה בסיסיים. לדבריו, מוצרים יומיומיים כמו מכונות כביסה וקרטוני חלב הנמכרים בחנויות המזון כפופים לחוקי בטיחות, בדיקות ופיקוח מחמירים בהרבה מאשר מודלים של בינה מלאכותית. סמית הדגיש כי הגיעה השעה לגבש כללי בטיחות עולמיים אחידים, והגדיר את הטכנולוגיה כ"כלי ונשק" כאחד. עמדתו מחדדת את הפיצול בין מנהיגי התעשייה לבין הממשל האמריקאי, כאשר נשיא ארצות הברית, דונלד טראמפ, מעדיף פיקוח עצמי ומדגיש את הצורך בריצה קדימה כדי שחברות אמריקאיות לא יפסידו במרוץ למתחרות מסין.
"כלי ונשק": בלמי חירום ופיקוח ממשלתי עצמאי
במסגרת חזונו למסגרת הפיקוח הנדרשת, מציע נשיא Microsoft שורה של צעדים רגולטוריים אופרטיביים. במרכז הצעותיו עומדת הדרישה לשלב במערכות הבינה המלאכותית מנגנוני בלמי חירום - המוכרים בתעשייה כמתגי השבתה (kill switches) - שיאפשרו להקפיא או להאט באופן מיידי פעילות של מודל המפגין התנהגות היוצאת משליטה. בנוסף, סמית קורא לחייב חברות בחוק להגיש דוחות אירוע ולעדכן באופן ישיר נפגעים במקרים שבהם סוכן בינה מלאכותית (AI agent) סורר פורץ למערכות שלהם. מרכיב מרכזי נוסף בהצעתו הוא הכנסת מעריכים ממשלתיים עצמאיים שיבחנו ויאשרו מוצרי בינה מלאכותית חדשים עוד בטרם יופצו לציבור הרחב.
"כעת, מכונת הכביסה שלכם כפופה ליותר כללי בטיחות מאשר בינה מלאכותית. כל קרטון חלב שאתם רואים בחנות המזון כפוף לכללי בטיחות ולבדיקת פיקוח." לדבריו, שיטות הפיקוח והאישור כבר מוכרות היטב מענפים אחרים, ועל התעשייה והמחוקקים ללמוד מניסיון זה וליישמו על טכנולוגיות מתקדמות. הדרישה להידוק הפיקוח מתגברת ברקע אזהרות של מומחים בתחום, המביעים חשש כי התפתחות בלתי מבוקרת של הטכנולוגיה עשויה להציב איום על האנושות.
המחלוקת מול הבית הלבן והגבולות של רגולציה עצמית
עמדתו של סמית מציבה אותו במחלוקת מול מדיניותו של הנשיא טראמפ, השואף להאיץ את הפיתוח מתוך תפיסה כי מי שינצח בתחום הבינה המלאכותית ישיג יתרון מכריע. זאת, על אף שמנהלים של ענקיות פיתוח כמו אנתרופיק, OpenAI ו-Google DeepMind הביעו בעבר תמיכה ברעיון של האטת קצב הפיתוח לצורכי בטיחות.
בסוף החודש שעבר אירח טראמפ בבית הלבן שורה של ראשי חברות טכנולוגיה מובילות, בהן OpenAI, אנתרופיק, Nvidia, SpaceX, Meta ו-Google. במסגרת המפגש חתמו המנהלים על מסמך בעל תוקף מוסרי, שבו התחייבו לעבוד מול מבקרים עצמאיים כדי להעריך אם מערכות ה-AI שלהם פועלות כראוי ולהבטיח שלא יבצעו פריצות לא מורשות למערכות טכניות.
סמית בירך על החתימה וציין כי Microsoft שמחה להצטרף ליוזמה, אך הבהיר כי מדובר בצעד ראשוני בלבד שאינו מספק: "זהו צעד טוב, זהו צעד הכרחי... אבל אני לא חושב שהוא מספיק עוד. הבעיה במשטר של רגולציה עצמית היא שהחברות הטובות יעשו את מה שמתבקש, אך החברות שאינן אחראיות הן אלו שצריך לדאוג לגביהן."
בריטניה כמנהיגת הרגולציה הגלובלית
להערכתו של נשיא Microsoft, הממלכה המאוחדת היא המדינה הנמצאת במיקום הטוב ביותר להוביל את תהליך ניסוח החוקים והסטנדרטים הבינלאומיים בתחום. זאת, בזכות המכון לאבטחת בינה מלאכותית (AI Security Institute), שהוקם בבריטניה תחת ממשלתו של ראש הממשלה לשעבר רישי סונאק.
יכולות טכניות: בתעשיית הטכנולוגיה קיימת הסכמה רחבה כי לבריטניה יש את היכולות המתקדמות ביותר בתחום הפיקוח הטכנולוגי.
קבלה בוושינגטון: בממשל האמריקאי נוטים לקבל בצורה חיובית יותר תקנים שמקורם בלונדון מאשר רגולציה המגיעה מבריסל ומהאיחוד האירופי.
דחיפות לפעולה: ההתקדמות המהירה של סוכני AI ומודלים חזקים מציבה סיכונים ממשיים לאבטחת הסייבר העולמית, ומחייבת הסכמות בינלאומיות מהירות.
סמית סיכם את דבריו בקריאה לפעולה נחושה כדי להביא להסכמות עולמיות, והביע תקווה כי Microsoft כחברה ובריטניה כמדינה יוכלו למלא תפקיד מרכזי בחיבור בין הצדדים.
למה זה חשוב לך
ישראל נמצאת בחזית פיתוח הבינה המלאכותית העולמית, ולכן כל שינוי ברגולציה הבינלאומית - בין אם מקורו בבריטניה, בארה"ב או באיחוד האירופי - צפוי להשפיע ישירות על חברות הייטק ישראליות ועל האופן שבו הן מפתחות ומשווקות מוצרים מבוססי AI. אם יתקבלו סטנדרטים מחמירים יותר כמו אלו שמציע סמית, ייתכן שגם משתמשי קצה בישראל ייהנו מהגנות טובות יותר מפני שימוש לרעה בטכנולוגיה. בנוסף, הוויכוח בין גישת הפיקוח ההדוק לבין גישת הריצה הטכנולוגית הקדימה משפיע על קצב החדשנות שממנו יכולות ליהנות גם חברות סטארטאפ מקומיות.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: לינוס טורבאלדס נעזר ב-Claude Code לפיתוח שיפור עמוק בליבת לינוקס · אמזון בשיחות לרכישת דקארט הישראלית בעסקה של כ-7 מיליארד דולר
