בימים האחרונים נעשה מאמץ מרוכז של מומחים לרובוטיקה ובינה מלאכותית על מנת להכריז על רובוטים ללוחמה כנשק אסור מבחינת החוק הבינלאומי. כ-116 מומחים, בהם גם אלון מאסק, מייסד חברת טסלה, ובכירים רבים אחרים בחברות הייטק, בארה"ב וברחבי העולם, פנו השבוע למזכ"ל האו"ם בקול קורא שמטרתו לאסור את מרוץ החימוש הרובוטי המתחולל בין המעצמות בעשור האחרון.

רובוט צבאי (צילום: צילום מסך מתוך הסרטון)

המומחים דורשים שרובוטים לוחמים יוכרזו כנשק שהפעלתו תיאסר ותחשב פשע בדומה לגבי נשק כימי ונשק אטומי. הקריאה באה לזרז את האו"ם שהחל לדון בשאלת הנשק החכם האוטונומי בשנת 2016. הדיונים באו"ם עוסקים כרגע בכלי טייס, טנקים ומכונות ירייה שיפעלו לבדם ללא הנחייה אנושית, והם החלו בעקבות כך שכלי נשק כאלו עלולים לבצע טבח המוני ללא שאלות מוסריות וללא אשמה. עד כה, מבין 123 המדינות שהשתתפו בדיון באו"ם, 19 מדינות כבר הכריזו כי יצטרפו לאמנה מסוג זה ויאסרו על פיתוח נשק אוטונומי להשמדה עולמית.

המכתב למזכ"ל האו"ם נחשף בפתיחת הכנס הבינלאומי לבינה מלאכותית במלבורן, על ידי פרופסור טובי וולש, מומחה לבינה מלאכותית מאוניברסיטת ניו סאות'ויילס באוסטרליה. במכתב החריף, שעליו חתומים למעלה מטובי המומחים בתחום, מצוין כי זו הפעם הראשונה שמומחים לבינה מלאכותית מכל העולם מתכנסים וחותמים יחד על עצומה חריפה כזו.

הכותבים מציינים כי המומחים החתומים במכתב הם רוב מומחי הבינה המלאכותית הקיימים בעולם כמו גם אנשים המובילים בתחום הרובוטיקה. "נשק אוטונומי עצמאי מאיים על העולם כולו ויכול לחולל את המהפכה השלישית בתחום המלחמה בעולם. ברגע שכלי נשק מהסוג הזה יפותחו הם יאפשרו עימות צבאי בקנה מידה עצום בזמני תגובה מהירים מאד של מכונות, מבלי שאנשים יוכלו בכלל להבין מה קורה סביבם.

"מדובר בכלי נשק ללא שאלות מוסריות שעריצים ואנשי טרור יוכלו להפעיל נגד אוכלוסיות אזרחיות חפות מפשע כשהרובוטים יהרגו ללא אבחנה בלי שום מעצורים. חובה לפעול כרגע לעצור את המגמה. אם תיבת הפנדורה הזו תיפתח וכלי נשק כאלו יהיו זמינים – לא תהיה לנו דרך חזרה. לכן אנו פונים אליך, מזכ"ל האו"ם, בתחינה דחופה למצוא דרך להגן על כל האנושות מפני הסכנה הזו" נכתב בסיומו של המכתב.

בהרצאה במלבורן אמר פרופסור וולש כי "כמעט כל טכנולוגיה יכולה לשמש לטוב ולרע, ואינטליגנציה מלאכותית אינה שונה. היא יכולה לסייע בהתמודדות עם רבות מהבעיות הדוחקות העומדות בפני החברה כיום: אי-שוויון ועוני, האתגרים שמציב שינוי האקלים והמשבר הפיננסי הגלובלי המתמשך. אולם מנגד היא יכולה לחולל הרס ורצח בקני מידה שלא ראינו עד כה מבלי שאיש יעצור לחשוב בכלל על שאלות של מוסר".