זה לא סוד שבשנים האחרונות טכנולוגיות הבינה המלאכותית מתפתחות. השיא היה בשנים האחרונות עם המצאת הצ'אט GPT ועוד בוטים נוספים, ששינו את פני האנושות. טכנולוגיית הבינה המלאכותית מבוססת על צבירת מידע, נתונים, ולאחר עיבוד המידע, הטכנולוגיה מסייעת, כל אחת בתחומה, בעקבות הלמידה שלה.
אודי דנינו היה אחד ממקימי חברת הבינה המלאכותית MuzeAI' ובתפקידים נוספים, בהם היה דנינו ממקימי סאיפס, שנמכרה לפורד בעשרות מיליונים. בעברו שימש כאחד ממנהלי פרויקט הלווין עמוס 3. מדובר באחד הישראלים היותר מוכרים בתחום האלגוריתמיקה והבינה המלאכותית. בשיחה עם כאן חדשות הוא התייחס לתפקידה של הבינה המלאכותית במלחמה.
תכנון מלחמה וטילים מונחים
איך נוצלה הבינה המלאכותית במלחמה הנוכחית?
"המלחמה באוקראינה והמלחמה בארץ אלו שתי המלחמות הראשונות שהבינה המלאכותית תופסת בהן תפקיד משמעותי. זה בא לידי ביטוי בהמון מישורים, קודם כל בצורה הכי ישירה - דרך מערכות הנשק שמשתמשים בהן במלחמה, טילים מונחי תמונה ולייזר. בדרך כלל משתמשים ב-AI כדי להנחות אותם ליעדם. שימוש נוסף הוא ברחפנים ובכטב"מים שמצלמים כמות אדירה של מידע, והדרך היחידה שלהם לזהות מטרות היא באמצעות כלים אוטומטיים שעושים שימוש אינטנסיבי ב-AI.
הצבא צריך לתכנן הקצאה של תקיפות, תחמושת בשטח רחב עם המון כלים תוקפים אז לכן צריך תכנון של המערכת. בצד ההגנתי ישנו הגילוי והיירוט של מטרות במערכות ההגנה".
איך פועל כל אחד מהכלים האלה?
"במקרים של טילים מונחי תמונה, בדרך שבה הכלים האלה עובדים זה הזנה של תמונה של היעד שאנחנו רוצים לתקוף. הטיל מכוון לאזור שבו היעד נמצא וברגע שיש לו את היעד בתוך שדה הראייה שלו, הוא עושה את הטיוב לגבי הפגיעה הספציפית במטרה, על בסיס התאמה של התמונה שיש לו בזיכרון והתמונה שהוא אוסף בלייב. ברגע שהוא מזהה את המטרה הוא הולך וננעל עליה ברמת דיוק הולכת וגדלה, ככל שהוא מתקרב ליעד.
ברחפנים, מדובר בטכנולוגיה די דומה. יש תא שטח רחב, ואם רוצים לזהות מטרה מסוימת, כמו אדם שלובש לבוש מסוים או טיל לפני שיגור, מכונית ספציפית. בתאי שטח, הרחפן סורק ובתוכם צריך למצוא מחט בערימת שחת. פה יש את האפשרות לאתר רק דרך ראייה ממוחשבת. אלו כמה דוגמאות אבל אפשר להמשיך עוד ועוד".
אוטונומיה בלחיצה על ההדק
מבחינת שיקולים אתיים, מה החששות להשתמש בכלים כאלה?
"הפוקוס הוא על בינה מלאכותית ככלי תומך, עדיין אין שימוש בכלי נשק אוטונומיים עצמאיים שלוקחים את ההחלטות בעצמם, ויש להם את היכולת להרוג ולתקוף. לא סומכים עליהם כדי לקחת החלטות בעצמו. אבל הוא כלי תומך מאוד חזק, בעיקר בשליפת של מקורות דאטה עצומות ומציאת מטרות.
כיום, אין מניעה לבנות רחפן שיתקוף ולהגדיר מטרה שאותה רוצים לתקוף. הרחפן ישוטט, יתקוף וישמיד מטרות. עדיין צריך אישור אנושי, ובצדק. AI עדיין עושה טעויות ומה שלא פחות חשוב, זה שיש הרבה פחות סלחנות לשגיאה שעושה AI לעומת שגיאה שעושה בן אדם. אם נביא דוגמה מוכרת, היא מהעולם שאני בא ממנו. רכבים אוטונומיים שעושים תאונה, זה גורר כותרות ואם יש תאונת דרכים אנושית, זה כמעט ולא עולה לסדר היום, לא בשום עיתון או אתר.
במלחמה הרגשות מועצמים והפער בין אדם ל-AI הוא גדול יותר. במלחמה כמו שלנו הטעות עלולה להיות כל כך גדול במחיר של לגיטימציה בין-לאומית, וזה עשוי להיות כל כך גדול שזה יכול לסיים מלחמה. נראה שאנחנו נמצאים באיזון טוב".
בינה לגילוי מנהרות חמאס
איך ממנפים את הטכנולוגיה לגילוי מוקדם במקרה דומה לזה?
"אם גילינו טכנולוגיה זה לא מספיק. היו מערכות טובות על הגבול מבחינה טכנולוגית, מערכות שמזהות אנשים ויורות עליהם בצורה אוטומטית או כמעט אוטומטית. אבל כשהמערכות האלה לא שמישות אז הכל נשבר. אני מאמין גדול במיקס שבין בני אדם לטכנולוגיה, והמיקס הזה נטה למקום לא נכון בגבול (באירועי שבעה באוקטובר). ברגע שהטכנולוגיה הזאת נוטרלה לא היה גורם אנושי שיגבה אותו".
דנינו אמר: "כבר נעשה שימוש למשל במערכות לזיהוי פנים של מחבלים, לזהות אותם ולטרגט אותם. מעבר לזה אין לי ספק שיש זיהוי ומיפוי של מנהרות בתוך הרצועה. יש סנסורים מתקדמים שיודעים לזהות את המתווה התת קרקעי ויש כלי AI שיודעים לקחת את האינפורמציה הזאת מהסנסורים ולדלות את המידע.
באספקת חומר מודיעיני לטובת אמצעים צבאיים שיבואו אחרי זה יש ל-AI תפקיד משמעותי. מעבר לזה, בצד המודיעיני של המלחמה, ה-AI לוקח תפקיד סופר משמעותי. יש כמויות אדירות של וידאו, אודיו, טקסט, שצה"ל ושב"כ אוספים מהרצועה. אלה כמויות שאי אפשר לעבור עליהן בצורה ידנית וצריך אין-ספור אנשים סופר מיומנים ומוכשרים - זה לא ריאלי.
ניתוח כמויות כאלה של דאטה, בטח שמדברים על שילוב של פיסות מידע שמגיעות משילוב מקורות, יכול להתבצע רק ב-AI. אז המשפך הזה, שמתחיל בכמות אדירה של דאטה מנותח על ידי AI, לאחר מכן מצמצמים את כמות הדאטה שאליה צריכים להסתכל, ואחריה נכנס הגורם האנושי ומסתכל על הדאטה בצורה מצומצמת ומדויקת. יש פה אין-סוף מטרות שמנסים להשיג - זיהוי אנשים, זיהוי חפצים, כלי מלחמה ודפוסי התנהגות של בני אדם".
יש גם את הקושי של הסתתרות החמאס תחת מגנים אנושיים ואוכלוסייה אזרחית.
"ברור שזה הופך את הסיטואציה להרבה יותר מורכבת, אבל בגלל שהם מסתתרים תחת אוכלוסייה אזרחית, גדל הצורך לדלות את הבר מן התבן בצורה הכי מדויקת שאפשר. זה יוסיף להיות עוד יותר משמעותי כי אנחנו מנסים לפגוע כמה שפחות באוכלוסייה אזרחית, ופה ה-AI משחק בצורה יותר משמעותית.
עדיין יש המון תקשורת שמתנהלת בתוך הרצועה ולמרות כל המגבלות שיש. התקשורת הזאת צריכה לעבור סינון כדי שתזהה את התקשורת בין המחבלים לבין עצמם ובין האזרחים, ותעיף החוצה את כל התקשורת האזרחית שלא משרתת אותך במלחמה. כל זה קורה בצורה אוטומטית לחלוטין".
בין הסברה ישראל לפייק של תומכי פלסטין
קיים גם השימוש ב-AI בתחום ההסברה, תוכל להרחיב גם על הנושא הזה?
"זה הולך לשני הצדדים. אנחנו מהצד שלנו, המון אנשים משתמשים בזה כדי להפיק תוכן בצורה אוטומטית, בעיקר טקסט ותמונות. היכולת שלנו להשיג כמויות גדולות של מידע איכותי בצורה אוטומטית היא מדהימה ואנשים עושים בזה שימוש כדי לייצר הרבה תוכן ואיכותי. בצד השני, יוצרים תוכן באותם כלים כדי לשרת את ההסברה מהכיוון הנגדי והם לוקחים את זה צעד קדימה ומפיקים תוכן מזויף – טקסט וסאונד - ובגלל שהטכנולוגיה עשתה קפיצת מדרגה דרמטית בשנים האחרונות אז קשה יותר להפריד את המידע הזה ממידע אמיתי, ועושים כל מאמץ שיהיה קשה להבדיל בין המידע הזה למידע אמיתי.
יש המון אנשים שלא רוצים להאמין לזה ולא משנה מה תזרוק לזה, הם לא יאמינו או שהם אנשים תמימים שפשוט נחשפים למידע הזה ומקבלים את זה, וזה מייצר המון נזק. מעבר לבעיה הטכנולוגית, יש פה בעיה פסיכולוגית-הסברתית וזו אחת הבעיות היותר גדולות של מערך ההסברה הישראלי. בצד הישראלי, יש דברים מגניבים שאפשר לעשות ולייצר סרטונים ולתרגם את עצמך, ולדבב לכל שפה שאתה רוצה".
"הטכנולוגיות יקבעו - הצלחה או כישלון"
יש לקחים שאפשר לקחת מהמלחמה הזאת?
"הבוסט הגדול הגיע בזיהוי המנהרות. עד לפני המלחמה זו הייתה בעיה כמעט לא פתירה, אבל מאז המלחמה, בזכות שילוב של חיישנים ייעודיים ואלגוריתמיקה מתקדמת - היכולת של הצבא לזהות מנהרות ולסגור את המעגל בין זיהוי ראשוני לזיהוי תוואי מנהרה ומיפוי שלה התקצר משמעותית.
בעיני, המלחמה תוכרע בהצלחה ובכישלון עם ההתמודדות שלנו עם מה שקורה באופן תת-קרקעי. אין מחלוקת שמעל הקרקע הצבא ינצח, זה ייקח פחות זמן או יותר זמן, זה אתגר לא מורכב מדי בסדר גודל של הצבא מהסוג שלנו. האתגר התת-קרקעי, שבו מסתתרים חלקים גדולים מהאויב - זה האתגר של הצבא שלנו, וטכנולוגיות פורצות דרך כמו שתיארתי, אני חושב שהן יהפכו את כל המערכה להצלחה או לכישלון.
רגש של מחבל
בהסתכלות רחבה יותר, אם המלחמה הזאת הייתה מתרחשת לפני שנתיים, המלחמה הייתה אחרת לחלוטין. הקפיצה של המערכות בשנים האחרונות ב-8200 ובחיל האוויר ענקית. יש ניתוח של רשתות חברתיות. היכולת של AI כל כך הרבה יותר טובה היום מבני אנוש גם ברמת הדיוק וגם ברמת הזמן".
ברמה האנושית, טכנולוגיות מזהות דפוסים, שיחות, תנועה?
"יש הרבה מאמץ סביב האזור הזה. גם בצבא וגם בשב"כ מנסים לנתח סנטימנט של אנשים ברשתות חברתיות. לדוגמא, לפי פוסט מסוים יש חשיבות להקשר של ההתבטאויות. היכולת לקחת טקסט, אודיו ווידאו ולנתח את הסנטימנט של הבן אדם ולנתח את הכוונה שלו, השתפרה משמעותית. זה אחד התחומים הנחקרים ביותר בעולם ה-AI, בין יכולות אלגוריתמיות מתקדמות לבין התנהגות של בני אדם, ומתוך זה מנסים לפענח כוונות של אנשים".
בחקירות שב"כ כבר נעשה שימוש בזה בסרטונים?
"היכולת קיימת."
