מערכת בינה מלאכותית חשבה שקלרינט הוא אקדח והזעיקה את המשטרה
פלורידה: מערכת ממוחשבת לזיהוי נשק זיהתה בטעות קלרינט ככלי נשק, מה שהוביל לסגירת בית ספר תיכון והזעקת כוחות שיטור למקום
מאות בתי ספר בארצות הברית התקינו בשנים האחרונות מערכות בינה מלאכותית שאמורות לזהות כלי נשק ולמנוע אירועי ירי. הלחץ הציבורי אחרי תקריות הירי הקטלניות בבתי ספר הוביל מחוזות לימודיים להשקיע מיליוני דולרים בטכנולוגיות אלה, אבל השאלה כמה הן באמת יעילות - ועד כמה הן עלולות לגרום נזק - עדיין ללא תשובה ברורה.
לכתבות נוספות
- פוטרה מעבודתה כי הגיעה מוקדם מדי למשרד
- אישום: גנבה צעצוע מין ואיימה על פקח אוטובוס עם שוק טלה
- החליט לקנות את כל הקלפים של הפוקימון הכי משעמם שיש - ויצר בועה מטורפת
בית הספר התיכון לותון צ'יילס באובידו, פלורידה, נסגר ביום שלישי האחרון בעקבות אזעקת שווא לאחר תלמיד שנשא קלרינט זוהה על ידי מערכת בינה מלאכותית ככלי נשק, והמנהלים הפעילו נוהל קוד אדום. שוטרים הוזעקו למקום, רק כדי לגלות שמדובר בכלי נגינה.
המערכת שגרמה לאזעקה היא פלטפורמת זיהוי איומים שמפעילה החברה ZeroEyes מפנסילבניה. מערכת החינוך המחוזית משלמת לחברה 250 אלף דולר מדי שנה על השירות.
המערכת מתחברת למצלמות האבטחה הקיימות ומשתמשת באלגוריתמים שעברו אימון על תמונות של יותר מ-100 סוגי כלי נשק. כשהבינה המלאכותית חושבת שזיהתה נשק, הצילומים מועברים לאנליסטים אנושיים במרכז הבקרה של החברה, שאמורים לאשר את ההתרעה לפני שהם מודיעים למשטרה או לבתי הספר. במקרה הזה, השכבה האנושית הנוספת לא עצרה את האזעקה.
חוקרי אבטחה ופרטיות העלו חששות שהרחבת מעקב AI בבתי ספר עלולה לפגוע בתלמידים יותר מאשר לעזור להם. צ'אד מרלו, יועץ מדיניות בכיר באיגוד החירויות האזרחיות האמריקאי, אמר בשנה שעברה שמערכות שמייצרות אזעקות שווא תכופות עלולות ליצור "תחושת ביטחון כוזבת" ולחשוף ילדים לסגירות מיותרות או לשיטור מוגבר.