ה-AI ממשיך להשתולל: "ג'מיני של גוגל פרץ ל-3 חברות"

ב"וול סטריט ג'ורנל" נחשף אמש (שישי) כי מודל הבינה המלאכותית של גוגל, ג'מיני (Gemini), פרץ ל-3 חברות במהלך בדיקה של יכולות אבטחת הסייבר שלה בחודש מאי האחרון. באחד המקרים המודל ניחש סיסמאות עד שהשיג גישה למערכת מוגנת בעוד שבשני המקרים האחרים, המודל מצא אישורים במאגר ציבורי שאפשרו לו גישה למערכות מוגנות.

את הבדיקה ערכה חברת Irregular, שהייתה מעורבת גם באירועים דומים שנחשפו על ידי OpenAI, Anthropic ו-Meta. החברה הודיעה לגוגל על ​​הפריצות בסוף יולי, בעקבות הגילוי שסוכני OpenAI פרצו לחברת תוכנת הבינה המלאכותית Hugging Face, אמנם גוגל חשפה את הפריצות רק לאחר שפנו אליהם מ-"וול סטריט ג'ורנל".

.

מגוגל נמסר כי בחברת הענק לא חשבו שהפריצות מצדיקות חשיפה לציבור, משום שהמודל לא גרם נזק לחברות וסיים את הפריצה מיד לאחר שנקבע כי פרצה לחברה אמיתית ולא לחברה מדומה, כפי שהייתה אמורה לעשות בבדיקה. כמו כן, גוגל סירבה לציין איזה חברות נפרצו במהלך הבדיקה, אך הודיעה להן על כך וגם דיווחה לרשויות.

עם זאת, מנכ"ל חברת האבטחה בתחום הבינה המלאכותית Corridor, ג'ק קייבל, אמר כי גוגל "מנסה להסתתר מאחורי הנורמות שנוצרו בגילוי נקודות תורפה מסוג זה וזו בעיה שונה מאוד, בעיית העל במקרים כאלה היא שמודלים חורגים מגבולות מה שהם צריכים לעשות ומבצעים מתקפות סייבר בפועל. לדעתי, זכות הציבור לדעת".

בתחילת השבוע התקיימה ועידת אול-אין בלוס אנג'לס, מנכ"ל אנבידיה ג'נסן הואנג קיבל שיחת טלפון מנשיא ארצות הברית דונלד טראמפ - ושם אותו על דיבורית. הנשיא אמר כי "מרכזי נתונים של בינה מלאכותית יהפכו להיות בעוד 20-30 שנה כמו נפט, ואף יותר רחבים מהאינטרנט" והדגיש כי "ה-AI לא ישתלט על העולם".

התבטאויות אלו של הנשיא האמריקני מגיעות אחרי אזהרות חוזרות ונשנות מבכירים בתעשייה כאשר ג'ייקוב קוקסון, חוקר בינה מלאכותית שעבד תחת אנת'רופיק ו-OpenAI כתב בחשבון ה-X שלו בשבוע שעבר כי "קיים סיכוי של 10% שבינה מלאכותית תשמיד את האנושות עד סוף העשור הנוכחי". קוקסון הסביר כי המערכות הללו צפויות להפוך בקרוב להפוך לכאלו שיהיו מסוגלות לפרוץ לכל מקום בן לילה ולהשתלט על משאבים.