אובמה נגד AI: "יכולה להיות מסוכנת אם לא מנוהלת כראוי"
הנשיא לשעבר השתתף בכנס תרומות למפלגה הדמוקרטית והתייחס לבהלה הציבורית סביב הבינה המלאכותית, זאת לאחר שחוקרים הזהירו מקצב הפיתוח המהיר שלה: "זה מתקדם מהר מאוד לידיים פרטיות, ממליץ בחום שהדמוקרטים יגבשו מסגרת לדיון ציבורי נרחב"
לאחר שעובד לשעבר של חברת OpenAI ואנת'רופיק, ג'ייקוב קוקסון, הזהיר את העולם מהשמדה המונית, בניו יורק טיימס דווח הבוקר (ראשון) כי נשיא ארצות הברית לשעבר, ברק אובמה, אמר באירוע גיוס תרומות למפלגה הדמוקרטית כי "בינה מלאכותית עלולה להיות מסוכנת אם לא תנוהל כראוי".
"הבינה המלאכותית מתקדמת בקצב מהיר מאוד לעבר המגזר הפרטי", אמר הנשיא והוסיף: "אם לא נתמודד עם זה, אני חושב שזה יכול להיות מסוכן". בנוסף, קרא הנשיא לשעבר לדמוקרטים לגבש סדרי מדיניות וממשל כדי להתמודד עם קצב הפיתוח המהיר בתחום הבינה המלאכותית.
הנשיא פנה למנהיג המיעוט בבית הנבחרים האקים ג'פריס ואמר: "ברגע שתכהן כיושב ראש, אני ממליץ בחום שהדמוקרטים יגבשו מסגרת לדיון ציבורי נרחב". כמו כן, אובמה קרא למועמדים במירוץ לנשיאות 2028 להפוך את הבינה המלאכותית לאחד מהנושאים המרכזיים שלהם, עם תוכנית ברורה מאוד להתמודדות עם החששות הבטיחותיים והכלכליים הסובבים אותה.
במקביל, מנכ"ל אנת'רופיק, דריו אמודי, קרא לחברות בינה מלאכותית להגביל את העבודה על יכולות המודל ולהאט את קצב הפיתוח, זאת בעקבות הבהלה שנוצרה בשבועות האחרונים סביב החששות הגוברים בציבור סביב התפתחות ה-AI. מנכ"ל OpenAI סם אלטמן ומנכ"ל xAI אילון מאסק הסכימו.
כזכור, הבהלה מההתפתחות בתחום ה-AI הגיעה לאחר שמספר הולך וגדל של מחוקקים קראו להחמיר את החקיקה נגד מערכות בינה מלאכותית, זאת לאחר אזהרתו של קוקסון, חוקר בינה מלאכותית בן 27.
לאחר שהתפטר מתפקידו, פרסם קוקסון בחשבונו הפרטי ברשת החברתית X את הנימוק שבו תקף בחריפות את שתי החברות המובילות. לדבריו, "אף אחת מענקיות הטכנולוגיה שמפתחות בינה מלאכותית אינה פועלת באחריות, והן שועטות לעבר פיתוח של מודל עם יכולות של לשיפור עצמי. מהמרות על האנושות".
בתוך כך, קוקסון ציין כי חוקרים המעורבים בפיתוח הטכנולוגיה מאמינים באמת ובתמים שיש סיכוי של יותר מ-10% כי היא עלולה להשמיד את האנושות עוד לפני סוף העשור הנוכחי. הוא הסביר כי המערכות הללו צפויות להפוך בקרוב להפוך לכאלו שיהיו מסוגלות לפרוץ לכל מקום בן לילה ולהשתלט על משאבים.
בנוסף, התייחס קוקסון להבדלים בין שתי החברות שבהן עבד, וציין כי "רבים ב-OpenAi טרם הפנימו לעומק את ההשלכות האפשריות על הציוויליזציה", בעוד שבאנת'רופיק הסיכונים מובנים היטב - אך החברה לא מתכוונת לוותר על המרוץ להגיע ראשונה ליעד, "התפיסה היא שאם היא לא תעשה זאת - אף אחד לא יפעל באחריות".
אוון הובינגר, גם הוא חוקר בטיחות בכיר באנת'רופיק, הזהיר כי "הבינה המלאכותית מתקדמת כל כך, ויש סיכוי של יותר מ-10% שתוך עשור היא תחסל את האנושות". הובינגר, שעוסק בשילוב של מאפיינים אנושיים במודלים של בינה מלאכותית, ציין כי הסיכון הקיים כיום אמנם נמוך, אך הוא "מודאג מכך שהטכנולוגיה תתפתח ותשתפר בקרוב עד כדי יצירת איום קיומי".