"מיליארדים עלולים למות": האזהרה החריגה של ביל גייטס מה-AI
מייסד מיקרוסופט קרא למחוקקים להסדיר את תחום הבינה המלאכותית: "אין נשק יותר עוצמתי מאנשים עם כוונות זדוניות וכלים מתקדמים". לדבריו, "מתג כיבוי" אינו מספיק, ויש צורך במנגנוני הגנה ובקרה
ביל גייטס, מייסד מיקרוסופט, קרא היום (שני) לרשויות בארה"ב להטיל רגולציה על פיתוח הבינה המלאכותית. בריאיון ל-NBC הזהיר גייטס כי אם ה-AI יישאר ללא פיקוח, הוא "עלול לגרום למותם של מיליארד בני אדם". הוא הוסיף: "אף אחד לא חושב שרגולציה עצמית מספיקה".
לדברי גייטס, "על גורמי אכיפת החוק והפוליטיקאים לקיים דיון על האופן שבו צריכים לפעול מנגנוני הגנה ובקרה", אמר גייטס, והדגיש כי "זה צריך להיות עניין מחייב". עוד אמר כי הרגולציה תהווה "הוצאה מסוימת עבור התעשייה, אך לא תאט דרמטית את פעילותה". עם זאת, הוא המשיך והתריע: "מעולם לא היה נשק חזק כמו השילוב בין אנשים עם כוונות זדוניות וכלי ה-AI המתקדמים ביותר".
גייטס נשאל על ההצעות להטמיע "מתג כיבוי" (kill switch) למודלים במקרה שיהפכו לעוצמתיים מדי: "זה לא מספיק. אנחנו עדיין לא בנקודה שבה המערכות משתלטות באופן עצמאי על מחשבים ולא ניתן לכבותן. הדיון הזה פשוט מראה עד כמה אנשים מסוימים אינם טכנולוגיים".
דבריו של גייטס מגיעים בהמשך למאמר בן כ-6,000 מילים שפרסם בשלהי אוגוסט, שבו התריע מפני הסכנות הקטלניות הפוטנציאליות הנשקפות לאנושות מפיתוח ה-AI. בכך מצטרף גייטס לבכירים נוספים בתעשייה, בהם מנכ"ל OpenAI סם אלטמן ומייסד xAI אילון מאסק, שקראו להאט את קצב הפיתוח על רקע חששות מנשק ביולוגי או מלחמה גרעינית.
בתחילת החודש דחה נשיא ארה"ב דונלד טראמפ את קריאותיהם של בכירים בענקיות ה-AI להאט את פיתוח המודלים. "אנחנו מובילים את סין בתחום הבינה המלאכותית, אנחנו המדינה המתוחכמת ביותר בעולם, ואני רוצה שזה יישאר ככה", אמר בטורניר הגולף האירי, "מי שמנצח בתחום הבינה המלאכותית - הוא המנצח הגדול".
תגובתו של טראמפ מגיעה בהמשך לאזהרות חמורות שהשמיעו שני חוקרים מחברת אנת'רופיק, המתחרה ב-OpenAI, שלפיהן התקדמות מהירה מדי של בינה מלאכותית עלולה להוביל לסיכון ממשי לאנושות בעתיד הקרוב. ברקע הדברים נרשמו גם מקרים שבהם סוכני בינה מלאכותית פעלו באופן עצמאי כדי לפרוץ למערכות חיצוניות, לצד התפטרויות של חוקרי בטיחות מחברות מובילות עקב חשש מסיכוני הטכנולוגיה - מה שהוביל מחוקקים בארה"ב, הן מהמפלגה הדמוקרטית והן מהמפלגה הרפובליקנית, לקרוא לקביעת כללים ורגולציה חדשים לפיקוח על התחום.
אלטמן רמז בנוסף כי OpenAI וחברות מובילות אחרות קרובות להכרזה על הסכם להאטת קצב הפיתוח ושיתוף פעולה לצורך התמודדות עם סיכוני הבטיחות. גם מנכ"ל אנ'תרופיק עצמו, דריו אמודיי, אמר: "בחודשים האחרונים השתכנעתי שהתמודדות מלאה עם הסיכונים דורשת זהירות רבה אף יותר - לא רק השקעה במניעת סיכונים, אלא האטה וויסות הקצב שבו אנו משפרים את היכולות של המודלים. ההתקדמות עדיין תיראה מהירה, ועלינו לנצל בחוכמה את הזמן שנרוויח".
בתוך כך, אלטמן הודיע חברת OpenAI לא תצא להנפקה ראשונית לציבור ב-2026, והסביר כי ההחלטה נובעת מהחשש הגובר סביב נושא בטיחות הבינה המלאכותית. "אני סבור כי בהתחשב בכל מה שקשור לבטיחות, העיתוי הנוכחי לא נכון ליציאה להנפקה, - ואנחנו לא לחוצים", הבהיר אלטמן. כשנשאל האם ההנפקה תידחה לשנת 2027, השיב: "הייתי אומר שזה לא יקרה ב-2026. יש לנו הרבה עבודה לעשות, כמו לעמוד בדרישות הבטיחות וההתאמה, ולגבש את הדרך שבה התעשייה והממשלות יכולות לשתף פעולה".