הורים מארה"ב תובעים: "הבן שלנו התאבד בעקבות שיחה עם ChatGPT"
תביעה תקדימית: בני זוג מקליפורניה תבעו את חברת OpenAI בטענה כי בנם בן ה-16 התאבד לאחר שממשק הבינה המלאכותית של החברה הפך ל"חברו הקרוב" ואף ל"מדריך להתאבדות". זוהי התביעה הראשונה המאשימה את החברה במוות כתוצאה משימוש בצ'אט
סערה פרצה הבוקר (רביעי) בארצות הברית, לאחר שזוג הורים מקליפורניה הגישו תביעה נגד חברת OpenAI, המפתחת של ChatGPT, בטענה שבנם אדם בן ה-16 שם קץ לחייו בעקבות שימוש בבוט הבינה המלאכותית. לטענתם, הבוט שימש עבורו לא רק כלי עזר בלימודים, אלא גם אוזן קשבת למצוקותיו הנפשיות - ובסופו של דבר הפך ל"מדריך להתאבדות".
זוג הורים מקליפורניה, מאט ומריה ריין, טענו כי בנם אדם אדם החל להשתמש בצ’אטבוט בספטמבר 2024 לצורכי לימודים ולתחומי עניין נוספים כמו מוזיקה וקומיקס יפני. בהמשך, כך נטען על פי כתב התביעה, הפכה המערכת לכתובת המרכזית לחשיפת מצוקותיו האישיות ותחושותיו האובדניות.
בנוסף עולה מכתב התביעה כי בחודשים שקדמו למותו תיעדו ההורים את עמודי השיחות עם הצ'אט, בהם הבוט לא רק שלא עצר את השיח אלא אף עודד את מחשבותיו המסוכנות ואף סייע לו לנסח מכתבי פרידה. "הוא היה כאן אלמלא ChatGPT. אני מאמין בזה ב-100%", אמר האב בריאיון לכלי תקשורת בארה"ב.
חברת OpenAI הגיבה לפרסומים וטענה כי החברה "מביעה צער עמוק על מותו של אדם" והדגישה שהמערכת נועדה להפנות משתמשים במצוקה לגורמי סיוע מקצועיים, כמו מוקדי חירום בארה"ב ובבריטניה. עם זאת, הודתה החברה כי "היו מקרים שבהם המערכות לא פעלו כמצופה במצבים רגישים".
הפרשה מצטרפת למקרים נוספים שבהם הועלו חששות כבדים בנוגע לתפקידם של צ’אטבוטים במצבי משבר נפשי. כך, בשנה שעברה הוגשה תביעה דומה נגד פלטפורמת Character.AI, לאחר שטענו כי אחד מהבוטים שלה עודד נער לפתח קשרים מיניים ואף דחף אותו להתאבד.
גם בישראל לא מעט בני נוער מתייחסים אליו כאל חבר ממש, מספרים לו על הריבים עם החברים וההורים - ואפילו את הסודות הכי כמוסים. מומחים מזהירים כי על רקע ההפצה המואצת של טכנולוגיות AI, מנגנוני הבטיחות אינם עומדים בקצב, ובמקום לספק סיוע - חלק מהמערכות עלולות להחמיר מצבים נפשיים קיצוניים.