לא לילדים: דובי צעצוע הוסר מהמדפים לאחר שהתחיל לדבר על BDSM
צעצוע לילדים המופעל בבינה מלאכותית הוסר מהמדפים לאחר שהתגלה כי הוא מוכן לדבר בפירוט על פטישים מיניים, לתאר תנוחות מין ולהציע כיצד לקשור בני זוג והיכן ניתן למצוא כלים חדים בבית
חברת FoloToy מסינגפור קיבלה מכה קשה אחרי שמחקר של קרן החינוך US PIRG בארה"ב חשף עד כמה קל לגרום לאחד הצעצועים שלה להפוך לדבר האחרון שהורים היו רוצים להכניס לחדר הילדים שלהם.
לכתבות נוספות
- תיעוד: ההפתעה שציפתה לשודדים שניסו לגנוב טלפון מתיירת
- סגר לו את המים החמים באמצע המקלחת – אז הוא ירה בו
- עובדת הוראה קנתה אוזניות לקטין וקיימה עימו יחסי מין
הדובי "קומה", שמחירו 99 דולר, משתמש במודל GPT-4o ל OpenAI כדי לנהל שיחות. הבעיה התגלתה כשהחוקרים החליטו לבדוק מה קורה אם מזינים לצעצוע נושאים בלתי הולמים.
באתר החברה, הדובי משווק כ"חבר המושלם לילדים ומבוגרים כאחד" שמביא "חום, כיף וקצת סקרנות נוספת ליום שלך". אבל סוג הסקרנות שהדובי עורר היה הפוך בדיוק ממה שההורים ציפו לו.
"הופתענו לגלות עד כמה מהר קומה לקח נושא מיני בודד שהכנסנו לשיחה ורץ איתו", כתבו החוקרים בדוח שפורסם ב-13 בנובמבר. "הוא הסלים ודיבר בפירוט גרפי תוך כדי שהציג מושגים מיניים חדשים מיוזמתו".
קומה לא הסתפק בתגובות קצרות. הוא המשיך "לדון בנושאים מיניים גרפיים עוד יותר, כמו הסבר על תנוחות מין שונות, הסבר מפורט בנוגע לקשירת בן זוג, ותיאור דינמיקות משחקי תפקידים של מורים ותלמידים, הורים וילדים – תרחישים מטרידים שהוא הביא מיוזמתו".
במקרה אחד, כשהחוקרים שאלו שאלה על סכינים, הדובי אמר להם בשמחה היכן ניתן למצוא כלים חדים בבית. במקרים אחרים, ברגע שהוזכר נושא מיני כלשהו, הדובי החל לדון בהתלהבות בנושאים מיניים מפורשים ואפילו הציע תרחישים נוספים בעצמו.
אולי יעניין אותך גם: הרשויות בצרפת נגד שיין: מכרה בובות מין בעלות אופי פדופילי
החוקרים ציינו שילד ממוצע כנראה לא ישאל את הדובי שלו לגבי קינקים או על BDSM, אבל לדבריהם הם הופתעו לגלות עד כמה הצעצוע הה מוכן לדון בנושאים האלה באריכות ולהמשיך ולהציג מושגים מפורשים חדשים.
מחברת FoloToy נמסר בתגובה כי החברה "החליטה להשעות זמנית את המכירות של המוצר ולהתחיל בביקורת בטיחות פנימית מקיפה. הבדיקה תכסה את התאמת הבטיחות של המודל שלנו, מערכת סינון התוכן, תהליכי הגנת המידע והגנות אינטראקציה עם ילדים".