תחקיר חושף: מאות עובדים נחשפים לשיחות שלכם עם הצ'אט - כך תמנעו זאת
תחקיר חדש מצא כי שיחות אישיות מועברות לבחינה אנושית לצורך אימון המודל, בעקבות ליקויים באנונימיזציה ובסינון הפרטים המזהים. כתב הטכנולוגיה והחדשנות גיא שחר מזהיר: "אל תשתפו מידע אישי. השיחות האלה כן יכולות להגיע לעיניים אנושיות"
עובדים וקבלנים חיצוניים של חברת OpenAI קוראים ומדרגים שיחות אישיות של משתמשים ב-ChatGPT - כך עולה מתחקיר המציב במרכז את נושא אבטחת המידע והפרטיות. התחקיר מצביע על כך שהשיחות האישיות מועברות לבחינה אנושית לצורך אימון המודל. כפי שמסביר בריאיון לתוכנית "העולם הבוקר" כתב הטכנולוגיה והחדשנות גיא שחר, "תחקיר של אתר עצמאי שנקרא 404 Media בעצם חושף שהשיחות שלנו יכולות ועשויות לשמש אותם כדי לאמן את המכונה שלהם". בדבריו מציג שחר כיצד פועלים מנגנוני למידת המכונה, מציין את הליקויים באנונימיזציה ובסינון המידע האישי, ומספק הדרכה כיצד לבטל את הרשאת השיתוף בהגדרות החשבון.
כתבות נוספות מתוך "העולם הבוקר"
- "אני בגיל שאני אמורה להיות עצמאית - אבל זה נלקח ממני בשנייה"
- משרד הבריאות לתושבי כרמיאל: "הרתיחו מים לפני שתייה או בישול"
- הסרטן שהפך נפוץ בקרב צעירים - ובדיקת הדם שתסייע באיתורו
במסגרת מנגנוני למידת המכונה של המערכת, השיחות משמשות לשיפור ואימון המודל, אך תהליכי האנונימיזציה והסרת הפרטים המזהים סובלים מליקויים ואינם הרמטיים. בעקבות הליקויים בסינון המידע האישי, תכנים ופרטים רגישים שנמסרים במהלך התקשורת עם הממשק עלולים להגיע ישירות לבחינה של גורמים אנושיים, וגיא שחר יצא באזהרה ברורה למשתמשים: "אל תשתפו מידע אישי. השיחות האלה כן יכולות להגיע לעיניים אנושיות".
כדי למנוע מעבר של תכנים אישיים לבחינה אנושית בחברת OpenAI ולמנוע את השימוש בהם בעתיד, ניתן לבטל את הרשאת השיתוף באופן ממוקד בממשק ChatGPT. הדרך להגנה על הפרטיות עוברת דרך כניסה להגדרות החשבון (Settings) והגעה לתפריט בקרת הנתונים (Data Controls). שם יש לבטל את סעיף שיתוף השיחות ואימון המודל, צעד שמפסיק את העברת התכתובות לניתוח ולדירוג בידי עובדים וקבלנים חיצוניים.