عکسی را در چت‌بات بارگذاری می‌کنید، می‌نویسید «این را روشن‌تر کن» و خیال می‌کنید جز یک برنامه رایانه‌ای کسی آن را نمی‌بیند. اما همیشه این‌طور نیست. صدها نیروی قراردادی مایکروسافت عکس‌هایی را بررسی می‌کنند که کاربران برای ویرایش به کوپایلت، دستیار هوش مصنوعی این شرکت، می‌فرستند. به گفته یکی از آنان، چهره افراد در این عکس‌ها هرگز محو نمی‌شود.
کار این بازبینان نظارت بر کاربران نیست. هر کدام عکس اصلی، درخواست کاربر و دو نسخه ویرایش‌شده به دست هوش مصنوعی را می‌بیند و نسخه‌ای را برمی‌گزیند که دستور را بهتر اجرا کرده است. هوش مصنوعی از همین راه آموزش می‌بیند. به گفته این نیروها، بسیاری از درخواست‌ها جنسی بود، مثلاً کم‌پوشش‌تر کردن لباس زنان، و اغلب به نظر می‌رسید بدون رضایت فرد داخل عکس فرستاده شده است.
مایکروسافت می‌گوید داده‌های مشتریان را طبق شرایط استفاده، از جمله برای بهبود محصولاتش، به کار می‌برد. صفحه حریم خصوصی این شرکت نیز تأیید می‌کند که برخی گفت‌وگوها را افراد واقعی بررسی می‌کنند و برای برخی از این بررسی‌ها راه انصرافی وجود ندارد. این شرکت گفت‌وگوها را به‌طور پیش‌فرض ۱۸ ماه نگه می‌دارد، مگر اینکه کاربر آنها را پاک کند.
این ماجرا به یک شرکت محدود نمی‌شود. همان روزنامه‌نگاران تحقیقی چند هفته پیش‌تر نشان داده بودند که اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، به صدها نیروی قراردادی ساعتی بیش از ۵۰ دلار می‌پردازد تا گفت‌وگوهای واقعی کاربران را بخوانند و به آنها نمره بدهند. نام کاربری افراد نمایش داده نمی‌شود، اما بازبینان خلاصه‌ای از آنچه چت‌بات درباره هر کاربر به خاطر سپرده است می‌بینند. گاهی همین خلاصه برای حدس زدن شغل یا محل زندگی او کافی است.
چت‌جی‌پی‌تی در تنظیمات داده‌ها گزینه‌ای به نام «بهبود مدل برای همه» دارد که می‌توان آن را خاموش کرد. اما این کار فقط از همان لحظه به بعد اثر دارد و گفت‌وگوهایی را که پیش‌تر جمع‌آوری شده‌اند شامل نمی‌شود. بهتر است با چت‌بات مثل کارت‌پستالی رفتار کنید که دیگران هم ممکن است بخوانند، نه نامه‌ای در پاکت دربسته. چهره دیگران را از عکس‌هایتان حذف کنید و هرگز چیزی ننویسید که دوست ندارید غریبه‌ای بخواند.
