Claude çatbotunun yaradıcısı olan Anthropic şirkəti noyabrın 12-dən etibarən, öz ifadəsi ilə desək, bu süni intellektlə «davamlı və səbəbsiz» şəkildə amansız davranan istifadəçilərin hesablarını müvəqqəti dayandıra və ya həmişəlik bloklaya bilər. Beləliklə, çatbotla ünsiyyət tərzi onun istifadə qaydalarının bir hissəsinə çevrilib və onu davamlı olaraq incitmək istifadəçi hesabının itirilməsi ilə nəticələnə bilər.
Bu qayda gündəlik əsəbilikləri, çatbotun cavablarına etirazı, bədii yaradıcılıqda tünd mövzuları və ya onun imkanlarının sınanmasını əhatə etmir. «Sən heç nəyə yaramırsan!» kimi arabir səslənən təhqir də hesabın bloklanmasına səbəb olmur. Məqsəd yalnız ekstremal hallardır, yəni heç bir aydın səbəb olmadan süni intellekti davamlı olaraq incidən istifadəçilər.
Claude ötən ildən etibarən təhqiramiz söhbətləri özü sonlandıra bilir və bundan sonra Anthropic istifadəçiyə xəbərdarlıq edə və ya onun hesabını bağlaya bilər. Əvvəlki sınaqlarda da müşahidə olunmuşdu ki, istifadəçilər zərərli sorğularda israr etdikdə Claude Anthropic-in «zahiri narahatlıq» adlandırdığı davranış modeli nümayiş etdirir.
Anthropic bildirir ki, modellərinin hisslərə bənzər nəyəsə malik olub-olmadığını bilmir. Şirkətin baş icraçı direktoru Dario Amodei də bu modellərin şüurlu olub-olmadığının hələ məlum olmadığını deyib, lakin Anthropic bu ehtimalı istisna etmir. Bunun əksinə olaraq, Microsoft-un süni intellekt bölməsinin rəhbəri Mustafa Süleyman hesab edir ki, süni intellektin şüuru yoxdur, o, nəyisə hiss etmir, yaşamır və əziyyət çəkmir. Roma Papası XIV Leo da maşınların ruhu olmadığını və onların sadəcə məlumatları sürətlə bir araya gətirdiyini deyib.
Bununla belə, çatbotlarla nəzakətli davranış həmişə daha yaxşı cavabla nəticələnmir. 2025-ci ildə aparılmış bir araşdırma göstərib ki, ChatGPT açıq, hətta kobud suallara çox nəzakətli suallarla müqayisədə bir qədər daha çox düzgün cavab verib.
