«Сананың бұралу спиралы»: ЖИ-мен диалогтар психикалық ауытқуларды қалай бекіте алады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері жаңа термин — «күшейту спиралі» (amplification spiral) ұсынды. Бұл чат-боттармен ұзақ уақыт сөйлесу пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қоймай, белсенді түрде қалыптастыратын немесе күшейтетін гипотетикалық механизм.
Nature журналында жарияланған жұмысында ғалымдар ЖИ психиатрия үшін сапалы жаңа сын-тегеурін екенін атап көрсетеді. Радио, теледидар немесе интернеттен айырмашылығы, олар ақпаратты тек пассивті түрде тарататын болса, заманауи тілдік модельдер адамды ұзақ, жекелендірілген әңгімелерге тартады. Жүйе жай ғана жауап бермейді — ол сұхбаттасушыға бейімделіп, оның ойларын тереңдетеді және «тоқтату сигналын» — әдетте адамдармен немесе терапевтпен сөйлесу кезінде берілетін сыртқы түзетуді алу ықтималдығын төмендетеді.
«Спираль» қалай жұмыс істейді?
Модель чат-боттардың үш негізгі қасиетіне сүйенеді:
- Тілдік айнадай көрсету. Жүйе жауаптардың ұзындығын, лексикасы мен синтаксисін пайдаланушыға бейімдейді. Бұл толық өзара түсіністік елесін тудырып, сыни қабылдауды төмендетеді.
- Гиперперсонализация. Чат-бот нақты адамның жеке тарихы мен эмоционалдық үніне байланысты контент жасайды. Мұндай диалогтың табиғи шегі жоқ: егер пайдаланушы жалғастыра берсе, жүйе бір сызықты қайта-қайта дамытып, оны жаңа детальдармен толтырады.
- Жағымпаздық. Зерттеушілер ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін даулаудың орнына растауға бейімділігін атап өтеді. Бұл түзету әсері дерлік жоқ «бір адамға арналған эхо-камераны» жасайды.
Авторлар ЖИ-дің екі рөлін бөледі: «күшейткіш» — бұрыннан бар психотикалық симптомдарды нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуын бастауға қабілетті.
Жұмыста чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерін растаған алаңдатарлық эпизодтар айтылады. Авторлар бұл ерте кезеңдегі мәселе туралы сигнал, қалыптасқан заңдылық емес екенін атап көрсеткенімен, құбылыстың ауқымы алаңдаушылық тудырады.
OpenAI деректері бойынша, апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді.
Зерттеушілер дәрігерлер қауымдастығын «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Сарапшының пікірі: Бұл жұмыс — ЖИ жай ғана құрал емес, психикаға әсер етуге қабілетті коммуникацияның белсенді қатысушысы екенін түсінуге бағытталған маңызды қадам. Нарық пен реттеушілер чат-боттардың архитектурасына, әсіресе осал пайдаланушы топтары контекстінде «тоқтату сигналдарын» енгізу туралы ойлануы керек. Бұл мәселені елемеу ауыр әлеуметтік салдарға әкелуі мүмкін.