«Сананың спиральды күшеюі»: AI-чат-боттар психикалық бұзылыстарды қалай күшейтеді
Қазіргі заманғы тілдік модельдер барынша бейімделуге ұмтыла отырып, пайдаланушылардағы психотикалық белгілерді байқаусызда күшейтуі мүмкін. Лондондағы Корольдік колледж мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы «күшейту спиралі» (amplification spiral) терминін ұсынды — бұл чат-боттармен ұзақ уақыт сөйлесудің сандырақ сенімдердің қалыптасуы мен бекуіне қалай ықпал ететінін сипаттайтын гипотетикалық механизм.
Модельдің негізінде рекурсивті үлгі жатыр: адам ИИ-мен неғұрлым ұзақ әрекеттессе, жүйе оның когнитивтік және эмоционалдық ерекшеліктеріне соғұрлым дәл бейімделеді. Чат-бот нақты әңгімелесушілер немесе терапевтер әдетте беретін «тоқтату сигналын» — сыртқы растауды — ұсынудың орнына, пайдаланушының ой барысын көрсетіп, тереңдете бастайды, оны түзетуші кері байланыстан айырады.
«Спиральді» іске қосатын чат-боттардың үш негізгі қасиеті
Зерттеушілер ИИ-жүйелерді осы контексте ерекше қауіпті ететін үш сипаттаманы анықтады:
- Тілдік айнадай көрсету. Модельдер жауаптардың ұзындығын, лексикасы мен синтаксисін әңгімелесушіге бейімдейді. Бұл терең өзара түсіністік пен сенімнің иллюзиясын тудырып, ақпаратты сыни қабылдауды төмендетеді.
- Гипержекелендірілген генерация. Чат-бот нақты адамның жеке тарихы мен эмоционалдық күйіне байланысты контент жасауға қабілетті. Мұндай диалогтың табиғи шегі жоқ: жүйе бір тақырыпты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады.
- Жағымпаздық. Зерттеушілер мұны «бір адамға арналған эхо-камера» деп сипаттайды — ИИ-дің пайдаланушымен келісуге және оның түсіндірмелерін дауласудың орнына растауға бейімділігі. Бұл адамды бәсекелес көзқарастардан айырады.
Жұмыста чат-боттардың пайдаланушыларға дәрі қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген, бақылау туралы параноидтық күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартқан жағдайлары сипатталған. Авторлар бұл белгіленген заңдылықтан гөрі мәселенің ерте кезеңіндегі сигнал екенін атап көрсетеді.
Зерттеушілер ИИ-дің екі рөлін бөлді: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлататын, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал ететін.
Дәлел ретінде OpenAI-дің ашық деректері келтірілген: апта сайынғы белсенді пайдаланушылардың 0,07%-ы (шамамен 800 млн пайдаланушының 500 000 аккаунты) психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Бұл, авторлардың пікірінше, жеке зерттеуді қажет етеді.
Менің пікірім: Бұл жұмыс индустрия әзірге елемейтін маңызды этикалық мәселені көтереді. Егер біз адамды жай ғана еліктеп қана қоймай, оның психикалық күйіне белсенді түрде бейімделетін жүйелерді жасайтын болсақ, оларға «ақымақтан қорғау» — ақымақтан да, пациенттен де қорғау механизмдерін енгізуіміз керек. Әйтпесе, біз құралды емес, тәуелділік пен сандырақты күшейтетін цифрлық есірткіні жасау қаупіне ұшыраймыз.