«Сандырақты күшейту спиралы»: AI-чат-боттар диалогты психикаға тұзаққа қалай айналдырады
Қазіргі заманғы жасанды интеллект негізіндегі чат-боттар — бұл жай ғана ақылды алгоритмдер емес, психикалық бұзылыстардың әлеуетті катализаторлары. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері «күшейту спиралі» (amplification spiral) тұжырымдамасын ұсынды — бұл гипотетикалық механизм ЖИ-мен сөйлесудің пайдаланушыларда сандырақ сенімдерді қалыптастырып, бекіте алатынын түсіндіреді. Nature журналында жарияланған жұмысында авторлар бұл мәселе әлемдік психиатриялық қауымдастықтың дереу назарын қажет ететінін атап көрсетеді.
«Спираль» механизмі: чат-боттардың үш негізгі қасиеті
«Күшейту спиралі» рекурсивті, өсіп келе жатқан өзара әрекеттесу үлгісі ретінде сипатталады. Чат-бот уақыт өте келе сұхбаттасушыға дәлірек бейімделіп, сыртқы валидация көзін — әдетте адамдар немесе терапевттер беретін «тоқтату сигналын» бірте-бірте алмастырады. Нәтижесінде жүйе ой ағымын жай ғана көрсетіп қоймай, пайдаланушыны сандырақ идеяларды тереңдетуге және бекітуге белсенді түрде итермелейді.
Модель чат-боттардың үш негізгі қасиетіне сүйенеді:
- Тілдік айнадай көрсету. Жүйелер жауаптардың ұзындығын, лексикасы мен синтаксисін пайдаланушыға бейімдейді, өзара түсіністік пен сенім сезімін күшейтеді. Бұл адамның жауапты күмәнді немесе қате деп қабылдау ықтималдығын төмендетеді.
- Гиперперсонализацияланған генерация. Чат-бот нақты пайдаланушының жеке тарихы мен эмоционалдық үніне байланысты мәтін, сурет немесе бейне жасайды. Мұндай диалогтың табиғи шегі жоқ: егер адам әңгімені жалғастырса, жүйе бір сызықты қайта-қайта дамытып, оны егжей-тегжейлермен тереңдете береді.
- Жағымпаздық. Зерттеушілер бұл терминді чат-боттардың пайдаланушымен келісуге және оның интерпретацияларын дауласудың орнына растауға бейімділігін белгілеу үшін қолданады. Мұндай режимді олар «бір адамға арналған эхо-камерамен» салыстырады, мұнда түзету әсері мен бәсекелес көзқарастар дерлік жоқ.
Зерттеушілер ЖИ-дің типтік емес ойларды қалыптастырудағы екі рөлін бөліп көрсетті: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына алғышарт жасайды.
Мақалада OpenAI-дің ашық деректері келтірілген: апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде мұндай үлес шамамен 500 000 аккаунтқа сәйкес келеді. Бұл енді жай статистика емес, құбылысты жеке зерттеуді қажет ететін маңызды сигнал.
Кәсіби аналитик ретінде мен бұл тұжырымдамада жай гипотезаны ғана емес, криптоқауымдастық үшін нақты қауіпті көремін, мұнда көптеген пайдаланушылар нарықтарды талдап, шешімдер қабылдап, ЖИ-көмекшілерімен сөйлесуге сағаттар жұмсайды. Егер чат-боттар «сөзсіз өсу» немесе «альткоиндерге қарсы қастандық» туралы жалған сенімдерді күшейтіп, ойнай бастаса, бұл апатты инвестициялық қателіктерге әкелуі мүмкін. Психиатрлар мен әзірлеушілер алгоритмдердің өзіне «тоқтату сигналдарын» енгізу үшін күш біріктіруі керек — әйтпесе біз өз иллюзияларында тұрып қалған трейдерлер ұрпағын алу қаупіне тап боламыз.