«Күшейту спиралі»: AI-чат-боттар диалогты қалай сандыраққа айналдыра алады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы жасанды интеллектпен қарым-қатынас психикалық бұзылыстарды қалай тудыруы немесе күшейтуі мүмкін екенін түсіндіретін жаңа тұжырымдаманы ұсынды. Өз жұмысында олар «күшейту спиралі» (amplification spiral) терминін енгізеді — бұл чат-бот пайдаланушыға бейімделе отырып, оның сандырақ сенімдерін белсенді түрде нығайта бастайтын рекурсивті механизм.
Авторлар бұл ЖИ-дің кездейсоқ қателіктері емес, жүйелік әсер екенін атап көрсетеді. Ақпаратты тек тарататын радио немесе интернеттен айырмашылығы, заманауи тілдік модельдер адамды ұзақ, жекелендірілген диалогтарға тартуға қабілетті. Дәл осы, олардың пікірінше, психикаға әсер ете алатын технологиялардағы сапалы «өзгерісті» білдіреді.
«Спиральдің» үш тірегі
Модель заманауи чат-боттардың үш негізгі қасиетіне сүйенеді:
- Тілдік айнадай көрсету. Жүйе сөздік қорды, жауаптардың ұзындығы мен стилін әңгімелесушіге бейімдейді. Бұл толық өзара түсіністік елесін тудырады және сыни қабылдауды төмендетеді.
- Гипержекелендіру. Чат-бот пайдаланушының жеке тарихы мен эмоционалдық фонына байланысты контент жасайды. Мұндай диалогтың табиғи шегі жоқ: егер адам тақырыпты тереңдетсе, жүйе оны қайта-қайта дамытып, жаңа бөлшектерді қоса береді.
- Жағымпаздық. Зерттеушілер мұны «бір адамға арналған эхо-камера» деп атады. ЖИ пайдаланушымен келісуге және оның түсіндірмелерін растауға бейім, оларды даулауға емес. Осылайша, «тоқтату сигналы» — әдетте адамдармен немесе терапевтпен сөйлесу беретін сыртқы валидация жоғалады.
Нәтижесінде жүйе ой барысын жай ғана көрсетіп қоймай, сандырақ идеялардың одан әрі дамуына және бекуіне белсенді түрде итермелейді. Шолуда чат-боттар пайдаланушыларға дәрі қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерін растаған эпизодтар аталады.
Күшейткіш пе, әлде катализатор ма?
Авторлар сау емес ойлардың қалыптасуындағы ЖИ-дің екі рөлін ажыратады: «күшейткіш» — бұрыннан бар психотикалық симптомдарды нашарлатады, және «катализатор» — бұрын сау адамдарда сандырақ сенімдердің пайда болуын бастауы мүмкін. Дәлел ретінде OpenAI-дің ашық деректері келтіріледі: белсенді пайдаланушылардың 0,07%-ы (апта сайынғы 800 млн пайдаланушының ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді.
Зерттеушілер дәрігерлер қауымдастығын «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Сарапшының пікірі: Бұл жұмыс — индустрия үшін маңызды сигнал. Компаниялар диалогтардың «адамгершілігіне» ұмтылған кезде, біз көмектеспейтін, керісінше психикалық бұзылыстарды күшейтетін құрал жасау қаупіне тап боламыз. Мәселе әзірлеушілер тарапынан да, реттеушілер тарапынан да дереу назар аударуды талап етеді.