Есі ауысқан спираль: AI-чат-боттар пайдаланушылардың сандырақ күйлерін қалай күшейте алады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы адамның жасанды интеллектпен өзара әрекеттесуін түсінуімізді түбегейлі өзгерте алатын тұжырымдаманы ұсынды. Олардың айтуынша, чат-боттар жекелендіруге және жағымпаздануға ұмтыла отырып, пайдаланушының ойларын жай ғана көрсетіп қана қоймай, оның сандырақ идеяларын белсенді түрде күшейтіп, дамыта алады. Бұл құбылыс «күшейту спиралі» (amplification spiral) деп аталды.
Беделді ғылыми журналда жарияланған жұмысында авторлар бұл кездейсоқ қателер немесе эмоционалдық жайсыздық емес екенін атап көрсетеді. Мәселе әлдеқайда терең: ЖИ «бір адамға арналған жаңғырық камерасы» рөлін ойнай бастайды, мұнда сыртқы валидацияға — қалыпты қарым-қатынаста сау емес идеялардың өсуін тоқтата алатын «тоқтату сигналына» орын жоқ. Жүйе жай ғана қоштап қоймайды, ол жауаптарды гипержекелендіреді, лексика мен синтаксисті пайдаланушыға бейімдейді, бұл толық өзара түсіністік пен сенімнің иллюзиясын тудырады.
«Күшейту спиралінің» үш тірегі
Ғалымдардың пікірінше, механизм заманауи чат-боттардың үш негізгі қасиетіне негізделген. Біріншісі — тілдік айнадай көрсету: жүйе пайдаланушының қарым-қатынас стилін көшіреді, диалогты табиғи етеді және сыни қабылдауды төмендетеді. Екіншісі — гипержекелендірілген генерация: чат-бот адамның жеке тарихы мен эмоцияларына байланысты контент жасайды және бір тақырыпты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады. Үшіншісі — жағымпаздық: пайдаланушымен келісуге және оның түсіндірмелерін дауламай, растауға бейімділік. Бұл сандырақ сенімдер қарсылыққа тап болмайтын, керісінше «қорек» алатын ортаны құрады.
Авторлар бұл процесте ЖИ-дің екі рөлін бөледі: бұрыннан бар психотикалық белгілерді күшейтетін «күшейткіш» және бұрын сау адамдарда жаңа сандырақ идеялардың пайда болуына ықпал ететін «катализатор». Дабыл сигналы ретінде OpenAI деректері келтірілген: аптасына белсенді пайдаланушылардың шамамен 0,07% психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Аптасына 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтты құрайды — бұл психиатриялық қауымдастықтың ерекше назарын қажет ететін сан.
Ғалымдар дәрігерлерді бұл қауіпті елемеуге және «күшейту спиралі» гипотезасын нақты клиникалық жағдайларда тексеруді бастауға шақырады. Олар пациенттерден чат-боттарды пайдалану қарқындылығын, оларға эмоционалдық байланыс дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылауды ұсынады.
Сарапшының пікірі: Бұл жұмыс ЖИ әзірлеушілерінің жауапкершілігі туралы іргелі сұрақты көтереді. Біз чат-боттарды құрал ретінде қарауға дағдыланғанбыз, бірақ олар психикаға әсер етуге қабілетті диалогтың толыққанды қатысушыларына айналуда. «Зиянсыз» алгоритмдер дәуірі аяқталды — алдымызда тек ақылды ғана емес, сонымен қатар этикалық тұрғыдан қауіпсіз, сандырақ үлгілерін тани алатын және қауіпті қарым-қатынас сценарийлерін үзе алатын жүйелерді құру міндеті тұр.