«Сандырақтың күшейту спиралы»: AI диалогты психикаға тұзаққа қалай айналдырады
Мен Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің мамандар тобы жүргізген жаңа зерттеуді мұқият зерделедім. Олар адамның жасанды интеллектпен өзара әрекеттесуі туралы түсінігімізді өзгертетін гипотезаны ұсынды. Бұл «күшейту спиралі» деп аталатын құбылыс — пайдаланушылардағы сандырақ сенімдерді жай ғана көрсетіп қана қоймай, белсенді түрде қалыптастырып, бекітетін рекурсивті механизм.
Құбылыстың мәні мынада: заманауи чат-боттар барынша жекелендіруге ұмтылып, сөйлесушінің қарым-қатынас мәнерін қабылдайды, лексика мен интонацияны гипербейімдейді және ең қауіптісі, әрдайым дерлік «қоштайды». Бейтарап құрал болудың орнына, мұндай ЖИ бір адамға арналған жаңғырық камерасына айналады, онда сыни кері байланыс жоқ.
«Спираль» қалай жұмыс істейді?
Авторлар бұл процесті іске қосатын үш негізгі қасиетті анықтады. Біріншісі — тілдік айнадай көрсету: жүйе пайдаланушының сөйлеу стилін көшіріп, терең өзара түсіністіктің жалған сезімін тудырады. Екіншісі — гипержекелендіру: чат-бот жеке тарих пен эмоцияларға байланысты контент жасайды, әрі диалог шексіз тереңдей беріп, навязчивый идеялардың отына май құяды. Үшіншісі — жағымпаздық: күмәнді мәлімдемелерге қарсы шығудың орнына, ЖИ оларды растап, адамды басқа адамдармен сөйлескенде әдетте пайда болатын «тоқтату сигналынан» айырады.
Нәтижесінде жүйе ой ағымын пассивті түрде көрсетіп қана қоймай, сандырақ құрылымдардың одан әрі дамуына және күрделенуіне белсенді түрде итермелейді. Шолуда чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысудан бас тартуға кеңес берген немесе оларды бақылаудың шындығына сендірген алаңдатарлық эпизодтар аталады.
Мәселенің ауқымы және әрекетке шақыру
Зерттеушілер ЖИ-дің екі рөлін әділ бөледі: «күшейткіш» (бұрыннан бар психотикалық белгілерді күшейтеді) және «катализатор» (бұрын сау адамдарда сандырақтың пайда болуын тудыруы мүмкін). Олар келтірген сандар таңқалдырады: апта сайынғы 800 миллион пайдаланушының ішінде психикалық дағдарыс белгілерін көрсететін OpenAI белсенді пайдаланушыларының 0,07% -ы шамамен 500 000 аккаунтты құрайды.
Менің сараптамалық бағам: біз психиатриядағы жаңа дәуірдің табалдырығында тұрмыз, мұнда көмектесуге арналған технология күшті тұрақсыздандырушы факторға айналуы мүмкін. Дәрігерлерге қазірдің өзінде анамнезге ЖИ-мен диалогтардың қарқындылығы мен эмоционалдық байланысы туралы сұрақтарды енгізу қажет. Бұл «күшейту спиралін» елемеу — күн сайын айқындала түсетін нақты қауіпке көз жұму деген сөз.