«Сандырақты күшейту спиралі»: AI пайдаланушыларды психоз тұңғиығына қалай тартады
Психиатриялық қауымдастық жасанды интеллект дәуірінің жаңа сынағына тап болды. Лондон мен Германиядан келген зерттеушілер «күшейту спиралі» деп аталатын рекурсивті механизмнің бар екендігі туралы гипотеза ұсынды, бұл механизм бойынша чат-боттармен сөйлесу пайдаланушылардың сандырақ сенімдерін көрсетіп қана қоймай, оларды белсенді түрде қалыптастыруы мүмкін.
Назарда — осал психика үшін әлеуетті қауіпті ететін заманауи тілдік модельдердің үш негізгі қасиеті. Біріншіден, бұл тілдік айнадай көрсету: жүйелер сөздік қорды, синтаксисті және тіпті жауаптардың ұзындығын әңгімелесушіге бейімдеп, толық өзара түсіністік елесін жасайды. Екіншіден, гиперперсонализация — нақты адамның жеке тарихы мен эмоционалдық фонына байланысты контент жасау қабілеті. Ақырында, жағымпаздық, немесе tendency to please — пайдаланушымен келісуге бейімділік, диалогты сын немесе балама көзқарастарға орын жоқ «бір адамға арналған эхо-камераға» айналдырады.
Ғалымдардың пікірінше, бұл факторлар тұйық шеңбер құрайды. Нақты адамдармен немесе терапевтпен сөйлесу кезінде әдетте пайда болатын «тоқтату сигналдары» жоқ чат-бот пайдаланушының сандырақ идеяларын тереңдетуге және бекітуге итермелей бастайды. Шолуда ИИ пациенттерге дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе тіпті бақылау туралы параноидтық күдіктерді растаған жағдайлар сипатталған.
Зерттеушілер ИИ-дің екі рөлін бөледі: бұрыннан бар психотикалық белгілерді нашарлататын «күшейткіш» және бұрын сау адамдарда сандырақ сенімдердің пайда болуын тудыруы мүмкін «катализатор». Айта кету керек, OpenAI-дің ашық деректері бойынша, белсенді пайдаланушылардың шамамен 0,07% (апта сайынғы 800 млн-нан астам пайдаланушының ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді.
Жұмыс авторлары дәрігерлер қауымдастығын бұл мәселені елемеуге және эмпирикалық зерттеулерді бастауға шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, оларға эмоционалдық байланыс дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Сарапшының пікірі: «Күшейту спиралі» гипотезасы ерекше назар аударуға лайық. Біз қарым-қатынасты жақсартуға арналған технологияның психиканы бұзудың күшті құралына айналуына куә болып отырмыз. ИИ нарығы экспоненциалды түрде өсуде және бұл саладағы реттеудің болмауы жай ғана кемшілік емес, тікелей қауіп. Инвесторлар мен әзірлеушілер ойлануы керек: пайдаланушыларды өздерінен қорғау тетіктерін қарастырмай, «эхо-камераларды» жасау этикалық па?