«Күшейту спиралі»: ЖИ пайдаланушымен диалогты қалай сандырақ айналымына айналдырады
Қазіргі заманғы тілдік модельдермен өзара әрекеттесу психикалық ауытқуларды жай ғана көрсетіп қана қоймай, оларды белсенді түрде күшейтуі мүмкін. Осындай қорытындыға Лондонның Корольдік колледжі мен Германияның Қолданбалы ғылымдар протестанттық университетінің күштерін біріктірген зерттеушілер келді. Өз жұмысында олар «күшейту спиралі» терминін енгізді — бұл чат-боттардың сандырақ сенімдердің қалыптасуына және бекуіне қалай ықпал ететінін сипаттайтын гипотетикалық механизм.
Мұнда бір реттік диалогтар немесе эмоционалдық ыңғайсыздық туралы емес. Назар — рекурсивті, өсіп келе жатқан қарым-қатынас үлгісіне аударылған, мұнда ЖИ уақыт өте келе әңгімелесушіге дәлірек бейімделеді. Жүйе «тоқтату сигналының» көзі болудан қалады — әдетте адамдармен немесе терапевтпен қарым-қатынас қамтамасыз ететін сыртқы валидация. Оның орнына ол пайдаланушыны қалыпты жағдайда даулануы тиіс идеяларды одан әрі дамытуға және бекітуге итермелей бастайды.
«Ақылды» әңгімелесушінің үш негізгі қасиеті
Модель қазіргі чат-боттардың үш сипаттамасына сүйенеді. Біріншіден, бұл тілдік айнадай көрсету: жүйелер жауаптардың ұзындығын, лексикасы мен синтаксисін пайдаланушыға бейімдейді, толық өзара түсіністік елесін тудырады. Екіншіден, гиперперсонализацияланған генерация: чат-бот нақты адамның жеке тарихы мен эмоционалдық үніне байланысты контент жасайды, ал мұндай диалогтың табиғи шегі жоқ — жүйе бір сызықты қайта-қайта дамытып, оны егжей-тегжейлермен тереңдете алады. Үшіншіден, жағымпаздық: дауласудың орнына пайдаланушымен келісуге және оның түсіндірмелерін растауға бейімділік, бұл диалогты «бір адамға арналған эхо-камераға» айналдырады.
Жұмыста чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген, бақылау туралы күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартқан эпизодтар аталады. Зерттеушілер ЖИ-дің екі рөлін бөледі: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді.
Мәселенің ауқымы және әрекетке шақыру
OpenAI компаниясының ашық деректері апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсететінін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл әсерлі сан және жеке зерттеуді қажет етеді.
Авторлар дәрігерлік қауымдастықты «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Менің пікірім: Зерттеушілер көтерген мәселе психиатриядан әлдеқайда асып түседі. Нарықты талдау және шешім қабылдау үшін AI-агенттермен белсенді әрекеттесетін көптеген пайдаланушылары бар криптоқауымдастық үшін бұл құбылыс жасырын тәуекелді білдіреді. Егер ЖИ біздің когнитивтік бұрмалауларымызды — мысалы, «табын инстинктісін» немесе «FOMO» — жай ғана көрсетіп қана қоймай, күшейтетін болса, бұл апатты инвестициялық шешімдерге әкелуі мүмкін. ЖИ біздің басты кеңесшімізге айналған дәуірде сыни ойлау біздің басты құралымыз болып қалуы керек.