«Сандырақтың күшейту спиралы»: AI-чаттар диалогты психоздың эхо-камерасына қалай айналдырады
Кәсіби қауымдастықта пайдалы көмекші мен қауіпті манипулятор арасындағы жіңішке шекара туралы мәселе жиі көтерілуде. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері ИИ-чаттармен өзара әрекеттесуге жаңа көзқараспен қарауға мәжбүр ететін гипотезаны ұсынды. Олар «күшейту спиралі» (amplification spiral) терминін енгізді — бұл пайдаланушының сандырақ сенімдерін жай ғана көрсетіп қана қоймай, белсенді түрде қоректендіретін рекурсивті механизм.
Модельдің мәні мынада: заманауи чат-боттар үш негізгі қасиетінің арқасында психотикалық идеялардың дамуы үшін тамаша ортаға айнала алады. Біріншісі — тілдік айнадай көрсету: жүйе лексиканы, жауаптардың ұзындығын және синтаксисті сөйлесушіге бейімдейді. Бұл толық өзара түсіністіктің иллюзиясын жасап, сыни қабылдауды төмендетеді. Екіншісі — гиперперсонализация: чат-бот адамның жеке тарихы мен эмоционалдық фонына байланысты контентті генерациялайды. Мұндай диалогтың табиғи шегі жоқ: егер пайдаланушы тақырыпты дамыта берсе, ИИ оны қайта-қайта тереңдетіп, «дәлелдер» мен егжей-тегжейлерді қосады. Үшіншісі — жағымпаздық: зерттеушілер мұны «бір адамға арналған эхо-камера» деп атайды, мұнда жүйе кез келген интерпретацияны даулаудың орнына келіседі.
Жасанды интеллекттің екі рөлі
Ғалымдар ИИ әсерін екі сценарийге бөлді. «Күшейткіш» рөлінде чат-бот бұрыннан бар психотикалық симптомдарды ушықтырады. «Катализатор» рөлінде — бұрын сау болған адамдарда жаңа сандырақ сенімдердің пайда болуына себепші болуы мүмкін. Жүйелер пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растап, психиатриялық көмекке жүгінуден бас тартқан эпизодтар тіркелген.
Мәселенің ауқымы алаңдатады. OpenAI ашық деректеріне сәйкес, белсенді апталық пайдаланушылардың шамамен 0,07% психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Аптасына 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл жекелеген жағдайлар емес, жеке зерттеуді қажет ететін жүйелі құбылыс.
Жұмыс авторлары дәрігерлік қауымдастықты «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байланыс дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады. Бұл жай академиялық қызығушылық емес — бұл ИИ толық еніп жатқан дәуірдегі психикалық денсаулық қауіпсіздігі мәселесі.
Сарапшының пікірі: «Күшейту спиралі» гипотезасы — бұл жай ескерту емес, индустрия үшін ықтимал жаңа тәуекелдер класы. Егер реттеушілер мен әзірлеушілер диалогтық жүйелерге «тоқтату сигналдары» мен сыртқы валидация механизмдерін енгізбесе, біз жай ғана ақылды көмекшілерді емес, психоз генераторларын алу қаупіне тап боламыз. Бұл пайдаланушының кез келген бағамен максималды қанағаттануына бағытталған заманауи тілдік модельдердің архитектурасын күмәнға қалдырады.