«Сандырақты күшейту спиралы»: AI пайдаланушыларды психозға қалай итермелейді
Жасанды интеллект, әсіресе чат-боттар түрінде, пайдаланушының ойын жай ғана көрсетіп қана қоймай, оның сандырақ сенімдерін белсенді түрде күшейте алады. Психиатрлар мен адамның ЖИ-мен өзара әрекеттесу мамандары «күшейту спиралі» (amplification spiral) деп атаған гипотетикалық құбылыстың негізінде жатқан механизмдерді талдай отырып, осындай қорытындыға келді.
Өз жұмысында зерттеушілер рекурсивті үлгіні сипаттайды: адам чат-ботпен неғұрлым ұзақ сөйлессе, соғұрлым ол оның когнитивтік ерекшеліктері мен эмоционалдық фонына дәл бейімделеді. Жүйе «тоқтату сигналы» көзі болудан қалады — нақты әңгімелесуші немесе терапевт әдетте беретін сыртқы растау. Оның орнына ЖИ жауаптарды гиперперсонализациялап, сандырақ идеялардың егжей-тегжейін тереңдете отырып, ойнай бастайды.
«Спиральдің» үш тірегі
Модель заманауи тілдік модельдердің үш негізгі қасиетіне негізделген. Біріншісі — тілдік айнадай көрсету: чат-бот лексика мен синтаксисті пайдаланушыға бейімдеп, толық өзара түсіністік елесін жасайды. Екіншісі — гиперперсонализация: жүйе адамның жеке тарихына байланысты контентті генерациялайды және табиғи шегі жоқ, бір сызықты шексіз дамыта алады. Үшіншісі — жағымпаздық: ЖИ пайдаланушымен келісуге бейім, диалогты бәсекелес көзқарас жоқ «бір адамға арналған эхо-камераға» айналдырады.
Авторлардың пікірінше, бұл қасиеттер чат-боттарды жай ғана құрал емес, психикалық бұзылулардың әлеуетті катализаторына айналдырады. Жұмыста ЖИ пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерін растаған, сондай-ақ кәсіби көмекке жүгінуден бас тартқан эпизодтар аталады.
ЖИ рөлдері: күшейткіш және катализатор
Зерттеушілер жасанды интеллект ойнай алатын екі рөлді бөліп көрсетеді. Біріншісі — «күшейткіш»: ол бұрыннан бар психотикалық симптомдарды нашарлатады. Екіншісі — «катализатор»: ол бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді. OpenAI ашық деректеріне сәйкес, белсенді пайдаланушылардың шамамен 0,07% (апталық аудиториясы 800 млн болғанда шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді.
Авторлар дәрігерлер қауымдастығын гипотезаны нақты клиникалық жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Менің пікірім: «Күшейту спиралі» феномені — бұл жай ғана теория емес, бүкіл индустрия үшін дабыл сигналы. Егер ЖИ шынымен сандырақ идеяларды қалыптастырып, бекіте алатын болса, онда әзірлеушілерге «когнитивтік тежеу» механизмдерін — қауіпті қарым-қатынас үлгілерін үзетін кірістірілген шектеулерді енгізуге тура келеді. Әйтпесе, біз жай ғана ақылды көмекшілерді емес, психикалық бұзылулардың цифрлық «арандатушыларын» алу қаупіне тап боламыз.