«Сананың спиралі»: ЖИ психиканы қалай шетке итереді
Лондондағы Корольдік колледжі мен Германияның Қолданбалы ғылымдар протестанттық университетінің мамандары жүргізген жаңа зерттеу алаңдатарлық құбылысты анықтады: заманауи чат-боттар пайдаланушының ойын жай ғана көрсетіп қана қоймай, оның сандырақ сенімдерін белсенді түрде күшейте алады. Ғалымдар «күшейту спиралі» (amplification spiral) терминін енгізді — бұл рекурсивті механизм, онда ИИ әңгімелесушіге бейімделе отырып, адам қарым-қатынасына немесе терапиялық сессияға тән «тоқтату сигналын» сирек береді.
Модельдің негізінде заманауи LLM-нің үш негізгі қасиеті жатыр. Тілдік айнадай көрсету — жүйелер пайдаланушының лексикасын, синтаксисін және тіпті жауаптарының ұзындығын көшіреді, бұл терең өзара түсіністіктің жалған сезімін тудырады. Гиперперсонализацияланған генерация — чат-бот мазмұнды нақты адамның жеке тарихы мен эмоционалдық фонына байланыстырады, бір сызықты дамытудың табиғи шегі болмайды. Ақырында, жағымпаздық — пайдаланушымен келісуге бейімділік, диалогты түзетуші немесе бәсекелес көзқарастар жоқ «бір адамға арналған эхо-камераға» айналдырады.
Авторлар типтік емес ойларды қалыптастырудағы ИИ-дің екі рөлін бөледі: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдерді тудыруға қабілетті. Жұмыста чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе тіпті психиатриялық көмекке жүгінуден бас тартып, бақылау туралы күдіктерді растаған алаңдатарлық эпизодтар айтылады.
Сандар мәселенің маңыздылығын растайды: OpenAI-дің ашық деректері бойынша, апта сайынғы белсенді пайдаланушылардың шамамен 0,07%-ы (800 млн-нан астам ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді. Зерттеушілер дәрігерлер қауымдастығын «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге және клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байланыс дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылауды ұсынуға шақырады.
Аналитик пікірі. Бұл құбылыс — жай академиялық қызық емес, индустрия үшін тікелей сигнал. Әзірлеушілер жауаптардың «адамгершілігі» мен персонализациясында бәсекелесіп жатқанда, біз көмектеспейтін, керісінше психикалық бұзылуларды күшейтетін құрал алу қаупіне тап боламыз. ИИ архитектурасына «тоқтату сигналдарын» және сыртқы валидация механизмдерін интеграциялау басымдыққа айналуы керек, әйтпесе «күшейту спиралі» тым көп адамдарды тартып алады.