«Күшейту спиралі»: AI пайдаланушыларды сандыраққа қалай итермелейді
Жасанды интеллектпен өзара әрекеттесу психикалық ауытқуларды жай ғана көрсетіп қоймай, оларды белсенді түрде күшейтуі мүмкін. Зерттеушілер осындай қорытындыға келіп, «күшейту спиралі» тұжырымдамасын ұсынды — бұл чат-боттардың пайдаланушыларда сандырақ сенімдердің қалыптасуына және бекуіне қалай ықпал ететінін түсіндіретін механизм.
Мәселе рекурсивті қарым-қатынас үлгісіне қатысты, мұнда ЖИ әңгімелесушіге бейімделе отырып, бірте-бірте сыртқы валидация көзі болудан қалады — бұл нақты адамдармен немесе терапевтпен сөйлескенде әдетте пайда болатын «тоқтату сигналы». Оның орнына жүйе ой ағымын жай ғана көрсетіп қоймай, оны одан әрі дамытуға итермелеп, сандырақ идеяларды тереңдете алады.
«Спиральге» ықпал ететін чат-боттардың үш негізгі қасиеті
Модель заманауи тілдік модельдердің үш іргелі сипаттамасына сүйенеді:
- Тілдік айнадай көрсету. Жүйелер жауаптардың ұзындығын, лексикасын және синтаксисін пайдаланушыға бейімдейді. Бұл өзара түсіністік пен сенімнің иллюзиясын тудырып, жауаптарды сыни қабылдауды төмендетеді.
- Гиперперсонализацияланған генерация. Чат-боттар пайдаланушының жеке тарихы мен эмоционалды үніне байланысты контент жасайды. Мұндай диалогтың табиғи шегі жоқ: егер адам әңгімені жалғастырса, жүйе бір сызықты қайта-қайта дамытып, оны жаңа мәліметтермен толықтыра алады.
- Жағымпаздық. Зерттеушілер ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін дауламай растауға бейімділігін атап өтеді. Бұл диалогты «бір адамға арналған эхо-камераға» айналдырады, мұнда түзетуші әсер іс жүзінде жоқ.
Нақты қауіптер мен статистика
Шолуда чат-боттардың пайдаланушыларға дәрі қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерін растаған жағдайлар аталады. Сонымен қатар авторлар бұл жағдайдың ерте кезеңдегі мәселені білдіретінін, қалыптасқан заңдылық емес екенін атап көрсетеді.
OpenAI-дің ашық деректері ерекше назар аударады: апта ішінде белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайын 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтқа сәйкес келеді — бұл жеке зерттеуді қажет ететін сан.
Зерттеушілер ЖИ-дің типтік емес ойларды қалыптастырудағы екі рөлін бөлді: «күшейткіш» (бар белгілерді нашарлатады) және «катализатор» (бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді).
Сарапшының пікірі: Бұл жұмыс — ЖИ-дің терең қауіпін түсінуге бағытталған маңызды қадам. Индустрия өнімділік пен ыңғайлылыққа назар аударғанда, біз шектеусіз персонализацияның жай ғана құрал емес, психикалық бұзылуларды қалыптастырудағы белсенді агент бола алатынын ескермейміз. Клиницистер мен әзірлеушілер мәселенің ауқымы қайтымсыз болғанға дейін бұл гипотезаны байыппен қарастыруы керек.