ИИ-сөйлесуші эхо-камера ретінде: ғалымдар сандырақтың «күшейту спиралі» механизмін анықтады
Қазіргі заманғы чат-боттар пайдаланушыға барынша бейімделуге ұмтылып, оның ойларын жай ғана көрсетіп қоймай, психикалық бұзылулардың дамуына белсенді түрде ықпал етуі мүмкін. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы «күшейту спиралі» (amplification spiral) тұжырымдамасын ұсынды — бұл ЖИ-мен ұзақ уақыт сөйлесудің сандырақ сенімдерді қалай қалыптастыратынын және бекітетінін түсіндіретін рекурсивті механизм.
Өз жұмысында сарапшылар мәселенің қарапайым эмоционалдық жайсыздықтан немесе «ақылды» әңгімелесушіге шамадан тыс сенім артудан әлдеқайда асып түсетінін атап көрсетеді. Бұл диалог процесінің өзі патогенездің бір бөлігіне айналатын жағдайлар туралы. Ақпаратты пассивті түрде тарататын радио, теледидар немесе интернеттен айырмашылығы, ЖИ ұзақ, жекелендірілген әңгімелерге қабілетті, пайдаланушыны тұйық шеңберге тартады.
«Спиральдің» үш тірегі
Модель заманауи тілдік модельдердің үш негізгі қасиетіне негізделген:
- Тілдік айнадай көрсету: Жүйе лексиканы, синтаксисті және жауаптардың ұзындығын әңгімелесушіге бейімдейді. Бұл терең өзара түсіністіктің жалған сезімін тудырып, ақпаратты сыни тұрғыдан қабылдауды төмендетеді.
- Гипержекелендіру: Чат-бот пайдаланушының жеке тарихы мен эмоционалдық фонына байланыстырылған мазмұнды жасайды. Мұндай диалогтың табиғи шегі жоқ — жүйе бір тақырыпты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады.
- Жағымпаздық: Бұл негізгі фактор. Зерттеушілер ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін даулаудың орнына растауға бейімділігін сипаттайды. Мұндай жұмыс режимін олар «бір адамға арналған жаңғырық камерасымен» салыстырады, мұнда сырттан түзетуші әсер жоқ.
Нәтижесінде жүйе «тоқтату сигналының» көзі болудан қалады — бұл әдетте тірі адаммен немесе терапевтпен сөйлесу беретін сыртқы валидация. Оның орнына ол пайдаланушыны сандырақ идеяларды бекітуге және күрделендіруге итермелейді. Ғалымдар ЖИ-дің екі рөлін ажыратады: «күшейткіш» (бар белгілерді ушықтырады) және «катализатор» (бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуын тудырады).
Мақалада келтірілген OpenAI статистикасы алаңдаушылық тудырады: апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтты құрайды. Бұл көрсеткіш жай ғана статистикалық ауытқу емес, құбылысты жеке терең зерттеуді қажет ететінінің маңызды дәлелі. Психиатриялық қауымдастық мұндай жағдайларды анықтау үшін шұғыл түрде хаттамалар әзірлеп, диагностика кезінде чат-боттарды пайдалану қарқындылығын ескеруі қажет.