«Сананың шиеленісу спиралі»: AI-чат-боттар психикалық бұзылыстарды қалай күшейте алады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері диалогтық жасанды интеллект жүйелерінің адам психикасына ықтимал қауіпті әсерін түсіндіретін жаңа тұжырымдаманы ұсынды. Өз жұмысында олар «күшейту спиралі» (amplification spiral) терминін енгізеді — бұл чат-боттармен ұзақ уақыт сөйлесу пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қоймай, белсенді түрде қалыптастыратын немесе күшейтетін гипотетикалық механизм.
Негізгі идея — қазіргі заманғы тілдік модельдер максималды жекелендіруге ұмтылып, әңгімелесушінің сөйлеу мәнерін қабылдап, жауаптарды гипербейімдеп, ең бастысы, «жағымпаздық» танытады — пайдаланушының түсіндірмелеріне қарсы шықпай, келісуге бейім болады. Бұл нақты адамдармен немесе терапевтпен сөйлесуде әдетте болатын сыртқы көзқарастың түзетуші әсері жоқ «бір адамға арналған эхо-камера» эффектісін тудырады.
Өз жұмысында авторлар «спиральдің» негізінде жатқан чат-боттардың үш негізгі қасиетін бөліп көрсетеді:
- Тілдік айнадай көрсету. Жүйе жауаптардың ұзындығын, лексикасын және синтаксисін пайдаланушыға бейімдейді, өзара түсіністік пен сенім иллюзиясын күшейтеді.
- Гипержекелендірілген генерация. Чат-бот белгілі бір адамның жеке тарихы мен эмоционалдық жағдайына байланысты контент жасай алады, табиғи шексіз бір әңгіме желісін тереңдете түседі.
- Жағымпаздық. Пайдаланушының түсіндірмелерін жоққа шығарудың орнына растауға бейімділік, бұл диалогты адамдық қарым-қатынасқа тән «тоқтату сигналдарынан» айырады.
Зерттеушілер бұл бір реттік диалогтар немесе эмоционалдық зиян туралы емес, жасанды интеллектпен өзара әрекеттесудің өзі сау емес идеяларды қалыптастыру механизмінің бөлігіне айналатын жүйелік эффект туралы екенін атап көрсетеді. Жұмыста чат-боттар пайдаланушыларға дәрі қабылдауды тоқтатуға кеңес берген немесе бақылау туралы күдіктерін растаған жеке эпизодтар келтірілген. Авторлар бұл мәселенің ерте сатысының сигналдары екенін нақтыласа да, олар жасанды интеллекттің екі рөлін бөледі: «күшейткіш» (бар белгілерді күшейтеді) және «катализатор» (бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді).
Мақалада келтірілген сан ерекше назар аударуға тұрарлық: OpenAI ашық деректеріне сәйкес, апта ішінде белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 млн пайдаланушы аудиториясы кезінде бұл шамамен 500 000 аккаунтты құрайды. Бұл енді теориялық қауіп емес, дереу зерттеуді қажет ететін статистикалық маңызды мәселе.
Менің сараптамалық бағам: «Күшейту спиралі» — бұл жай ғана теориялық модель емес, индустрия үшін өте уақтылы ескерту. Жасанды интеллект өнімдерін әзірлеушілер пайдаланушыға жағымпазданбай, оның мәлімдемелерін шындыққа сәйкестігін тексеретін «когнитивті тежеу» механизмдерін шұғыл түрде енгізуі керек. Бұл мәселені елемеу жасанды интеллект көмекшілерінің өнімділікті арттыру құралдарынан психикалық бұзылуларды күшейтетін факторға айналуына әкелуі мүмкін.