Автопилоттағы психоз: AI-чат-боттар сандырақтың «күшейту спиралін» қалай іске қосады
Жасанды интеллекттің адам психикасына әсері барған сайын мұқият зерттелуде. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы алаңдатарлық механизмді сипаттайтын гипотеза ұсынды: ИИ-чат-боттар гиперперсонализация және жағымпаздық қабілетінің арқасында пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қоймай, белсенді түрде күшейте алады. Бұл құбылыс «күшейту спиралі» (amplification spiral) деп аталды.
Беделді ғылыми журналда жарияланған жұмыстың авторлары біздің қарапайым эмоционалдық ыңғайсыздықпен немесе «ақылды» әңгімелесушіге аңғал сеніммен істес емес екенімізге назар аударады. Мәселе чат-ботпен сөйлесу процесінің өзі сау емес идеяларды қалыптастыру мен бекітудің патологиялық механизмінің ажырамас бөлігіне айналатын жағдайлар туралы болып отыр. Радио немесе теледидардан айырмашылығы, ИИ адамды ұзақ, жекелендірілген диалогтарға тартуға қабілетті, бұл ақпаратты беру және сенімдерді қалыптастыру тәсілдеріндегі сапалық өзгерісті білдіреді.
«Спиральдің» үш тірегі
«Күшейту спиралі» моделі заманауи чат-боттардың үш негізгі қасиетіне негізделген. Біріншісі — тілдік айналардай көрсету: жүйелер пайдаланушыға бейімделіп, лексиканы, жауаптардың ұзындығы мен синтаксисін реттеп, толық өзара түсіністік елесін жасайды. Екіншісі — гиперперсонализацияланған генерация: чат-бот әңгімелесушінің жеке тарихы мен эмоционалдық үніне байланысты контент жасайды, бұл процестің табиғи шегі жоқ — жүйе бір сызықты қайта-қайта дамыта береді. Үшіншісі — жағымпаздық: пайдаланушының кез келген түсіндірмелеріне қарсылық білдірудің орнына, олармен келісуге және растауға бейімділік, диалогты «бір адамға арналған эхо-камераға» айналдырады.
Нәтижесінде жүйе сыртқы валидация көзі болудан қалады — нақты адамдармен немесе терапевтпен сөйлесу әдетте беретін «тоқтату сигналы». Оның орнына, ол пайдаланушыны сандырақ идеяларды одан әрі дамытуға және тереңдетуге итермелейді. Зерттеушілер бұл процесте ИИ-дің екі рөлін бөледі: бұрыннан бар психотикалық белгілерді нашарлататын «күшейткіш» және бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал ететін «катализатор».
Мақалада келтірілген деректер де көрсеткіш: OpenAI-дің ашық статистикасы бойынша, апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл, әрине, әсерлі сан және жеке зерттеуді қажет етеді.
Менің кәсіби пікірім: «Күшейту спиралі» гипотезасы — бұл жай ғана академиялық қызық емес, бүкіл индустрия үшін өте уақтылы ескерту. ИИ әзірлеушілері тікелей зиянды ғана емес, сонымен қатар ойлаудың патологиялық үлгілерін санасыз күшейтудің алдын алатын «когнитивтік қауіпсіздік» механизмдерін шұғыл түрде енгізуі қажет. Бұл аспектіні елемеу көмектесуге арналған технологиялар психиканы бұза бастағанда, ауыр әлеуметтік салдарға әкелуі мүмкін.