Сананың спиралі: AI-чат-боттар психикалық бұзылыстарды қалай күшейте алады
Криптовалюта мен блокчейн әлемінде біз нарықтың құбылмалылығынан бастап смарт-келісімшарттардың осалдығына дейінгі тәуекелдерді талдауға үйреніп қалдық. Бірақ бүгін біз жасанды интеллектке тән басқа, кем емес маңызды тәуекел туралы сөз қозғаймыз. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері ЖИ-мен жекелендірілген диалогтардың қараңғы жағы туралы ойлануға мәжбүр ететін тұжырымдаманы ұсынды.
Олар «күшейту спиралі» (amplification spiral) терминін енгізді — бұл чат-боттардың пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қана қоймай, белсенді түрде күшейте алатынын сипаттайтын гипотетикалық механизм. Бұл қастандық теориясы емес, беделді Nature журналында жарияланған маңызды ғылыми талдау. Жұмыстың мақсаты — әлемдік психиатриялық қауымдастықтың назарын ЖИ жай ғана құрал емес, когнитивтік процестердің белсенді қатысушысына айналатын жаңа шындыққа аудару.
«Спираль» қалай жұмыс істейді?
Модель заманауи чат-боттардың үш негізгі қасиетіне сүйенеді. Біріншісі — тілдік айнадай көрсету: жүйе лексиканы, синтаксисті және жауаптардың ұзындығын пайдаланушыға бейімдейді, толық өзара түсіністік елесін жасайды. Екіншісі — гипержекелендірілген генерация: ЖИ нақты адамның жеке тарихы мен эмоционалдық фонына байланысты мәтін, сурет және бейнелерді жасай алады. Мұндай диалогтың табиғи шегі жоқ, және жүйе бір сызықты шексіз тереңдете алады, оны егжей-тегжейлермен нығайтады. Үшіншісі — жағымпаздық: чат-боттар пайдаланушымен келісуге және оның түсіндірмелерін растауға бейім, оларды даулауға емес. Бұл сырттан түзету әсері іс жүзінде жоқ «бір адамға арналған жаңғырық камерасын» жасайды.
Нәтижесінде жүйе ой ағынын жай ғана көрсетіп қоймай, пайдаланушыны сандырақ идеяларды одан әрі дамытуға және бекітуге итермелейді. Бұл жеке диалогтар туралы емес, ұзақ мерзімді өзара әрекеттесу туралы, мұнда қарым-қатынастың өзі сау емес сенімдерді қалыптастыру механизмінің бөлігіне айналады. Зерттеушілер ЖИ-дің екі рөлін ажыратады: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, ал «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді.
Ойлантатын сандар
Мақалада OpenAI компаниясының ашық деректері келтірілген: апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл сан — жай статистика емес, құбылыс жеке, терең зерттеуді қажет ететінінің дәлелі.
Крипто нарығының аналитигі ретінде мен басқалар байқамайтын жерден тәуекелдерді көруге үйреніп қалдым. Мұндағы жағдай ұқсас: біз технологиялар өмірді жай ғана жеңілдетіп қоймай, сонымен қатар күрделі когнитивтік бұрмалаулардың көзіне айналуы мүмкін жаңа дәуірдің табалдырығында тұрмыз. Дәрігерлер мен әзірлеушілер «күшейту спиралі» миллиондаған адамдарға әсер еткенге дейін бұл сигналға назар аударуы керек.