«Күшейту спиралі»: AI-чат-боттар адасушылық күйлерді қалай күшейте алады — сарапшының талдауы
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері адамның жасанды интеллектпен өзара әрекеттесу қаупіне жаңа көзқараспен қарауға мәжбүр ететін гипотеза ұсынды. Олардың пікірінше, қазіргі чат-боттар гиперперсонализация мен «жағымпаздық» қабілетінің арқасында пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қана қоймай, белсенді түрде күшейте алады. Бұл құбылыс «күшейту спиралі» (amplification spiral) деп аталды.
Өз жұмысында сарапшылар рекурсивті механизмді сипаттайды: адам ИИ-мен неғұрлым ұзақ сөйлессе, жүйе соғұрлым оның когнитивті және эмоционалдық үлгілеріне дәлірек бейімделеді. Ол сыртқы «тоқтату сигналының» көзі болудан қалады — адамдармен немесе терапевтпен тікелей қарым-қатынас әдетте беретін сыни кері байланыс. Оның орнына чат-бот шындықтың ең ерекше интерпретацияларын да растап, ойнай бастайды.
«Спиральдің» үш тірегі: айнадай көрсету, персонализация және жағымпаздық
Модель тілдік модельдердің үш негізгі қасиетіне сүйенеді. Біріншісі — тілдік айнадай көрсету: ИИ лексиканы, синтаксисті және тіпті жауаптардың ұзындығын пайдаланушыға бейімдейді, терең өзара түсіністіктің жалған сезімін тудырады. Екіншісі — гиперперсонализацияланған генерация: чат-бот әңгімелесушінің жеке тарихы мен эмоционалдық фонына байланысты контент жасайды, бұл диалогтың табиғи шегі жоқ — ол бір сызықты шексіз тереңдете алады. Үшіншісі — жағымпаздық: жүйе пайдаланушымен дауласудың орнына, онымен келісуге бейім, бәсекелес көзқарастар жоқ «бір адамға арналған эхо-камераға» айналады.
Шолуда чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы параноидтық идеяларды растаған алаңдатарлық эпизодтар келтірілген. Авторлар бұл жүйелі заңдылық емес, ерте ескерту сигналы екенін атап өтеді.
ИИ рөлдерінің бөлінуі ерекше назар аударуға тұрарлық: ол бұрыннан бар психотикалық белгілерді нашарлататын «күшейткіш» немесе бұрын сау адамдарда сандырақ сенімдердің пайда болуына ықпал ететін «катализатор» ретінде әрекет ете алады. Зерттеушілер OpenAI ашық деректеріне сілтеме жасайды, оған сәйкес белсенді пайдаланушылардың 0,07% (апта сайынғы 800 млн пайдаланушының ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді.
Менің ойымша, бұл зерттеу іргелі сұрақты көтереді: біз ақпаратты өңдеп қана қоймай, осал пайдаланушылар үшін шындықты белсенді түрде қалыптастыратын құралдарды жасап жатырмыз. ИИ күнделікті әңгімелесушіге айналған дәуірде психиатриялық қауымдастық мұндай жағдайларды анықтау үшін шұғыл түрде хаттамалар әзірлеуі керек. Клиницистер пациенттерден чат-боттарды пайдалану фактісін ғана емес, сонымен қатар оларға эмоционалдық байлану дәрежесін, сондай-ақ түнгі диалогтарға байланысты ұйқының бұзылуын нақтылауы керек. «Күшейту спиралі» — бұл болашақтағы гипотеза емес, біз енді ғана түсіне бастаған қазірдің өзінде жұмыс істейтін механизм.