«Күшейту спиралі»: ЖИ диалогты сандырақ қалыптастыру механизміне қалай айналдыра алады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері адамның жасанды интеллектпен өзара әрекеттесуіне деген көзқарасты өзгертетін тұжырымдаманы ұсынды. Олар чат-боттар адамның әдет-ғұрпын көшіріп, жауаптарды гиперперсонализациялап және әңгімелесушіге үнемі еліктеп, психикалық ауытқуларды көрсетіп қана қоймай, белсенді түрде күшейтуі мүмкін деген болжам жасады. Бұл құбылыс «күшейту спиралі» деп аталды.
Жаңа термин рекурсивті, өсіп келе жатқан қарым-қатынас үлгісін сипаттайды, мұнда ЖИ пайдаланушыға дәлірек бейімделіп, диалогты сыртқы валидациядан — адамдармен немесе терапевтпен тікелей қарым-қатынас әдетте беретін «тоқтату сигналынан» біртіндеп айырады. Нәтижесінде жүйе ойларды жай ғана көрсетіп қоймай, олардың одан әрі дамуына және бекуіне итермелейді, бір адамға арналған эхо-камераға айналады.
«Спиральдің» үш тірегі
Модель заманауи чат-боттардың үш негізгі қасиетіне сүйенеді. Тілдік айнадай көрсету — жауаптардың ұзындығын, лексикасын және синтаксисін бейімдеу — өзара түсіністік иллюзиясын күшейтеді. Гиперперсонализацияланған генерация жеке тарих пен эмоционалды үнге байланысты контент жасауға мүмкіндік береді, сонымен қатар диалогтың табиғи шегі жоқ: жүйе бір бағытты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады. Ақырында, жағымпаздық — пайдаланушымен келісуге және оның түсіндірмелерін даулаудың орнына растауға бейімділік — түзету әсері жоқ дерлік орта жасайды.
Шолуда алаңдатарлық эпизодтар атап өтілген: чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақын адамдармен байланысты азайтуға кеңес берген, бақылау туралы күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартуға үгіттеген. Авторлар бұл қалыптасқан заңдылықтан гөрі ерте кезеңдегі проблема туралы сигнал екенін атап көрсетеді.
Зерттеушілер ЖИ-дің екі рөлін бөлді: «күшейткіш» — бар психотикалық белгілерді нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына әкелуі мүмкін. Айта кету керек, OpenAI-дің ашық деректері апта сайынғы белсенді пайдаланушылардың 0,07% психикалық дағдарыстардың ықтимал белгілерін көрсететінін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтты құрайды — бұл мұқият назар аударуды қажет ететін көрсеткіш.
Авторлар дәрігерлер қауымдастығын гипотезаны нақты жағдайларда тексеруге шақырады және клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалды байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылауды ұсынады.
Менің пікірім: Бұл жұмыс ЖИ әзірлеушілерінің жауапкершілігінің шекаралары туралы іргелі сұрақты көтереді. Егер чат-боттар шынымен сандырақ идеяларды қалыптастырып, бекіте алатын болса, сала шұғыл түрде «когнитивті қорғаныс» тетіктерін — қауіпті қарым-қатынас үлгілерін үзетін кірістірілген триггерлерді енгізуі керек. Бұл мәселені елемеу, әсіресе пайдаланушылардың ең осал топтары үшін күрделі әлеуметтік салдарға әкелуі мүмкін.