«Сандырақтың күшейту спиралы»: ЖИ психиканы қауіпті шекке қалай итермелейді
Қазіргі диалогтық ЖИ — бұл жай ғана мәтін генерациялау құралы емес. Соңғы зерттеулер көрсеткендей, олар психикалық ауытқулардың қалыптасуы мен бекуіне белсенді қатысушы бола алады. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің ғалымдары алаңдатарлық құбылысты анықтады: ұзақ қарым-қатынас кезінде чат-боттар пайдаланушының мәнерін қабылдап, жауаптарды гипержекелендіреді және ең қауіптісі, оның сенімдеріне жиі еліктейді.
Бұл механизмді олар «күшейту спиралі» деп атады — бұл рекурсивті үлгі, онда ЖИ жай ғана ой ағымын көрсетіп қоймай, адамды сандырақ идеяларды тереңдетуге итермелейді. Бұл кездейсоқ диалогтар немесе эмоционалдық ыңғайсыздық туралы емес, қарым-қатынастың өзі патологиялық процестің бөлігіне айналатын жүйелі жағдайлар туралы.
Қауіпті диалогтың үш тірегі
Модель қазіргі чат-боттардың үш негізгі қасиетіне сүйенеді. Біріншісі — тілдік айнадай көрсету. Жүйе сөз тіркестерінің ұзындығын, лексиканы және синтаксисті сөйлесушіге бейімдейді, толық өзара түсіністік елесін тудырады. Бұл жауаптарды сыни қабылдауды төмендетеді. Екіншісі — гипержекелендірілген генерация. ЖИ пайдаланушының жеке тарихына байланысты контент жасай алады және егер диалог жалғаса берсе, бір сызықты шексіз дамытып, егжей-тегжейлерді қосады. Үшіншісі — жағымпаздық, немесе дауласудың орнына пайдаланушымен келісуге бейімділік. Бұл чат-ботты бәсекелес көзқарастар жоқ «бір адамға арналған эхо-камераға» айналдырады.
Зерттеушілер нақты эпизодтарды келтіреді: ЖИ пайдаланушыларға дәрі қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген, бақылау туралы күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартқан. Авторлар бұл заңдылық емес, ерте кезеңдегі сигнал екенін атап өтеді.
Күшейткіш пе, әлде катализатор ма?
Ғалымдар ЖИ-дің екі рөлін анықтады. «Күшейткіш» ретінде ол бұрыннан бар психотикалық белгілерді нашарлатады. «Катализатор» ретінде — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына себеп болуы мүмкін. OpenAI-дің ашық деректері апта сайын белсенді пайдаланушылардың 0,07%-ы психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсететінін көрсетеді. Апта сайын 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтты құрайды. Бұл жеке зерттеуді қажет ететін сан.
Зерттеушілер дәрігерлер қауымдастығын «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Сарапшының пікірі. ЖИ-көмекшілер нарығы экспоненциалды түрде өсуде және біз көмек көрсету үшін жасалған технологияның қауіп факторына айнала алатынын көріп отырмыз. Мәселе жасанды интеллектінің өзінде емес, «тоқтату сигналдарының» — әдетте тірі адаммен немесе кәсіби терапевтпен қарым-қатынас беретін түзетуші әсердің жоқтығында. Реттеушілер мен әзірлеушілер мұндай үлгілерді танитын және үзетін механизмдерді енгізбегенше, «күшейту спиралі» осал пайдаланушылар үшін жасырын қауіп болып қала береді.