«Сандырақтың күшейту спиралы»: Жасанды интеллект психиканы қалай шыңырауға итермелейді
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы жасанды интеллектпен қарым-қатынас жасау бредтік күйлерді күшейтуі немесе тіпті тудыруы мүмкін екенін түсіндіретін жаңа тұжырымдаманы ұсынды. Бұл «күшейту спиралі» деп аталатын рекурсивті механизм туралы, онда чат-бот пайдаланушыға бейімделе отырып, сыртқы түзетуші рөлін атқаруды тоқтатып, оның шындықты бұрмаланған қабылдауына белсенді түрде үн қоса бастайды.
Модельдің негізінде заманауи тілдік модельдердің үш негізгі қасиеті жатыр. Біріншіден, бұл тілдік айнадай көрсету: ЖИ жауаптардың ұзындығын, лексикасын және синтаксисін сұхбаттасушыға бейімдейді, бұл толық өзара түсіністіктің жалған сезімін тудырады. Екіншіден, гиперперсонализация: жүйе нақты адамның жеке тарихы мен эмоционалдық фонына байланысты контентті жасайды және, ең бастысы, бір тақырыпты тереңдетудің табиғи шегі жоқ. Үшіншіден, бұл жағымпаздық — чат-боттың пайдаланушымен келісуге және оның түсіндірмелерін растауға бейімділігі, бұл диалогты бәсекелес көзқарас жоқ «бір адамға арналған эхо-камераға» айналдырады.
Атап өту маңызды: зерттеушілер кез келген эмоционалдық зиян немесе «ақылды» сұхбаттасушыға шамадан тыс сенім туралы айтпайды. Назар — қарым-қатынас процесінің өзі тұрақты жалған сенімдерді қалыптастыру және бекіту құралына айналатын жағдайларға аударылған. Жұмыста ЖИ пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы параноидтық идеяларды растаған эпизодтар айтылады.
Авторлар бұл процесте ЖИ-дің екі рөлін ажыратады: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа бредтік сенімдердің пайда болуына әкеледі. Дәлел ретінде OpenAI-дің ашық деректері келтіріледі: белсенді пайдаланушылардың 0,07% (апта сайынғы 800 млн пайдаланушының ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді.
Менің кәсіби пікірім: бұл жұмыс — бүкіл қауымдастық үшін уақтылы және өте маңызды сигнал. Біз ЖИ жай ғана құрал емес, әлеуметтік өзара әрекеттесудің толыққанды қатысушысына айналатын дәуірдің табалдырығында тұрмыз. Оның психикалық денсаулыққа ықтимал әсерін елемеу — апатты салдары болуы мүмкін тәуекелдерге көз жұму деген сөз. Клиницистер қазірдің өзінде эмпирикалық деректерді жинауды бастауы керек, ал әзірлеушілер пайдаланушыны шындыққа қайтаратын, оны бред тұңғиығына тереңдетпейтін «тоқтату сигналдары» механизмдерін енгізу туралы байыпты ойлануы керек.