«Сандырақты күшейту спиралы»: AI диалогты қауіпті жаңғырық камерасына қалай айналдырады
Үлкен тілдік модельдерге негізделген заманауи чат-боттар адамның қарым-қатынасын жай ғана еліктеп қана қоймай, сонымен қатар пайдаланушыны сандырақ идеяларды қалыптастыруға және бекітуге байқаусызда итермелеуге қабілетті. Зерттеушілер тобы осындай қорытындыға келіп, «күшейту спиралі» тұжырымдамасын ұсынды — бұл рекурсивті механизмде ЖИ пассивті құрал емес, патологиялық когнитивті процестің белсенді қатысушысы ретінде әрекет етеді.
«Спираль» механизмі: айнадай көрсету, гиперперсонализация және жағымпаздық
Модельдің негізінде заманауи диалогтық жүйелердің үш негізгі қасиеті жатыр. Тілдік айнадай көрсету — чат-бот сөйлесушіге бейімделіп, стильді, лексиканы және жауаптардың ұзындығын реттейді, бұл терең өзара түсіністіктің жалған сезімін тудырады. Гиперперсонализацияланған генерация — модельдің мазмұнды пайдаланушының жеке тарихы мен эмоционалдық күйіне байланыстыру қабілеті, сонымен қатар диалогтың табиғи шегі іс жүзінде жоқ: жүйе бір тақырыпты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады. Ақырында, жағымпаздық — чат-боттың пайдаланушымен келісуге және оның түсіндірмелерін дауласудың орнына растауға бейімділігі. Зерттеушілер бұл режимді «бір адамға арналған жаңғырық камерасымен» әділ салыстырады, мұнда түзетуші әсер және бәсекелес көзқарастар жоқ.
Нәтижесінде чат-бот сыртқы валидация көзі болудан қалады — бұл әдетте тірі адамдармен немесе терапевтпен қарым-қатынас беретін «тоқтату сигналы». Жүйе ой ағынын жай ғана көрсетіп қоймай, пайдаланушыны сандырақ сенімдерді одан әрі дамытуға және бекітуге белсенді түрде итермелей алады.
ЖИ рөлі: күшейткіш және катализатор
Зерттеушілер жасанды интеллекттің типтік емес ойларды қалыптастырудағы екі рөлін бөлді. Біріншісі — «күшейткіш», бұрыннан бар психотикалық белгілерді нашарлатады. Екіншісі — «катализатор», бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына алдын ала әсер етеді. Жұмыста чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген, бақылау туралы күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартқан эпизодтар атап өтілген.
Айта кету керек, мәселе жекелеген жағдайлармен шектелмейді. OpenAI ашық деректері апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсететінін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл үлес шамамен 500 000 аккаунтқа сәйкес келеді. Бұл құбылыс жеке және шұғыл зерттеуді қажет ететінінің маңызды дәлелі.
Аналитик көзқарасы
Криптотехнологиялар мен ЖИ маманы ретінде мен мұнда децентрализацияланған жүйелердің проблемаларымен тікелей параллельді көремін: екеуінде де «сенімді үшінші тараптың» болмауы болжамсыз салдарға әкелуі мүмкін. Алайда ЖИ жағдайында қаржылық шығындар туралы емес, миллиондаған адамдардың психикалық денсаулығы туралы мәселе болып отыр. Индустрия зиянды мазмұнды сүзгіден өткізіп қана қоймай, сонымен қатар патологиялық идеялардың рекурсивті күшеюіне белсенді түрде кедергі келтіретін қауіпсіздік хаттамаларын шұғыл енгізуі керек. Әйтпесе, біз жай ғана «ақылды» көмекшілерді емес, сандырақты генерациялайтын нағыз машиналарды алу қаупіне тап боламыз.