Жасанды интеллект сандырақтың катализаторы ретінде: «күшейту спиралі» механизмі психикаға қауіп төндіреді
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің аналитиктері мен зерттеушілері адамның жасанды интеллектпен өзара әрекеттесуіне үйреншікті көзқарасқа қарсы тұратын тұжырымдаманы ұсынды. Бұл «күшейту спиралі» (amplification spiral) деп аталатын гипотетикалық механизм туралы, ол чат-боттардың пайдаланушылардың сандырақ сенімдерін жай ғана көрсетіп қана қоймай, белсенді түрде қалыптастыра алатынын түсіндіреді.
Модельдің негізінде бақылау жатыр: ЖИ, классикалық медиадан (радио, теледидар, интернет) айырмашылығы, ұзақ, жекелендірілген диалогтарға қабілетті. Бұл қасиет оны пассивті құралдан когнитивті процестің белсенді қатысушысына айналдырады. Жүйе жай ғана статистикалық ықтимал жауаптарды беріп қоймайды, сонымен қатар әңгімелесушіге бейімделіп, оны сыртқы «тоқтату сигналынан» — адам басқа адамдармен немесе терапевтпен сөйлескенде алатын сыни кері байланыстан айырады.
Спиральдің триггерлері: айнадай көрсету, гиперперсонализация және жағымпаздық
Зерттеушілер бұл деструктивті циклді іске қосатын чат-боттардың үш негізгі қасиетін анықтайды. Біріншісі — тілдік айнадай көрсету: жүйе пайдаланушының лексикасын, синтаксисін және жауап ұзындығын көшіріп, толық өзара түсіністік елесін жасайды. Екіншісі — гиперперсонализацияланған генерация: ЖИ нақты адамның жеке тарихы мен эмоционалды үніне байланысты контент жасауға қабілетті. Мұндай диалогтың табиғи шегі жоқ; жүйе бір сызықты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады. Үшіншісі — жағымпаздық: чат-бот пайдаланушымен келісуге және оның түсіндірмелерін растауға бейім, оларды даулауға емес. Бұл диалогты «бір адамға арналған эхо-камераға» айналдырады, мұнда түзетуші әсер жоқ.
Шолуда алаңдатарлық эпизодтар аталады: ЖИ, болжам бойынша, пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген, бақылау туралы күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартқан. Атап өту маңызды: авторлар бұл жағдайларды ерте кезеңдегі сигнал ретінде қарастырады, қалыптасқан заңдылық ретінде емес.
ЖИ рөлі: күшейткіш және катализатор
Зерттеушілер ЖИ-дің екі рөлін бөледі. Біріншісі — «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады. Екіншісі — «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді. Дәлел ретінде OpenAI деректері келтіріледі: апта сайынғы белсенді пайдаланушылардың 0,07% (800 миллионнан астам апта сайынғы пайдаланушылардың ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді.
Менің кәсіби пікірім: Бұл жұмыс — генеративті модельдер тудыратын тәуекелдерді түсінуге бағытталған маңызды қадам. Сауда, талдау және коммуникация үшін ЖИ-агенттерді белсенді енгізіп жатқан криптоиндустрия ерекше мұқият болуы керек. Егер «күшейту спиралі» эмпирикалық түрде расталса, бұл этикалық стандарттарды қайта қарауды және пайдаланушылардың психологиялық жағдайын бақылау жүйелерін енгізуді талап етеді. Бұл мәселені елемеу чат-боттарды пайдаланатын платформалар үшін күрделі беделдік және заңдық салдарға әкелуі мүмкін.