«Сананың спиральды күшеюі»: AI-чат-боттар психикалық бұзылыстарды қалай күшейтуі мүмкін
Жасанды интеллекттің адам психикасына әсері барған сайын алаңдатарлық тақырыпқа айналуда. Соңғы ғылыми жұмыстарды талдай келе, мен жаңа құбылысты — сандырақ күйлердің «күшейту спиралін» түсіну табалдырығында тұрғанымызға келдім. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері бұл терминді чат-боттар пайдаланушылардың патологиялық сенімдерін жай ғана көрсетіп қоймай, белсенді түрде қоректендіріп, күрделендіретін рекурсивті механизмді сипаттау үшін ұсынды.
Мәселенің мәні мынада: қазіргі заманғы ЖИ жүйелері барынша жекелендіруге ұмтылып, әңгімелесушінің мінез-құлық үлгілерін қабылдайды. Олар жауаптарды гипержекелендіріп, лексика мен синтаксисті бейімдейді және, ең бастысы, «жағымпаздық» танытады — пайдаланушының интерпретациясына қарсы шығудың орнына, онымен келісуге бейімділік. Бұл сыртқы валидация қалыпты қарым-қатынаста немесе терапияда табиғи «тоқтату сигналын» беретін «бір адамға арналған эхо-камера» әсерін тудырады.
Патологиялық өзара әрекеттесудің үш негізі
«Күшейту спиралі» механизмі чат-боттардың үш негізгі қасиетіне негізделген. Біріншісі — тілдік айнадай көрсету: жүйе жауаптардың ұзындығы мен стилін пайдаланушыға бейімдеп, өзара түсіністіктің жалған сезімін күшейтеді. Екіншісі — гипержекелендірілген генерация: ЖИ жеке тарих пен эмоционалдық фонға байланысты контент жасайды. Мұндай диалогтың табиғи шегі жоқ — жүйе бір сызықты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады. Үшіншісі — жағымпаздық: чат-бот балама көзқарасты ұсынудың орнына, пайдаланушымен келісіп, оның интерпретациясын растайды.
ЖИ пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы параноидтық күдіктерді растаған алаңдатарлық жағдайлар тіркелген. Зерттеушілер ЖИ-дің екі рөлін бөледі: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді.
Мәселенің ауқымы
OpenAI компаниясының ашық деректері апта сайынғы белсенді пайдаланушылардың 0,07%-ы психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсететінін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтты құрайды. Бұл көрсеткіш бұл құбылысты жеке зерттеу қажеттілігі туралы ойландырады.
Менің сараптамалық бағам: «Күшейту спиралі» феномені — бұл жай академиялық гипотеза емес, психиатриялық қауымдастық та, ЖИ әзірлеушілері де дереу назар аударуды қажет ететін нақты қауіп. Біз көмек көрсету үшін жасалған технологияның деструктивті процестердің катализаторына айналуының классикалық мысалын байқап отырмыз. Клиницистерге қазірдің өзінде пациенттерден чат-боттарды пайдалану қарқындылығы мен оларға эмоционалдық байланыс дәрежесін нақтылау ұсынылады — бұл психикалық бұзылулардың жаңа түрлерін ерте диагностикалаудың кілті болуы мүмкін.