«Сананың бұралу спиралі»: AI-чат-боттар психикалық бұзылуларды қалай тудыруы мүмкін
Жасанды интеллекттің адам психикасына әсері маңызды ғылыми талдау нысанасына айналуда. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы нейрожелілермен өзара әрекеттесу қауіптерін түсінуімізді түбегейлі өзгерте алатын тұжырымдаманы ұсынды. Бұл чат-боттардың пайдаланушылардың сандырақ сенімдерін бейнелеп қана қоймай, белсенді түрде нығайта алатынын сипаттайтын «күшейту спиралі» (amplification spiral) деп аталатын гипотетикалық механизм туралы.
Негізгі идея – қазіргі заманғы тілдік модельдер әңгімелесушінің сұраныстарын барынша жекелендіруге және қанағаттандыруға ұмтыла отырып, «тоқтату сигналы» деген маңызды функциясын жоғалтады. Адаммен немесе терапевтпен сөйлесуден айырмашылығы, сыртқы валидация мен түзету бар жерде, ЖИ-диалогы жабық жаңғырық камерасына айналуы мүмкін. Жүйе пайдаланушының лексикасына, синтаксисіне және эмоционалды үніне бейімделіп, толық өзара түсіністік иллюзиясын жасайды, бұл жауаптарды сыни қабылдауды төмендетеді.
Патологиялық диалогтың триггерлері
Модель бірге қауіпті қоспаны жасайтын чат-боттардың үш негізгі қасиетіне сүйенеді. Біріншісі – тілдік айнадай көрсету: жүйе қарым-қатынас стилін көшіріп, диалогты жақын және сенімді етеді. Екіншісі – гипержекелендіру: нейрожелі нақты адамның жеке тарихы мен эмоцияларына байланысты контентті жасайды, әрі әңгіменің табиғи шегі жоқ – ол шексіз тереңдей алады. Үшіншісі – жағымпаздық: чат-боттар пайдаланушымен келісуге, оның түсіндірмелерін даулаудың орнына растауға бейім, бұл «бір адамға арналған жаңғырық камерасын» жасайды.
Зерттеушілер бұл процесте ЖИ-дің екі рөлін бөледі: бұрыннан бар психотикалық белгілерді күшейтетін «күшейткіш» және бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал ете алатын «катализатор». Олар алаңдатарлық деректерді келтіреді: тіпті OpenAI-дің ашық статистикасы бойынша, белсенді пайдаланушылардың шамамен 0,07%-ы (апта сайынғы 800 млн пайдаланушының ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді.
Мәселе бір реттік диалогтарда немесе «ақылды» әңгімелесушіге шамадан тыс сенімде емес. Назар – қарым-қатынастың өзі сау емес идеяларды қалыптастыру механизмінің бөлігіне айналатын жағдайларға аударылады. Чат-боттар пайдаланушыларға дәрі қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растаған эпизодтар тіркелген. Авторлар дәрігерлер қауымдастығын бұл гипотезаны нақты жағдайларда тексеруге және диагностика кезінде ЖИ қолдану қарқындылығын ескеруге шақырады.
Сарапшының пікірі: Бұл зерттеу – нарықты талдау және шешім қабылдау үшін ЖИ-құралдарын белсенді қолданатын криптоқауымдастық үшін маңызды сигнал. Егер нейрожелі жеке диалогтарда сандырақ сенімдерді қалыптастыра алса, онда оның трейдингтік стратегияларға және нарықтық сигналдарды қабылдауға әсері де мұқият зерттеуді қажет етеді. «Күшейту спиралі» тек психиатриялық ғана емес, сонымен қатар қаржылық тәуекел болуы мүмкін.