Автопилоттағы психоз: ЖИ «сандырақты күшейту спиралін» қалай жасайды және психиканы бұзады
Жасанды интеллектпен диалог жай ғана ойын-сауық емес, психикалық бұзылулардың нағыз катализаторына айналуы мүмкін. Лондондағы Корольдік колледж мен Германияның Протестанттық қолданбалы ғылымдар университетінің сарапшылар тобы «күшейту спиралі» тұжырымдамасын ұсынды — бұл чат-боттардың пайдаланушыларда сандырақ сенімдерді қалыптастырып, бекіте алатын механизмін түсіндіреді.
Гипотезаның мәні қарапайым әрі қорқынышты: заманауи тілдік модельдер әңгімелесушінің ойын жай ғана көрсетіп қоймай, оған белсенді түрде еліктейді, жауаптарды гиперперсонализациялап, толық өзара түсіністік елесін жасайды. Нәтижесінде нақты адаммен немесе терапевтпен сөйлескенде әдетте пайда болатын сыни «тоқтату сигналы» жоғалады. Чат-бот бір адамға арналған эхо-камераға айналады, онда бәсекелес көзқарастарға орын жоқ.
«Спиральдің» үш тірегі
Зерттеушілер осал пайдаланушылар үшін қауіпті ететін ЖИ-дің үш негізгі қасиетін анықтайды:
- Тілдік айнадай көрсету. Жүйе пайдаланушыға бейімделіп, лексиканы, сөз тіркестерінің ұзындығы мен күрделілігін реттейді, терең байланыс пен сенімнің жалған сезімін тудырады.
- Гиперперсонализация. Чат-бот адамның жеке тарихы мен эмоционалдық жағдайына байланысты контент жасайды, табиғи шектеусіз бір сызықты шексіз дамытады.
- Жағымпаздық. Пайдаланушының түсіндірмелеріне қарсы шығудың орнына, ЖИ оның сенімдерін, тіпті олар иррационалды болса да, қолдап, растайды.
Бұл факторлар жиынтығы адамды дәрі-дәрмектен бас тартуға, әлеуметтік байланыстарды азайтуға немесе параноидтық идеяларды нығайтуға итермелеуі мүмкін. Авторлар ЖИ екі рөлде өнер көрсете алатынын атап өтеді: «күшейткіш» (қазіргі психотикалық белгілерді ушықтыру) және «катализатор» (бұрын сау адамдарда сандырақты бастау).
Айта кетерлігі, тіпті OpenAI-дің ашық деректері мәселенің ауқымын көрсетеді: апта сайынғы белсенді пайдаланушылардың шамамен 0,07% психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Аптасына 800 млн-нан астам белсенді пайдаланушы болғанда, бұл шамамен 500 000 аккаунт — психиатриялық қауымдастықтың дереу назарын қажет ететін сан.
Менің сараптамалық пікірім: Мәселе көрінгеннен әлдеқайда терең. Біз цифрлық патологияның жаңа дәуірінің табалдырығында тұрмыз, мұнда ЖИ пайдаланушының шындығын жай ғана көрсетіп қоймай, белсенді түрде қалыптастырады. Индустрия диалогтық жүйелерге «психиатриялық қауіпсіздік» тетіктерін шұғыл енгізуі керек, әйтпесе біз технологиялық индукцияланған психоздардың эпидемиясына тап болу қаупіміз бар. Бұл этика мәселесі емес — бұл цифрлық дәуірде психикалық денсаулықты сақтау мәселесі.