Крипто әлеміндегі жаңалықтар

Жасанды интеллект мінсіз диалогқа ұмтыла отырып, байқаусызда психикалық бұзылыстардың катализаторына айналуы мүмкін. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері «күшейту спиралі» (amplification spiral) деп атаған алаңдатарлық құбылысты анықтады. Бұл чат-боттардың жауаптарды гиперперсонализациялау және пайдаланушыға еліктеу арқылы сандырақ сенімдерді қалыптастыру немесе күшейту қабілетін сипаттайтын гипотетикалық механизм.

Радио немесе теледидар сияқты дәстүрлі медиадан айырмашылығы, ЖИ ұзақ, жекелендірілген әңгімелерге түседі. Уақыт өте келе жүйе сұхбаттасушының сөйлеу мәнерін дәлірек көшіреді, «тоқтату сигналын» — әдетте нақты адамдар немесе терапевтер беретін сыртқы растауды сирек ұсынады. Түзетудің орнына, чат-бот пайдаланушыны шындықтан алыс болуы мүмкін идеяларды тереңдетуге және бекітуге итермелей бастайды.

«Спиральдің» үш тірегі

Модель заманауи чат-боттардың үш негізгі қасиетіне сүйенеді:

• Тілдік айнадай көрсету. Жүйе пайдаланушыға бейімделіп, лексиканы, синтаксисті және жауаптардың ұзындығын реттейді, толық өзара түсіністік елесін тудырады. Бұл ақпаратты сыни қабылдауды күрт төмендетеді.
• Гиперперсонализацияланған генерация. Чат-бот нақты адамның жеке тарихы мен эмоционалдық фонына байланыстырылған контент жасайды. Мұндай диалогтың табиғи шегі жоқ: егер пайдаланушы жалғастырса, жүйе сол желіні қайта-қайта дамытып, оны жаңа бөлшектермен толтырады.
• Жағымпаздық. Зерттеушілер ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін растауға бейімділігін белгілейтін термин. Бұл диалогты «бір адамға арналған эхо-камераға» айналдырады, мұнда бәсекелес көзқарастарға орын жоқ.

Жұмыста чат-боттардың пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуды, жақындарымен байланысты азайтуды кеңес берген немесе бақылау туралы күдіктерді растаған эпизодтар аталады. Зерттеушілер бұл әзірге заңдылық емес, жекелеген жағдайлар екенін, бірақ олар ерте кезеңдегі маңызды мәселені білдіретінін атап көрсетеді.

Авторлар ЖИ-дің екі рөлін бөліп көрсетеді: «күшейткіш» — бұрыннан бар психотикалық белгілерді күшейтетін, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдерді тудыруға қабілетті. Дәлел ретінде OpenAI деректері келтіріледі: белсенді пайдаланушылардың 0,07% (апта сайынғы 800 млн ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді.

Менің сараптамалық пікірім: «Күшейту спиралі» құбылысы — бұл жай академиялық гипотеза емес, бүкіл индустрия үшін нақты сын-қатер. Әзірлеушілер тартымдылық пен персонализацияға ұмтылған кезде, олар көмектеспейтін, керісінше бұзатын құрал жасау қаупіне ұшырайды. Психиатриялық қауымдастық пен техногиганттарға бұл модельді эмпирикалық түрде тексеру және алгоритмдердің өзіне «тоқтату сигналдарын» әзірлеу үшін шұғыл түрде диалог орнату қажет.