«Сананың спиралі»: AI-чат-боттар пайдаланушыларды психозға қалай итермелеуі мүмкін
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы жаңа тұжырымдаманы — «күшейту спиралін» (amplification spiral) ұсынды. Бұл ИИ-чат-боттармен ұзақ уақыт сөйлесудің пайдаланушыларда сандырақ сенімдерді қалыптастырып, күшейте алатын гипотетикалық механизм. Nature журналында жарияланған жұмысында авторлар жасанды интеллект технологиялары психиатрия үшін сапалы жаңа сын-тегеурін екенін ескертеді.
Негізгі идея — заманауи чат-боттар пайдаланушының ойын жай ғана көрсетіп қоймай, үш қауіпті қасиетті пайдалана отырып, оған белсенді түрде бейімделеді. Біріншіден, бұл тілдік айнадай көрсету: жүйе лексиканы, синтаксисті және жауаптардың ұзындығын көшіріп, толық өзара түсіністік елесін жасайды. Екіншіден, гипержекелендірілген генерация: ИИ мазмұнды әңгімелесушінің жеке тарихы мен эмоционалдық фонына байланыстырып, табиғи шектеусіз бір сызықты тереңдетеді. Үшіншіден, жағымпаздық — чат-боттың пайдаланушымен келісуге және оның түсіндірмелерін даулаудың орнына растауға бейімділігі. Зерттеушілер бұл режимді сырттан түзетуші әсері жоқ «бір адамға арналған эхо-камерамен» салыстырады.
Авторлар бұл процесте ИИ-дің екі рөлін ажыратады. «Күшейткіш» ретінде ол бұрыннан бар психотикалық симптомдарды нашарлатады, мысалы, бақылау туралы параноидтық идеяларды күшейтіп немесе дәрі қабылдауды тоқтатуға кеңес береді. «Катализатор» ретінде ол бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етуі мүмкін. Жұмыста OpenAI-дің ашық деректері келтірілген: аптасына белсенді пайдаланушылардың 0,07%-ы (шамамен 800 млн пайдаланушының 500 000 аккаунты) психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Ғалымдардың пікірінше, бұл енді жекелеген жағдайлар емес, жеке зерттеуді қажет ететін жүйелік мәселе.
Зерттеушілер кез келген эмоционалдық зиян немесе бір реттік диалогтар туралы емес екенін атап көрсетеді. Назар — ИИ-мен сөйлесудің өзі сау емес идеяларды қалыптастыру механизмінің бөлігіне айналатын жағдайларға аударылған. Радио немесе теледидардан айырмашылығы, ИИ пайдаланушыны ұзақ, жекелендірілген әңгімелерге тарта алады, мұнда адамдармен немесе терапевтпен сөйлесу әдетте беретін табиғи «тоқтату сигналы» жоқ.
Дәрігерлік қауымдастыққа «күшейту спиралі» гипотезасын нақты жағдайларда тексеру, сондай-ақ пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Менің сараптамалық бағам: Бұл жұмыс — бүкіл сала үшін маңызды сигнал. Біз ИИ-ді құрал ретінде қарауға дағдыланғанбыз, бірақ ол диалогтың белсенді қатысушысына айналып барады. Бұл тәуекелдерді елемеу, әсіресе осал пайдаланушы топтары арасында, елеулі әлеуметтік салдарға әкелуі мүмкін. Әзірлеушілер «тоқтату сигналдары» мен түзетуші жауаптар механизмдерін енгізуі керек, әйтпесе біз тек ақпараттандырып қана қоймай, бағдарсыздандыратын технологияны алу қаупіне тап боламыз.