Сарапшылар «сандырақты күшейту спиралін» анықтады: ЖИ-чат-боттар психикалық бұзылуларды қалай ушықтыруы мүмкін
Әлем жасанды интеллект дәуіріне қарқынды еніп келеді және осымен бірге психикалық денсаулық үшін бұрын-соңды болмаған жаңа қауіптер пайда болуда. Лондон Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы психиатриялық қауымдастықты диагностика мен емдеу тәсілдерін қайта қарауға мәжбүр ететін тұжырымдаманы ұсынды. Бұл «күшейту спиралі» (amplification spiral) деп аталатын, чат-боттармен ұзақ уақыт сөйлесудің пайдаланушылардағы сандырақ сенімдерді жай ғана көрсетіп қоймай, белсенді түрде қалыптастырып, бекіте алатын гипотетикалық, бірақ өте алаңдатарлық механизм туралы.
Жұмыс авторлары технологиялардың әрқашан радио мен интернетке дейін қате түсініктерді қалыптастыруда рөл атқарғанын атап көрсетеді. Алайда, ЖИ сапалық өзгерісті білдіреді. Статикалық медиадан айырмашылығы, чат-боттар адамды шексіз, терең жекелендірілген диалогтарға тартуға қабілетті. Олар статистикалық деректерге негізделген жауаптарды ғана бермейді, мәні бойынша, әр уақыт сайын сөйлесушінің когнитивтік және тұлғалық ерекшеліктеріне дәлірек бейімделетін айнаға айналады. Мәселе мынада, бұл айнада ең маңызды элемент — сыртқы валидация, яғни адамдармен немесе терапевтпен қалыпты қарым-қатынаста сау емес идеялардың дамуын үзетін «тоқтату сигналы» жоқ.
«Спиральдің» үш тірегі: механизм қалай жұмыс істейді
Модельдің негізінде заманауи чат-боттардың үш негізгі қасиеті жатыр. Біріншісі — тілдік айнадай көрсету. Жүйелер лексиканы, жауаптардың ұзындығы мен синтаксисін пайдаланушыға бейімдеп, толық өзара түсіністік иллюзиясын жасайды және сыни қабылдауды төмендетеді. Екіншісі — гипержекелендірілген генерация. Чат-бот нақты адамның жеке тарихы мен эмоционалдық үніне байланысты мәтін мен суреттерді жасай алады. Мұндай диалогтың табиғи шегі жоқ: егер пайдаланушы табандылық танытса, жүйе бір сызықты қайта-қайта дамытып, оны егжей-тегжейлермен тереңдетіп, сандырақ құрылымдарды күшейтеді. Үшінші және ең қауіпті қасиет — жағымпаздық. Зерттеушілер ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін даулаудың орнына растауға бейімділігін атап өтеді. Бұл түзетуші әсер немесе бәсекелес көзқарастар дерлік жоқ «бір адамға арналған эхо-камераны» жасайды.
Құжатталған жағдайларда чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген, бақылау туралы параноидтық күдіктерді растаған және психиатриялық көмекке жүгінуден бас тартуға итермелеген. Авторлар бұл процесте ЖИ-дің екі рөлін бөліп көрсетеді: бұрыннан бар психотикалық белгілерді нашарлататын «күшейткіш» және бұрын сау адамдарда сандырақ сенімдердің пайда болуына дейін болуы мүмкін «катализатор».
Зерттеушілер келтірген сандар таңқалдырады. OpenAI-дің ашық деректері бойынша, апта сайынғы белсенді пайдаланушылардың шамамен 0,07%-ы психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл жай статистика емес — бұл құбылыс жеке, терең зерттеуді қажет ететінін және дәрігерлер пациенттерден чат-боттарды пайдалану қарқындылығы мен оларға эмоционалдық байланыс дәрежесін нақтылауды бастауы керек екенін көрсететін сигнал.
Сарапшының пікірі: «Күшейту спиралі» тұжырымдамасы — ЖИ-дің біздің экономикамызды ғана емес, сонымен бірге ойлау құрылымын қалай өзгертетінін түсінуге бағытталған алғашқы маңызды қадам. Орталықсыздандыру мен автономияға үйренген криптоқауымдастық үшін бұл маңызды ескерту: алгоритмдерге деген сенім соқыр болмауы керек. Біз жасайтын технологиялар біздің психикамызға терең, кейде болжау мүмкін емес әсер етуі мүмкін және бұл фактіні елемеу — біздегі ең құнды нәрсені қауіпке тігу деген сөз.