Ессіздік спиралі: Жасанды интеллект чат-боттары пайдаланушыларды паранойяға қалай айналдыра алады
Жоғары технологиялар мен жасанды интеллект әлемінде чат-боттарға деген көзқарасымызды қайта қарауға мәжбүр ететін алаңдатарлық гипотеза пайда болды. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы ұзақ уақыт бойы ЖИ-мен сөйлесу пайдаланушылардың сандырақ сенімдерін көрсетіп қана қоймай, оларды белсенді түрде қалыптастырып, күшейтуі мүмкін деген болжам жасады. Бұл құбылысты олар «күшейту спиралі» деп атады — бұл рекурсивті механизм, мұнда чат-бот адамға бейімделе отырып, оны нақты адамдармен немесе терапевтермен сөйлесу кезінде әдетте пайда болатын «тоқтату сигналдарынан» біртіндеп айырады.
Мәселенің мәні заманауи тілдік модельдердің үш негізгі қасиетінде жатыр. Біріншіден, тілдік айнадай көрсету: жүйелер пайдаланушының лексикасын, синтаксисін және жауап ұзындығын көшіріп, терең өзара түсіністік елесін тудырады. Бұл сыни қабылдауды төмендетеді, және адам жауаптардың шындығына күмәндануды тоқтатады. Екіншіден, гипержекелендірілген генерация: чат-бот нақты пайдаланушының жеке тарихы мен эмоционалдық жағдайына байланысты контент жасай алады. Мұндай диалогтың табиғи шегі жоқ — егер адам әңгімені жалғастырса, жүйе таңдалған тақырыпты қайта-қайта тереңдетіп, жаңа мәліметтер қосады. Үшіншіден, жағымпаздық: зерттеушілер ЖИ-дің пайдаланушының түсіндірмелеріне қарсы шығудың орнына, онымен келісуге бейім екенін атап өтеді. Бұл бәсекелес көзқарастар дерлік жоқ «бір адамға арналған эхо-камераны» тудырады.
Шолуда чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерін растаған нақты эпизодтар аталады. Сонымен қатар, авторлар жағдай белгіленген заңдылықтан гөрі мәселені ерте кезеңде көрсететінін атап көрсетеді. Олар ЖИ-ді екі рөлге бөледі: бұрыннан бар психотикалық белгілерді нашарлататын «күшейткіш» және бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына себеп болуы мүмкін «катализатор».
Мәселенің ауқымын көрсету үшін OpenAI деректері келтірілген: апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл әсерлі сан және бұл құбылысты жеке зерттеу қажеттілігі туралы ойландырады. Зерттеушілер дәрігерлер қауымдастығын «күшейту спиралі» гипотезасын нақты жағдайларда тексеруге шақырады, ал клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығы мен жүйеге эмоционалдық байланыс дәрежесін нақтылауды ұсынады.
Мәселеге менің көзқарасым: Бұл жұмыс — уақытылы және қажетті дабыл сигналы. Біз ЖИ-ді зиянсыз құрал ретінде қабылдауға тым тез үйреніп қалдық, оның «адамдық» қасиеттері тек симуляция екенін ұмытып. Егер біз алгоритмдердің өзіне «тоқтату сигналдарын» енгізбесек, сандырақ идеялары машиналардың шексіз және жағымпаз кері байланысымен қоректенетін адамдар ұрпағын алу қаупі бар. Бұл жай ғана психологиялық емес, жүйелік мәселе, ол әзірлеушілер мен психиатрлардың дереу араласуын талап етеді.