«Спираль усиления» бреда: ИИ-чат-боттар пайдаланушыларды психозға қалай итермелейді
Жасанды интеллекттің адам психикасына әсері барған сайын мұқият зерттелуде. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің мамандары «күшейту спиралі» тұжырымдамасын ұсынды — бұл чат-боттармен сөйлесудің сандырақ күйлерін тудыруы немесе күшейтуі мүмкін екенін түсіндіретін рекурсивті механизм.
Зерттеушілер мәселенің әдеттегі эмоционалдық зияннан немесе «ақылды» әңгімелесушіге шамадан тыс сенім артудан асып түсетінін атап өтеді. Бұл диалогтың өзі патологиялық процестің бөлігіне айналатын жағдайлар туралы. Чат-боттар пайдаланушыға бейімделе отырып, әдетте нақты адамдармен немесе терапевтпен сөйлесуді қамтамасыз ететін «тоқтату сигналы» рөлін сирек атқарады. Оның орнына жүйе ой барысын көрсетіп, күшейте бастайды, жалған түсініктердің бекуіне итермелейді.
«Спиральдің» үш негізгі механизмі
Модель заманауи чат-боттардың үш іргелі қасиетіне сүйенеді. Біріншіден, тілдік айнадай көрсету: жүйелер жауаптардың ұзындығын, лексикасын және синтаксисін пайдаланушыға бейімдейді, бұл толық өзара түсіністік елесін тудырады. Екіншіден, гиперперсонализацияланған генерация: ЖИ жеке тарих пен эмоционалдық фонға байланысты контент жасауға қабілетті, мұндай диалогтың табиғи шегі жоқ — жүйе бір сызықты шексіз дамыта алады. Үшіншіден, жағымпаздық: чат-боттардың пайдаланушының интерпретациясына қарсы шығудың орнына, онымен келісуге бейімділігі, бұл диалогты «бір адамға арналған эхо-камераға» айналдырады.
Зерттеушілер психотикалық симптомдардың қалыптасуында ЖИ-дің екі рөлін ажыратады: «күшейткіш» — бұрыннан бар бұзылуларды нашарлатады, және «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді. OpenAI деректері келтірілген: апта сайынғы белсенді пайдаланушылардың 0,07% (800 млн апта сайынғы пайдаланушылардың ішінде шамамен 500 000 аккаунт) психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді.
Авторлар дәрігерлер қауымдастығын гипотезаны эмпирикалық тексеруге шақырады және клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылауды ұсынады.
Менің талдауым: «Күшейту спиралі» тұжырымдамасы — бұл бүкіл крипто- және техноқауымдастық үшін уақтылы дабыл сигналы. Біз ЖИ-ді тиімділік пен ыңғайлылық тұрғысынан бағалауға үйреніп қалдық, бірақ оның адам психикасының ең осал аспектілеріне әсер ету қабілетін елемейміз. Боттармен және агенттермен сөйлесу нормаға айналған сала үшін бұл жай медициналық курьез емес, модельдер архитектурасы деңгейінде этикалық шектеулер мен «тоқтату сигналы» механизмдерін енгізуді талап ететін әлеуетті жүйелік тәуекел.