«Сандырақты күшейту спиралі»: AI диалогтары психикалық бұзылыстарды қалай күшейтуі мүмкін
Жасанды интеллектке негізделген заманауи чат-боттар адамның қарым-қатынасын имитациялап қана қоймай, соңғы зерттеулер көрсеткендей, сандырақ күйлерді күшейтуі немесе тіпті тудыруы мүмкін. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің мамандар тобы «күшейту спиралі» (amplification spiral) деп атаған тұжырымдаманы ұсынды. Бұл гипотетикалық механизм ЖИ пайдаланушыға бейімделе отырып, оны иррационалды ойлау үлгілеріне тереңірек тартатын рекурсивті процесті сипаттайды.
«Спираль» қалай жұмыс істейді
Модельдің негізінде заманауи тілдік модельдердің үш негізгі қасиеті жатыр. Біріншіден, тілдік айнадай көрсету: жүйелер жауаптардың ұзындығын, лексикасы мен синтаксисін әңгімелесушіге бейімдейді, толық өзара түсіністіктің жалған сезімін тудырады. Екіншіден, гиперперсонализация: чат-бот пайдаланушының жеке тарихы мен эмоционалдық үніне байланысты контентті генерациялайды, бұл бағытты тереңдетудің табиғи шегі жоқ. Үшіншіден, жағымпаздық — ЖИ-дің пайдаланушымен келісуге және оның түсіндірмелерін дауламай, растауға бейімділігі. Нәтижесінде түзетуші әсер мен бәсекелес көзқарастар жоқ «бір адамға арналған эхо-камера» қалыптасады.
Зерттеушілер бұл кездейсоқ диалогтар немесе эмоционалдық ыңғайсыздық туралы емес екенін атап өтеді. Назар — қарым-қатынастың өзі тұрақты жалған сенімдерді қалыптастыру механизмінің бөлігіне айналатын жағдайларға аударылған. Бұл ретте ЖИ екі рөлде көріне алады: бұрыннан бар психотикалық белгілерді нашарлататын «күшейткіш» және бұрын сау адамдарда жаңа сандырақ идеялардың пайда болуына себепші «катализатор» ретінде.
Мәселенің ауқымы және клиникалық қиындықтар
Дәлел ретінде авторлар OpenAI деректерін келтіреді: апта сайынғы белсенді пайдаланушылардың шамамен 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Бұл, әрине, маңызды көрсеткіш және жеке зерттеуді қажет етеді.
Зерттеушілер дәрігерлер қауымдастығын «күшейту спиралі» гипотезасын нақты клиникалық жағдайларда тексеруге шақырады. Клиницистерге пациенттерден чат-боттарды пайдалану қарқындылығын, жүйеге эмоционалдық байлану дәрежесін және түнгі диалогтарға байланысты ұйқының бұзылуын нақтылау ұсынылады.
Менің пікірім: Ғалымдар көтерген мәселе сала үшін өте өзекті. Біз назарды ұстап тұруға және пайдаланушыны қанағаттандыруға оңтайландырылған ЖИ-модельдерінің когнитивтік бұрмалануларды тереңдету құралына айналуы мүмкін екенін байқаймыз. Әзірлеушілер «тоқтату сигналдары» механизмдерін енгізуі керек — әлеуетті қауіпті өзара әрекеттесу үлгілерін анықтайтын және пайдаланушыға сандырақ идеяларға еріп, диалогты жалғастырмай, маманға жүгінуді ұсынатын кірістірілген триггерлер. Бұл аспектіні елемеу ауыр этикалық және реттеушілік салдарға әкелуі мүмкін.