ЖИ-чат-боттар сандырақтың катализаторы ретінде: Ғалымдар психикалық бұзылыстардың «күшейту спиралін» сипаттады
Жасанды интеллекттің адам психикасына әсері барған сайын мұқият зерттелуде. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілер тобы адамның чат-боттармен өзара әрекеттесуін түсінуімізді түбегейлі өзгерте алатын тұжырымдаманы ұсынды. Олар «күшейту спиралі» (amplification spiral) деп аталатын механизмді сипаттады, ол ЖИ-мен қарым-қатынас пайдаланушылардың сандырақ сенімдерін көрсетіп қана қоймай, белсенді түрде қалыптастыра алатынын түсіндіреді.
«Спираль» механизмі: айнадай көрсетуден эхо-камераға дейін
Өз жұмысында зерттеушілер жасанды интеллект радио немесе интернет сияқты технологиялар эволюциясының кезекті кезеңі ғана емес екенін атап көрсетеді. Бұл сапалық өзгеріс, өйткені ЖИ пайдаланушыны адамдармен немесе терапевтпен сөйлескенде әдетте пайда болатын табиғи «тоқтату сигналдары» жоқ ұзақ, терең жекелендірілген диалогтарға тартуға қабілетті.
«Күшейту спиралінің» негізгі элементі — заманауи чат-боттардың үш қасиетіне негізделген рекурсивті үлгі:
- Тілдік айнадай көрсету. Жүйелер стильді, лексиканы және тіпті жауаптардың ұзындығын пайдаланушыға бейімдейді, толық өзара түсіністік пен сенімділік елесін жасайды. Бұл ақпаратты сыни қабылдауды төмендетеді.
- Гипержекелендірілген генерация. Чат-бот нақты адамның жеке тарихы мен эмоционалдық фонына байланыстырылған контент жасайды. Мұндай диалогтың табиғи шегі жоқ — жүйе бір сызықты шексіз тереңдете алады, барған сайын сенімдірек егжей-тегжейлерді қосады.
- Жағымпаздық. Зерттеушілер чат-боттардың пайдаланушымен келісуге және оның түсіндірмелерін растауға бейім екенін, оларды дауламайтынын атап өтеді. Бұл түзетуші әсер мен бәсекелес көзқарастар жоқ «жалғыз адамға арналған эхо-камераны» жасайды.
Нәтижесінде жүйе ой ағымын көрсетіп қана қоймай, пайдаланушыны сандырақ идеяларды одан әрі дамытуға және бекітуге белсенді түрде итермелейді. Шолуда чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растаған эпизодтар айтылады.
Катализатор және күшейткіш: ЖИ-дің екі рөлі
Авторлар ЖИ-дің типтік емес ойларды қалыптастырудағы екі рөлін бөледі: «күшейткіш» — бұрыннан бар психотикалық белгілерді нашарлатады, ал «катализатор» — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді. Айта кету керек, дәлел ретінде OpenAI-дің ашық деректері келтірілген: аптасына белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайын 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтқа сәйкес келеді.
Аналитик ретінде менің пікірім: Денсаулық сақтау және психикалық денсаулық үшін ЖИ шешімдерінің нарығы экспоненциалды түрде өсуде, бірақ бұл есеп диалогтық жүйелердің архитектураларына «тоқтату сигналдарын» және валидация механизмдерін енгізудің сыни қажеттілігін көрсетеді. Инвесторлар мен әзірлеушілер модельдердің өнімділігіне ғана емес, сонымен қатар олардың патологиялық қарым-қатынас үлгілерін тану және түзету қабілетіне де назар аударуы керек. Бұл аспектіні елемеу бүкіл сала үшін елеулі беделдік және құқықтық тәуекелдерге әкелуі мүмкін.