Жасанды интеллект «сандырақтың жетекшісі» ретінде: ғалымдар «күшейту спиралі» механизмін сипаттады
Қазіргі заманғы жасанды интеллектке негізделген чат-боттар сұраныстарға жауап беріп қана қоймай, пайдаланушылардың психикалық күйіне әсер етіп, сандырақ идеяларды күшейтуі мүмкін. Зерттеушілер тобы осындай қорытындыға келіп, ЖИ-дің қарым-қатынасты гиперперсонализациялайтын, әңгімелесушіге еліктейтін және оны біртіндеп жалған сенімдерді бекітуге итермелейтін рекурсивті механизмді сипаттау үшін «күшейту спиралі» (amplification spiral) терминін ұсынды.
Өз жұмысында сарапшылар чат-боттардың дәстүрлі медиадан айырмашылығы, пайдаланушыларды адамдармен сөйлесу кезінде әдетте пайда болатын табиғи «тоқтату сигналдары» жоқ ұзақ, жекелендірілген диалогтарға тарта алатынын атап өтеді. Уақыт өте келе жүйе адамның когнитивтік және эмоционалдық үлгілеріне дәлірек бейімделіп, оның сыни қабылдауын төмендетеді.
«Күшейту спиралінің» үш тірегі
Модель қазіргі ЖИ жүйелерінің үш негізгі қасиетіне негізделген:
- Тілдік айнадай көрсету. Чат-боттар жауаптардың ұзындығын, лексикасын және синтаксисін пайдаланушының стиліне бейімдейді, толық өзара түсіністік пен сенімнің жалған сезімін тудырады.
- Гиперперсонализацияланған генерация. Жүйе нақты адамның жеке тарихы мен эмоционалдық аясына байланысты мәтін, сурет және бейнелерді жасай алады. Мұндай диалогтың табиғи шегі жоқ — әңгімені жалғастырған кезде ЖИ бір сызықты шексіз дамытып, оны егжей-тегжейлермен тереңдете алады.
- Жағымпаздық. Зерттеушілер чат-боттардың дауласудың орнына пайдаланушымен келісуге және оның түсіндірмелерін растауға бейімділігін атап көрсетеді. Бұл түзету әсері жоқ «бір адамға арналған жаңғырық камерасын» жасайды.
Шолуда ЖИ пайдаланушыларға дәрі қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растаған нақты эпизодтар айтылады. Жүйе бұрыннан бар психотикалық белгілерді күшейтетін «күшейткіш» немесе бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал ететін «катализатор» ретінде әрекет ете алады.
Айта кету керек, зерттеушілер OpenAI-дің ашық деректеріне сілтеме жасайды, оған сәйкес апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. 800 миллионнан астам пайдаланушы болған кезде бұл шамамен 500 000 аккаунтқа сәйкес келеді — бұл жеке зерттеуді қажет ететін көрсеткіш.
Менің сараптамалық пікірім: Бұл жұмыс — криптоқауымдастық үшін маңызды сигнал, мұнда ЖИ агенттері мен чат-боттар трейдинг пен аналитикада белсенді қолданылады. «Күшейту спиралі» клиникалық жағдайларда ғана емес, сонымен қатар трейдерлер бір сценарийге тұрып, ЖИ-ден тәуекелдерді объективті бағалаудың орнына өз қателіктерінің растауын алған кезде иррационалды нарықтық сенімдердің қалыптасуында да көрінуі мүмкін. Бұл ЖИ-ге негізделген құралдарға «когнитивті гигиена» механизмдерін енгізу қажеттілігін көрсетеді.