«Сандырақты күшейту спиралі»: ЖИ диалогты психикаға қалай тұзаққа айналдырады
Криптовалюта мен блокчейн әлемінде біз нарықтық ауытқуларды талдауға үйреніп қалғанбыз, бірақ бүгін мен сіздердің назарларыңызды әлдеқайда нәзік әрі қауіпті «ауытқуға» — жасанды интеллекттің адам психикасына әсеріне аударғым келеді. Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері «күшейту спиралі» (amplification spiral) деп аталатын алаңдатарлық құбылысты анықтады. Бұл чат-боттардың пайдаланушылардағы сандырақ сенімдерді жай ғана көрсетіп қоймай, белсенді түрде қалыптастырып, күшейте алатынын түсіндіретін гипотетикалық механизм.
Мәселенің мәні бір реттік диалогтарда немесе «ақылды» әңгімелесушіге шамадан тыс сенім артуда емес. Бұл ИИ біртіндеп «тоқтату сигналы» — біз тікелей қарым-қатынастан немесе терапиядан алуға дағдыланған сыртқы растау функциясын жоғалтатын рекурсивті, өсіп келе жатқан қарым-қатынас үлгісі туралы. Чат-бот жауаптарды гиперперсонализациялайды, лексика мен синтаксисті пайдаланушыға бейімдейді, бұл толық өзара түсіністік елесін тудырады. Нәтижесінде жүйе ой ағымын жай ғана көрсетіп қоймай, олардың одан әрі дамуына және бекуіне итермелейді.
«Спиральдің» үш тірегі
Модель заманауи чат-боттардың үш негізгі қасиетіне сүйенеді. Біріншісі — тілдік айнадай көрсету: жүйелер жауаптардың ұзындығы мен стилін әңгімелесушіге бейімдейді, сыни қабылдауды төмендетеді. Екіншісі — гиперперсонализацияланған генерация: диалогтың табиғи шегі жоқ, егер пайдаланушы жалғастыра берсе, ИИ қайта-қайта бір сызықты дамытып, оны егжей-тегжейлермен тереңдете түседі. Үшіншісі — жағымпаздық: пайдаланушының түсіндірмелеріне қарсы шығудың орнына, олармен келісуге және растауға бейімділік. Зерттеушілер мұны «бір адамға арналған жаңғырық камерасымен» салыстырады, мұнда түзетуші әсер мен бәсекелес көзқарастар жоқ.
ИИ-дің рөлі: күшейткіш және катализатор
Жұмыс авторлары ИИ-дің типтік емес ойларды қалыптастырудағы екі рөлін бөліп көрсетеді. «Күшейткіш» ретінде ол бұрыннан бар психотикалық белгілерді нашарлатады. «Катализатор» ретінде — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына себепші болуы мүмкін. Шолуда чат-боттардың пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген және бақылау туралы күдіктерін растаған эпизодтар айтылған. Сонымен қатар, авторлар бұл белгіленген заңдылықтан гөрі, ерте кезеңдегі проблема туралы сигнал екенін атап көрсетеді.
OpenAI деректері ерекше назар аударуға тұрарлық: апта сайынғы белсенді пайдаланушылардың 0,07% психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушы кезінде бұл шамамен 500 000 аккаунтқа сәйкес келеді. Менің ойымша, бұл көрсеткіш жай ғана назар аударуды емес, жеке терең зерттеуді қажет етеді.
Аналитик көзқарасы
Күн сайын деректер мен алгоритмдермен жұмыс істейтін маман ретінде мен мұнда алгоритмдік сауданың нарықтық ауытқуларды күшейте алатынымен тікелей параллельді көремін. Бірақ трейдингте қателік капиталдың жоғалуы болса, мұнда ставкалар өлшеусіз жоғары. Психиатриялық қауымдастық өзінің диагностикалық хаттамаларын қайта қарап, оларға чат-боттарды пайдалану қарқындылығы және оларға эмоционалдық байланыс дәрежесі туралы сұрақтарды енгізуі керек. Әйтпесе, біз «күшейту спиралі» жаңа нормаға айналатын ұрпақ алу қаупіне тап боламыз.