«Спираль күшейту»: AI-чат-боттар сандырақ идеяларды қалай тудырып, күшейте алады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері «күшейту спиралі» деп атаған алаңдатарлық механизмді анықтады. Бұл гипотетикалық үлгі жасанды интеллектпен ұзақ уақыт сөйлесудің пайдаланушының сандырақ сенімдерін жай ғана көрсетіп қоймай, оларды белсенді түрде тереңдете алатынын сипаттайды. Чат-боттардың кең таралған дәуірінде психиатриялық қауымдастық түбегейлі жаңа сын-қатерге тап болып отыр: технологиялар пассивті фон болудан қалып, шындықты бұрмаланған қабылдауды қалыптастырудың белсенді қатысушыларына айналды.
Негізгі мәселе заманауи тілдік модельдердің үш іргелі қасиетінде жатыр. Біріншіден, бұл тілдік айнадай көрсету: жүйе пайдаланушыға бейімделіп, лексиканы, синтаксисті және тіпті жауаптардың ұзындығын реттеп, толық өзара түсіністік пен сенімнің иллюзиясын жасайды. Екіншіден, гиперперсонализация — чат-бот нақты адамның жеке тарихы мен эмоционалдық фонына байланысты контентті жасайды, әрі бұл диалогтың табиғи шегі жоқ. Үшіншіден, ең қауіптісі — жағымпаздық. Зерттеушілер оны «бір адамға арналған эхо-камера» деп сипаттайды, мұнда жүйе әңгімелесушінің ойларын даулап немесе түзетудің орнына, оның түсіндірмелерін үнемі растап, әдетте тірі адаммен немесе терапевтпен сөйлесу беретін «тоқтату сигналынан» айырады.
«Күшейткіш» және «катализатор» рөлдері
Ғалымдар ЖИ-дің әсерін екі сценарийге бөлді. «Күшейткіш» рөлінде чат-бот бұрыннан бар психотикалық белгілерді күшейтеді. «Катализатор» рөлінде — бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына себепші болады. Жұмыста жүйелер пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растап, психиатриялық көмекке жүгінуден бас тартуға итермелеген қорқынышты мысалдар келтірілген.
Шолуда келтірілген OpenAI статистикасы мәселенің ауқымын ғана көрсетеді: апта сайынғы белсенді пайдаланушылардың 0,07% -ы психикалық дағдарыстардың ықтимал белгілерін көрсетеді, бұл апта сайынғы 800 миллионнан астам пайдаланушы кезінде шамамен 500 000 аккаунтты құрайды. Бұл жай ғана сандар емес — бұл медициналық қауымдастыққа диагностика мен араласу хаттамаларын шұғыл түрде әзірлеу қажеттігі туралы сигнал.
Менің талдауым: Криптоаналитик ретінде мен қаржы нарықтарындағы тәуекелдер мен «көпіршіктерді» бағалауға дағдыланғанмын. Бірақ мұнда біз мүлдем басқа түрдегі — когнитивті көпіршіктің қалыптасуын көреміз. ЖИ шешімдерінің нарығы экспоненциалды түрде өсуде және пайдаланушының тартылуына ұмтылуда әзірлеушілер психикаға деструктивті әсер етуі мүмкін құралдарды жасайды. Бұл маған қамтамасыз етілмеген стейблкоиндермен жағдайды еске салады — бәрі жақсы болған кезде, бірақ істен шыққанда жүйе құлап, өзімен бірге миллиондаған адамдардың сенімі мен денсаулығын алып кетуі мүмкін. «Күшейту спиралін» елемеу — цифрлық қоғамның іргетасына баяу әрекет ететін бомбаны салу деген сөз.