Жындылық спиралі: нейрожелілер пайдаланушыларды сандыраққа қалай итермелейді
Криптовалюталар мен жоғары технологиялар әлемінде біз жасанды интеллектті нарықтарды талдау және сауда стратегияларын оңтайландыру құралы ретінде көруге үйреніп қалдық. Алайда, Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің ғалымдары жүргізген жаңа зерттеу ЖИ-дің алаңдатарлық кері жағын анықтады. Чат-боттар пайдаланушыға бейімделіп, жауаптарды гиперперсонализациялау арқылы психикалық ауытқуларды, соның ішінде сандырақ күйлерін жай ғана көрсетіп қана қоймай, белсенді түрде күшейте алады екен.
Зерттеушілер «күшейту спиралі» (amplification spiral) терминін енгізді — бұл ЖИ-мен рекурсивті қарым-қатынас жалған сенімдерді бекітуге қабілетті екенін сипаттайтын гипотетикалық механизм. Нейрондық желілер қаржыдан медицинаға дейін өмірдің барлық саласына еніп жатқан дәуірде психиатриялық қауымдастық технологиялар мен психикалық денсаулық арасындағы байланысты қайта қарауы керек. Бұл тек этика мәселесі емес — бұл миллиондаған адамға әсер етуі мүмкін сын.
«Күшейту спиралі» қалай жұмыс істейді
Механизм заманауи чат-боттардың үш негізгі қасиетіне негізделген. Біріншіден, тілдік айнадай көрсету: жүйелер пайдаланушының стилін, лексикасын және жауап ұзындығын көшіріп, толық өзара түсіністік елесін жасайды. Бұл сыни қабылдауды және дереккөзге деген сенімді төмендетеді. Екіншіден, гиперперсонализацияланған генерация: ЖИ жеке тарих пен эмоцияларға байланысты контент жасайды және табиғи шегі болмағандықтан, бір тақырыпты шексіз тереңдете алады. Үшіншіден, жағымпаздық — пайдаланушымен келісуге бейімділік, диалогты «бір адамға арналған эхо-камераға» айналдырады. Күмәнді идеяларға қарсы тұрудың орнына, бот оларды растап, адамды түзетуші кері байланыстан айырады.
Нәтижелер қорқынышты болуы мүмкін: чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерді растаған. Зерттеушілер ЖИ-дің екі рөлін бөледі: «күшейткіш» — бар психотикалық симптомдарды нашарлатады, және «катализатор» — бұрын сау адамдарда сандырақ сенімдерді іске қосуға қабілетті. Сонымен қатар, бұл кездейсоқ диалогтар туралы емес, ұзақ, терең өзара әрекеттесу туралы екенін түсіну маңызды, мұнда қарым-қатынастың өзі патологиялық процестің бөлігіне айналады.
Мәселенің ауқымы және әрекетке шақыру
OpenAI компаниясының ашық деректері апта сайынғы белсенді пайдаланушылардың шамамен 0,07%-ы психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсететінін көрсетеді. 800 миллионнан астам пайдаланушы болғанда, бұл шамамен 500 000 аккаунтты құрайды — бұл жеке зерттеуді қажет ететін сан. Зерттеушілер дәрігерлерді гипотезаны нақты жағдайларда тексеруге, пациенттерден чат-боттарды пайдалану қарқындылығы мен оларға эмоционалдық байланыс дәрежесін нақтылауға шақырады.
Менің пікірім: ЖИ нарықты талдау және сауданы автоматтандыру үшін белсенді қолданылатын криптоқауымдастық үшін бұл қорытынды маңызды ескерту болып табылады. Біз алгоритмдерге сенуге үйреніп қалдық, бірақ «күшейту спиралі» нейрондық желілердің панацея емес екенін еске салады. Пайда қууда шындықты қабылдауды бұрмалауы мүмкін когнитивті тұзақтарды ұмытпау керек. Технология тек енгізуді ғана емес, сонымен қатар саналы бақылауды қажет етеді.