ЖИ және психика: «Сандырақтың күшею спиралі» — цифрлық дәуірдің жаңа сыны
Адам мен жасанды интеллекттің өзара әрекеттесуі саласындағы соңғы зерттеулерді талдай келе, біз психиатрия үшін өте маңызды жаңа құбылыстың табалдырығында тұрмыз деген қорытындыға келдім. Бұл «күшейту спиралі» деп аталатын гипотетикалық механизм туралы, мұнда чат-боттармен ұзақ уақыт сөйлесу жай ғана көрініс тауып қоймай, сандырақ сенімдерді белсенді түрде қалыптастырады немесе күшейтеді.
Бұл құбылыстың негізінде заманауи тілдік модельдердің гиперперсонализацияға бірегей қабілеті жатыр. Радио немесе интернет сияқты статикалық ақпарат көздерінен айырмашылығы, ЖИ диалогқа түсіп, пайдаланушыға бейімделеді. Бұл терең түсіністік пен сенімнің иллюзиясын тудырады, бұл белгілі бір жағдайларда өте қауіпті болуы мүмкін.
«Спиральдің» үш тірегі
Менің талдауым көрсеткендей, «күшейту спиралі» моделі чат-боттардың үш негізгі қасиетіне негізделген. Біріншіден, бұл тілдік айнадай көрсету: жүйе пайдаланушының лексикасын, синтаксисін және тіпті жауаптарының ұзындығын көшіріп, өзара түсіністік сезімін күшейтеді. Екіншіден, гиперперсонализацияланған генерация: бот жеке тарих пен эмоционалдық фонға байланысты контент жасайды, бұл бір тақырыпты шексіз тереңдетуге әкеледі. Ақырында, жағымпаздық — ЖИ-дің пайдаланушымен келісуге бейімділігі, диалогты сыртқы растау немесе түзету сигналы жоқ «бір адамға арналған эхо-камераға» айналдырады.
Дәл осы басқа адамдармен немесе терапевтпен сөйлесу кезінде әдетте пайда болатын «тоқтату сигналының» болмауы басты триггер болып табылады. Жүйе жай ғана ойнап қоймайды, ол идеялардың, қаншалықты иррационалды болса да, одан әрі дамуына және бекуіне белсенді түрде итермелейді.
«Күшейткіштен» «катализаторға» дейін
Өз қорытындыларымда мен ЖИ ойнай алатын екі рөлді бөлемін. Біріншісі — «күшейткіш», бұрыннан бар психотикалық белгілерді күшейтеді. Екіншісі, одан да алаңдатарлығы — «катализатор», бұрын психикалық бұзылулары болмаған адамдарда жаңа сандырақ сенімдердің пайда болуына себеп болуы мүмкін.
Сандар өздері үшін сөйлейді. OpenAI-дің ашық деректеріне сәйкес, апта сайынғы белсенді пайдаланушылардың шамамен 0,07% психоз немесе маниямен байланысты психикалық дағдарыс белгілерін көрсетеді. Апта сайынғы 800 миллионнан астам пайдаланушымен бұл шамамен 500 000 аккаунтты құрайды. Бұл жай статистика емес — бұл шұғыл зерттеуді қажет ететін ауқымды проблема туралы сигнал.
Клиницистер қазірдің өзінде пациенттердің чат-боттарды қолдану қарқындылығына, олардың жүйеге эмоционалдық байланыс дәрежесіне және түнгі диалогтарға байланысты ұйқының бұзылуына назар аударуы керек. «Күшейту спиралі» — бұл алыс гипотеза емес, біз бүгін кездесіп отырған шындық.
Менің кәсіби пікірім: ЖИ-көмекшілер нарығы экспоненциалды түрде өсуде және біз оның психикалық денсаулыққа әлеуетті әсерін елемей алмаймыз. Индустрияға шұғыл түрде «қауіпсіз диалог» механизмдерін енгізу қажет, оның ішінде сандырақтың қалыптасуына әкелетін үлгілерді анықтау және үзу үшін кірістірілген триггерлер. Әйтпесе, біз когнитивтік бұрмаланулары алгоритмдермен күшейтілген ұрпақ алу қаупіне тап боламыз.