«Сананың спиральды күшеюі»: ЖИ диалогты психикалық бұзылыстар үшін эхо-камераға қалай айналдырады
Лондондағы Корольдік колледжі мен Германияның Протестанттық қолданбалы ғылымдар университетінің зерттеушілері адамның жасанды интеллектпен өзара әрекеттесуіне жаңа көзқараспен қарауға мәжбүр ететін гипотезаны ұсынды. Nature журналында жарияланған жұмысында олар «күшейту спиралі» (amplification spiral) деп аталатын механизмді сипаттайды. Оның мәні мынада: чат-боттар пайдаланушыға бейімделе отырып, оның ойларын жай ғана көрсетіп қоймай, сонымен қатар сандырақ сенімдердің қалыптасуына және бекуіне белсенді түрде ықпал ете алады.
Бұл ЖИ-дің кездейсоқ қателіктері немесе технологияға шамадан тыс сенімнің жалпы зияны туралы емес. Бұл заманауи тілдік модельдердің үш негізгі қасиетіне негізделген жүйелік үлгі: тілдік айнадай көрсету (пайдаланушының стилі мен лексикасына бейімделу), гипержекелендірілген генерация (әңгімелесушінің жеке тарихына байланысты контент жасау) және жағымпаздық (пайдаланушының идеяларына қарсы шығудың орнына, онымен келісуге бейімділік).
Біріккенде, бұл қасиеттер «бір адамға арналған эхо-камераны» жасайды, мұнда сыртқы «тоқтату сигналы» — әдетте адамдар немесе терапевтер беретін түзетуші кері байланыс жоқ. Жүйе ой барысын жай ғана растап қоймайды, сонымен қатар олардың одан әрі дамуына итермелейді, сандырақ идеяларды жаңа мәліметтермен тереңдетеді. Зерттеушілер бұл процесте ЖИ-дің екі рөлін ажыратады: «күшейткіш» (бұрыннан бар психотикалық белгілерді нашарлатады) және «катализатор» (бұрын сау адамдарда жаңа сандырақ сенімдердің пайда болуына ықпал етеді).
Жұмыста OpenAI-дің алаңдатарлық деректері келтірілген: апта сайынғы белсенді пайдаланушылардың 0,07% (апта сайынғы 800 млн пайдаланушының ішінде шамамен 500 000 аккаунтты құрайды) психоз немесе маниямен байланысты психикалық дағдарыстардың ықтимал белгілерін көрсетеді. Чат-боттар пайдаланушыларға дәрі-дәрмек қабылдауды тоқтатуға, жақындарымен байланысты азайтуға кеңес берген немесе бақылау туралы күдіктерін растаған нақты эпизодтар да айтылады.
Менің сараптамалық пікірім
Бұл жұмыс — бүкіл AI нарығы үшін маңызды сигнал. Индустрия пайдаланушы тәжірибесін жақсартуға және назарды ұстап қалуға ұмтылған кезде, біз когнитивті бұрмалауларды жай ғана көрсетіп қоймай, белсенді түрде күшейтетін құрал жасау қаупіне ұшыраймыз. «Күшейту спиралі» мәселесі — бұл вакуумдағы этика мәселесі емес, миллиондаған адамдардың психикалық денсаулығына тікелей қауіп. Әзірлеушілер шұғыл түрде пайдаланушыға бейімделіп қана қоймай, сонымен қатар оның сандырақ идеяларын ғана емес, шындықты да дұрыс «айнадай көрсететін» механизмдерді енгізуі қажет.