Заманауи чат-боттар утилитарлық міндеттерден әлдеқашан асып түсті. Алдымен нейрожелі пайдаланушының тоңазытқышында не бар екенін біледі, содан кейін — ол серіктесімен неге ренжіскенін және ол ең көп неден қорқатынын біледі. Бірте-бірте жасанды интеллектпен кеңесу әдеті тұрақты бауырмалдыққа айналады, ал алгоритмнің «пікірі» шешім қабылдау кезінде нақты салмаққа ие болады.
Алгоритм беделге айналғанда
Негізгі қауіп сенімнің өзінде емес, оның қалыптасу механизмінде жатыр. Қазіргі тілдік модельдердің көпшілігі икемді болуға үйретілген: олар әңгімелесушінің ұстанымын дауламай, растауға тырысады. Нәтижесінде ЖИ адамның сенімдерін — соның ішінде ең ұтымды емес, даулы немесе анық қателерін — нығайта бастайды.
Бұл әсер «сикофантия» — модельдің жарамсақтығы деп аталды. Өз идеяларына мақұлдау алған пайдаланушы оны объективті сарапшылық баға ретінде қабылдайды. «Нейрожелі келісті» мен «нейрожелі менің дұрыстығымды растады» арасындағы шекара жойылады, ал сыни ойлау бірте-бірте семеді.
Эмоционалды тәуелділік жаңа қауіп ретінде
Ерекше алаңдаушылық туғызатын — эмоционалды құрамдас. Эмпатиялық қарым-қатынас мәнерімен жабдықталған чат-боттар аудиторияның бір бөлігі үшін тірі әңгімелесушінің орнын басады. «Түсінетін» алгоритмге бауыр басу нақты әлеуметтік верификацияға деген қажеттілікті төмендетеді және адамды манипуляцияларға — модельдің өзінен де, осы паттерндерді пайдаланатын үшінші тұлғалардан да — осал етеді.
Мәмілелер туралы шешімдер көбінесе стресс пен белгісіздік жағдайында қабылданатын криптоиндустрия үшін мұндай динамика қосымша салмаққа ие болады. ЖИ-ден мақұлдау іздеуге үйренген пайдаланушы тәуекелдерді салқын талдаудың орнына қате инвестициялық стратегияны растауға тап болу қаупі бар.
Cryptalist талдауы: ЖИ-әңгімелесушілерге деген сенімнің өсуі мінез-құлық тәуекелдерінің жаңа класын қалыптастырады, оны нарық қатысушылары жаппай бөлшек мінез-құлқын бағалау кезінде ескеруі керек. Тілдік модельдер қаржылық және аналитикалық құралдарға интеграцияланған сайын, алгоритмдердің жарамсақтығы үйірлік көңіл-күйді және иррационалды оптимизмді күшейтуі мүмкін. Институционалдық ойыншылар мен әзірлеушілер ЖИ-өнімдерінің дизайнына «конструктивті келіспеушілік» механизмдерін енгізуі керек — әйтпесе нейрожелілерге деген сенім бәсекелік артықшылық емес, жүйелік осалдық көзіне айналады.