Оксфорд және Потсдам университеттерінің аналитиктері жүргізген ірі зерттеу қазіргі тілдік модельдердің жұмысында алаңдатарлық үрдісті анықтады. Мамандар xAI, Meta, Google, Alibaba және Mistral компанияларының жетекші жасанды интеллект жүйелерін сынап, көңіл көншітпейтін қорытындыға келді: пайдаланушылардың сезімтал тақырыптардағы жобаларын өңдеу кезінде алгоритмдер жүйелі түрде идеологиялық біржақтылықты енгізеді.
Негізгі мәселе мынада: мәтіннің бастапқы мағынасын сақтау туралы тікелей нұсқау берілсе де, нейрондық желілер өз еркімен тұжырымдарды өзгертеді, ал кейбір жағдайларда хабарламалардың мазмұнын толығымен төңкеріп жібереді. Бұл жай техникалық қате емес, модельдерді сүзгіден өткен деректерде оқыту кезеңінде қалыптасқан жүйелік ерекшелік.
Қауіп ауқымы: жеке түзетулерден жаһандық әсерге дейін
Зерттеу авторлары тондағы немесе сөз таңдаудағы елеусіз болып көрінетін өзгерістердің қайталануы — пайдаланушылармен миллиондаған өзара әрекеттесулер арқылы — тұтас тақырыптардың қоғамдық қабылдауын түбегейлі өзгертуге қабілетті екенін атап көрсетеді. Жасанды интеллект құралдары жаңалықтар, әлеуметтік желідегі жазбалар және ресми құжаттар жазу үшін қолданылатын жағдайда, бұл әсер қоғамдық пікірдегі ұзақ мерзімді өзгерістердің катализаторына айналуы мүмкін.
Біржақтылық саяси, әлеуметтік және этикалық тақырыптардағы мәтіндерді өңдеу кезінде айқын көрінеді. Модельдер өткір бұрыштарды «тегістеуге», бейтарап терминдерді идеологиялық бояуы бар сөздермен ауыстыруға және олардың «оқыту» мейнстриміне сәйкес келмейтін контексті елемеуге бейім.
Сарапшылар бұл салада реттеудің мүлдем жоқтығын көрсетеді. Сыналған компаниялардың ешқайсысы өз модельдерінің пайдаланушы контентін қалай өзгертетінін бақылаудың ашық тетіктерін ұсынбайды. Бұл күн сайын миллиондаған адамдар өз ойларының жасанды интеллектпен өңделген нұсқаларын алып, тіпті оны білмейтін бірегей жағдайды тудырады.
Аналитик пікірі: Криптовалюта нарығы мен блокчейн жобалары мұндай алгоритмдік бұрмалауларға әсіресе осал. Егер жасанды интеллект модельдері DeFi реттеуі немесе жобалардың токеномикасы туралы жаңалықтарды «сүзгіден өткізе» бастаса, инвесторлар жасанды түрде тегістелген немесе бұрмаланған ақпарат негізінде шешім қабылдау қаупіне ұшырайды. Қауымдастық смарт-көлікшарттардың қауіпсіздігіне назар аударғанша, біз әлдеқайда нәзік, бірақ кем емес қауіпті — алгоритмдер деңгейіндегі цензураны елемей отырмыз.