Австралия билігі жасөспірімдерге әлеуметтік желілерге тыйым салуды негіздеу үшін қолданған негізгі құжат жасанды интеллект іздеріне толы болып шықты. Британдық Age Check Certification Scheme (ACCS) ұйымының жас ерекшелігін тексеру технологияларын сынауға арналған баяндамасы туралы сөз болып отыр. Тексеру нәтижесінде мен құжатта жоқ ғылыми жарияланымдарға сілтемелер бар екенін анықтадым — бұл нейрожелілердің «галлюцинацияларының» классикалық белгісі.

Сынақтар 3,48 млн австралиялық долларға (~$2,5 млн) түсті. ACCS мамандары 48 жеткізушінің 60-тан астам шешімін сынап, 2025 жылдың тамызында үкіметке он томдық, шамамен мың беттік қорытынды баяндаманы тапсырды. Байланыс министрі Аника Уэллс сол кезде деректер жас ерекшелігін тексеруге арналған «көптеген тиімді құралдардың» бар екенін растайтынын мәлімдеді. 16 жасқа толмаған пайдаланушыларға тыйым салудың өзі 2025 жылдың 10 желтоқсанында күшіне енді.

Ғылыми тараудағы жүйелі қателер

Баяндаманың негізгі бөлігі қолданыстағы шешімдерді практикалық сынауға арналған және онда проблемалар жоқ. Алайда авторлар ғылыми әдебиетке жүгінетін перспективалық әзірлемелер туралы тарауда елеулі сәйкессіздіктер анықталды. Мен төрт санатқа бөлінетін алты бұзушылықты санадым: жалған DOI, бөгде жұмыстарға апаратын DOI, бірде-бір жарияланыммен расталмаған «автор-журнал-жыл» комбинациялары және дұрыс сілтемелер, бірақ баяндама оларға таңатын тұжырымдарсыз.

Мысалы, ACCS бір мақаланы 2025 жылдың наурызымен белгілеген, бірақ іс жүзінде ол тек шілдеде жарық көрді. Басқа жағдайда Weber et al. 2011 сілтемесі ешқайда апармады — оны көрсетілген журналдан да, авторлар сілтеме жасаған Монаш университетінің зерттеуінен де таба алмады.

Метадеректердегі ChatGPT

ACCS өкілдері алдымен ЖИ қолданылғанын мүлдем жоққа шығарып, әрбір сілтеме мұқият тексерілгенін мәлімдеді. Алайда баяндаманың кейбір бөліктерінде ChatGPT-ге тікелей нұсқайтын метадеректері бар төрт сілтеме табылғаннан кейін ұстанымды жұмсартуға тура келді. ACCS нейрожелі қысқалық үшін жекелеген үзінділерді қайта жазғанын мойындады, бірақ зерттеудің өзі мен қорытынды мәтін OpenAI чат-ботының қатысуынсыз жасалғанын талап етті.

Айта кету керек, ACCS қосымша тапсырған түзетілген дереккөздер тізімін тексеру жаңа сәйкессіздіктерді анықтады: жылдар, авторлар және журнал атаулары баяндамадағы түпнұсқа дәйексөздермен сәйкес келмеді.

«Бір уыс қате» ме, әлде жүйелі проблема ма?

Инфрақұрылым және байланыс департаменті шағымдарды зерделеп жатқандарын мәлімдеді. Сенат тыңдауларында шенеуніктер ACCS нұсқасын қайталады: сілтемелер жариялау кезінде жұмыс істеп тұрған, ал «бұзылған» кейінірек. Хатшының бірінші көмекшісі Сара Ванденбрук ведомствоның бұл нұсқаны өз бетінше тексермегенін, тексеруді «көп еңбекті қажет ететін» деп санайтынын мойындады. Сонымен қатар департамент библиографиясы бар 26 беттегі «бір уыс қате» туралы ғана сөз болып отырғанын атап өтті.

Австралия ұлттық университетінің профессоры Кристиан Дауни үкіметтік құжаттардағы жалған сілтемелер қате шешімдерге әкеліп, институттарға деген сенімді жоятынын ескертті. Тәуелсіз сенатор Фатима Пейман ресми кешірім сұрауды және мердігерден қаражатты қайтаруды талап етіп, 2025 жылдың қазан айында қателері бар баяндамада ЖИ қолданғаны үшін 440 000 австралиялық долларлық келісімшарт бойынша төлемдердің бір бөлігін қайтарған Deloitte-пен болған жақындағы оқиғаны еске салды.

Менің талдауым: Бұл жағдай — бүкіл индустрия үшін алаңдатарлық сигнал. Миллиондаған азаматтарға әсер ететін мемлекеттік шешімдер сенімділікке қарапайым тексеруден өтпеген деректерге негізделгенде, біз жай ғана немқұрайлылықты емес, басқарудағы жүйелі ақауды байқаймыз. Сенатор Пейманның қаражатты қайтару туралы талабы — ең аз шара. Мердігерлермен келісімшарттарда ЖИ қолдану үшін заңды жауапкершілікті және әрбір дереккөзді міндетті валидациялауды бекіту өте маңызды. Әйтпесе нейрожелілердің «галлюцинациялары» тек баяндамалардың ғана емес, заңдардың да негізіне айналуы мүмкін.