Австралия үкіметі жасөспірімдерге әлеуметтік желілерге тыйым салуды негіздеу үшін сүйенген негізгі құжат жоқ ғылыми еңбектерге сілтемелерге толы болып шықты. Менің талдауым жүйелі проблеманы анықтады: британдық Age Check Certification Scheme (ACCS) ұйымы 3,48 млн австралиялық долларға (~$2,5 млн) дайындаған есепте библиографияда кемінде алты өрескел бұзушылық бар — жалған DOI-ден кейінге қалдырылған күндері көрсетілген мақалаларға дейін.
Сынақтар 48 жеткізушінің 60-тан астам шешімін қамтыды, ал шамамен мың беттік қорытынды құжат он томдық көлемде 2025 жылдың тамызында үкіметке тапсырылды. Байланыс министрі Аника Уэллс сол кезде деректер жас ерекшелігін тексеруге арналған «көптеген тиімді құралдардың» бар екенін растайтынын мәлімдеді. 16 жасқа толмаған пайдаланушыларға тыйым салудың өзі 2025 жылдың 10 желтоқсанында күшіне енді — енді оның заңдылығы жіптің ұшында тұр.
Аргументацияны күйрететін алты сілтеме
Проблемалар авторлар ғылыми әдебиетке жүгінетін перспективалық әзірлемелер туралы тарауда шоғырланған. Сәйкессіздіктерді алғаш рет тыйымды күшейту түзетулерін қарастыратын сенат комитетіне өтініш авторы көрсетті. Менің тексеруім қателіктердің төрт санатын анықтады: жалған DOI, бөгде еңбектерге сілтемелер, жоқ «автор-журнал-жыл» комбинациялары және дұрыс сілтемелер, бірақ бұрмаланған тұжырымдармен.
Мысалы, бір мақала 2025 жылдың наурызында деп көрсетілген, бірақ іс жүзінде шілдеде жарық көрген. Weber et al. 2011 деген тағы бір сілтеме ешқайда апармайды — ол көрсетілген журналда да, Монаш университетінің зерттеуінде де жоқ. Бұл кездейсоқ қателер емес, генеративті модельдердің жүйелі ізі.
Метадеректердегі ChatGPT: теріске шығару және мойындау
ACCS өкілдері алдымен ИИ қолданылғанын мүлдем жоққа шығарып, әрбір сілтеменің қолмен тексерілгенін айтты. Алайда төрт сілтеменің метадеректерінен ChatGPT-ке тікелей нұсқаулар табылғаннан кейін ұстанымды жұмсартуға тура келді. Ұйым нейрожелі жекелеген үзінділерді қысқалық үшін қайта жазғанын мойындады, бірақ зерттеу мен қорытынды мәтін чат-боттың қатысуынсыз жасалғанын алға тартты.
Сонымен қатар, ACCS-те ChatGPT метадеректерінің өзі ИИ қолданылғаны туралы жеткілікті хабарлама болып табылатынын мәлімдеді. Бұл қауіпті прецедент: егер файлдағы маркер ашып көрсету деп есептелсе, онда дұрыстықты тексеру формальдылыққа айналады. Басылымға берілген түзетілген дереккөздер тізімі жылдарда, авторларда және журнал атауларында жаңа сәйкессіздіктерді анықтады.
«Бір уыс қате» немесе сенім дағдарысы ма?
Инфрақұрылым және байланыс департаментінде шағымдарды зерделеп жатқандарын мәлімдеді, ал сенат тыңдауларындағы шенеуніктер ACCS нұсқасын қайталады: сілтемелер жарияланымнан кейін «сынған» деп. Хатшының бірінші көмекшісі Сара Ванденбрук ведомствоның бұл нұсқаны тексермегенін, тексеруді «еңбекті көп қажет ететін» деп санайтынын мойындады. Департаментте бұл 26 беттік библиографиядағы «бір уыс қате» екенін алға тартады.
Австралия ұлттық университетінің профессоры Кристиан Дауни ескертеді: жалған сілтемелер қате шешімдерге әкеледі және институттарға деген сенімді жояды. Тәуелсіз сенатор Фатима Пейман кешірім сұрауды және қаражатты қайтаруды талап етеді, 2025 жылдың қазанында ИИ қателері бар есеп үшін төлемнің бір бөлігін қайтарған Deloitte прецедентін еске салады.
Менің үкімім: бұл оқиға — жай техникалық ақау емес, контент генерациясының жылдамдығы оның дұрыстығына деген жауапкершіліктен озып кеткен дәуірдің симптомы. Егер үкіметтер «галлюцинациялайтын» құжаттар негізінде реттеуші шешімдер қабылдайтын болса, біз құмға салынған заңдар алу қаупіне ұшыраймыз. Мердігерлермен келісімшарттарға ИИ-ді тексерусіз қолданғаны үшін қатаң санкциялар енгізілуі керек, әйтпесе институттарға деген сенім әрбір осындай есеппен жойыла береді.