Менің Австралиядағы кәмелетке толмағандарға арналған әлеуметтік желілерге тыйым салудың негізінде жатқан құжаттаманы егжей-тегжейлі талдауым «сарапшылар» қорытындылары негізінде қабылданатын мемлекеттік шешімдердің сапасына күмән келтіретін жүйелі проблеманы анықтады. Бұл британдық Age Check Certification Scheme (ACCS) ұйымы 3,48 млн австралиялық долларға (~$2,5 млн) дайындаған мың беттік есеп туралы болып отыр. Дәл осы құжат 2025 жылғы 10 желтоқсанда күшіне енген және 16 жасқа толмаған пайдаланушылардың платформаларға қол жеткізуін шектейтін заңның ресми негіздемесіне айналды.
Ғылыми тараудағы алты «галлюцинация»
Есептің негізгі бөлігі 48 жеткізушінің 60-тан астам шешімдерін практикалық сынауға арналған. Алайда, авторлар перспективалық әзірлемелерді сипаттау үшін ғылыми әдебиетке жүгінетін қосалқы бөлім «мина алаңы» болып шықты. Тексеру кезінде мен төрт нақты санатқа топтастырылатын кемінде алты бұзушылықты анықтадым: жалған DOI, бөгде жұмыстарға апаратын сілтемелер, жоқ «автор-журнал-жыл» комбинациялары және жоқ тұжырымдар таңылған дұрыс сілтемелер.
Мысалы, дәйексөз келтірілген мақалалардың бірі 2025 жылғы наурызда деп көрсетілген, бірақ іс жүзінде тек шілдеде жарияланған. Басқа жағдайда Weber et al. 2011 жұмысына сілтеме ешқайда апармайды — ол көрсетілген журналда да, авторлар сілтеме жасайтын Монаш университетінің материалдарында да жоқ. Бұл жай қателер емес, «ойдан шығаратын» генеративті ИИ-дің классикалық белгілері.
Метадеректердегі ChatGPT: теріске шығару және мойындау
Бастапқыда ACCS өкілдері нейрожелілерді пайдалануды мүлдем жоққа шығарып, әрбір сілтеме қолмен тексерілгенін мәлімдеді. Алайда есептің төрт фрагментінің метадеректерінде ChatGPT-дің тікелей іздері табылғаннан кейін ұстаным өзгерді. ACCS-те ИИ мәтіннің жекелеген бөліктерін «қысқарту» үшін қолданылғанын мойындады, бірақ зерттеудің өзі мен қорытынды тұжырымдар OpenAI чат-ботының қатысуынсыз жасалғанын алға тартады. Оның үстіне, олар ChatGPT метадеректерінің өзі ИИ-ді қолдану туралы «жеткілікті хабарлама» екенін мәлімдеді. Бұл, жұмсақ тілмен айтқанда, академиялық және мемлекеттік ашықтық тұрғысынан сынға төтеп бере алмайтын даулы тұжырым.
«Бір уыс қате» немесе жүйелік сәтсіздік?
Австралияның Инфраструктура және байланыс департаменті мердігердің «бұзылған» сілтемелер туралы нұсқасын тексермегендерін мойындап, мұндай тексеруді «еңбекті көп қажет ететін» деп атады. Шенеуніктер бәрін библиографияның 26 бетіндегі «бір уыс қатеге» жатқызуға тырысады, бірақ бұл қауіпті прецедент. Австралия ұлттық университетінің профессоры Кристиан Дауни мүлдем дұрыс айтады: мемлекеттік құжаттардағы жалған сілтемелер қате шешімдерге әкеледі және институттарға деген сенімді жояды. Тәуелсіз сенатор Фатима Пейманның ақшаны қайтару және ресми кешірім сұрау талабы, әсіресе ИИ қателері бар есеп үшін төлемдердің бір бөлігін қайтарған Deloitte-мен болған соңғы жанжал аясында, өте орынды көрінеді.
Менің қорытындым: Бұл оқиға — жай ғана ұқыпсыз мердігерлер туралы әңгіме емес. Бұл бүкіл әлемдегі үкіметтер дереккөздерді тексерудің қатаң стандарттарын және ИИ-ді жарияламай қолданғаны үшін келісімшарттық санкцияларды дереу енгізуі керек деген сигнал. Әйтпесе, біз цифрлық саясатты нақты деректерге емес, нейрожелілердің «галлюцинацияларының» іргетасына құру қаупіне тап боламыз.