Австралия үкіметіне арналған есептегі ИИ-галлюцинациялар: жалған сілтемелер әлеуметтік желілерге тыйым салудың негізіне қалай айналды
Австралиялық биліктің жасөспірімдерге арналған әлеуметтік желілерге тыйым салуды негіздеу үшін қолданған негізгі құжат жоқ ғылыми жұмыстарға сілтемелермен толып шыққан. Бұл бүкіл индустрия үшін алаңдатарлық сигнал: реттеушілік шешімдер нейрожелілер генерациялаған деректерге сүйенген кезде, тек нақты есептің беделі ғана емес, заң қабылдау процесінің өзіне деген сенім де соққыға ұшырайды.
Жас санатын тексеру технологияларын сынауды британдық Age Check Certification Scheme (ACCS) ұйымы жүргізді. Осы мақсаттарға 3,48 млн австралиялық доллар (~$2,5 млн) жұмсалды. Мамандар 48 жеткізушінің 60-тан астам шешімін тексеріп, 2025 жылдың тамызында үкіметке он томдық, шамамен мың беттік қорытынды құжатты тапсырды. Сол кезде байланыс министрі Аника Уэллс деректер жас санатын тексеруге арналған «көптеген тиімді құралдардың» бар екенін растайтынын мәлімдеді. 16 жасқа толмаған пайдаланушыларға арналған тыйымның өзі 2025 жылдың 10 желтоқсанында күшіне енді.
Қателері бар алты сілтеме
Есептің негізгі бөлігі қолданыстағы шешімдерді практикалық сынауға арналған. Мәселелер авторлар ғылыми әдебиетке жүгінетін перспективалық әзірлемелер туралы тарауда ашылды. Сәйкессіздіктерді алғаш рет тыйымды күшейту туралы түзетулерді қарастыратын сенат комитетіне жолдаған өтініш авторы көрсетті. Құжатта кемінде екі сілтеме ИИ-дің типтік «галлюцинацияларына» ұқсайтыны айтылған.
Менің тексеруім сол тарауда төрт санатқа бөлінетін алты бұзушылықты анықтады:
- жалған DOI;
- бөгде жұмыстарға қайта бағыттайтын DOI;
- бірде-бір басылыммен расталмаған «автор-журнал-жыл» комбинациялары;
- мақалаларға дұрыс сілтемелер, бірақ есеп оларға таңған тұжырымдарсыз.
Мысалы, ACCS бір мақаланы 2025 жылдың наурызымен мерзімдеген, бірақ іс жүзінде ол тек шілдеде жарық көрді. Басқа жағдайда Weber et al. 2011 сілтемесі ешқайда апармады — оны көрсетілген журналдан да, Монаш университетінің зерттеуінен де таба алмады.
Метадеректердегі ChatGPT
ACCS өкілі құжатты дайындауда ИИ қолданылғанын мүлдем жоққа шығарды. Алайда есептің кейбір бөліктерінде ChatGPT-ге тікелей нұсқайтын метадеректері бар төрт сілтеме табылғаннан кейін ұстанымды жұмсартуға тура келді. ACCS жасанды интеллект жекелеген үзінділерді қысқалық үшін қайта жазғанын мойындады, бірақ зерттеудің өзі OpenAI чат-ботының қатысуынсыз жасалғанын талап етті. Ұйым өкілдері ChatGPT метадеректерінің өзі ИИ қолданылғаны туралы жеткілікті хабарлама екенін мәлімдеді.
Алайда түзетілген дереккөздер тізімін тексеру жаңа сәйкессіздіктерді анықтады: ондағы жылдар, авторлар және журнал атаулары есептегі түпнұсқа дәйексөздермен сәйкес келмеді.
Мың беттегі «бір уыс қате»
Инфрақұрылым және байланыс департаменті шағымдарды зерделеп жатқанын хабарлады. Сенат тыңдауларында шенеуніктер ACCS нұсқасын қайталады: олардың айтуынша, сілтемелер жариялау кезінде жұмыс істеп тұрған, ал кейінірек «сынған». Хатшының бірінші көмекшісі Сара Ванденбрук ведомство бұл нұсқаны өз бетінше тексермегенін және мұндай тексеруді «көп еңбекті қажет ететін» деп санайтынын нақтылады.
Австралия ұлттық университетінің профессоры Кристиан Дауни жалған сілтемелер қате шешімдерге әкеліп, институттарға деген сенімді жоятынын ескертті. Тәуелсіз сенатор Фатима Пейман ресми кешірім сұрауды және мердігерден қаражатты қайтаруды талап етті. Ол бір жыл бұрын Deloitte-пен болған ұқсас оқиға билікке дереккөздерге мұқият қарауды үйретуі керек екенін еске салды. 2025 жылдың қазанында консалтингтік компания ИИ қолданғанын мойындап, 440 000 австралиялық долларлық келісімшарт бойынша төлемдердің бір бөлігін қайтарған болатын.
Менің сараптамалық бағам: Бұл жағдай — айсбергтің көрінетін ғана бөлігі. Мемлекеттік құрылымдар тиісті бақылаусыз ИИ қолданылған есептер негізінде шешім қабылдағанда, біз жалған деректерге құрылған реттеушілік актілердің тұтас қабатын алу қаупіне ұшыраймыз. Индустрияға дереккөздерді тексерудің қатаң стандарттары қажет, әйтпесе цифрлық бастамаларға деген сенім түпкілікті жойылады.