Цифровой экзамен на духовность: как Россия будет сертифицировать ИИ для госзакупок
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр: мемлекеттік сатып алулар мен қолдау шараларына қол жеткізу енді «рухани-адамгершілік сараптамасынан» сәтті өтуге байланысты болады. Шілде айының соңында «Цифрлық экономика» АҰ алаңында белсенді талқыланған бұл бастама тәуелсіз сынақ зертханалары жүйесін құруды көздейді, олар модельдердің тек заң әрпіне ғана емес, дәстүрлі құндылықтарға да сәйкестігін бағалайтын болады.
Мәселе ірі фундаменталды модельдер үшін екі жаңа мәртебе — «егеменді» және «ұлттық» енгізу туралы болып отыр. Олардың бірін алу үшін әзірлеуші аккредиттелген зертханаға өтінім, архитектура сипаттамасы және сұраныстарды сүзу механизмдерін ұсынуы қажет. Әрі қарай ең қызықтысы басталады: сарапшылар модельдің промпт-инъекцияларға — кіріс деректеріндегі зиянды нұсқаулар арқылы «бұзу» әрекеттеріне төзімділігін тексереді.
Жаңа сертификаттау жүйесінің архитектурасы
Негізгі құпия сынақтардың мазмұны болып қала береді. Құндылықтар тізімі бар жеке акт әзірге жазу жоспарланбайды — оның орнына бизнеспен бірлесіп арнайы бенчмарктар әзірленеді. Рәсім үкімет қаулысында қорытындылануы тиіс, ал түпкілікті қорытындыны цифрландыру жөніндегі комиссия шығарады. Оң шешім мемлекеттік сатып алулардағы преференцияларға қол жеткізуді ашады, бұл рәсімді нарықтың барлық ірі ойыншылары үшін өте маңызды етеді.
Жүйе екі сатылы болады: алдымен әзірлеуші модельді тәуекелге бағытталған әдістеме бойынша өз бетінше сынайды, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және төзімділікті іріктеп тексере алады. Соңғы сөз Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелер үшін қауіпсіздікті ФСБ мен ФСТЭК бақылайды. Айта кетерлігі, барлық модельдер емес, тек мәртебелі позицияларға үміткерлер ғана тексерілетін болады, ал енгізудің алғашқы салалары білім беру және мемлекеттік қызметтер болады.
«Рухани цензор» кім болатыны туралы мәселе ашық күйінде қалуда. Бизнес критерийлердің «бағалаушылығынан» аулақ болу үшін зертханалардың көптігі мен апелляциялық алқаның болуын талап етеді. Тексерушілер рөліне РҒА Жүйелік бағдарламалау институтын болжап отыр, ал сарапшылар ескертеді: азаматтық пен тарихи жады сияқты абстрактілі категорияларды техникалық тапсырмада формализациялау өте қиын. Заңға тәуелді актілер пакеті әлі ведомствоаралық келісуден өтуде, сондықтан жүйенің түпкілікті конфигурациясы алдағы айларда анықталады.
Менің көзқарасым: Бұл маңызды прецедент — реттеуші құндылық бағдарларын ЖИ техникалық сертификаттауына енгізуге тырысуда. Нарық үшін бұл қосарланған сын: бір жағынан, нақты кіру кедергісі пайда болады, екінші жағынан — субъективтілік тәуекелі жоғары. Бұл сараптамадан өту шеберлігі жаңа бәсекелестік артықшылыққа айналады және мен бенчмарктар төңірегінде модельдердің өзінен кем емес күрес өрбитінін күтемін.