Ресейдегі ИИ-модельдер мемлекеттік сатып алуларға қатысу үшін «руханилыққа» тексеруден өтетін болады.
Ресейдің жасанды интеллект нарығы реттеу саласындағы тектоникалық өзгерістер табалдырығында тұр. «Егеменді» немесе «ұлттық» модель мәртебесіне үміткер әзірлеушілер өз алгоритмдерінің тек техникалық талаптарға ғана емес, сонымен қатар дәстүрлі рухани-адамгершілік құндылықтарға сәйкестігін растауы тиіс. Шілде айының соңы — тамыз айының басында «Цифрлық экономика» АҰ алаңында белсенді талқыланған бұл бастама бүкіл ЖИ секторы үшін ойын ережелерін түбегейлі өзгертеді.
Жаңа шындық: екі мәртебе және қатаң сүзгі
26 шілдеде күшіне енген ЖИ туралы заң шеңберлік сипатқа ие, бірақ қазірдің өзінде негізгі ережелер заңға тәуелді актілерде жазылатыны анық. Ірі іргелі модельдер үшін екі арнайы мәртебе енгізу туралы сөз болып отыр. Олардың кез келгенін — егеменді немесе ұлттық — алу мемлекеттік преференцияларға, оның ішінде мемлекеттік сатып алудағы жеңілдіктерге қол жеткізудің міндетті шартына айналады.
Бағалау процедурасы көп сатылы сараптаманы қамтиды. Әзірлеуші тәуелсіз сынақ зертханасына өтінім береді, архитектура мен сұраныстарды сүзу механизмдерінің сипаттамасын ұсынады. Сарапшылар модельдің жауаптарын арнайы бенчмарктар — бизнеспен бірлесіп әзірленуі тиіс тест жиынтықтары бойынша тексереді. Промпт-инъекцияларға — кіріс деректерінде жасырылған зиянды нұсқаулар арқылы ЖИ-ді «бұзу» әрекеттеріне төзімділікке ерекше назар аударылады.
Үкімді кім шығарады және субъективизмнен қалай аулақ болуға болады
Сәйкестік туралы қорытынды цифрландыру жөніндегі үкіметтік комиссияға жіберіледі, және дәл оң үкім мемлекеттік қолдауға есік ашады. Бұл ретте нарықтағы барлық модельдерді тексеру ешкімнің жоспарында жоқ — тек жоғары мәртебеге үміткерлер ғана. Алғашқы енгізу салалары білім беру және мемлекеттік қызметтер болады.
Айта кету керек, сараптаманы бір уәкілетті ұйым емес, бірнеше аккредиттелген зертхана жүргізе алады. Схема екі кезеңде құрылады: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше тексереді, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және жүйенің тұрақтылығын іріктеп тексере алады. Түпкілікті шешім Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелер үшін қауіпсіздікті ФСБ және ФСТЭК бақылайды.
Сарапшылық пікір: басты тәуекел — «бағалаушылық»
Нарық қатысушылары ескертетін негізгі мәселе — критерийлердің анықсыздығы. «Азаматтық» немесе «тарихи жады» сияқты санаттарды техникалық тапсырмада формализациялау өте қиын. Бизнес-архитекторлар мен заңгерлер жалғыз жұмыс істейтін тәсіл — процедуралық деген пікірге келеді: есептердің бірыңғай форматы, нәтижелердің қайталануы және қорытындылардың жария тізілімі. Онсыз нормаларды іріктеп қолдану тәуекелі туындайды.
Менің талдауым: ЖИ-ді «рухани» сертификаттауды енгізу — бұл жай реттеуші кедергі емес, нарыққа жіберілген күшті сигнал. Бір жағынан, бұл құндылықтарға сәйкестік өнімнің техникалық сипаттамасына айналатын прецедент жасайды. Екінші жағынан, нақты метрикалар мен ашық апелляция жүйесі болмаса, бұл бастама әкімшілік қысым құралына айналу қаупіне ие. Инвесторлар мен әзірлеушілер бенчмарктардың қалай жазылатынын мұқият қадағалауы керек — дәл солар бұл сүзгінің даму драйверіне немесе инновацияларға тежегішке айналатынын анықтайды.