Ресейдегі ИИ-модельдер мемлекеттік сатып алуларға қатысу үшін «руханилыққа» тексеруден өтуге міндеттеледі
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. Мәселе тек техникалық регламент туралы емес, түбегейлі жаңа сүзгіні енгізу туралы болып отыр: «егеменді» немесе «ұлттық» модель мәртебесіне үміткер әзірлеушілер өз алгоритмдерінің заң әрпіне ғана емес, сонымен қатар белгілі бір «дәстүрлі рухани-адамгершілік құндылықтарға» сәйкестігін дәлелдеуі тиіс. Бұл схеманы талқылау шілде айының соңы — тамыз айының басында «Цифрлық экономика» АҰ алаңында өтті.
Ресми түрде ИИ туралы негіздемелік заң 26 шілдеде күшіне енді, алайда ол тек контурларды ғана белгілейді. Ойынның негізгі ережелері заңға тәуелді актілермен анықталады, және дәл осылардың төңірегінде қазір басты күрес өрбуде. Менің талдауым көрсеткендей: біз мемлекеттің идеологиялық ұстанымдарға сәйкестікті айтарлықтай бюджет қаражаты мен мемлекеттік қолдауға қол жеткізудің міндетті шартына айналдыратын прецедент жасау әрекетін байқап отырмыз.
Алгоритмдерді емтихандау қалай ұйымдастырылады
Тексеру механикасы келесідей көрінеді. Әзірлеуші аккредиттелген сынақ зертханасына өтінім береді, архитектураның сипаттамасын және сұраныстарды сүзу тетіктері туралы мәліметтерді ұсынады. Зертхана өз кезегінде сараптама жүргізеді: модельді тест жиынтықтары (бенчмарктар) арқылы өткізеді және оны промпт-инъекцияларға — кіріс деректеріндегі зиянды нұсқаулар арқылы ішкі шектеулерді айналып өту әрекеттеріне төзімділігін тексереді.
Осыдан кейін қорытынды цифрландыру жөніндегі үкіметтік комиссияға жіберіледі. Оң шешім мемлекеттік сатып алулардағы преференцияларға қол жеткізуді ашады. Айта кету керек, барлық модельдерді емес, тек жоғары мәртебеге үміткерлерді ғана тексеру жоспарлануда. Алғашқы енгізу салалары білім беру және мемлекеттік қызметтер болады.
Үкімді кім шығарады
Мұнда басты интрига жатыр. Бірыңғай тағайындалған реттеушінің орнына, мемлекеттік органның тексеруінен өткен бірнеше зертхана бірден сараптама жүргізе алады. Схема екі сатылы: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өзі тексереді, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және жүйенің тұрақтылығын іріктеп қайта тексере алады. Соңғы сөз Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелер үшін қауіпсіздік мәселелерін ФСБ және ФСТЭК бақылайды.
Мен сұхбаттасқан нарық қатысушылары басты тәуекел — критерийлердің «бағалаушылық» сипаты, бұл іріктеп қолдануға негіз жасайды, деген пікірде бірігеді. «Авандок» экожүйесінің бизнес-архитекторы Алексей Борщов әділ атап өткендей: азаматтық немесе тарихи жады сияқты категориялар тікелей техникалық тапсырмаға аударылмайды. Жалғыз мүмкін ортақ белгі — процедуралық: есептердің бірыңғай форматы, арандатушы сұраныстар жиынтығы және нәтиженің қайта өндірілуі.
Тексерулердің әлеуетті операторы ретінде РҒА Жүйелік бағдарламалау институты қарастырылуда. Алайда заңға тәуелді актілер пакеті әлі ведомствоаралық келісуден өтуде, және түпкілікті құрылым туралы айту әлі ерте.
Менің сараптамалық бағам: ИИ үшін «рухани цензураны» енгізу — нарыққа қосарланған сигнал. Бір жағынан, процедураны формализациялау және зертханаларды аккредиттеу — саланың жетілуіне жасалған қадам. Екінші жағынан, анық емес тұжырымдар сертификацияны әкімшілік қысым құралына айналдыру тәуекелін тудырады. Инвесторлар мен әзірлеушілер қаулының түпкілікті редакциясын мұқият қадағалауы қажет: бенчмарктар мен апелляциялық тетіктердің қаншалықты ашық болатынына байланысты, бұл жүйе дамуға ынталандыруға немесе инновациялар үшін жаңа кедергіге айнала ма.