Нейрожелілерге рухани ценз: Ресейде мемлекеттік келісімшарттарға қол жеткізу үшін ЖИ-ді сертификаттауды қалай қалайды
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. Бұл жай техникалық регламент туралы емес, алгоритмдер үшін толыққанды «рухани ценз» енгізу туралы мәселе. «Ұлттық» немесе «егеменді» модельдер мәртебесіне үміткер әзірлеушілер олардың тек заң әрпіне ғана емес, дәстүрлі рухани-адамгершілік құндылықтарға да сәйкестігін дәлелдеуге міндетті болады. Бұл рәсім мемлекеттік сатып алулар мен қолдау шараларына қол жеткізудің міндетті шартына айналады.
Жаңа реттеудің мәні
Ресми түрде ЖИ туралы негіздемелік заң 26 шілдеде күшіне енді, бірақ нақты ойын ережелері енді ғана қалыптаса бастады. Негізгі жаңашылдық — іргелі модельдер үшін екі мәртебе енгізу: «ұлттық» және «егеменді». Олардың бірін алу үшін әзірлеуші аккредиттелген зертханаларда тәуелсіз сараптамадан өтуі тиіс. Айта кету керек, жеке актіде бекітілген құндылықтардың бірыңғай тізімі болмайды — оның орнына бизнес реттеушімен бірлесіп арнайы бенчмарктар, модельдерді тексеруге арналған тест жиынтықтарын әзірлейді.
Рәсім екі кезеңнен тұрады. Алдымен компания өз моделін жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше тексереді, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және жүйенің тұрақтылығын іріктеп тексере алады. Промпт-инъекциялардан — кіріс деректеріне жасырылған зиянды нұсқаулар арқылы ЖИ-ді бұзу әрекеттерінен қорғауға ерекше назар аударылады. Мәртебе беру туралы түпкілікті шешім Цифрлық даму министрлігінде қалады, ал мемлекеттік органдар үшін қауіпсіздік мәселелерін ФСБ және ФСТЭК бақылайды.
Тәуекелдер мен жасырын қауіптер
Мен сұхбаттасқан сарапшылар басты қауіп критерийлердің «бағалаушылық» сипатында екеніне келіседі. «Әділдік» немесе «тарихи жады» ұғымдарын алгоритмге арналған техникалық тапсырмаға тікелей аудару мүмкін емес. Бұл нормаларды іріктеп қолдануға кең мүмкіндік береді. Бизнес-архитекторлар ескертеді: жалғыз жұмыс істейтін нұсқа — бірыңғай есеп форматы мен нәтижелердің қайталануы бар процедуралық тәсіл, бұл субъективизмді болдырмауға мүмкіндік береді.
Қосымша тәуекел — процесті монополизациялау. Қазір апелляциялық алқасы бар бірнеше бәсекелес зертхана құру талқылануда, бұл ақылға қонымды тепе-теңдік болып көрінеді. Алайда сертификаттардың қолданылу мерзімдері мен қорытындылардың жария тізілімі нақты белгіленбесе, бүкіл жүйе нарықты қолмен басқару құралына айналу қаупі бар.
Менің талдауым: Бұл мемлекеттің ЖИ-дің тек технологиялық қана емес, сонымен қатар құндылықтық күн тәртібін де бақылауға алу әрекеті. Криптоиндустрия мен финтех үшін бұл маңызды сигнал: егер модель «рухани сертификат» ала алмаса, оның ірі мемлекеттік тапсырыстарға жолы жабылады. Мәселе тек осы жүйенің мөлдір сүзгіге айнала ма, әлде инновацияларға жаңа кедергі бола ма — осында. Оқиғалардың дамуын өте мұқият қадағалау керек — бұл прецедент басқа юрисдикциялар үшін жұқпалы болуы мүмкін.